AI 핵심 요약
beta- 래블업은 23일 신한DS와 GPU 관리·API 소프트웨어 공급 계약을 체결했다.
- 래블업은 컨티넘 엔터프라이즈로 금융권 AI 모델과 API를 통합 관리한다.
- 래블업은 금융권 첫 공급처를 확보하고 AI 인프라 소프트웨어 사업을 확대한다.
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
멀티 LLM 관리·장애 추적·사용량 정산 지원
[서울=뉴스핌] 이나영 기자 설희 인턴기자= 인공지능(AI) 인프라 소프트웨어 기업 래블업이 신한DS와 'GPU 관리 및 API SW 도입 사업' 계약을 체결하고 'Continuum Suite(컨티넘 엔터프라이즈)'를 공급한다고 23일 밝혔다.
이번 계약은 래블업이 컨티넘 엔터프라이즈를 상용 출시한 이후 체결한 첫 공급 계약이다. 래블업은 신한DS의 'GPU 관리 및 API SW 도입 사업'에서 API 소프트웨어 부문을 맡는다.
래블업은 금융권에서 생성형 AI 도입이 확대되면서 용도별로 여러 거대언어모델(LLM)을 함께 운영하는 사례가 늘고 있다고 설명했다. 모델이 늘어날수록 키 발급과 장애 추적, 사용량 정산 등 관리 항목도 증가해 통합 관리 필요성이 커진다는 설명이다.

컨티넘 엔터프라이즈는 'Continuum Router(컨티넘 라우터)'와 'Continuum Hub(컨티넘 허브)'로 구성된다.
컨티넘 라우터는 여러 AI 모델과 서비스 사이의 요청을 분배한다. 클라우드 API 서비스와 온프레미스 자원 사이에서 라우팅을 제공하고 장애가 발생하면 다른 경로로 자동 전환해 AI 서비스가 이어지도록 한다.
컨티넘 허브는 여러 라우터의 토큰 사용량과 정책, 과금을 중앙에서 관리한다. 모델이 늘어나더라도 API 키 발급부터 사용량 정산까지 한곳에서 처리할 수 있도록 지원한다.
금융권 환경을 고려한 관리 기능도 적용했다. 조직과 팀, 사용자 단위로 API 키를 발급하고 키별 사용량을 집계할 수 있다. 실제 요청은 허브를 거치지 않고 라우터에서 처리하도록 설계해 허브에 장애가 발생하더라도 AI 서비스를 지속할 수 있도록 했다.
또 방화벽 내부의 라우터가 인바운드 포트를 열지 않고 라우터에서 먼저 연결하는 방식으로 허브와 통신하도록 구성해 망분리 환경의 보안 정책에 대응한다.
래블업은 지난해 3월 '엔비디아(NVIDIA) GTC 2025'에서 컨티넘을 처음 공개하고 금융과 헬스케어 산업을 중심으로 사업을 확대하겠다는 계획을 밝힌 바 있다. 이후 자체 콘퍼런스와 'GTC 2026' 등에서 라우터와 허브를 순차적으로 공개했으며 이번 계약을 통해 금융권 첫 공급처를 확보했다.
래블업은 기존에 구축된 AI 인프라와 외부 API 서비스의 활용 효율을 높이는 소프트웨어 사업을 확대할 계획이다.
신정규 래블업 대표는 "모델이 늘수록 관리 지점도 함께 늘어난다"며 "더 많은 기업이 늘어난 관리 지점을 컨티넘으로 한곳에 모아 이 문제를 해결할 수 있도록 하겠다"고 말했다. 이어 "인프라 투자의 실적을 따지는 시기일수록, 투자한 인프라에서 성과를 내게 만드는 소프트웨어의 역할은 더 커진다"고 덧붙였다.
신한DS 관계자는 "생성형 AI가 금융 전 업무로 확산되는 만큼, 늘어나는 모델과 API를 얼마나 효율적으로 관리하고 그 통제권을 지키느냐가 금융사의 새로운 핵심 역량이 되고 있다"며 "이번 사업을 통해 그룹 전사의 AI 운영 체계를 직접 설계하고 운영하며, 효과적인 AX를 견인하고, 이를 기반으로 국내외 금융기관으로 확산하는 금융 AX의 리더가 되겠다"고 밝혔다.
한편 래블업은 22~23일 일반 투자자를 대상으로 공모주 청약을 진행한다. 대표 주관사는 NH투자증권이며 코스닥 상장 예정일은 오는 11월 3일이다.
winter1004@newspim.com












