[서울=뉴스핌] 양태훈 기자 = 브레인즈컴퍼니의 자회사 에이프리카는 인공지능(AI) 개발·운영 플랫폼 치타(Cheetah)의 고성능 그래픽처리장치(GPU) 자원 활용 기능을 강화하고 AI 모델 개발부터 배포·운영까지 지원하는 플랫폼 기능을 보강했다고 23일 밝혔다.

최근 머신러닝(ML)과 대규모 언어모델(LLM)을 기반으로 AI 개발과 서비스 활용이 확대되면서 기업과 공공기관의 GPU 수요가 늘고 있다. AI 에이전트, 검색증강생성(RAG), 예측 분석, 이미지·영상 인식 등 AI 서비스가 업무와 산업 현장에 적용되면서 모델 개발·학습·검증·배포를 지원하는 연산 자원과 운영 환경의 중요성도 커지고 있다.

여러 개발자와 프로젝트가 한정된 GPU 자원을 동시에 사용하는 환경에서는 자원 할당, 사용률 관리, 작업 대기와 운영 안정성 등에 문제가 발생할 수 있다. 회사 측은 고성능 GPU 도입 비용 부담이 커지면서 GPU를 추가 확보하는 방식보다는 기존 자원을 효율적으로 배분하고 운영하는 체계가 필요하다고 설명했다.

치타는 AI 모델 개발 환경 생성, 학습 작업 관리, 모델 배포, 파이프라인 운영, 성능 모니터링 등을 통합 지원하는 머신러닝 운영(MLOps)·대규모 언어모델 운영(LLMOps) 플랫폼이다. 기업과 기관은 치타를 통해 직접 개발 환경을 구성하지 않아도 준비된 환경에서 AI 모델 개발과 운영을 수행할 수 있다.

치타는 GPU 사용 현황을 기반으로 자원 배정과 작업 실행을 관리한다. 필요한 경우 GPU를 분할 활용해 한정된 자원을 세분화해 운용할 수 있도록 지원한다. 이를 통해 특정 프로젝트나 사용자가 GPU를 장시간 점유해 발생하는 비효율을 줄이고, 조직 내 AI 개발과 인프라 관리를 지원한다.

개발자는 필요한 개발 환경을 구성하고 모델 학습과 배포 과정을 동일한 절차로 수행할 수 있다. 운영자는 GPU 사용량, 작업 상태, 모델 배포 현황을 통합적으로 확인해 AI 인프라 운영 상황을 관리할 수 있다.

공공기관·연구기관·스타트업 지원기관처럼 여러 사용자와 프로젝트가 같은 인프라를 활용하는 곳에서는 GPU 자원 운영과 표준화된 AI 개발·배포 체계가 필요하다. 에이프리카는 광주과학기술원(GIST)의 대규모 GPU 기반 고성능 컴퓨팅-인공지능(HPC-AI) 공용 인프라 구축과 인천스타트업파크 POOM 플랫폼 구축 사례를 보유하고 있다.

GIST 사례에서는 공용 GPU 인프라 기반 AI 연구·개발 환경을 제공했다. 인천스타트업파크 사례에서는 치타와 세렝게티(Serengeti)를 연계해 AI 모델 개발, 배포, 응용 프로그램 인터페이스(API) 연계, 서비스 실증까지 이어지는 통합 환경을 구축했다.

권현수 에이프리카 팀장은 "AI 도입이 확대될수록 GPU 인프라 운영 효율이 기업과 기관의 AI 활용 역량에 영향을 주고 있다"며 "MLOps와 LLMOps 역량을 기반으로 AI 모델 개발·운영부터 서비스화까지 지원할 계획"이라고 말했다.

dconnect@newspim.com