AI 핵심 요약
beta- 노타가 7일 AWS AI칩 환경에 특화된 경량화·튜닝 서비스를 출시했다
- 넷츠프레소 기반으로 모델 크기 최대 90% 축소하며 AWS 트레이니움·인퍼런시아에 최적화한다
- 대규모 언어모델을 68% 경량화하고 정확도 손실 1% 미만으로 줄인 경험을 바탕으로 비용 효율화를 지원한다
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
[서울=뉴스핌] 이나영 기자= 인공지능(AI) 모델 경량화 기업 노타가 아마존웹서비스(AWS)의 자체 AI칩 환경에서 기업 고객의 모델 성능을 극대화하는 서비스를 출시했다고 7일 밝혔다.
노타는 AWS 공인 파트너 자격으로 트레이니움(Trainium)과 인퍼런시아(Inferentia) 등 AWS AI칩 환경에서 고객의 AI 모델이 최고 성능을 발휘할 수 있도록 경량화 및 튜닝 서비스를 제공한다. 회사에 따르면 이번 서비스는 AI 최적화 전문인력이 부족한 기업을 대상으로 모델을 AWS의 고성능 AI칩 환경에 맞게 튜닝해 비용 효율화와 추론 성능 개선을 지원하는 것이 핵심이다.
노타는 자사 플랫폼인 넷츠프레소(NetsPresso) 기반 AI 모델 튜닝 서비스를 출시한다. 넷츠프레소는 AI 모델 크기를 최대 90% 이상 축소하면서도 정확도를 유지할 수 있는 경량화·배포 자동화 플랫폼으로, 다양한 하드웨어 환경에 맞춘 모델 최적화를 단일 워크플로로 제공한다. 서비스는 기술검증(PoC) 및 진단, 모델 포팅 및 경량화, 성능 튜닝 단계로 구성되며, 고객의 AI 모델이 AWS AI칩 환경에서 최고 효율로 운영될 수 있도록 지원한다.
노타는 AWS 트레이니움 및 인퍼런시아 환경에서 대규모 언어 모델 튜닝 경험을 축적해왔다. 320억 개 파라미터 규모의 고성능 언어 모델에 노타의 경량화 기술을 적용해 모델 크기를 68% 줄이면서도 정확도 손실을 1% 미만으로 유지한 사례가 있다. AWS 트레이니움과 인퍼런시아는 이미 앤트로픽, 애플, 데이터브릭스, 우버 등 글로벌 기업들이 활용하고 있으며, 2025년 3분기 기준 트레이니움 관련 사업은 분기 대비 150% 성장해 수십억 달러 규모로 확대됐다.
채명수 노타 대표는 "AWS AI칩은 뛰어난 가격 대비 성능을 제공하며, 노타는 이러한 AWS칩의 성능을 고객이 자사 모델에서 온전히 활용할 수 있도록 모델 튜닝을 지원한다"며 "AWS AI칩 기반 인프라 도입을 검토하는 기업 고객에게 실질적인 비용 효율화 성과를 제공하겠다"고 밝혔다.
nylee54@newspim.com
