[베이징=뉴스핌] 조용성 특파원 = 중국의 AI 벤처기업인 딥시크(DeepSeek)가 자체 개발한 핵심 기술을 무료로 공개했다. 해당 기술에 대해 '놀랍다'는 평가가 쏟아지고 있다.
딥시크는 자체적으로 24일부터 28일까지를 '오픈소스 주간'으로 정하고, 매일 하나씩 모두 5개의 소스 코드를 공개하겠다고 발표했으며, 24일 첫 번째 소스 코드가 공개됐다고 중국 제일재경신문이 25일 전했다.
딥시크가 24일 공개한 솔루션은 'FlashMLA'라는 이름으로, 엔비디아의 H800과 같은 GPU에서 컴퓨팅이 더 빠르고 효율적으로 작동할 수 있도록 하는 딥시크의 핵심 기술이다.
이 기술을 사용하면 H800에서 580TFLOPS(테라플롭스)의 컴퓨팅 성능을 구현할 수 있다. H800은 엔비디아가 미국의 규제를 회피하기 위해 H100의 성능을 50%가량 낮춘 중국 판매 전용 GPU다.
이 코드는 AI 대형 언어 모델의 응답 속도와 처리량을 향상시킬 수 있다. 특히 챗봇이나 텍스트 생성 등에 중요한 기능을 한다.해당 코드는 대형 모델 훈련과 추론 과정에서 메모리 사용을 현저히 줄일 수 있다. 메모리 사용을 줄임으로써 컴퓨팅 역량의 낭비를 줄일 수 있게 된다. 이를 통해 AI 대형모델의 원가가 대폭 낮아지게 된다.
업계 한 관계자는 "FlashMLA는 캐시 부피를 원래의 4분의 1로 줄여 기존 메모리 수요를 크게 줄일 수 있다"며 "기업들이 딥시크의 핵심 소스 코드를 활용한다면 100GB의 메모리 필요량을 25GB로 줄일 수 있게 될 것"이라고 설명했다.
중국 내 블로거들은 해당 코드를 실측한 결과 컴퓨팅 성능이 H800의 이론적 한계에 근접했다며 놀랍다는 반응을 보이고 있다. 또 다른 블로거는 "프로그램 개발자가 이 코드를 이용하면 돈 한 푼 들이지 않고 자신의 프로젝트를 최적화할 수 있게 된다"고 평가했으며, 또 다른 블로거는 "딥시크야말로 오픈소스를 개방했다는 의미에서 진정한 '오픈 AI'라 할 수 있다"고 찬사했다.
ys1744@newspim.com
