AI 핵심 요약
beta- 중국 AI 업체 딥시크가 29일 LLM 가속 프레임워크 디스파크와 도구 딥스펙을 공개했다.
- 디스파크는 병렬 생성과 부하 인지 검증을 결합해 지연을 줄이고 처리량을 유지하며, 기존 모델 대비 속도와 수용 길이를 크게 높였다.
- 딥스펙 오픈소스 공개로 투기적 디코딩 구현이 표준화돼 연구자와 엔지니어가 자체 LLM 추론 가속 인프라를 효율적으로 구축할 수 있게 됐다.
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
이 기사는 6월 29일 오전 08시33분 '해외 주식 투자의 도우미' GAM(Global Asset Management)에 출고된 프리미엄 기사입니다. GAM에서 회원 가입을 하면 9000여 해외 종목의 프리미엄 기사를 보실 수 있습니다.
이 기사는 AI 번역에 기반해 생산된 콘텐츠로 중국 유력 경제매체 월스트리트견문(華爾街見聞)의 6월 26일자 기사를 인용했다.
[서울=뉴스핌] 배상희 기자 = 중국 인공지능(AI) 대형언어모델(LLM) 개발사 딥시크(DeepSeek∙深度求索∙선두추숴)가 V4 버전을 업데이트하면서 추측형 디코딩(Speculative Decoding) 프레임워크 디스파크(DSpark)를 출시하고, 동시에 해당 버전을 지원하는 풀스택 도구 딥스펙(DeepSpec)을 오픈소스로 공개했다.
디스파크는 병렬 생성과 적응형 부하 인지 검증을 결합하여 동일한 처리량을 유지하는 조건에서 사용자 생성 속도를 최대 85%까지 향상시켰으며, 평균 수용 길이도 Eagle3와 DFlash를 전면적으로 초과했다.
DeepSeek-V4-Pro-DSpark는 완전히 새로운 아키텍처 모델이 아니라, DeepSeek-V4-Pro를 기반으로 투기적 디코딩 모듈을 도입한 것이다. 이번 업데이트의 핵심은 모델 성능 자체의 반복이 아니라 엔지니어링 적용에 있다.
디스파크는 이미 DeepSeek-V4(Flash 및 Pro)의 실제 온라인 트래픽에 배포되어, 대형 언어 모델(LLM)의 추론 속도를 크게 가속했다.
디스파크의 핵심 목표는 생산 환경(특히 고동시성 시나리오)에서 LLM 추론이 직면하는 지연과 처리량 병목 문제를 해결하는 데 있다. 간단히 말해, 디스파크는 높은 처리량을 가진 '병렬 생성'과 적응형 '부하 인지 검증'을 성공적으로 결합했다.
추측형 디코딩은 모델 출력 분포를 변경하지 않으면서 대형 언어 모델의 추론을 가속하는 기술이다. 핵심 아이디어는 경량 '초안 모델(draft model)'을 도입하여 여러 개의 후보 토큰을 미리 생성한 뒤, 목표 모델(target model)이 이 후보들을 일괄 검증 및 수용함으로써, 토큰 단위의 순차 생성 방식을 병렬 배치 검증으로 전환하고 종단 간 지연을 크게 줄이는 것이다.
디스파크의 혁신은 반자기회귀 생성 아키텍처(Semi-Autoregressive Generation)를 도입한 데 있다. 병렬 초안 모델의 높은 처리량 장점을 유지하면서, 경량 직렬 모듈을 추가해 블록 내 토큰 간 의존 관계를 모델링함으로써, 병렬 초안 모델이 후반 위치에서 수용률이 감소하는 문제를 완화한다.
이 외에도 하드웨어 인지 기반의 신뢰도 스케줄링 검증(Confidence-Scheduled Verification)이 있다. 기존 추측형 디코딩은 생성된 초안 토큰을 모두 검증에 넘기는 방식이 일반적이었는데, 시스템 부하가 높을 때는 대부분 거절될 가능성이 큰 후반부 토큰이 귀중한 배치 연산 자원을 낭비하게 된다.
디스파크는 신뢰도 헤드(Confidence Head)를 도입해 각 토큰의 생존 확률을 평가한다. 여기에 하드웨어 인지 전용 프리픽스 스케줄러를 결합해, 시스템이 실시간 엔진 처리량 특성에 따라 각 요청별 최적 검증 길이를 동적으로 설정하고, 기대 수익이 높은 토큰에만 연산 자원을 배분한다.
수학 추론, 코드 생성, 일상 대화 등 다양한 분야의 테스트에서 디스파크는 기존 최첨단 자기회귀 모델(Eagle3)과 병렬 초안 모델(DFlash)을 크게 능가했다. 예를 들어 Qwen3 계열(4B, 8B, 14B) 목표 모델에서 평균 수용 길이는 Eagle3 대비 26.7%에서 30.9% 증가했고, 디플래시(DFlash) 대비 16.3%에서 18.4% 증가했다.
이전 세대 단일 토큰 생성 기준(MTP-1)과 비교하면, 동일한 전체 처리량을 유지하는 조건에서 디스파크는 사용자 생성 속도를 각각 60%에서 85%(Flash 모델), 57%에서 78%(Pro 모델)까지 향상시켰다.
디스파크와 함께 오픈소스로 공개된 딥스펙은 투기적 디코딩 초안 모델을 학습하고 평가하기 위한 전 스택 코드베이스다. 이는 해당 솔루션과 기타 최첨단 알고리즘 구현을 담는 '오픈소스 인프라'로, 데이터 준비 도구, 초안 모델 구현, 학습 코드 및 평가 스크립트를 포함한다.
딥스펙은 전체 프로세스를 데이터 준비, 학습, 평가의 세 단계로 나누며, 세 단계는 순차적으로 실행되어야 하고 이전 단계의 출력이 다음 단계의 입력으로 사용된다.
딥스펙의 오픈소스 공개는 그 동안 각 연구팀 내부에 흩어져 있던 투기적 디코딩 엔지니어링 실천을 재현 가능하고 확장 가능한 표준화된 도구 체인으로 통합했다는 의미가 있다. 자체 대형 모델의 추론 가속을 원하는 연구자와 엔지니어에게는, 성숙한 프레임워크 위에서 맞춤형 초안 모델을 직접 학습할 수 있게 되어, 대량의 기초 인프라 구축 작업을 생략할 수 있는 기반을 제공한다.
pxx17@newspim.com
