AI 핵심 요약
beta- KAIST 연구진이 17일 사용자 맞춤형 AI 반도체 소울메이트를 개발했다.
- 소울메이트는 온디바이스 기술로 0.2초 응답과 실시간 학습을 수행한다.
- 초저전력 9.8mW로 보안 완결형 개인화 AI를 구현했다.
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
온디바이스 AI로 개인정보 유출 차단
스마트폰 등 차세대 플랫폼 적용 전망
[세종=뉴스핌] 이경태 기자 = 우리가 일상적으로 사용하는 챗GPT(ChatGPT)와 같은 거대 언어 모델(LLM)은 수많은 질문에 능숙하게 답하지만, 정작 사용자의 사소한 습관이나 이전 대화 맥락 등은 알지 못한다. 인공지능이 생활 깊숙이 들어왔음에도 여전히 '남'처럼 느껴지는 이유다.
한국과학기술연구원(KAIST) 연구진이 이러한 한계를 넘어 사용자의 말투와 취향, 감정까지 실시간으로 배우고 닮아가는, 이른바 '영혼의 단짝' 같은 인공지능 반도체를 세계 최초로 개발했다.
한국과기원은 인공지능반도체대학원 유회준 교수 연구팀이 사용자의 특성에 맞춰 스스로 진화하는 개인 맞춤형 거대 언어 모델(LLM) 가속기'소울메이트(SoulMate)'를 개발했다고 17일 밝혔다.
이번 기술은 기존의 '모두를 위한 AI'를 넘어 사용자의 대화 스타일과 선호도를 학습해 반응하는 '나만을 위한 초개인화 AI' 시대를 앞당길 핵심 반도체 기술로 평가된다. 연구팀이 개발한 '소울메이트'의 핵심은 외부 서버(클라우드)를 거치지 않고 기기 자체에서 데이터를 처리하는 온디바이스(On-Device) AI 기술이다.
이를 통해 '소울메이트'는 0.2초(216.4ms) 라는 경이로운 속도로 사용자에게 응답하며 동시에 학습까지 수행하는 실시간 개인화 AI 시스템을 구현했다. 또한 정보의 중요도에 따라 처리 방식을 최적화하는 혼합 랭크(Mixed-Rank) 아키텍처를 적용해 전력 소모를 획기적으로 줄였다. 해당 반도체는 스마트폰 프로세서 소비전력의 1/500 수준인 단 9.8밀리와트(mW)의 초저전력으로도 복잡한 학습과 추론을 동시에 수행할 수 있다.
특히 모든 개인 데이터가 외부 서버로 전송되지 않고 기기 내부에서만 처리되는 '보안 완결형 AI' 구조를 구현해 개인정보 유출 우려를 근본적으로 차단했다. 연구팀은 이 기술이 향후 스마트폰, 웨어러블 기기, 개인형 AI 디바이스 등 차세대 플랫폼과 결합해 진정한 개인화 인공지능 서비스 시대를 열 것으로 기대하고 있다.
biggerthanseoul@newspim.com
