AI 핵심 요약
beta- 네이버가 16일 AI 안전 리포트를 발간했다
- ASF 2.0과 CHEC 2.0로 전 과정 안전을 관리했다
- N-ARTI·N-ASET로 위험 분류와 평가를 고도화했다
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
[서울= 뉴스핌] 정승원 기자= 네이버가 자체 개발한 AI 안전성 관리 체계 'ASF 2.0'의 실제 서비스 적용 사례를 담은 'AI Safety Progress Report'를 발간했다.
ASF 2.0은 AI 모델의 성능과 위험 수준, 이용자와 서비스 보호를 포괄하는 체계다. 네이버는 이를 기반으로 한 실행 체계 'CHEC 2.0'을 통해 AI 서비스의 설계·개발부터 출시, 운영에 이르는 전 과정에서 안전성을 관리한다.
네이버는 AI 서비스에서 발생할 수 있는 위험을 110개 세부 항목으로 분류한 'N-ARTI(NAVER AI Risk Taxonomy & Identification)' 체계를 마련했다. 이는 서비스별 특성을 반영하면서도 전사적으로 일관된 안전 기준을 적용할 수 있도록 설계됐다. 이를 바탕으로 생성형 AI 서비스가 사전에 설정된 안전 기준을 벗어나지 않도록 관리하는 '가드레일'을 구축할 수 있다.
네이버는 또 AI 답변의 안전성을 평가하는 'N-ASET(NAVER AI Safety Evaluation Toolkit)'도 개발했다. N-ASET은 AI 서비스의 응답을 '유해성'과 '사용성' 두 가지 관점에서 평가한다. 유해한 답변 차단에 그치지 않고 이용자의 질의에 적절하게 대응했는지까지 함께 살펴봄으로써 안전성과 서비스 유용성을 균형 있게 평가할 수 있다.
리포트에는 AI 쇼핑 에이전트와 날씨 서비스 등에서 AI 활용 사실을 표시·고지한 사례도 포함됐다. 지난 6월 선보인 'AI탭'은 CHEC 2.0을 기반으로 설계부터 출시까지 전 과정에서 안전성을 점검한 대표 사례다.
네이버는 KAIST, 서울대 인공지능 정책 이니셔티브(SAPI), 고려대 인공지능안전연구센터, 인공지능안전연구소(AISI) 등 국내외 학계 및 전문기관과의 협력을 확대할 계획이다.
원성재 네이버 AI Safety 센터장은 "AI 기술이 이용자의 일상에 빠르게 스며들면서 AI 안전성 역시 이론적 논의를 넘어 실제 서비스 환경에서 구체적으로 다뤄야 하는 단계에 접어들고 있다"며 "네이버는 AI의 개발과 이용 전 과정에서 인간 중심의 가치를 최우선으로 두고 AI 서비스에서 발생할 수 있는 위험을 예방하고 완화할 수 있도록 ASF 2.0을 지속적으로 고도화하고 적용해 나갈 것"이라고 말했다.
origin@newspim.com
