[서울=뉴스핌] 양태훈 기자 = 카카오가 지난 24일(현지시간) 스위스 제네바에서 열린 제14차 UN 기업과 인권 포럼에 참석해 AI 기술 개발·운영 과정에 인권 보호 체계를 접목한 사례와 오픈소스 기반 공공 기여 활동을 소개했다고 26일 밝혔다.

이번 포럼은 2011년 채택된 UN 기업과 인권 이행원칙(UNGPs)의 실천을 논의하는 자리로, UN 인권최고대표사무소(OHCHR)가 주최했다.

카카오는 이번 포럼에서 인공지능 시대의 인권 증진 세션에 참여해 AI 기술 개발과 운영 전 과정에 인권 보호 체계를 반영하고 있다는 점을 소개했다. 특히 한국어와 국내 문화적 맥락에 최적화된 AI 가드레일 모델을 오픈소스로 공개해 공공 조달 과정에서의 신뢰성 확보에 기여하고 있다는 점을 강조했다.

카카오 로고. [사진=카카오]

카카오는 AI 기술의 개발·출시·운영 과정 전반에 인권 관점을 체계적으로 반영하고 있다. 일례로 카카오 그룹의 '안전한 AI를 위한 핵심 체크리스트'는 국가인권위원회의 'AI 인권영향평가 도구'를 참고해 제작됐으며, '책임 있는 AI를 위한 가이드라인'에도 인권을 명시적 원칙으로 포함했다. 또한 이러한 내부 기준이 국제 기준과 부합하도록 OHCHR, AI 얼라이언스(AI Alliance) 등 글로벌 기관과 협력을 지속하고 있다.

카카오는 안전한 AI 기술을 오픈소스로 공개하며 생태계 기여도 강화하고 있다. 지난 5월 개발한 AI 가드레일 모델 '카나나 세이프가드(Kanana Safeguard)'는 AI 서비스의 안전성과 신뢰성을 검증하는 기술로, 국내 기업 최초로 오픈소스로 공개됐다. 현재 카카오의 주요 AI 서비스에 적용 중이다.

최근에는 한국정보통신기술협회(TTA), 카이스트(KAIST)와 함께 생성형 AI 안전성 평가 데이터셋 'AssurAI'를 공동 개발했다. 총 1만1480건의 데이터로 구성되며, 글로벌 AI 위험 분류체계와 한국의 사회·문화적 맥락을 반영했다. 누구나 활용할 수 있도록 허깅페이스(Hugging Face)에 공개됐다.

김경훈 카카오 AI 안전 리더는 "AI 기술 개발과 서비스 운영의 측면에서 이용자 보호를 최우선의 가치로 여기며 관련 정책을 고도화하고 있다"며 "기술의 투명성 확보와 공공 기여 확대를 통해 IT기업으로서 인권 존중을 선도하고, 지속 가능한 기술 생태계와 사람 중심의 AI를 위해 노력할 것"이라고 말했다.

dconnect@newspim.com