전체기사 최신뉴스 GAM
KYD 디데이
산업 ICT

속보

더보기

네이버, 국내 최초 AI 안전성 실천 체계 'ASF' 공개

기사입력 : 2024년06월17일 09:41

최종수정 : 2024년06월17일 09:41

'AI 위험 평가 스케일'로 통제력 상실 방지
'AI 위험 평가 매트릭스'로 악용 가능성도 차단
문화적 다양성 반영한 소버린 AI로 안전성 체계 고도화

[서울=뉴스핌] 양태훈 기자 = 네이버가 17일 인공지능(AI) 시스템의 잠재적 위험을 인식하고 관리하기 위한 자체 대응 체계인 '네이버 ASF(AI Safety Framework)'를 공개했다. AI 안전성 체계를 설계하고 실천하는 것은 네이버가 국내에서 처음 시도하는 사례다.

네이버는 지난 2021년과 2022년 'AI 윤리 준칙'과 'AI 윤리 자문 프로세스'를 내놓은 바 있다. 이번에 선보인 '네이버 ASF'는 AI 시스템을 개발하고 배포하는 모든 단계의 잠재적 위험성을 관리하는 대응 체계로 AI가 초래할 수 있는 위험을 '통제력 상실'과 '악용'으로 정의하고, 각각의 위험에 맞춰 평가와 관리 방법을 설계한 것이 특징이다.

먼저, 인간이 AI에 미치는 영향력이 약화되는 '통제력 상실' 위험을 완화하기 위해 'AI 위험 평가 스케일'을 통해 AI 시스템의 위험을 주기적으로 평가하고 관리한다. 또, 최고 성능의 AI를 '프런티어 AI'로 규정하고 3개월마다 위험도를 점검하며, 성능이 6배 이상 급증하면 추가 평가도 실시한다.

최수연 네이버 대표이사. [사진=네이버]

AI 시스템의 잠재적 위험이라 할 수 있는 '악용' 위험에는 'AI 위험 평가 매트릭스'를 적용해 대응한다. 이는 AI의 용도와 안전 조치 필요 정도에 따라 차등 관리하는 방식으로, 예컨대 생화학 물질 개발과 같이 특수한 목적으로 사용되는 AI는 자격을 갖춘 사용자에게만 제공하고, 안전성이 필수적인 AI는 위험이 해소될 때까지 서비스를 보류한다.

네이버는 ASF를 바탕으로 문화적 다양성을 반영한 글로벌 AI 안전성 체계를 만들어갈 방침이다. 해외에서 소버린 AI를 개발하며 각 지역 문화권의 특성을 고려한 AI 위험 평가 기준을 세울 계획이다. 이미 네이버는 지난해 세계 최고 권위의 자연어처리 학회 중 하나인 'ACL 2023'에서 한국어 기반의 AI 안전성 강화 학습 데이터셋을 다국어로 확장하는 연구를 발표해 주목받은 바 있다.

아울러 네이버는 국내외 유수 연구기관 및 기업들과 적극적으로 협력하며 AI 신뢰성, 안전성 관련 선행 기술 연구를 수행하고 있다. 대표적으로 지난 2021년 설립한 서울대·네이버 초대규모 AI 연구센터(SNU-NAVER Hyperscale AI Center)에서는 '신뢰성 있는 초거대 AI'를 핵심적인 연구 주제로 설정하고 협력 연구를 진행 중이다. 이 외에도 카이스트, 독일 튀빙겐대학교, 캐나다 토론토대학교와도 공동 연구센터를 통해 AI 안전성 기술을 연구하고 있다.

AI 안전성 기술 연구에 대한 네이버의 적극적인 투자는 학술적 성과로도 이어지고 있다. 지난 2022년 컴퓨터공학 공정성 분야 최고 권위 학회 중 하나인 ACM FAccT(ACM Conference on Fairness, Accountability, and Transparency)에서 초거대 AI 윤리를 주제로 워크숍을 개최해 오픈AI, 딥마인드, 구글 등 글로벌 테크 기업을 포함한 전 세계 AI 윤리 관련 연구자 100여 명과 교류했으며, 지난해에는 인간·컴퓨터 상호작용 분야 세계 최고 권위 학회(CHI 2023)에서 AI 안부전화 서비스 '클로바 케어콜' 관련 연구로 '베스트 페이퍼(Best Paper)'에 선정되기도 했다.

올해 들어서는 기존의 언어모델 편향성 측정 벤치마크(Bias Benchmark for Question Answering, BBQ)가 문화적 맥락의 차이 때문에 미국 외의 사회를 기준으로 정확한 평가가 이뤄지기 어렵다는 한계에 착안해 한국어 중심의 편향성 측정 벤치마크 데이터셋 'KoBBQ'를 제안해 글로벌 자연어처리 학회 TACL 2024에 채택됐다. 이 외에도 초대규모 언어모델이 제공하는 답변의 신뢰도를 예측할 수 있는 모델을 제안한 연구 및 AI가 생성하는 콘텐츠가 한국 사회의 보편적 인식과 얼마나 부합하는지를 측정하는 평가 지표를 제안한 연구 등이 최고 권위 AI 학회에 채택되는 등 우수한 연구 성과를 거두고 있다.

최수연 네이버 대표이사는 "네이버는 한국에서 하이퍼클로바X라는 소버린 AI를 개발한 경험을 통해, 문화적·지정학적 상황과 지역적 이해가 AI의 성능뿐만 아니라 안전성에도 영향을 미친다는 점을 실증했다"며, "향후 글로벌 시장에서도 소버린 AI를 개발하면서 네이버 ASF를 지속적으로 개선해나갈 계획이고, 이를 통해 다양한 지역의 문화와 가치를 반영하는 다수의 AI 모델이 안전하게 사용되며 공존하는 지속 가능한 AI 생태계에 네이버가 적극적으로 기여할 것"이라고 강조했다.

dconnect@newspim.com

[뉴스핌 베스트 기사]

사진
日 태평양 연안에 쓰나미 경보·대피령 [서울=뉴스핌] 오영상 기자 = 일본이 러시아 캄차카 반도에서 발생한 지진으로 인해 태평양 연안 지역에 발령했던 쓰나미 주의보를 '쓰나미 경보'로 상향 조정했다. 주의보가 경보로 상향 조정됨에 따라 일본 정부는 태평양 연안 쓰나미 경보 지역에 대피령을 내렸다. 일본 기상청은 홋카이도에서 와카야마현에 걸친 태평양 연안 지역에 쓰나미 경보를 발령했다. 그 외 지역은 주의보가 내려진 상태다. 예상되는 쓰나미 높이는 최대 3미터이다. 지역은 홋카이도 태평양 연안(북부 제외), 아오모리현 태평양 연안, 이와테현, 미야기현, 후쿠시마현, 이바라키현, 지바현 구주쿠리·외해안, 지바현 내만 등이다. 쓰나미의 가장 빠른 도달 예상 시각은 홋카이도 태평양 연안으로, 오전 10시경으로 예상된다. 30일 오전 8시 25분쯤 러시아 캄차카 반도 근해에서 규모 8.7의 지진이 발생했다. 이 지진으로 홋카이도 구시로시 등에서도 진도 2의 흔들림이 관측됐다. 기상청은 경보나 주의보가 해제될 때까지 바다에 들어가거나 해안가에 접근하지 말 것을 당부하고 있다. 일본 태평양 연안부의 쓰나미 경보 지역(빨간색 부분). 노란색은 주의보 [출처=웨더뉴스] goldendog@newspim.com 2025-07-30 10:15
사진
[단독] 내달 12일 정부조직개편안 발표 [서울=뉴스핌] 채송무 기자 = 국정기획위원회의 정부조직개편안 발표가 오는 8월 12일 이뤄질 전망이다. 해체가 유력해보였던 금융위원회는 존치 가능성이 높아졌다.  당초 금융위원회의 금융정책 기능을 기획재정부로 이관하고, 남은 기능은 금융감독원과 통합해 금융감독위원회를 신설하는 안이 거의 확실시됐다. 이재명 대통령도 대선 전 금융위의 정책과 감독기능을 분리할 뜻을 밝혔고, 이재명 정부의 인수위원회 격인 국정기획위도 이 같은 안을 확정해 대통령실에 보고했다. [서울=뉴스핌] 이재명 대통령이 29일 서울 용산 대통령실에서 열린 제33회 국무회의를 주재하고 있다. [사진=대통령실] 2025.07.29 photo@newspim.com 30일 뉴스핌의 취재를 종합하면 최근 국정기획위의 분위기는 다소 바뀌고 있다. 이재명 대통령이 금융위의 부동산 대출 규제와 중대재해 예방 제안에 대해 연이어 긍정 평가를 내놓은 것이 변화의 배경으로 작용하고 있다. 국정기획위도 정부조직개편안에 대한 재논의를 결정하고 다양한 의견을 수렴하고 있다.  금융위 해체 분위기 변화의 이유는 전문성과 업무 능력 때문이다. 이재명 정부가 출범한 지 두달이 되어가는 상황에서 금융위원회의 정책에 대한 대통령의 평가가 높아졌다. 이 대통령은 지난 15일 국무회의에서 "적절한 대출 규제로 부동산 안정 효과를 보고 있는 것 같다"고 금융위원장을 칭찬한 것에 이어, 지난 29일 국무회의에서는 김병환 금융위원장이 제안한 중대재해 예방 방안에 대해 "기준을 만들어서 대출과 투자에 불이익이 주는 것은 상장회사에 상당한 타격이 돼 효과가 있을 것 같다"고 말했다. 금융 관련 전문성과 현안 대응력, 정책의 일관성을 위해 금융위를 존치시켜야 한다는 목소리가 힘을 얻고 있으며, 현재 국정기획위가 채택한 금융정책과 감독의 완전 분리가 중복 규제, 책임 회피 가능성이 있다는 지적도 나온다. 여당 내에서는 금융위가 오히려 기획재정부가 맡고 있는 국제금융 기능까지 관할하는 법안까지 발의됐다. 윤준병 의원은 지난 7월 17일 발의한 정부조직개편안에는 이 같은 내용을 포함했다. 윤 의원은 "기획재정부는 거대 공룡과 같은 조직이니 분리하는 것이 효율적이지만 금융 부문은 국제금융과 국내금융을 하나로 묶어서 한 기관이 전문성을 갖고 하는 것이 의미가 있겠다고 판단했다"고 말했다. 물론 윤 의원이 경제와 금융정책을 담당하는 국회 기획재정위나 정무위원회 소속이 아닌 국회 농림해양수산식품위원회 소속인데다 국정기획위 내에서도 금융 파트를 담당하는 경제 1분과 위원이 아니라는 점에서 발의된 정부조직개편안의 영향력은 크지 않다는 분석도 있다. 금융정책을 담당하는 국회 정무위원회 의원들은 대부분 금융위의 분리안에 대한 입장을 유지하고 있다. 그러나 정부와 여당에서는 키를 대통령실이 쥐고 있다는 평가가 많다. 대통령실에 의해 정부조직안이 만들어지면 여당에서 이를 비토할 가능성은 거의 없다는 것이다. 한 금융위원회 관계자는 최근 정부조직개편안 추이에 대해서는 입장을 밝히지 않았지만, "금융위원회는 그동안 계엄이나 탄핵 상황에서도 부지런히 일해왔다. 최근에는 이 같은 노력들을 조금씩 인정받는 느낌도 든다"고 말했다. 국정기획위원회가 8월 14일 임기를 마치는 가운데, 임기 종료일 직전인 12일 경에 정부조직개편안을 발표할 것이라는 이야기가 여당에서 나온다. 금융정책을 담당하는 금융위원회가 존치될지, 아니면 기획재정부와 금융감독원으로 나눠질지 금융가의 관심이 집중되고 있다.   dedanhi@newspim.com 2025-07-30 14:46
안다쇼핑
Top으로 이동