네이버, 국내 최초 AI 안전성 실천 체계 'ASF' 공개

기사입력 : 2024년06월17일 09:41

최종수정 : 2024년06월17일 09:41

'AI 위험 평가 스케일'로 통제력 상실 방지
'AI 위험 평가 매트릭스'로 악용 가능성도 차단
문화적 다양성 반영한 소버린 AI로 안전성 체계 고도화

[서울=뉴스핌] 양태훈 기자 = 네이버가 17일 인공지능(AI) 시스템의 잠재적 위험을 인식하고 관리하기 위한 자체 대응 체계인 '네이버 ASF(AI Safety Framework)'를 공개했다. AI 안전성 체계를 설계하고 실천하는 것은 네이버가 국내에서 처음 시도하는 사례다.

네이버는 지난 2021년과 2022년 'AI 윤리 준칙'과 'AI 윤리 자문 프로세스'를 내놓은 바 있다. 이번에 선보인 '네이버 ASF'는 AI 시스템을 개발하고 배포하는 모든 단계의 잠재적 위험성을 관리하는 대응 체계로 AI가 초래할 수 있는 위험을 '통제력 상실'과 '악용'으로 정의하고, 각각의 위험에 맞춰 평가와 관리 방법을 설계한 것이 특징이다.

먼저, 인간이 AI에 미치는 영향력이 약화되는 '통제력 상실' 위험을 완화하기 위해 'AI 위험 평가 스케일'을 통해 AI 시스템의 위험을 주기적으로 평가하고 관리한다. 또, 최고 성능의 AI를 '프런티어 AI'로 규정하고 3개월마다 위험도를 점검하며, 성능이 6배 이상 급증하면 추가 평가도 실시한다.

AI 시스템의 잠재적 위험이라 할 수 있는 '악용' 위험에는 'AI 위험 평가 매트릭스'를 적용해 대응한다. 이는 AI의 용도와 안전 조치 필요 정도에 따라 차등 관리하는 방식으로, 예컨대 생화학 물질 개발과 같이 특수한 목적으로 사용되는 AI는 자격을 갖춘 사용자에게만 제공하고, 안전성이 필수적인 AI는 위험이 해소될 때까지 서비스를 보류한다.

네이버는 ASF를 바탕으로 문화적 다양성을 반영한 글로벌 AI 안전성 체계를 만들어갈 방침이다. 해외에서 소버린 AI를 개발하며 각 지역 문화권의 특성을 고려한 AI 위험 평가 기준을 세울 계획이다. 이미 네이버는 지난해 세계 최고 권위의 자연어처리 학회 중 하나인 'ACL 2023'에서 한국어 기반의 AI 안전성 강화 학습 데이터셋을 다국어로 확장하는 연구를 발표해 주목받은 바 있다.

아울러 네이버는 국내외 유수 연구기관 및 기업들과 적극적으로 협력하며 AI 신뢰성, 안전성 관련 선행 기술 연구를 수행하고 있다. 대표적으로 지난 2021년 설립한 서울대·네이버 초대규모 AI 연구센터(SNU-NAVER Hyperscale AI Center)에서는 '신뢰성 있는 초거대 AI'를 핵심적인 연구 주제로 설정하고 협력 연구를 진행 중이다. 이 외에도 카이스트, 독일 튀빙겐대학교, 캐나다 토론토대학교와도 공동 연구센터를 통해 AI 안전성 기술을 연구하고 있다.

AI 안전성 기술 연구에 대한 네이버의 적극적인 투자는 학술적 성과로도 이어지고 있다. 지난 2022년 컴퓨터공학 공정성 분야 최고 권위 학회 중 하나인 ACM FAccT(ACM Conference on Fairness, Accountability, and Transparency)에서 초거대 AI 윤리를 주제로 워크숍을 개최해 오픈AI, 딥마인드, 구글 등 글로벌 테크 기업을 포함한 전 세계 AI 윤리 관련 연구자 100여 명과 교류했으며, 지난해에는 인간·컴퓨터 상호작용 분야 세계 최고 권위 학회(CHI 2023)에서 AI 안부전화 서비스 '클로바 케어콜' 관련 연구로 '베스트 페이퍼(Best Paper)'에 선정되기도 했다.

올해 들어서는 기존의 언어모델 편향성 측정 벤치마크(Bias Benchmark for Question Answering, BBQ)가 문화적 맥락의 차이 때문에 미국 외의 사회를 기준으로 정확한 평가가 이뤄지기 어렵다는 한계에 착안해 한국어 중심의 편향성 측정 벤치마크 데이터셋 'KoBBQ'를 제안해 글로벌 자연어처리 학회 TACL 2024에 채택됐다. 이 외에도 초대규모 언어모델이 제공하는 답변의 신뢰도를 예측할 수 있는 모델을 제안한 연구 및 AI가 생성하는 콘텐츠가 한국 사회의 보편적 인식과 얼마나 부합하는지를 측정하는 평가 지표를 제안한 연구 등이 최고 권위 AI 학회에 채택되는 등 우수한 연구 성과를 거두고 있다.

최수연 네이버 대표이사는 "네이버는 한국에서 하이퍼클로바X라는 소버린 AI를 개발한 경험을 통해, 문화적·지정학적 상황과 지역적 이해가 AI의 성능뿐만 아니라 안전성에도 영향을 미친다는 점을 실증했다"며, "향후 글로벌 시장에서도 소버린 AI를 개발하면서 네이버 ASF를 지속적으로 개선해나갈 계획이고, 이를 통해 다양한 지역의 문화와 가치를 반영하는 다수의 AI 모델이 안전하게 사용되며 공존하는 지속 가능한 AI 생태계에 네이버가 적극적으로 기여할 것"이라고 강조했다.

dconnect@newspim.com

[관련기사]

[관련키워드]

네이버 AI ASF 안전성 글로벌 최수연 소버린 하이퍼클로바X

GAM - 해외주식 투자 도우미

[AI의 종목 이야기] 미국 소비재 기업 실적, 2020년 이후 가장 부진

빅테크 프리미엄과 AI 회의론이 바꾼 판도

[홍콩 대장주] 메이퇀 ③ 신성장 동력의 '폭발적 성장'

[홍콩 대장주] 메이퇀② 실적은 고속 상승, 밸류는 역대 저점

[뉴스핌 베스트 기사]

사진

의대까지 번진 '사탐런' [서울=뉴스핌] 송주원 기자 = 2027학년도 대학수학능력시험에서 이른바 '사탐런' 현상이 한층 더 뚜렷해질 것이란 전망이 나온다. 자연계열 수험생들 사이에서 과학탐구(과탐) 대신 사회탐구(사탐)를 택하는 흐름이 빠르게 확산하면서 올해 수능에서는 사회탐구 과목을 1개 이상 응시하는 비율이 80%에 육박할 수 있다는 관측도 제기된다. 다만 입시 전문가들은 사탐 선택이 단순히 탐구 성적만의 문제가 아니라 확보한 시간과 심리적 여유를 국어·수학·영어 등 다른 영역 성적 향상으로 연결할 수 있는지까지 따져 신중하게 판단해야 한다고 조언한다. 대학수학능력시험 사회·과학 탐구 응시 인원 비중 추이. [사진=김아랑 미술기자] 7일 교육계에 따르면 지난해 치러진 2026학년도 수능에서는 사·과탐 영역 응시자 53만 1951명 가운데 77.3%(41만 1259명)가 사탐 과목을 1개 이상 선택한 것으로 집계됐다. 이에 따라 올해 11월 실시되는 2027학년도 수능에서는 그 비율이 80%를 웃돌 가능성도 거론된다. 이 같은 변화는 전통적으로 미적분·기하와 과학탐구 선택 비중이 높았던 자연계 상위권 모집단위에서도 확인된다. 진학사가 정시 지원 대학을 공개한 수험생 자료를 분석한 결과 선택과목 제한이 없는 대학 지원자 가운데 사회탐구 응시자 비율은 의대 9.3%, 수의대 40.5%, 약대 23.8%로 나타났다. 자연계 최상위권에서도 사탐 선택이 더 이상 예외적인 사례만은 아니라는 방증이다. 배경에는 주요 대학의 자연계열 수능 지정과목 폐지가 있다. 주요 대학들이 2025학년도부터 자연계 모집단위에서 응시 지정 과목을 없애면서 사탐·과탐 혼합 응시가 빠르게 퍼졌다. 사탐 응시 비율은 2023학년도 53.3%, 2024학년도 52.2% 수준이었지만 자연계 학과에서 사회탐구를 인정하는 대학이 늘면서 2025학년도 62.2%, 2026학년도 77.3%로 급증했다. N수생 집단에서도 과탐에서 사탐으로의 이동은 뚜렷했다. 2025학년도와 2026학년도 수능에 연속 응시한 수험생을 보면, 과탐 2과목 응시자 중 19.7%는 이듬해 사탐 2과목으로 23.7%는 사탐+과탐으로 바꿨다. 전년도 사탐+과탐 응시자 가운데서도 62.2%가 올해 사탐 2과목으로 전환했다. 성적 상승 폭도 컸다. 탐구 2과목을 모두 과탐에서 사탐으로 바꾼 집단의 탐구 백분위는 평균 21.68점, 국어·수학·탐구 평균 백분위는 11.18점 올랐다. 과탐 2과목에서 사탐+과탐으로 바꾼 집단도 탐구 13.40점, 국수탐 평균 8.83점 상승했다. 사탐+과탐에서 사탐 2과목으로 전환한 집단 역시 탐구 16.26점, 국수탐 평균 10.92점 올랐다. 사탐 선택이 단순한 유행이 아니라 점수 안정성을 노린 전략적 선택으로 자리 잡고 있음을 보여주는 대목이다. 지난해 12월 13일 서울 성북구 고려대학교 인촌기념관에서 열린 2026 대입 정시모집 대비 진학지도 설명회에서 수험생과 학부모들이 강의를 듣고 있다. [사진=뉴스핌DB] 다만 대학별 반영 방식은 제각각이다. 상당수 대학이 자연계 지원자에게 미적분·기하나 과학탐구 응시 가산점을 주고 있어 지정 과목이 폐지됐다고 해서 유불리가 완전히 사라진 것은 아니다. 국민대·동국대·세종대는 자연계열 지원자가 수학 선택과목으로 미적분이나 기하를 택할 경우 3~5%의 가산점을 반영한다. 성균관대 역시 사회과학계열, 의상학과, 경영학과, 글로벌경영학과, 글로벌경제학과 지원자에게 미적분 선택 시 최대 3%의 가산점을 준다. 과탐 응시자에 대한 가산점도 적지 않다. 경희대·고려대·숙명여대 등은 자연계열 지원자가 과탐을 선택하면 가산점을 부여한다. 서울대의 경우 과탐Ⅱ를 1과목 응시하면 3점, 2과목 응시하면 5점을 추가 반영하며, 과탐Ⅰ만 선택했을 때는 가산점이 없다. 인문계열에서 사탐 선택자에게 가산점을 주는 대학도 있다. 서울시립대는 인문계열 지원자가 사탐 2과목을 응시하면 3%의 가산점을 부여하고, 중앙대는 인문대와 사범대 지원자의 사탐 응시에 5%를 더해 반영한다. 이에 따라 입시 전문가들은 사탐런이 대세처럼 보이더라도 무작정 따라가는 것은 위험하다고 지적한다. 김병진 이투스 교육연구소장은 "많은 학생이 사·과탐 선택에 따른 성적 변화에만 초점을 두지만 핵심은 선택으로 인해 생긴 시간적 여유나 심리적 안정감을 다른 영역 학습에 활용하는 데 있다"며 "사탐 선택으로 줄어든 학습 시간을 국어·수학·영어 등 다른 영역의 성적 향상으로 연결할 수 있는지까지 함께 따져봐야 한다"라고 말했다. 김 소장은 이어 "탐구 과목을 바꿨더라도 결국 같은 학습 시간을 들여야 한다면 입시 전체로 봤을 때 유리한 선택이라고 보기 어렵다"며 "단순히 유행을 좇기보다 자신의 학습 적합성과 대학별 반영 방식, 가산점 구조를 함께 고려해 전략적으로 판단해야 한다"라고 조언했다. 우연철 진학사 입시전략연구소장은 "사탐 응시자가 늘고 이들의 성적이 상승하면서 인문계열 모집단위의 경쟁이 치열해지고, 일부 응시자들은 자연계 모집단위로 눈을 돌릴 가능성이 있다"며 "올해 정시에서는 모집단위별 탐구 반영 방식과 지원 가능 집단의 변화를 함께 고려한 보다 정교한 합격선 예측이 필요하다"라고 강조했다. jane94@newspim.com 2026-03-07 06:00

사진

"유가 150달러까지 치솟을 것" 이 기사는 인공지능(AI) 번역을 통해 생성한 콘텐츠로 원문은 3월 6일자 파이낸셜타임스(FT) 기사입니다. [런던=뉴스핌] 장일현 특파원 = 사드 알카비 카타르 에너지장관은 6일(현지 시간) "전쟁이 중단되지 않으면 며칠 내에 걸프 지역 모든 산유국들이 불가항력을 선언할 것"이라고 말했다. 사드 알카비 카타르 에너지장관. [사진=로이터 뉴스핌] 그는 이날 영국 일간 파이낸셜타임스(FT)와 인터뷰에서 세계 최대 액화석유가스(LNG) 생산·수출 기지인 라스라판(Ras Laffan) 산업단지가 이란 공격으로 '불가항력'을 선언할 수밖에 없었다고 밝히면서 "아직 불가항력을 선언하지 않은 국가들도 며칠 내로 그렇게 할 것으로 예상한다"고 말했다. 알카비 장관은 카타르 국영기업인 카타르에너지의 최고경영자(CEO)를 겸직하고 있다. 불가항력은 지진 등 자연재해나 전쟁 등의 이유로 계약 이행이 불가능하다는 것을 선언하는 것이다. 책임이나 보상 등에서 면제받을 수 있다. 석유나 LNG 등의 계약에 필수적으로 포함되는 내용이다. 카타르는 미국, 호주 등과 함께 세계 3대 LNG 생산·수출국으로 꼽힌다. 현재 연 7700만톤 규모인 노스필드(North Field) 가스전의 생산능력을 오는 2027년까지 1억2600만톤으로 늘리는 프로젝트를 진행하고 있다. 이 프로젝트가 완성되면 LNG 생산과 수출이 세계 1위가 될 것이라는 평가를 받고 있다. 이 가스전의 첫 증산 물량은 올해 3분기에 시장에 나올 예정이었다. 알카비 장관은 "지금 벌어지고 있는 전쟁은 세계 경제를 무너뜨릴 수 있고, 며칠 내에 모든 걸프 지역 산유국들이 생산을 중단하게 되면 유가가 배럴 당 150달러까지 치솟을 수 있다"고 했다. 그는 현재 가동이 중단된 라스라판 LNG 시설에 대해 "지금 당장 전쟁이 끝난다해도 정상적인 사이클로 돌아가는 데 최소 몇 주에서 몇 달은 걸릴 것"이라고 했다. 유럽의 경우 카타르 수출에서 차지하는 비중은 크지 않지만 아시아 구매자들이 시장에서 더 높은 가격으로 가스를 사들이게 되면 덩달아 상당한 고통을 겪게 될 것이라고 전망했다. FT는 "알카비 장관과의 인터뷰 기사가 나간 뒤 브렌트유는 5.5% 올라 배럴당 90.13 달러를 기록했다"며 "이는 이란 전쟁이 터진 이후 최고 수준"이라고 했다. 알카비 장관은 "이번 전쟁이 몇 주만 더 지속된다면 전 세계 국내총생산(GDP)이 타격을 받을 것"이라고 했다. 모든 국가의 에너지 가격이 상승하고 일부 제품은 부족해질 것이며 원자재 공급이 끊기면서 공장들이 생산을 멈추는 악순환이 펼쳐질 것이라고 전망했다. 중동 지역 국가 중 최대 미군 공군기지가 들어서 있는 카타르는 이란과도 전통적으로 우호적인 관계를 유지해 왔지만, 이번 전쟁의 포화를 벗어나지는 못했다. 라스라판 단지는 지난 2일 이란의 공격 드론의 공격을 받았고, 카타르 정부는 즉각 LNG 생산을 전면 중단했다. 이 단지는 전 세계 LNG 공급의 20%를 담당하는 대규모 시설이다. 알카비 장관은 "군으로부터 해상 시설에 대한 즉각적인 공격 위협이 있다는 통보를 받았고, 즉각 가동을 중단하고 24시간 안에 9000여명의 인력을 철수시켰다"고 했다. 그러면서 "전쟁이 완전히 끝나기 전까지 카타르의 생산은 재개되지 않을 것"이라고 말했다. ihjang67@newspim.com 2026-03-07 00:20