전체기사 최신뉴스 GAM
KYD 디데이

네이버, '음란물 이미지' 인공지능으로 걸러낸다

기사입력 : 2017년07월31일 15:58

최종수정 : 2017년07월31일 16:56

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

8월 중 동영상에도 AI 피터링 기술 적용

[뉴스핌=심지혜 기자] 네이버가 인공지능(AI) 기술을 통해 음란물 이미지를 실시간으로 걸러낸다.

네이버는 자체 개발한 음란물 필터링 AI기술 '네이버 엑스아이(X-eye)'를 이미지 검색 결과에 적용한다고 31일 밝혔다.

네이버 X-eye는 부적절한 내용을 담은 이미지(음란물)가 네이버에 등록될 경우 이를 실시간으로 감지해 검색 노출을 막아준다. 검색 기준은 방송통신위원회의 세이프넷(Safe Net) 등급에 의거 성기, 음모, 항문 노출 및 성행위나 어린이·유아를 성적 유희의 대상으로 묘사하는 경우 등에 해당된다.

네이버는 음란물 이미지 등록을 실시간으로 막는 AI 기술을 적용했다. <사진=네이버>

적용에 앞서 네이버는 축적된 방대한 이미지를 형태별로 분류해 10개월동안 AI를 학습시켰다. 네이버 X-eye는 최근 버전에서 400만장의 이미지(정상+음란물) 필터링을 내부 실험한 결과 98.1%의 높은 적중률을 나타냈다.

학습은 네이버 X-eye는 먼저 네모난 돋보기로 그림을 보듯 이미지의 각 부분을 순차적으로 훑어 특징을 추출하는 과정으로 이뤄진다. 이는 이미지 조각으로부터 특징을 추출하는 ‘컨볼루션(convolution)’ 작업으로 네이버는 이를 수 차례에 걸쳐 반복한다. 작업이 반복될 수록 AI는 더 많은 학습을 하게 되고 최종 결과는 더욱 완벽해 진다.

이번 적용으로 연중 24시간 성인 이미지 실시간 감지 시스템이 가동되며, 감지하지 못한 이미지는 계속된 학습으로 극복한다는 계획이다.

무엇보다 이미지 검색 결과 최종 노출 전, 사람이 직접 음란물 이미지 검수 과정이 AI 기술을 통해 수월해 졌다.

네이버는 다음달 중 동영상에도 네이버 X-eye를 적용할 예정이다.

오경수 네이버 UGC운영정책 리더는 "이번 출시로 성인 이미지에 대한 연중무휴 실시간 대응이 가능해졌다”며 “향후 동영상 필터링에도 확대 적용할 방침"이라며 "건전한 인터넷 이용환경 조성을 위해 외부에도 손쉽게 사용할 수 있는 AI 필터링 프로그램 제공을 검토하고 있다”고 말했다.

[뉴스핌 Newspim] 심지혜 기자 (sjh@newspim.com)

[뉴스핌 베스트 기사]

사진
김주애, 아빠 따라 첫 외교무대 데뷔 [서울=뉴스핌] 이영종 통일전문기자 = 김정은 북한 국무위원장의 딸 주애(12)가 중국 방문길에 동행한 것으로 확인됐다. 북한 관영 조선중앙통신은 2일 밤 김정은의 베이징역 도착 소식을 전하면서 3장의 사진을 공개했다. [서울=뉴스핌] 이영종 통일전문기자 = 김정은 북한 국무위원장이 2일 오후 전용열차 편으로 베이징역에 도착해 중국 측 인사들의 환영을 받고 있다. 김정은 뒤편으로 딸 주애(붉은 원)와 최선희 외무상이 보인다. 김주애가 해외 방문에 나선 건 이번이 처음이다. [사진=조선중앙통신] 2025.09.02 yjlee@newspim.com 여기에는 환영나온 왕이 외교부장 등 중국 측 인사와 만나는 김정은 바로 뒤에 서있는 딸 주애가 드러난다. 김주애가 해외 방문에 나선 건 지난 2022년 11월 공개석상에 등장한 이후 처음이다. 김주애는 검은색 바지 정장 차림으로 김정은을 따라 전용열차에서 내렸고, 그 뒤는 최선희 외무상이 따랐다. 그러나 붉은 카페트를 걸어가는 의전행사에는 빠져 공식 수행원에 명단을 올리지는 않을 것으로 보인다. 김주애가 중국 전승절(3일) 행사참석을 위해 방중한 김정을을 수행함으로써 그의 후계자 지명 관측에는 더 힘이 실릴 것으로 보인다.  또 시진핑 국가주석 등 중국 지도부와 김정은이 만나는 자리에 주애가 동행할 가능성이 높다는 점에서 '알현 행사' 성격을 띠게 될 것이란 관측도 나온다. yjlee@newspim.com 2025-09-02 22:00
기사 번역
결과물 출력을 준비하고 있어요.
기사제목
기사가 번역된 내용입니다.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동