전체기사 최신뉴스 GAM
KYD 디데이
산업 ICT

속보

더보기

구글 "규정 위반 영상, '머신러닝' 활용해 90% 이상 감지"

기사입력 : 2023년04월27일 13:57

최종수정 : 2023년04월27일 14:48

콘텐츠 관리 인력 2만 명 이상 투입
생성형 AI 관련 콘텐츠 관리에도 적극 대응 중

[서울=뉴스핌] 양태훈 기자 = "구글에서는 2만 명이 넘는 인력이 모든 플랫폼에 걸쳐서 콘텐츠 관리 검토 및 제거 관련 업무를 담당하고 있다. 하루 24시간 모든 시간대에 걸쳐서 평가 작업을 진행해 나가고 있으며,유튜브 영상의 94% 이상이 머신러닝 기술에 의해 먼저 감지되고 있다."

장 자크 사헬 구글 아태지역 콘텐츠 정책 총괄은 27일 서울 강남구 역삼동 구글코리아 사무실에서 열린 '구글 디코드 세션'에서 자사 콘텐츠 정책의 활동을 이 같이 소개했다.

장 자크 사헬 총괄은 "구글의 목표는 전 세계 정보를 체계화해 어디에서나 접근 가능하고 유용하게 만드는 것"이라며 "(이에 구글은) 유저와 사회에 끼쳐질 수 있는 유해함을 방지하고 낮은 품질의 정보의 전달을 제한하고자 노력해 왔으며, 각각의 제품과 서비스에 어떤 콘텐츠가 가용하게 제공돼야 하는지에 대해서도 세심하게 살펴 맞춰 나가는 작업을 진행하고 있다"고 강조했다.

장 자크 사헬(Jean-Jacques Sahel) 구글 아태지역 콘텐츠 정책 총괄. [사진=구글코리아]

또 "(콘텐츠 정책의) 핵심적인 원칙은 첫 번째 법을 근간으로 해서 불법이거나 위법인 상황들을 찾아내는 것이고, 두 번째는 (내부적인) 회사의 정책"이라며 "구글은 자사 제품과 서비스가 운영되는 나라의 법을 기반으로 해서 이를 위반하는 콘텐츠가 나타나면 그것을 제한하는 형태로서 활동을 하고 있고, 동시에 운영 원칙을 개발·유지하면서 각각의 제품과 서비스 안에서 허용되는 그리고 허용할 수 없는 콘텐츠와 행위들을 명시해 나가고 있다"고 설명했다.

구체적으로 구글은 ▲ G메일이나 챗과 같은 메시징 제품 ▲ 구글 드라이브나 포토와 같은 콘텐츠 저장 제품 ▲ 유튜브와 같은 동영상 공유 서비스 ▲ 광고 수익화 제품인 애드 등 각종 제품과 서비스에 따라 다른 기준을 세워 콘텐츠를 관리하고 있다.

장 자크 사헬 총괄은 "각각의 구글 서비스들에 대해 제약의 정도는 낮은 수준에서부터 높은 수준에 이르기까지 다르게 적용이 되고 있는데, 구글 검색 같은 경우는 개방형 오픈 웹상의 모든 페이지들에 대한 일종의 목록 역할을 하는 만큼 제약의 정도가 좀 낮은 사례라고 볼 수 있다"며 "반면, 애드 제품들 같은 경우는 제약성이 높은 영역이라고도 볼 수 있다. 유해한 콘텐츠나 경험을 제공하는 사람들로부터 회사가 광고 수익을 얻고 싶지 않기 때문"이라고 전했다.

구글 로고. [사진=로이터 뉴스핌]

이어 "각각의 플랫폼 유형에 적합한 규정이라든지 가이드라인들이 구축되어 있고, 보편적인 유해성의 경우 모든 제품과 서비스에 거쳐 전면적으로 금지될 수 있지만, 유해성을 평가해 봤을 때 그 정도가 제품과 서비스에 다른 모습으로 발현될 수 있다"며 "예를 들어 일반적으로 나체라든지 노골적인 성적 행위에 대한 구술 또는 시각적인 표현이나 묘사는 당연히 금지가 되지만, 예외적으로 교육적인 측면에서 활용된다든지 기록적 그리고 과학적 용도로 표현이 되는 이런 나체나 성적 행위에 대한 내용들은 예외가 될 수 있다"고 덧붙였다.

더불어 "구글은 새로 발현되는 유해 행위를 파악하고 구글의 기존 정책에 존재해야 하는 격차가 있다는 경우들에 대응하기 위해 전문가들의 인풋, 유저 피드백 그리고 신뢰 기반의 신고자들의 의견, 규제 당국의 가이던스 등 여러 도움들을 받아서 부족한 부분들을 파악해 나가고 있다"며 "현재 구글에서는 2만 명이 넘는 인력이 회사의 모든 플랫폼에 거쳐서 콘텐츠 관리 검토 및 제거 관련 업무를 담당하고 있으며, 한국어를 포함해서 다양한 언어를 구사하는 리뷰어들이 있는데, 법적 삭제 요청과 표시되어 있는 플래그들을 하루 24시간 모든 시간대에 걸쳐서 평가 작업을 진행해 나가고 있다"고 강조했다.

나아가 "(구글은) 머신러닝을 도입, 콘텐츠 관리 검토 관련돼 있는 수많은 작업들을 진행해 나가면서 회사가 파악하는 디텍션 레이트를 높였고, 유저들의 보호 조치도 강화시켜 나갈 수 있었다"며 "머신러닝은 분류하는 클래스들을 개발해 유튜브 정책에 위반되는 동영상들을 파악하는 그런 작업을 진행해 나가고 있고, 이런 작업들은 구글은 2017년부터 진행해 왔는데 2022년 4분기에 삭제된 유튜브 영상의 94% 이상이 머신러닝 기술에 의해 먼저 감지되었고, 이 중 71% 이상이 삭제되기 전 조회수 10회 이하를 기록했다"고 전했다.

오픈AI와 챗GPT 로고 [사진=뉴스핌DB]

한편, 구글은 최근 생성형 AI를 활용한 콘텐츠가 증가하는 것과 대해 유해 콘텐츠를 관리하기 위한 프로세스 마련에 전념하겠다는 의지를 내비쳤다.

장 자크 사헬 총괄은 "먼저 생성형 AI 관련 콘텐츠에 대한 우려 부분에 대해서 언급하기에 앞서 기술 발전 측면에서 따져봤을 때 회사가 매우 기대가 되는 시기에 활동하고 있지 않는가라고 생각이 된다"며 "새로운 기술 발전을 위한 긍정적 측면들도 분명히 있다는 것을 저희가 먼저 이해를 하고 설명해야 할 것 같은데, 그럼에도 불구하고 회사가 아직도 이 기술 발전의 초기 단계에 있다보니까 이런 문제점들이 나타나는 것 같다"고 말했다.

이어 "구글에서는 이 콘텐츠 관련돼서 굉장히 큰 책임감을 느끼고 관련되어 있는 작업들을 책임감 있게 진행해 나가 왔다. 관련돼 있는 정책도 설립하고 그 정책들을 집행해 나가는 것도 진행, 꾸준히 이행해 왔고 머신러닝 기술들을 활용하는 것뿐만 아니라 시스템 구축하고 프로세스를 구축하고 또 관련돼 있는 인력들을 트레이닝 시켜서 유해 콘텐츠에 대응하기 위한 많은 노력들을 전개하고 있다"며 "새로운 기술을 기반으로 한 신규 제품들이 나옴에 따라서 저희는 또 동일한 원칙을 그대로 적용할 것"이라고 강조했다.

또한 "AI 기반의 테크놀로지들이 발전한다 할지라도 과거에 했었던 것처럼 꾸준히 열심히 콘텐츠 관련돼서는 노력을 하게 될 것이고 콘텐츠 관리와 주제에 대해서 저희가 많은 노력을 그대로 경주해 나갈 것"이라며 "유해한 부분들은 끊임없이 과거에 했었던 것처럼 엄격하고 또 열심히 다루어 나가도록 하겠지만 또한 동시에 이 신기술이 제공하는 기회들은 또 적극적으로 활용할 수 있게끔 도전 과제와 기회 양쪽을 다 잘 활용해 나가도록 노력할 것"이라고 덧붙였다.

dconnect@newspim.com

[뉴스핌 베스트 기사]

사진
[단독] 日 여행객 'K-쌀' 사간다 [세종=뉴스핌] 이정아 기자 = 일본 여행객이 한국을 방문, 한국 쌀을 직접 구매해 들고 나가는 사례가 급증하고 있다. 일본 내 쌀값이 고공행진을 이어가는 가운데 '밥맛 좋은 한국 쌀'이 대체제로 급부상하면서 벌어지는 현상이다. 3일 <뉴스핌>이 입수한 자료에 따르면, 올해 1월부터 6월까지 상반기 동안 일본 여행객이 한국에서 직접 구매해 일본으로 들고 간 국산 쌀은 3만3694kg로 집계됐다. 일본은 지난 2018년부터 휴대식물 반출 시 수출국 검역증을 의무화한 나라로, 병해충과 기생식물 등 식물위생 문제에 매우 엄격하다. 특히 쌀처럼 가공되지 않은 곡류는 검역 과정이 매우 까다롭다. 그럼에도 불구하고 일본 여행객들의 한국산 쌀 열풍은 지속됐다. 지난해 한 해 동안 일본 여행객이 반출한 국산 쌀은 1310kg에 불과했지만, 올해는 상반기에만 무려 25배 이상 급증했다. 같은 기간(2024년 1~6월)으로 비교하면 작년 106kg에서 올해 3만3694kg로 약 318배 증가한 셈이다. 농식품부 관계자는 "일본 여행객들의 '쌀 쇼핑'이 열풍을 불면서 관련 문의가 급증했다"며 "한국쌀이 일본쌀에 비해 맛과 품질이 뒤떨어지지 않는다는 인식이 생기면서 반출되는 양도 많아지고 있다"고 설명했다. 쌀을 화물로 탁송하는 사례도 동반 상승했다. 올해 상반기 기준 화물검역을 통해 일본으로 수출된 국산 쌀은 43만1020kg에 달한다. 지난해 화물 검역 실적이 1.2kg에 그쳤던 것과 비교하면 폭증 상태다. 업계에서는 이번 흐름이 국산 쌀에 대한 일시적 특수로 끝나지 않고 국내에서 정체된 쌀 소비의 새로운 돌파구가 될 수 있을 것으로 내다보고 있다. 임정빈 서울대 농경제학과 교수는 "일본에서 쌀 가격이 두 배 이상 올랐으니 한국에 와서라도 쌀을 구매하는 여행객이 늘어난 것"이라고 짚었다. 이어 "다만 일본의 쌀 관세율이 매우 높기 때문에 한국 쌀의 가격만 보지는 않았을 것"이라며 "국산 쌀의 품질이 높기 때문에 이 부분에서도 합격점이 있을 것"이라고 평가했다. [영종도=뉴스핌] 윤창빈 기자 = 11일 오전 인천국제공항 제1터미널에 중국발 여행객들이 입국하고 있다. 2023.03.11 pangbin@newspim.com 정부 역시 이같은 수요에 대응해 일본 관광객을 대상으로 검역제도 안내·홍보에 나서기로 했다. 현재는 농림축산검역본부를 통한 사전신청, 수출검역, 식물검역증 발급, 일본 통관까지 최소 3단계 이상이 요구된다. 다만 한국 쌀을 일본으로 반출할 때 한국에서 식물검역증을 발급받아야 한다는 사실을 모르는 일본 관광객이 일본에 돌아가 쌀을 폐기하는 일이 생기면서 홍보의 필요성이 대두됐다. 농식품부 고위 관계자는 "지난달 오사카 엑스포 현장 방문을 계기로 일본 농림수산성과 예방할 기회가 주어졌는데 그 자리에서 쌀 검역 문제가 논의됐다"며 "한국 정부는 일본 여행객이 애써 한국 쌀을 구매한 뒤 일본으로 돌아가 폐기하는 일이 없도록 제도 홍보에 만전을 기하겠다"고 전했다. plum@newspim.com 2025-07-03 11:10
사진
내란특검, 尹재판 증인 72명 신청 [서울=뉴스핌] 김신영 기자 = 12·3 비상계엄 관련 내란 사건을 수사 중인 조은석 특별검사팀이 윤석열 전 대통령의 내란 우두머리 혐의 재판에서 증인 72명을 추가 신청했다. 서울중앙지법 형사합의25부(재판장 지귀연)는 3일 내란우두머리·직권남용권리행사방해 혐의로 재판에 넘겨진 윤 전 대통령의 9차 공판기일을 열었다. 조은석 내란 특별검사. [사진=뉴스핌DB] 특검 측은 앞서 1차로 38명의 증인을 신청한 데 이어 이날 재판부에 증인 72명을 추가로 신청하겠다고 밝혔다.  재판부는 오는 10일 열릴 10차 공판에서는 이날 증인신문을 마치지 못한 고 전 처장에 이어 정성우 전 방첩사 1처장(준장), 김영권 방첩사 방첩부대장(대령)을 불러 신문할 예정이다. 정 전 처장은 여인형 전 방첩사령관으로부터 선관위 전산실 통제와 서버 확보를 지시받은 인물이며 김 부대장은 비상계엄 당일 곽종근 전 육군 특수전사령관이 윤 전 대통령으로부터 지시받을 당시 함께 합참 지휘통제실에 있었던 것으로 알려졌다.  한편 이날 재판에서 윤 전 대통령 측은 조은석 특검이 검찰로부터 사건을 이첩받은 절차가 위법해 무효라고 주장했으나, 특검은 "법과 상식에 비춰봤을 때 납득할 수 없는 주장"이라고 반박하며 신경전을 벌였다.  sykim@newspim.com 2025-07-03 20:47
안다쇼핑
Top으로 이동