전체기사 최신뉴스 GAM 라씨로
KYD 디데이
오피니언 외부칼럼

속보

더보기

[기고] 딥페이크 범죄를 막는 근본 대책

기사입력 : 2024년09월02일 08:31

최종수정 : 2024년09월02일 08:31

하민회 (이미지21대표, 미래기술문화연구원장)

딥페이크(Deepfake) 진앙이 한국이라고?

미국 보안업체 시큐리티 히어로가 공개한 '2023 딥페이크 현황' 보고서애 따르면 지난해 9만건이 넘는 딥페이크 영상 중 53% 이상의 피해자가 한국인이다. 이를 두고 외신들은 한국은 딥페이크에 취약한 국가, 심지어 범죄의 진앙으로 볼 수 있다고 보도했다. (딥페이크는 딥러닝(Deep learning)과 가짜(Fake)의 합성어로, AI 기반의 인간 이미지 합성 기술을 뜻한다.)

실지로 한국은 디지털 성범죄 비상사태에 직면했다.

2013년부터 2018년 사이 국내에선 3만건 이상의 불법 촬영 신고(몰카)가 경찰에 접수됐다. 대부분 공중 화장실과 탈의실, 숙박업소, 등의 불법 촬영이었다. 2019년에는 텔레그램 성착취 방(N번방) 사건이, 올해엔 서울대·인하대에서 여성 동문들의 딥페이크 합성물을 제작·유포한 디지털 성범죄 사건이 터졌다. 최근엔 교사, 지인, 동료, 학생들을 대상으로 하는 딥페이크 음란물 사건이 전국적으로 발생하고 있다.

하민회 이미지21 대표.

전문가들은 디지털 성범죄가 반복되는 가장 큰 이유로 '느슨한 처벌'을 꼽는다.

현행법상 2019년 딥페이크 성범죄를 처벌할 수 있는 조항은 '성폭력 범죄 처벌에 관한 특례법'에 허위 영상물 등의 반포(14조의 2)뿐이다. 이 조항은 2019년 'N번방' 사건 이후 만들어졌다.

나날이 지능화되는 딥페이크 범죄를 막기엔 당연히 역부족이다. 불법 촬영물과 다르게 불법 합성물은 단순 시청·제작·소지하는 행위에 대해선 처벌하지 못한다. 딥페이크 성착취물을 재미로 제작하고 유포하지 않고 그냥 가지고 있었을 뿐이라고 우기면 처벌받지 않는다는 말이다.

해외에선 제작만으로도 처벌이 가능하도록 엄격해지는 추세다. 최근 영국 법무부는 공유·유포 여부와 상관없이 딥페이크로 음란물을 만들기만 해도 처벌할 계획이라고 밝혔다. 미국 상원 의회에선 지난달 딥페이크 성착취물 피해자들의 피해를 보상하는 법안이 통과되기도 했다.

딥페이크 범죄의 심각성은 "만들기는 쉽지만 없애기는 정말 어렵다'는 것에 있다.

[사진=게티이미지뱅크]

AI에 사진만 넣으면 몇 분 만에 만들어진 성착취물이 텔레그램 등을 통해 빠른 속도로 다수에게 퍼진다. 합성 대상의 인스타그램 등 SNS 링크만 입력해도 성착취물을 만들어내는 웹사이트부터 템플릿을 골라 사진 1장만 넣으면 30초만에 합성물이 완성되는 중국 앱도 있다. 심지어 실시간 딥페이크 영상제작도 가능하다. 과거 딥페이크 영상은 표정이나 동작이 부자연스러운 부분이 많았다면 최근에는 전문가도 자세히 봐야만 구분이 될 만큼 정교해지는 추세다.

더 큰 문제는 AI 기술이 텍스트, 영상·음성 데이터까지 함께 처리하는 멀티모달 방식으로 진화하면서 과거 합성의 수준에서 이제는 특정 시나리오에 기반한 딥페이크 영상 창작이 가능 해졌다는 점이다. 이는 음란물 유포를 넘어 피싱이나 협박 등 범죄의 고도화를 부른다.

딥페이크 성착취물의 유통 수단인 텔레그램도 해결되어야 할 과제다. 암호화된 비밀채팅 기능으로 강력한 보안성을 갖춘 텔레그램은 각종 디지털범죄의 온상이다. 제작한 딥페이크 음란물을 '봇(Bot)'을 통해 배포하는 텔레그램은 최근 딥페이크 합성물을 제작을 수익화 하는 구조를 만들기도 했다.

[서울=뉴스핌] 김학선 기자 = 평화나비네트워크 소속 대학생들이 29일 서울 종로구 세종문화회관 앞에서 딥페이크 성범죄 대응 긴급 대학생 기자회견을 하며 피켓을 들고 있다. 2024.08.29 yooksa@newspim.com

프랑스 정부는 8월 28일 입국하는 텔레그램의 최고경영자(CEO) 파벨 두로프를 '범죄 방조'로 체포했다. 전 세계 9억 명의 사용자를 보유한 텔레그램은 마약 밀매, 조직범죄, 테러 조장, 사이버 폭력 등 각종 범죄 도구로 활용되고 있음에도 두로프는 프라이버시 보호를 이유로 수사당국에 협조를 하거나 적절한 조치를 취하는 것을 거부해왔다. 이번 프랑스 정부의 조치는 향후 SNS플랫폼에서 벌어지는 범죄행위에 대해 CEO가 형사적 책임을 요구받을 수 있음을 시사한다.

딥페이크 성착취물의 완전한 삭제는 여전히 어렵다. 24시간 365일 딥페이크 성착취물을 찾아내 삭제하는 AI엔진이 개발되어 국내에서도 활용 중이지만 복사본이 있는 한 특정 시간 경과 후 언제 고 다시 업로드 될 수 가능성이 있기 때문이다. 결국 어떻게 든 '딥페이크 성착취물이 만들어지지 않도록'하는 것이 최선인 셈이다.

[서울=뉴스핌] 김학선 기자 = 평화나비네트워크 소속 대학생들이 29일 서울 종로구 세종문화회관 앞에서 딥페이크 성범죄대응 긴급 대학생 기자회견을 하며 퍼포먼스를 하고 있다. 2024.08.29 yooksa@newspim.com

사실 딥페이크 범죄는 한국만의 문제는 아니다. 그렇지만 피해자와 가해자 다수가 10대라는 점은 자못 심각하다. 경찰청 통계에 의하면 지난 3년 동안 딥페이크 범죄 가해자 중 70% 정도가 미성년자이고 피해자 역시 60% 이상이 미성년자이다.

우리나라는 프랑스나 미국의 일부 주처럼 특정 연령까지 SNS 계정을 만들지 못한다거나 학교에서 스마트폰 사용을 금지하는 법령이 없는 탓에 일찍부터 SNS 환경에 쉽게 노출되는 데다 새로운 기술에도 매우 친화적인 편이다. 친구나 가까운 지인 등을 AI로 놀려먹자는 단순한 의도를 가진 미성년자가 가해자일 경우 피해자 역시 미성년자가 많을 수 밖에 없다.

딥페이크 범죄의 피해자와 가해자 다수가 미성년자라는 사실은 우리사회에 꼭 필요한 디지털 시민 교육과 미디어 리터러시 교육이 제대로 이뤄지지 않고 있음을 단적으로 보여준다.

'기술을 다룰 줄 하는 능력' 보다는 '기술로 무엇을 하고 하지 말아야 하는가' 에 대한 올바른 인식을 갖추는 일이 훨씬 중요시되어야 한다.

우선 디지털 범죄가 얼마나 심각한 중범죄인지 교육해야 한다. 디지털 범죄는 남의 인권과 인격을 침해하는 것이고 법에 저촉된다는 사실을 청소년기부터 자주 많이 알려줘야 한다. 현실 범죄와 디지털 범죄의 경중이 다르지 않는다는 점도 강조할 필요가 있다. 미성년자는 장난삼아 했던 행동의 중대성을 잘 모를 수 있다. 예컨대 학교 폭력의 연장선상으로 온라인에서 따돌림 하고 이상한 사진에다 얼굴 갖다 붙이면서 놀리는 '능욕문화' 같은 것이다. '능욕'이 AI를 만나 딥페이크가 되면 피해자에게 치명적인 해를 입힐 뿐 아니라 가해자도 성범죄자가 된다는 사실을 명확히 인지시켜야 한다.

텔레그램 채팅방에서 중국발 딥페이크 기술로 만든 한 K-POP 아이돌 그룹의 나체 영상이 유포돼 논란이 되고 있다. 현재 국내에 해당 기술이 일부 판매된 것으로 알려지고 있다. [사진=뉴스핌DB]

온라인에서의 다양한 비윤리적인 행위들을 가볍게 여기지 않는 '미디어 리터러시' 교육도 필요하다. 편향으로 인한 갈등과 미움이 온라인에서의 기본값이 아니라는 점을 인식시키고 비난을 놀이처럼 여기지 않아야 건전한 문화가 형성된다. 현실의 반이 온라인인 세상에서 미디어 리터러시 교육은 필수과목이 되어야 한다.

미국 대학에서는 신입생에게 '미디어 리터러시' 교육을 듣게 하는 곳이 늘고 있다. 우리나라에서는 특별히 배우지 않는 미디어를 현명하게 소비하는 방법, 적절한 댓글을 쓰는 법, 기분 나쁘지 않게 비판하는 법 등 현실적인 내용을 다룬다.

결국 딥페이크 범죄를 막는 근본적인 대책은 '가해자가 되지 않는' 교육 아닐까?

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
김효주 "아직도 할 수 있는 선수 증명" [서울=뉴스핌] 김용석 기자 = "LPGA에서 17개월 만에 우승을 차지해 기쁘다." 김효주(30)가 미국여자프로골프(LPGA) 투어에서 통산 7번째 우승 트로피를 들어 올렸다. 김효주는 31일(한국시간) 미국 애리조나주 챈들러의 월윈드골프클럽에서 열린 포드 챔피언십 최종일, 연장전 끝에 릴리아 부를 꺾고 우승을 차지했다. [서울=뉴스핌] 김용석 기자 = LPGA 통산 7승을 수확한 김효주. [사진= LPGA] 2025.03.31 fineview@newspim.com 역전 우승이다. 3라운드까지 릴리아 부에게 4타 뒤진 공동5위로 출발한 김효주는 대회 마지막 날인 4라운드에서 버디 9개, 보기 1개로 무려 8타를 줄였다. 릴리아 부와 나란히 최종합계 22언더파 266타로 동타를 이룬 김효주는 연장전이 벌어진 18번 홀(파4)에서 1.5m 거리의 버디 퍼트를 성공시켜 승리를 확정지었다. LPGA 통산7승이다. 2015년과 2016년 각각 1승씩을 올린 그는 2021년 HSBC 위민스 월드 챔피언십, 2022년 롯데 챔피언십, 2023년 볼룬티어스 오브 아메리카스 클래식 등에서 6승을 수확한 뒤 1년5개월만에 다시 정상에 올랐다. 김효주는 매니지먼트사 지애드스포츠를 통해 "오늘 마지막까지 집중한 것이 중요했다"고 밝혔다. "작년 겨울 전지훈련에서 열심히 훈련하며 몸 상태를 끌어올리기 위해 노력했기 때문에 이번 대회에서도 좋은 샷감을 기대할 수 있었다"고 말했다. 파이널 라운드에서도 집중을 잃지 않기 위해 노력했다는 그는, "그 결과 좋은 성과로 이어져서 정말 감사한 마음"이라고 기쁨을 전했다. 이번 대회에서는 새로운 샤프트와 퍼터를 사용한 것이 주효했다는 김효주는 "좋은 샷감과 함께 시너지 효과가 난 덕분에 우승까지 할 수 있었다"고 말했다. 특히 LPGA에서 17개월 만에 우승을 차지한 그는 "아직도 내가 할 수 있는 선수라는 것을 증명해 너무 뿌듯하다"며 언제나 응원해주시는 팬들에게 진심으로 감사의 인사를 전했다. 이번 우승은 김아림에 이어 한국 선수로는 올해 두 번째 LPGA 투어 우승이다. 김효주는 "올 시즌, 한국 선수들의 상승 흐름에 좋은 기폭제가 되었으면 한다"고 덧붙였다. fineview@newspim.com 2025-03-31 14:44
사진
"李 무죄, 尹 탄핵 영향 없을 것"48.9% [서울=뉴스핌] 김가희 기자 = 이재명 더불어민주당 대표가 공직선거법 위반 혐의 항소심에서 무죄 선고를 받은 가운데, 국민 절반은 이 대표 선고 결과가 윤석열 대통령 탄핵 심판 결정에 영향을 미치지 않을 것이라고 응답한 여론조사 결과가 28일 나왔다. 지지 정당이 없는 무당층에서도 45%가 '영향을 미치지 않을 것 같다'고 답했다. 종합뉴스통신사 뉴스핌 의뢰로 여론조사 전문 기관 미디어리서치가 지난 26~27일 전국 만 18세 이상 남녀 1001명을 대상으로 진행한 자동응답 시스템(ARS) 조사에서 '이재명 더불어민주당 대표에 대한 항소심 무죄 판결이 윤석열 대통령의 탄핵 심판 결정에 영향을 미친다고 생각하나'라는 질문에 48.9%는 '영향을 미치지 않을 것 같다'고 응답했고, 이어 '영향을 미칠 것 같다' 39.4%, '잘 모름' 11.7%였다. 성별로 보면 남성은 '영향을 미칠 것 같다' 40.2%, '영향을 미치지 않을 것 같다' 50.3%, '잘 모름' 9.6%로 집계됐다. 여성은 '영향을 미칠 것 같다' 38.7%, '영향을 미치지 않을 것 같다' 47.5%, '잘 모름' 13.7%였다. 연령별로는 30대에서 '영향을 미칠 것 같다'는 응답이 가장 높았고, 40대에서 '영향을 미치지 않을 것 같다'는 응답이 가장 많았다. 20대(만 18세~29세)는 '영향을 미칠 것 같다' 43.5%, '영향을 미치지 않을 것 같다' 39.3%, '잘 모름' 17.2%, 30대는 '영향을 미칠 것 같다' 47.3%, '영향을 미치지 않을 것 같다' 44.8%, '잘 모름' 7.8%, 40대는 '영향을 미칠 것 같다' 32.6%, '영향을 미치지 않을 것 같다' 62.5%, '잘 모름' 4.8% 등으로 나타났다. 50대는 '영향을 미칠 것 같다' 37.2%, '영향을 미치지 않을 것 같다' 54.8%, '잘 모름' 7.9%, 60대는 '영향을 미칠 것 같다' 38.3%, '영향을 미치지 않을 것 같다' 49.0%, '잘 모름' 12.7%, 70대는 이상은 '영향을 미칠 것 같다' 39.6%, '영향을 미치지 않을 것 같다' 38.8%, '잘 모름' 21.6% 등이었다. 지역별로 보면 서울에서 유일하게 '영향을 미칠 것 같다'는 응답이 '영향을 미치지 않을 것 같다'는 응답보다 높게 나타났다. 서울은 '영향을 미칠 것 같다' 45.2%, '영향을 미치지 않을 것 같다' 43.8%, '잘 모름' 11.0%로 집계됐다. 반면 경기·인천은 '영향을 미칠 것 같다' 39.1%, '영향을 미치지 않을 것 같다' 47.3%, '잘 모름' 13.5%, 대전·충청·세종은 '영향을 미칠 것 같다' 39.2%, '영향을 미치지 않을 것 같다' 54.4%, '잘 모름' 6.4%, 강원·제주는 '영향을 미칠 것 같다' 31.9%, '영향을 미치지 않을 것 같다' 61.8%, '잘 모름' 6.3%, 부산·울산·경남은 '영향을 미칠 것 같다' 33.7%, '영향을 미치지 않을 것 같다' 53.5%, '잘 모름' 12.8%, 대구·경북은 '영향을 미칠 것 같다' 45.0%, '영향을 미치지 않을 것 같다' 46.1%, '잘 모름' 8.9%, 광주·전남·전북은 '영향을 미칠 것 같다' 35.9%, '영향을 미치지 않을 것 같다' 48.0%, '잘 모름' 16.1% 등으로 나타났다. 지지 정당별로 분석하면 더불어민주당 지지자들은 '영향을 미칠 것 같다' 39.8%, '영향을 미치지 않을 것 같다' 52.1%, '잘 모름' 8.0%로 답했고, 국민의힘 지지자들은 '영향을 미칠 것 같다' 42.2%, '영향을 미치지 않을 것 같다' 45.5%, '잘 모름' 12.2%로 응답했다. 조국혁신당 지지층은 '영향을 미칠 것 같다' 35.6%, '영향을 미치지 않을 것 같다' 54.4%, '잘 모름' 10.0%이었고, ▲개혁신당 지지층은 '영향을 미칠 것 같다' 42.8%, '영향을 미치지 않을 것 같다' 48.5%, '잘 모름' 8.7% ▲진보당 지지층은 '영향을 미칠 것 같다' 44.1%, '영향을 미치지 않을 것 같다' 36.6%, '잘 모름' 19.2% ▲기타 정당 지지층은 '영향을 미칠 것 같다' 28.3%, '영향을 미치지 않을 것 같다' 51.2%, '잘 모름' 20.5% ▲지지 정당 없음은 '영향을 미칠 것 같다' 28.9% '영향을 미치지 않을 것 같다' 45.2% '잘 모름' 25.8%로 나타났다. 박상병 정치평론가는 "헌법재판소와 사법부는 전혀 다른 기관이기 때문에 헌법재판소가 (사법부의) 영향을 받아서 선고한다는 건 이상하다"며 "국민들은 아주 합리적이고 상식적인 판단을 한 것"이라고 분석했다. 박 정치평론가는 "그럼에도 불구하고 헌법재판소가 정무적 판단을 할 수밖에 없는 기관이기 때문에 혹시 영향을 미치지 않을까 하는 국민도 있을 수 있다"고 부연했다. 김대은 미디어리서치 대표는 "이 대표의 무죄 판결은 여권과 야권 간의 정치적 긴장감이 극도로 표출돼 대중의 정치적 인식이 바뀔 수 있는 요소가 존재할 수 있다"고 설명했다. 이번 조사는 무선 RDD(무작위 전화 걸기) 활용 ARS를 통해 진행됐다. 신뢰 수준은 95%, 표본 오차는 ±3.1%p, 응답률은 4.6%다. 자세한 조사 개요 및 내용은 미디어리서치 홈페이지와 중앙선거여론조사심의위원회 홈페이지를 참조하면 된다. rkgml925@newspim.com 2025-03-28 10:00
안다쇼핑
`
Top으로 이동