전체기사 최신뉴스 GAM 라씨로
KYD 디데이
경제 과학기술

속보

더보기

[단독] K-POP 아이돌 나체 전환 딥페이크 영상 무차별 유포…AI로 조작

기사입력 : 2024년06월20일 10:36

최종수정 : 2024년06월20일 14:58

중국어로 된 텔레그램 채팅방에서 영상 나돌아
AI 딥페이크 기술 탑재된 프로그램 구매 유도
정부, 국제사회 대응 나서고 있지만 대책 없어

[세종= 뉴스핌] 이경태 기자= #춤을 추고 있는 K-POP 아이돌 여성그룹의 무대영상 가운데 리더 1명을 나체로 전환시킨 콘텐츠가 최근 소셜네트워크서비스(SNS)를 통해 불특정 다수에게 유포되고 있다. 기존에는 나체 영상에 연예인의 얼굴을 합성한 방식이었지만, 이번에는 실제 영상을 나체 영상으로 전환시키는 딥페이크 기술이 적용되어 충격을 주고 있다(아래 사진 참고).

이같은 방식의 인공지능(AI) 콘텐츠 전환 기술이 확대될 경우, 자칫 K-콘텐츠 시장 전체가 뿌리째 흔들릴 수 있을 것이라는 우려의 목소리도 나오고 있다. 

20일 <뉴스핌>의 취재 결과, 유명 SNS 채팅 서비스인 텔레그램의 한 채팅방에서 다수의 나체 전환 영상이 공유됐다. 이 영상이 공유된 채팅방의 제목은 중국어로 'AI 누드 춤 맞춤 제작'에 관한 내용이다.

이 텔레그램방에서는 수십개의 영상이 일방적으로 공개됐다. A 아이돌 그룹 4~5명이 군무를 하는 상황에서 특정 아이돌 멤버만 나체로 전환한 영상이 공유되는가 하면, 일반 공연에서의 직캠 영상도 그대로 나체 영상으로 전환됐다.

텔레그램 채팅방에서 중국발 딥페이크 기술로 만든 한 K-POP 아이돌 그룹의 나체 영상이 유포되어 논란이 되고 있다. [사진=텔레그램 채팅방 캡쳐] 2024.06.20 biggerthanseoul@newspim.com

최근 음원 순위 상위권을 지키고 있는 여자 아이돌 그룹의 대다수 공연 영상이 나체로 전환됐다. 해당 채팅방의 운영자는 기존에 공유된 나체 영상에 대해 본인이 맞춤 제작한 영상이라는 점을 강조했고, 실제 판매되는 프로그램을 소개하기까지 했다.

며칠 동안 영상이 게재된 해당 채팅방은 최근 게시물을 올리지 못하게 차단된 상태다. 다만 여전히 채팅방 입장은 가능하다. 현재 1만7000명에 가까운 이용자들이 채팅방 멤버로 표시되고 있다. 문제는 기존의 딥페이크 기술이 상당 수준으로 진화됐다는 데 있다.

한 AI업계 관계자는 "기존에는 딥페이크를 활용해 누드 영상에 나오는 배우의 얼굴을 유명인의 얼굴로 바꾸는 방식이었는데, 이번에는 기존 영상에서 유명인의 몸을 나체로 전환하기 때문에 콘텐츠 시장에 미치는 영향이 상당할 것"이라고 우려했다.

그는 "그동안 할리우드 유명인에 대한 딥페이크가 문제였다면, K-POP 아이돌의 인기가 상승하면서 이들이 나오는 대부분의 영상이 나체로 전환되기 때문에 아이돌의 이미지에도 상당한 타격을 입힐 수 있을 것"이라고 덧붙였다.

일각에서는 인기를 얻고 있는 K-드라마, 영화 등 모든 분야에서 특정 인물만 나체로 전환하기 때문에 K-콘텐츠 산업을 뒤흔들 수 있는 파장이 있을 것으로 내다보기도 한다.

더구나 일반인의 피해도 예고되는 상황이다. 최근 숏폼 형태로 유명한 춤을 추고 SNS에 게재하는 일명 '커버댄스' 콘텐츠가 인기지만 이같은 영상도 나체 전환 기술의 먹잇감이 될 것으로 보인다. 

유튜버 A씨는 "사실상 콘텐츠를 올리는 것 자체가 불안한 상황"이라며 "누군가 내 영상을 나체 영상으로 전환해서 나를 협박한다면 속수무책으로 피해를 입을 수밖에 없을 것 같다"고 전했다.

K-POP 아이돌 그룹의 나체 전환 영상이 유포된 텔레그램 채팅방 [자료=텔레그램 캡쳐] 2024.06.20 biggerthanseoul@newspim.com

이런 상황에서 정부나 수사기관의 대응방안은 여의치 않다. 

과학기술정보통신부는 올해 AI기본법을 마련했으나 21대 국회에서 끝내 통과되지 않았고, 다시 의원 발의 등을 거쳐 국회에서 논의가 돼야 하지만 우선순위에서 밀린 상태다.

방송통신위원회 역시 18~20일 미국 샌프란시스코에서 경제협력개발기구(OECD)와 정보 무결성에 관한 논의를 진행했지만 국제사회가 공동 대응하기까지는 더딜 수 밖에 없다는 목소리도 들린다.

지난달 열린 AI 서울 정상회의에서도 이같은 허위조작정보 등에 대응하기 위한 국가간 상호 협력이 강조됐으나 강제력 없는 구호에 그쳤다는 지적만 나왔다.

한 연예기획사 관계자는 "최근 기존 영상에서 옷을 없애고 나체로 전환한 영상을 확인했는데, 대응방안이 당장은 없다"며 "이런 상황까지 AI 기술이 접목될 것이라는 데 예상은 했지만 너무나 빨리 다가온 것 같아서 앞으로가 걱정"이라고 전했다.

biggerthanseoul@newspim.com

[뉴스핌 베스트 기사]

사진
강릉 옥계항 코카인 추정 마약 대량 적발 [세종=뉴스핌] 백승은 기자 = 관세청과 해양경찰청이 강릉 옥계항에 입항하는 외국 무역선 선박을 수색애 코카인으로 의심되는 마약을 대량 적발해 조사 중이라고 2일 밝혔다. 전날 두 기관은 미국 연방수사국(FBI)과 국토안보수사국(HSI)으로부터 A선밖에 마약이 숨겨져 있다는 정보를 입수했다. A 선박은 벌크선으로 3만2000톤이며, 승선원 외국인은 20명이다. 관세청과 해양경찰청이 강릉 옥계항에 입항하는 외국 무역선 선박을 수색해 코카인으로 의심되는 마약을 대량 적발했다. [사진=관세청] 2025.04.02 100wins@newspim.com 두 기관은 합동 검색작전을 수립하고, 선박의 규모가 길이 185미터(m)인 점과 검색 범위 등을 고려해 서울세관·동해해경청 마약 수사요원 90명 및 세관 마약탐지견 2팀 등 합동 검색팀을 구성했다. 검색팀은 2일 오전 6시 30분 옥계항에 긴급 출동해 A 선박이 입항한 직후 선박에 올라타 집중 수색을 실시했다. 수색 중 검색팀은 선박 기관실 뒤편에서 밀실을 발견했고, 집중 수색 결과 개당 약 20킬로그램(kg) 전후 마약으로 의심되는 물질이 담긴 박스 수십 개를 발견했다. 검색팀이 간이시약으로 검사한 결과 코카인 의심 물질로 확인됐다. 정확한 중량은 하선 이후 정밀 계측기를 통해 측정하고 마약 종류는 국가과학수사연구원에 의뢰해 확인할 예정이다. 앞으로 관세청과 해경청은 합동수사팀을 운영해 해당 선박의 선장 및 선원 등 20여명을 대상으로 밀수 공모 여부와 적발된 마약의 출처 등을 수사할 계획이다. 국제 마약 밀매 조직과의 연관성도 고려해 미국 FBI와 HSI 등 관계 기관과의 공조를 통해 수사를 확대할 방침이다. 100wins@newspim.com 2025-04-02 17:57
사진
재주는 트럼프가, 돈은 브라질이 [서울=뉴스핌] 최원진 기자= 도널드 트럼프 미국 행정부의 관세 공세로 글로벌 무역전쟁이 격화하는 가운데, 브라질이 주요 승자로 부상하고 있다고 월스트리트저널(WSJ)이 1일(현지시간) 보도했다. 보도에 따르면, 중국은 트럼프 대통령이 부과한 대중(對中) 관세에 맞서 미국산 농산물에 보복 관세를 매기며 대체 수입처로 브라질을 주목하고 있다. 수출입 컨테이너 [사진=블룸버그] 중국 가공업체들은 트럼프 대통령이 지난 1월 취임하기 전부터 브라질산 대두를 비축하기 시작했고, 올해 1분기 필요한 물량의 거의 전량을 브라질에서 조달했다. 이는 지난해 같은 기간 54% 수준이었던 브라질산 비중과 비교하면 큰 폭의 증가다. 가격도 상승세다. 상파울루대학 산하 연구기관 세페아(CEPEA)에 따르면, 브라질 항구에서 선적되는 대두의 프리미엄은 중국이 미국산 대두에 10% 관세를 발표한 직후 일주일 동안 약 70% 급등했다. 3월 선적 기준으로는 부셸당 85센트를 기록해 3년 만에 최고치를 찍었다. 닭고기와 달걀 수출도 두 자릿수 증가율을 보인다. 브라질의 가금류·돼지고기·달걀 수출업체를 대표하는 브라질동물단백질협회(ABPA)의 히카르두 산틴 협회장은 올해 들어 브라질의 닭고기 수출은 지난해 같은 기간보다 9%, 달걀 수출은 20% 증가했다고 밝혔다. 브라질은 미국과 달리 조류 인플루엔자를 겪고 있지 않아, 안정적인 공급처로 주목받고 있다. 여기에 중국이 미국산 닭고기에 15%의 보복관세를 부과하면서 브라질산이 대안으로 떠오르고 있다는 설명이다. 사실 브라질과 중국의 교역 관계는 최근 수년 빠르게 확대됐다. 중국은 2009년에 미국을 제치고 브라질의 최대 무역 파트너로 부상했다. 쇠고기, 철광석, 석유 등 자원이 풍부한 브라질은 중국의 막대한 수요에 맞춰 수출을 확대해 왔고, 중국은 브라질의 인프라 건설에 대규모 자본을 투입하고 있다. 현재 중국은 브라질 전체 전력 공급의 약 10%를 차지하고 있으며, 항만과 도로, 철도 등 주요 기반 시설 건설에도 깊숙이 관여하고 있다. 브라질은 미국 시장에서도 수출 확대 가능성을 보고 있다. 중국은 미국의 주요 신발 수출국인데, 미국이 중국산 제품에 고율 관세를 부과할 경우 아시아를 제외하고 최대 신발 생산국인 브라질이 그 자리를 일부 대체할 수 있다는 전망이 나온다다. 하롤두 페헤이라 브라질 신발산업협회(Abicalçados) 회장은 "브라질산 제품에 별다른 관세가 없다면, 미국 수출 확대의 기회가 될 수 있다"라고 밝혔다. 글로벌 무역전쟁 국면에서 오히려 특수를 누릴 것이라는 기대는 브라질 증시에도 훈풍으로 작용했다. 올 들어 브라질 증시는 9% 넘게 오르며 뉴욕 증시를 아웃퍼폼하고 있다. 올 들어 브라질 증시는 9% 넘게 상승, 연중 5% 가까이 하락한 뉴욕증시의 S&P500 지수와 대조를 이룬다 [사진=koyfin] wonjc6@newspim.com   2025-04-02 15:30
안다쇼핑
Top으로 이동