전체기사 최신뉴스 GAM
KYD 디데이
산업 중기·벤처

속보

더보기

[기고] 딥페이크와의 전쟁

기사입력 : 2024년01월29일 08:50

최종수정 : 2024년01월29일 08:51

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

하민회 이미지21대표(코가로보틱스 마케팅자문)

어느 날 내 얼굴이 합성된 사진이 SNS에 돌고 있다면? 생각만해도 끔찍한 이 일이 월드스타 테일러 스위프트에게 일어났다. 테일러 스위프트는 투어를 다니는 도시마다 수만의 팬들이 유입, 일대 상권이 특수를 맞는다고 하여 '테일러노믹스(Taylornomics)'라는 신조어를 탄생시키고 지난 해에는 타임(Time)의 '올해의 인물'로 선정될 만큼 막강한 영향력을 가진 최고의 스타로 꼽힌다.

현재, 유포했던 SNS 계정들은 정지되고 이미지는 삭제됐지만 딥페이크(Deepfake)로 만들어진 스위프트의 외설적인 이미지는 4700만회 넘게 조회됐다고 알려졌다.

딥페이크는 '딥러닝(deep learning)'과 '가짜(fake)'의 합성어로 AI에 특정 이미지, 오디오, 비디오를 학습시켜 만든 가짜를 의미한다. 딥페이크의 위험성은 가짜 정보를 마치 진짜 정보인 것처럼 표현할 수 있다는 점에 있다. 얼굴을 바꾸거나 딥보이스로 목소리를 똑같이 재연하면 마치 실제 인물이 말하고 움직인 것처럼 착각할 수 있어 진실과 상관없이 부정확한 정보를 전파하거나 명예 훼손, 프라이버시 침해 등의 피해가 생길 수 있다. 최근에는 사기나 보이스 피싱에도 자주 등장한다.

하민회 이미지21 대표.

워싱턴포스트는 스위프트의 딥페이크 이미지를 계기로 AI를 이용한 가짜 이미지 생성에 강한 규제가 필요하다는 여론이 일고 있다고 전했다. 현재 미국에서는 9개 주에서 당사자의 동의 없이 AI 딥페이크 사진을 만들거나 공유하는 것을 금지하고 있지만 연방 정부 차원의 규제는 없는 상태다.

정치권도 딥페이크에 골머리를 앓고 있다. 올해는 전 세계 약 70개국에서 선거를 치르는 '슈퍼 선거의 해'이다. 그간 AI 기술이 민주주의를 위협할 것이라는 우려가 종종 들려왔지만 생성형AI가 대중화되면서 우려는 현실이 되고 있다.

얼마 전 미국에서는 조 바이든 대통령의 '가짜 목소리' 가 유권자들을 혼란에 빠뜨렸다. 민주당 대선후보를 뽑는 프라이머리(예비경선)를 하루 앞두고 대통령으로부터 '투표 거부' 독려 전화가 걸려온 것이다. 결국 누군가 조작한 음성 딥페이크로 밝혀졌지만 사법당국은 조작자와 유포 진원지를 찾는데 어려움을 겪고 있다. 전화로 전달되는 오디오파일은 디지털 흔적을 남기지 않기 때문이다. 블룸버그는 '가짜 전화'에 직접 영향을 받는 건 수백, 수천 표 정도밖에 안 되겠지만 이로 인해 생겨나는 결과와 사회적 파장은 무시할 수 없을 것이라 평했다.

실제로 지난해 튀르키에와 슬로바키아에서는 AI 콘텐츠가 선거에 큰 영향을 미쳤다. 튀르키에 대선에서는 테러단체 인사가 여당 후보를 지지하는 딥페이크 영상이 퍼졌고 슬로바키아에서는 야당 후보가 선거 조작을 논의하는 딥보이스 가짜대화 영상이 유포되어 집권당의 승리에 결정적인 영향을 미쳤다. 결국 사실처럼 보이는 가짜가 사실을 이긴 셈이다.

이흥규 KAIST 전산학부 교수 연구팀이 개발한 '카이캐치(KaiCatch)' 기술로 딥페이크를 탐지하는 모습. [자료=한국과학기술원] 2021.03.30 biggerthanseoul@newspim.com

이제 선거에 있어 딥페이크는 최대 위협 요소가 되었다. 편집이 쉬운데다 생산비용도 저렴하다. 게다가 SNS에는 AI에게 학습시킬 정치인의 데이터가 넘쳐나지 않는가? 누구든 그럴듯한 메시지와 유권자 데이터베이스만 있으면 언제든 딥페이크로 선거판을 흔들 수 있게 되었다.

그래서인지 딥페이크를 가려내는 기술에 관한 국제사회의 관심이 뜨겁다. 네이처는 2024년 혁신이 기대되는 흥미로운 기술로 가장 먼저 AI 딥페이크 판별기술을 꼽았다. 한마디로 AI로 AI를 잡는, 고양이와 쥐 게임의 시작이다.

인텔이 개발한 '페이크캐처(FakeCatcher)'는 딥페이크 영상이나 사진에 나타난 오류를 탐지한다. 영상을 밀리초(ms, 1000분의 1초)로 쪼개 어색한 점을 찾아낸다. 살아있는 사람의 영상은 얼굴에 미세한 혈류의 변화가 나타나는 반면 딥페이크로 조작된 영상은 뭔가 어색하다. 페이크캐처는 육안으로 식별되지 않는 혈류의 차이를 발견하는 기술로 약 96%의 판별 정확도를 보인다.

딥페이크 탐지 모델인 센티널(Sentinel)은 AI 알고리즘이 원본 동영상에 나온 인물을 학습해, 조작된 동영상에서 어떻게 달라졌는지 찾아내어 딥페이크 영상 여부를 판별한다.

우리나라 기업인 딥브레인AI는 음성의 주파수와 시간, 가상 얼굴 생성 기능 등을 통해 목소리와 영상의 진위 여부를 판단한다.

[서울=뉴스핌] 정윤영 기자 = 지난해 5월 삼성전자와 러시아 인공지능연구소가 사진 이미지 한장을 이용해 자연스러운 딥페이크 영상을 만들어냈다. [제공=삼성전자] 2020.04.01 yoonge93@newspim.com

빅테크인 구글, 마이크로소프트, 메타, 아마존 등은 자발적으로 생성 AI 콘텐츠에 워터마크를 표기하기로 했다. AI가 생성한 콘텐츠를 식별할 수 있도록 만들어 악용될 가능성을 사전에 차단하자는 의도다.

딥페이크 기술 자체를 막자는 의견도 있다. 하지만 모든 기술이 그렇듯 딥페이크도 양면성을 갖는다. 게임, 엔터테인먼트, 교육 산업분야에선 다양한 용도로 효율적으로 사용될 수 있고 AR(증강현실), VR(가상현실) 등과 결합하면 기대 이상의 결과를 얻을 수 있다. 딥페이크는 쉽게 포기할 수 있는 기술이 아니다.

결론은 부작용을 막고 적재적소에만 효과적으로 활용할 수 있도록 법적 규제와 제도를 더욱 꼼꼼히 정비해야 한다는 것이다.

우리나라는 총선을 앞두고 '딥페이크 선거운동 금지법'이 국회를 통과했다. 선거일 90일 전부터 딥페이크를 활용한 선거운동을 할 수 없으며 이를 위반하면 7년 이하의 징역 또는 1000만 원 이상 5000만 원 이하 벌금에 처한다.

미국 하원은 '딥페이크 책임성법'을 발의했다. 고도화된 딥페이크 기술로부터 피해를 예방하고 사회 질서를 지키는 내용으로 구체적으로 온라인에 올라간 모든 딥페이크 콘텐츠에 라벨을 부착해야 하며 딥페이크 동영상으로 허위 사칭한 것에 대해 처벌할 수 있고 피해자는 소송을 통해 보상을 받을 수 있다.

미국 코넬대 세라 크렙스 교수와 더그 크리너 교수는 'AI는 어떻게 민주주의를 위협하는가'라는 논문에서 "객관적 사실을 포기하거나 뉴스에서 사실을 분별하는 능력을 포기하면 민주주의 사회의 기반인 신뢰가 무너질 수 있다"고 주장했다.

AI 기술로 진실의 개념 자체가 불안정해지고 있는 이 시대, 기어를 중립에 두고 모든 것을 확인하고 검증해보는 비판적인 시각이 무엇보다 중요해지고 있다. 지나친 자기확신에 의존하기 보다 매사 신중하게 접근하는 겸손한 사고를 훈련하는 것이 필요하다.

[사진=게티이미지]

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
[변상문의 화랑담배] "국내 진공작전을 서둘러라" 변상문의 '화랑담배'는 6·25전쟁 이야기이다. 6·25전쟁 때 희생된 모든 분에게 감사드리고, 그 위대한 희생을 기리기 위해 제목을 '화랑담배'로 정했다. 이런 상황에서 임시정부 주석 김구는, '선열의 피로써 세우고, 애국지사들이 생명을 걸고 수호한 대한민국 임시정부를 3천만 국민에게 바치기 전에는 물러설 수 없다는 것을, 대내외에 천명할 필요가 있다'라고 판단했다. 김구는 1945년 8월 11일 국무회의를 개최하여 '광복군 국내정진군' 창설 안을 통과시켰다. 8월 13일 광복군 제2지대장 이범석 장군을 사령관으로 임명하였다. '광복군 국내정진군' 임무는 '즉시 서울로 진격하여 조선 총독 아베노부유키(阿部信行)로부터 무조건 항복을 받고 일본군사령부를 접수'하는 것이었다. 이는 빨리 광복군을 국내로 진입시켜, 미국 협력하에 일본군 무장을 해제하고, 치안을 유지하여 건국의 기틀을 다지도록 하기 위함이었다.  '광복군 국내정진군' 이범석 사령관은, 사령관으로 임명받자마자 주요 직위자들을 소집하여 아래와 같이 지시하였다. "오늘 또는 내일 중으로 여기 모인 동지들과 함께 국내로 들어갈 계획입니다. 오늘(8월 11일) 아침 임시정부는 나에게 국내정진군 사령관 직책을 맡겨주었습니다. 국내에 누구보다도 빨리 들어갈 수 있는 길이 생겼습니다. 다름 아니라, 미국 중국전구사령부가 곧 사절단을 서울로 들여보낼 예정입니다. 우리도 그편에 편승하라는 지시가 하달되었습니다. 우리의 임무는 대단히 무겁습니다. 첫째 국내에 진입하는 대로 일본군에게 강제로 징병당한 우리 병사들을 인수하는 것입니다. 둘째 일본군 무기를 접수하는 것입니다. 셋째 국민 자위군을 조직하는 것입니다. 넷째 불순 정치 세력이 작용할 수 없는 분위기를 만드는 것입니다. 다섯째 국내의 애국지사들과 긴밀히 협조하여 임시정부와 광복군이 환국할 수 있는 발판을 마련하는 것입니다. 미군 사절단 임무는 '국내 포로수용소(지금의 서울 신광여자중·고등학교 자리)에 있는 연합국 포로 보호입니다. 지금부터 국내진공작전을 서둘러 주시기 바랍니다" 맨 앞줄 좌로부터 박찬익, 조완구, 김구, 이시영, 차이석. 두 번째 줄 맨 왼쪽 성주식, 김문호, 신정숙, 김붕준. 맨 뒷줄 왼쪽부터 조성환, 조소앙, 지청천, 이범석, 이름 미상. [사진= 위키백과] 1945년 8월 18일 05:00 이범석 장군 등 '광복군 국내정진군'을 태운 미 C46형 항공기가 중국 서안 비행장을 이륙하였다. 하늘은 구름 한 점 없이 맑았다. 하늘과 바다를 구별할 수 없는 벽천(碧天)이었다. 항공기가 갑자기 고도를 낮추기 시작했다. 잔잔하고 파란 바다에 조그마한 섬들이 뚜렷이 보였다. 인천 앞 바다였다. 초시계 바늘은 12:00를 지나고 있었다. 이범석 장군이 붉어진 눈에 손수건을 갖다 댔다. 조국을 떠난 지 만 30년 만에 고국으로 돌아오는 감격의 눈물이었다. 이 장군은 종이에 무엇인가를 열심히 적고 있었다. 보았노라 우리 연해의 섬들을왜놈의 포화 빗발친다 해도비행기 부서지고 이 몸 찢기어도찢긴 몸 이 연해에 떨어지리니물고기 밥이 된들 원통치 않으리우리의 연해 물 마시고 자란 고기들그 물고기 살찌게 될테니... 서해를 건너며 '광복군 국내정진군'은 5분 간격으로 일본군 측에 무전을 타전했다. 그러나 일본군 측은 아무런 회신을 보내지 않았다. 고도를 바짝 낮춘 항공기가 한강을 따라 영등포 상공에 이르렀을 때 일본군 측에서 "여의도에 착륙하라"라는 답전이 왔다. 이때 모습을 장준하는 그가 쓴 '돌베게'에서 다음과 같이 기록했다. "영등포를 지났다. 그러나 또 한 번 선회한다. 아니 두 번, 폭음이 커진다. 여의도 활주로를 향해 허전허전하게 수송기가 꺼지는 듯이 고도를 낮추었다. 일장기를 붙인 수많은 일군 비행기가 기창으로 지나갔다. 중형전차도 보였다. 이제 곧 일본군이 나타나겠구나. 그들의 얼굴을 맞보게 되리라. 주먹이 쥐어졌다. 무기를 쥔 손이 땀에 스몄다. 덜컹하고 활주로에 수송기가 닿았다. 가벼운 진동에 몸이 흔들렸다. 납덩이 속을 밀치고 나가듯이 순간순간이 이어지며 비행기가 앞으로 나아갔다. 프로펠러가 소리를 뿜으면서 기수가 돌려졌다. 어느 한 격납고 앞 광장에서 비행기가 멎었다. 숨이 탁 막혔다. 기체 안의 공기가 갑자기 없어진 듯이 가슴이 답답해 왔다. 이윽고 문이 열렸다. / 변상문 국방국악문화진흥회 이사장   2025-09-22 08:00
사진
李대통령 22~26일 유엔총회 참석 [서울=뉴스핌] 박찬제 기자 = 이재명 대통령이 80차 유엔총회 고위급 회기 참석을 위해 오는 22일부터 26일까지 미국 뉴욕을 방문한다. 이 대통령은 유엔총회 기조연설을 하고 대한민국 대통령으로는 처음 안전보장이사회 토의를 주재한다. 위성락 대통령실 국가안보실장은 19일 오후 용산 대통령실 기자간담회에서 이 대통령의 유엔총회 참석 일정을 밝혔다. 이 대통령은 우선 22일 뉴욕에 도착해 세계경제포럼 의장인 래리 핑크 블랙록 회장을 만나 인공지능(AI)과 에너지 전환에 관한 협력 방안을 논의한다. 이 대통령은 미국 상·하원 의원단을 접견해 한미관계 발전을 위한 의회의 역할도 당부한다. 뉴욕에 거주하는 한인동포 간담회도 한다. 여러 세대에 걸쳐 다양한 분야에서 활동하는 뉴욕 한인 동포들과 자리한다. [워싱턴 로이터=뉴스핌] 이재명 대통령이 25일(현지시간) 미국 워싱턴 D.C. 백악관에서 도널드 트럼프 대통령과 정상회담을 앞두고 인사를 나누고 있다. 2025.08.26 photo@newspim.com 다음 날인 23일에는 유엔총회 고위급 회기 기조연설을 한다. 이 대통령은 190여 개 국가 정상들 중 7번째로 기조연설에 나선다.  위 실장은 "전 세계 정상이 모이는 자리인 만큼 대한민국 대외정책을 천명하는 주요 무대가 될 것"이라며 "민주주의 대한민국 복귀를 선언하고 한반도 정책 등 한국 정부의 외교 비전을 제시하고 인류 평화와 번영을 이뤄나가기 위한 방안을 설명할 것"이라고 말했다. 23일 오후에는 안토니우 구테흐스 유엔 사무총장을 면담하고 글로벌 현안 대응과 관련해 유엔 중심의 다자주의 강화 방안을 논의한다. 한반도 평화 정착을 위한 유엔 총장의 지지도 당부할 예정이다. 저녁에는 미 조야의 오피니언 리더와 만찬을 하면서 한미관계 발전 방안에 대한 제언을 듣고 의견을 나눈다.  뉴욕 방문 사흘째인 24일 오후 3시에는 이 대통령이 한국 대통령으로는 처음으로 유엔 안보리 공개 토의를 주재한다. AI와 국제평화 안보 주제 회의에서 '모두의 AI 기조와 국제사회 평화 안보 공동 대응'에 대한 논의를 주도할 예정이다. 마지막 날인 25일 오전에는 미 금융가 월가와 한국 금융계 인사들이 참여하는 대한민국 서밋 행사에 참석한다. 이 대통령은 글로벌 핵심 투자자들을 만나 한국 정부의 정책을 소개하고 한국에 대한 투자를 요청할 방침이다. 위 실장은 "이 자리를 통해 코리아 디스카운트를 넘어서 '코리아 프리미엄'을 본격적으로 알려 연중 최고가를 경신 중인 한국 증시에도 활력이 돌 것으로 기대한다"고 설명했다.  pcjay@newspim.com 2025-09-19 14:46
기사 번역
결과물 출력을 준비하고 있어요.
기사제목
기사가 번역된 내용입니다.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동