"살이 너무 많이 빠져서 3~4kg 빼려는 분들에게는 권하지 않습니다."

"우리 아들 키가 석 달 만에 163cm에서 183cm가 되었어요"

유튜브에서 자주 보는 건강관련 광고의 카피들이다. 하나 같이 극적인 변화를 강조한다. 한 달에 체중이 10kg 넘게 빠지고 키가 서너 달 만에 20cm가량 커진다. 노안이 한 달 만에 뚝딱 좋아진다.

이렇게 제품을 소개하는 사람은 어디선가 본 듯한 인상 좋은 의사, 대학교수, 약사들로 AI가 생성해 낸 가상인물이다. 요즘 문제가 심각한 딥페이크 광고다.

조선일보가 분석한 바에 의하면 영양제 업체 3곳이 인스타그램·페이스북·유튜브에 올린 건강 관련 광고 3731건 중 695건(18.6%)이 AI로 생성된 가짜 의사의 광고였다.

하민회 이미지21 대표.

그 동안 유명인의 얼굴과 목소리를 합성한 딥페이크 광고는 투자, 정치, 성적 콘텐츠 등 다양한 분야에 퍼지고 있었지만 최근 들어 건강, 의료 영역에서 그 심각성이 더해지고 있다.

얼굴 음성 합성모델과 앱이 대중화되어 몇 분 이면 딥페이크 광고영상을 만들 수 있는데다 기술이 나날이 고도화되어 눈 여겨 보지 않으면 딥페이크임을 알아채기조차 힘들 정도이기 때문이다.

건강과 의료 영역이 본질적으로 생명과 직결되는 만큼 내과의사 16년차, 의대 교수 32년차 등의 그럴듯한 타이틀을 앞세운 딥페이크 광고는 투자손실이나 일시적 금전피해와 달리 약물 부작용, 허위 치료 등으로 인한 치명적인 결과를 낳을 수도 있다.

인터넷 커뮤니티에는 전문가가 보장한 제품이라 구매했는데 약국에서는 성분이 확인되지 않아 위험하니 복용을 삼가라고 하거나 의사로부터 약효가 검증되지 않은 제품이라는 말을 들었다는 후기가 연달아 올라오고 있다.

그렇다면 이렇게 소비자가 딥페이크 광고에 쉽게 낚이는 건 단지 정교한 AI 기술 탓일까? 

유튜브 로고 [사진=로이터 뉴스핌]

딥페이크는 광고의 전형적인 설계원리에 심리적 인지적 취약성을 공략하는 기법까지 기술로 담았다. 특히 하루에도 수 십, 수 백개 광고를 접하게 되는 유튜브와 같은 플랫폼에서 소비자는 모든 광고를 꼼꼼히 검증할 여력이 없어진다. 인지적 과부하가 걸리는 셈이다. 딥페이크 광고는 스쳐가는 시간에 강력한 메시지를 흘려 인지적 단축키를 누르게 만든다.

딥페이크 광고는 모든 연령을 노리지만, 특히 고령층이 취약하다. 디지털과 AI리터러시에 약해 합성기술을 잘 구분하지 못할 뿐 더러 시력도 좋지 않아 쉽게 속는다.

병원 치료비가 부담스러운 만성질환자나 저소득층도 '저렴한 대체 치료제'라는 개념에 혹하기 쉽다. 다이어트, 뷰티 관련 제품 역시 인플루언서 딥페이크로 일단 눈길을 끌고 본다.

본디 인간은 눈과 귀로 직접 확인한 것을 믿는 경향이 있다. 딥페이크는 '내가 직접 (영상으로) 전문가의 설명을 보고 들었으니 사실'이라고 착각하게 만든다.

더구나 대부분의 딥페이크는 유명인과 닮은 외모와 비슷한 목소리를 하고 있어 어디선가 본 듯한 친근한 인상을 준다. 여기에 OO대학 의학박사팀, 13년차 비만전문의, 정형외과 21년차 등의 권위 효과가 얹히면 막연한 믿음을 가지기 쉽다.

애플 로고 [사진=블룸버그통신]

딥페이크 광고는 몇 가지 전형적 문구 패턴을 반복해 소비자를 현혹한다.

"효과 없으면 전 재산 드립니다."  "국제 인증을 받은 유일한 솔루션입니다." 딥페이크 영상은 하나 같이 확실성을 보장한다. 사람은 불안한 상황에서는 터무니없는 말조차 자신 있게 지르면 믿게 된다. 딥페이크 광고는 짧은 시간, 소비자의 간절함을 이용해 판단력을 흐리게 만든다.

여기에 긴급성과 한정성으로 압박을 더 한다. "한정 물량 선착순 100명 " "오늘 자정 까지만 " 등으로 충동적 결정을 자극한다.

"마지막 치료법" "시도도 안해보면 결국 후회만 남아요" 같은 희망과 공포심을 자극하는 표현도 서슴치 않으며 소비자의 감정을 출렁이게 한다.

세상의 어떤 의사도 100% 효과나 치유를 장담하지 않는다. 영상 품질이 아무리 정교해도, 멘트 속에 과도한 보장과 조급한 압박이 보인다면 머리 속 경고등을 켜야 한다.

믿기 어려운 신속한 효과와 불가능에 가까운 효능에 대한 호언장담 그리고 시간적 절박함은 딥페이크 광고에 숨겨진 특징이다. 솔깃해도 이 세 가지가 보이면 일단 건너뛰는 게 안전하다.

이성적으로 하나하나 따져보면 아무도 속지 않을 것 같지만 딥페이크 광고를 믿고 제품을 구매하거나 생활 습관을 변경한 환자들이 소화불량, 탈모, 영양불균형, 불안, 우울감 같은 부작용 및 금전 손실을 호소한 사례가 늘고 있다.

식품표시광고법 시행령에 의하면 의사, 한의사 등 의료인은 제품의 기능성을 보증하거나 제품을 추천·사용한다는 광고를 할 수 없다. 하지만 AI로 생성한 가상 의사에 대한 제재 규정은 아직 없다.  'AI로 생성한 영상'이란 문구를 영상에 의무적으로 표기해야 하는 AI 기본법은 내년 1월에나 시행된다. 아직 세부 하위 법령이 공개되지 않은 데다, 소셜미디어 업체들이 AI 생성 표기 의무화를 반대하고 있어 어디까지 규제가 이뤄질지 불분명한 상태다.

디자인 급변의 마지막 사례인 아이폰12 [사진=블룸버그]

단 AI 생성 영상도 식품표시광고법 상 규제는 받는다. 식약처는 불법 허위, 과대광고 적발 시 방송통신심의위원회에 접속 차단 및 관할 기관의 행정 처분을 요청한다. 최대 10년 이하 징역 또는 1억원 이하 벌금에 처할 수 있다.

딥페이크 광고로 인한 피해는 단순히 개인의 피해와 손실을 넘어 사회 전반의 신뢰 붕괴로 이어질 수 있다. AI 전반에 대한 불신이 높아지고 광고 자체가 거짓이라는 부정적 인식이 팽배해지면 광고 산업도 흔들리게 된다. 피해자 보호, 의료비, 수사, 재판 등의 사회적 비용도 증가하게 된다.

눈부시게 발전한 AI 기술을 남을 속이고 쉽게 돈 버는 수단으로 쓰는 인간의 탐욕 앞에서 새삼 씁쓸함이 느껴진다. 하긴 병원에 와서 의사가 하는 말이 AI가 하는 말과 다르다며 따지는 환자가 늘고 있다고 하니 AI가 혜택 못지 않게 가져올 사회적 혼란을 준비하는 것이 급선무 인 듯싶다.  

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등