전체기사 최신뉴스 GAM
KYD 디데이
사회 교육

속보

더보기

[기고] AI 프로필 알고 보면 위험한 놀이문화

기사입력 : 2023년09월04일 08:27

최종수정 : 2023년09월04일 08:30

하민회 이미지21대표(코가로보틱스 마케팅자문)

"어디서 본 듯한데, 누구 시죠?" 메이크업부터 헤어스타일까지 한참 공들인 스튜디오 사진이구나 싶은데 뭔가 좀 이상하다. 또렷한 윤곽, 훨씬 어려 보이기도 하고 포즈나 시선도 수준급이다. 요즘 SNS에 유행하는 AI 프로필이다. 

사용법도 어렵지 않다. 평소 찍어 두었던 셀카 10~20장을 앱에 업로드하고 커피 두 잔 값 정도만 지불하면 1시간 내에 스튜디오급 사진을 받아볼 수 있다. 작심하고 날 잡아 차려 입고 임하는 스튜디오 촬영 비용이 30~40만원 정도임을 감안하면 시간, 비용 절감은 물론 심리적 부담도 거의 없으니 AI프로필은 만족도가 높을 수밖에 없다.

인스타그램 에서 #ai프로필 해시태그는 2만 8천개를 넘었다. 대표 앱으로 꼽히는 스노우는 두 달 만에 150억 가까운 매출을 올렸다. 한국에서 뿐 아니라 일본, 미국, 태국 등에서도 인기를 끄는 걸 보니 사람 마음 다 비슷한 모양이다. '어쨌든 가장 멋지고 보기 좋은 나를 사진으로 남기고 싶다.' - 비록 내 것인 듯 내 것 아닌 내 사진이라도 말이다.

하민회 이미지21 대표.

하지만 AI 프로필은 엄밀히 프로필 사진이라 보기는 어렵다. 단순 사진 보정과 편집을 넘어 AI가 만들어낸 가상인물이기 때문이다. 우선 사용자의 셀카사진을 데이터로 변환해 측정한다. 이때 인물의 특징을 읽어내고 부수적인 복잡도는 줄인다. 그리고 비슷한 특징을 가진 사람들의 데이터와 묶은 후 기존에 확보된 '멋진' 사진에 사용자 데이터를 입히는 형태다. 최대한 자연스럽고 조화로운 대입이 관건인 일종의 딥 페이크(Deepfake)다.

아무리 마음에 들어도 AI 프로필을 입사지원서 사진으로 제출하거나 주민등록증, 운전면허증, 여권 등의 신분증에 사용해서는 안 된다. 행정안전부 지침에 의하면 신분증 사진은 '6개월 이내 모자 등을 쓰지 않은 상반신 사진'으로 지나친 보정이나 변형으로 인해 당사자 확인이 어려우면 사용이 불가하다. 자신의 것이긴 해도 온전히 자기 사진이 아닌 AI 프로필은 신분증 사진으로 자격에 못 미친다.

AI 프로필이 염려스러운 점은 또 있다. 최근 SNS에서는 AI 프로필을 정체성으로 삼아 보여주는 것이 놀이문화로 자리 잡았다. 불특정 다수에 쉽게 노출되는 만큼 디지털 범죄에 취약할 수밖에 없다. 실제 사진은 아니지만 정체성에 관련되는 만큼 얼굴이나 신체를 성적인 목적 또는 수치심을 유발하는 형태로 편집해 엉뚱한 용도에 활용하거나 교묘하게 합성한 딥 페이크 2차 제작물로 악용될 위험도 있다. 아무 생각없이 올린 내 AI 프로필이 사기계정의 프로필로 버젓이 쓰이고 있다면 얼마나 억울하겠는가?

[사진=카카오브레인]

딥러닝(deep learning)과 가짜를 뜻하는 페이크(fake)의 합성어인 딥 페이크(Deepfake)는 사람들의 얼굴, 목소리, 동작 등을 합성하여 진짜와 구분하기 어려운 가짜 영상, 음성 등을 만들어내는 AI 기술이다. 영화를 비롯한 엔터테인먼트 산업은 물론 교육과 광고, 의료 분야까지 쓸모가 다양하지만 안타깝게도 정치, 사회, 경제 등 다양한 분야에서 사회적 혼란을 가져오고 실제 피해자를 만드는 등 악용의 잠재력 또한 커서 경계해야 할 기술로 꼽힌다.

지난 해 SNS에 게시되어 사람들을 당황시켰던 젤렌스키 우크라이나 대통령이 러시아에 항복을 발표하는 영상, 바이든 미국대통령이 성 소수자를 향해 막말하는 영상, 세계적인 영화배우 엠마 왓슨, 스칼렛 요한슨 등이 출연한 음란 광고 등은 모두 딥 페이크였다.

'저 사람이 대체 왜 저런 말을 하고 저런 행동을 할까?' SNS에 맥락에 맞지 않는 뜬금없는 영상이 돈다면 십중팔구 딥 페이크 영상이다. 세계경제포럼 2021년 보고서에 의하면 딥 페이크 동영상 수는 매년 약 900%씩 증가했다.

딥 페이크가 반드시 부정적 기능만 있는 것은 아니다. 8·15 광복절 기념식에 안중근 의사, 유관순 열사가 생생한 목소리로 나라에 대해 당부하거나 젊은 나이에 세상을 떠난 마이클 잭슨이나 김광석을 영상으로 부활시킨 공연은 팬들에게 큰 선물이 되기도 한다.

아일랜드 코크대 연구진에 의하면 딥 페이크를 이용해 실제 있었던 사건에 가짜 정보를 더하면 사람들은 이를 실제 사건으로 기억하는 경향이 나타난다. 딥 페이크 영상이 사람들의 기억보다 더 쉽게 받아들여지며 영상에 노출된 사람들의 기억에도 영향을 미치기 때문이다.

글로벌 보안 업체 아크로니스는 챗GPT를 비롯해 생성형 AI 기술이 사이버 공격과 악성 콘텐츠를 생성하는 데 사용되는 현상은 'AI가 사기꾼의 능력을 가속화' 하는 것과 같다며 초기부터 전 사회적으로 주의를 기울여야 한다고 경고했다.

AI 프로필로 돌아가 보자. 누군가 나의 AI 프로필을 이용해 딥 페이크 영상을 만들고 음란물 광고에 썼다면 그는 어떤 처벌을 받을까? 결론부터 말하자면 그는 아무런 처벌을 받지 않는다. 현행법상 근거가 없기 때문이다. AI로 만든 산출물은 가상의 인물에 해당되므로 실제 인물을 피해자로 특정하지는 못한다.

훅 들어온 AI 시대, 기술의 발전 속도에 비해 우리의 대비는 여전히 미약하다. 법적 기준과 규제가 준비될 때까지 자기 초상권 보호에 보다 예민해질 필요가 있다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
김계환 오늘 영장심사...위증 혐의 [서울=뉴스핌] 고다연 기자 = '채해병 사건' 수사외압 의혹의 핵심 인물로 꼽히는 김계환 전 해병대 사령관이 오는 22일 중앙지법에서 구속 심사를 받는다. 순직해병 사망사건 관련 의혹을 수사하는 이명현 특별검사팀이 18일 모해위증 등 혐의로 김계환 전 해병대사령관에 대한 구속영장을 청구했다.  순직해병 사망사건 관련 의혹을 수사하는 이명현 특별검사팀이 18일 모해위증 등 혐의로 김계환 전 해병대사령관에 대한 구속영장을 청구했다. 남세진 영장 전담 부장판사가 22일 오전 10시 30분 김 전 사령관의 영장실질심사(구속 전 피의자 심문)을 진행한다. [사진=뉴스핌 DB] 남세진 영장 전담 부장판사가 22일 오전 10시 30분 김 전 사령관의 영장실질심사(구속 전 피의자 심문)을 진행한다. 이번 구속영장 청구는 지난 2일 순직해병특검 출범 이후 첫 신병확보 시도다. 김 전 사령관은 2023년 7∼8월 채상병 순직 사건 당시 초동 조사한 박정훈 전 해병대 수사단장(대령)에게 윗선의 외압이 가해지는 과정에 관여했다는 의혹을 받고 있다. 김 전 사령관은 지난해 2월 군사법원에서 열린 박 대령의 항명 혐의 재판에 증인으로 출석해 이른바 'VIP 격노설'을 박 대령에게 전달한 적 없다고 주장하며, "나 아니면 안 된다는 착각과 영웅심리로 해병대의 역사와 전통을 흔들어선 안 된다"고 박 대령을 비판했다. 앞서 특검팀은 이날 오후 언론 공지를 통해 구속영장 청구 사실을 알리며 "김계환은 채상병 사망 사건 당시 해병대 사령관으로, 해병대 수사단장 박정훈 대령에게 수사기록 이첩 관련 지시를 한 상관"이라며 "특검은 피의자가 죄를 범하였다고 의심할만한 상당한 이유가 있고, 범죄가 중대하며, 증거인멸의 가능성이 크므로 구속수사가 필요하다고 판단하고 있다"고 밝혔다. gdy10@newspim.com 2025-07-18 20:56
사진
'갑질 의혹' 강선우 살린 까닭 [서울=뉴스핌] 이재창 정치전문기자 = 이재명 대통령이 20일 이진숙 교육부 장관 후보자에 대한 지명을 철회하고 강선우 여성가족부 장관 후보자는 살리기로 했다. 장관 후보자들에 대한 도덕성 논란이 심각한 상황에서 낙마자 없이 넘어갈 수는 없다는 판단에 따라 상징적인 낙마자로 이 후보자를 선택한 것이다. 야당이 강력히 요구한 두 명 중 한 명을 낙마시킴으로써 야당의 체면을 세워주는 모양새를 취하는 동시에 독주한다는 부정적 이미지를 피하려 한 것이다. 이 대통령 입장에서는 이 후보자 낙마가 측근인 강 후보자에 비해 부담이 상대적으로 덜했다. 강 후보자가 낙마할 경우 현역 의원 낙마 1호라는 불명예를 안게 돼 의원직을 수행하기도 여의치 않은 상황이었다. 이 후보자 낙마로 강 후보자를 구제한 것이다. [서울=뉴스핌] 이길동 기자 =강선우 여성가족부 장관 후보자가 26일 서울 종로구 수송동에 마련된 마련된 인사청문회 준비 사무실로 출근하며 취재진의 질문에 답하고 있다.2025.06.26 gdlee@newspim.com 이 대통령과 여권 핵심은 지난주 이미 한 명 낙마 쪽으로 가닥을 잡았다. 우상호 정무수석이 "일부 후보자의 경우 청문회 이후에도 논란이 계속돼 여론이 악화하고 있다"고 말했다. 낙마를 사실상 기정사실화한 것이다. 특히 주말 여야 원내대표를 만나 의견을 구한 것은 최소한 한 명의 낙마를 전제로 한 것이었다. 야당 대표까지 만나고 모든 후보자를 밀어붙일 경우 독주한다는 비판을 피하기 어렵기 때문이다.   더불어민주당이 주장한 낙마자 제로는 이 대통령의 결단을 부각하기 위한 전술이었다. '낙마자는 없다'는 여당의 강경론에도 이 대통령이 지명 철회를 요구하는 야당과 민심을 수용하는 모양을 취할 수 있도록 한 것이다. 자진 사퇴가 아니라 지명 철회라는 강수는 야당의 요구를 수용하는 모양을 취한 것이다. [서울=뉴스핌] 정일구 기자 = 이진숙 부총리 겸 교육부 장관 후보자가 16일 오전 서울 여의도 국회 교육위원회에서 열린 인사청문회에서 모두발언을 하고 있다. 2025.07.16 mironj19@newspim.com 관심은 낙마자가 한 명이냐, 아니면 두 명이냐였다. 두 후보자 모두 낙마 1순위였다. 한 명을 살리기 어려울 정도로 막상막하였다. 논문 표절과 자녀 불법 조기 유학 의혹이 불거진 데다 전문성도 결여돼 있다는 지적을 받은 이 후보자의 낙마는 사실상 결정된 상태였다. 여기에 강 후보자까지 포함시킬지 여부가 초미의 관심사였다. 파상 공세를 취하는 야당이 문제가 아니었다. 두 후보자에 대해 진보색이 강한 시민 단체마저 낙마를 요구했다. 여론을 중시하는 이 대통령 입장에서는 곤혹스러운 상황이 아닐 수 없었다. 자칫 지지 세력이 등을 돌릴 수 있어서다. 이런 상황에서 이 후보자 낙마와 강 후보자 구제는 여당 기류에서 그대로 나타났다. 대통령실 주변에서 "이 후보자는 외부에서 추천했다"는 얘기가 흘러나온 것은 낙마자가 나올 경우 1순위는 이 후보자가 될 수 있음을 강하게 시사한 것이다. 낙마하더라도 부담이 덜할 수 있다는 의미로 받아들여진 것이다. 당 분위기는 더 노골적이었다. 강 후보자에 대해서는 입단속이 이뤄진 것으로 알려졌으나 이 후보자에 대해서는 특별한 지침이 없었다고 한다. 이를 반영하듯 강 후보자에 대해서는 지난주 중반까지 여론이 싸늘했지만 그 이후 당 주변에서는 더 이상 얘기가 나오지 않았다. 이 후보자에 대해서는 달랐다. 김상욱 의원에 이어 강득구 의원이 공개적으로 이 후보자를 비판하며 거취를 거론했다. 강 의원은 "연구 윤리 위반, 반민주적 행정 이력, 전문성 부족 등은 결코 가볍게 넘길 수 없는 중대 결격 사유"라고 말했다. 이 후보자 낙마로 분위기를 몰아가는 듯했다.   이 후보자는 논문 표절 문제가 컸지만 이재명 정부가 전면에 내세운 유능함도 보여주지 못한 게 결정적이었다. 여권이 갑질 논란이 심했던 강 후보자를 감싼 논리가 유능함이었다. 청문회 과정에서 유보 통합 등 교육 정책과 관련된 기본적인 사항조차 숙지하지 못해 전문성에 심각한 의구심이 제기됐다. 여당 의원들조차 "어떻게 그런 것도 대답을 하지 못하느냐"는 비판이 나올 정도였다. 우상호 대통령실 정무수석은 이날 오후 용산 대통령실에서 브리핑을 통해 인사청문회를 거쳤지만 임명이 안 된 11명의 장관 후보자 중 지명 철회는 이 후보자 한 명이라는 점을 분명히 해 강 후보자는 임명 절차를 밟을 것임을 시사했다. 강 후보자의 인사청문경과보고서가 채택되지 않은 상태에서 임명을 강행하려면 절차상 국회에 보고서 재송부를 요청해야 하는 만큼 이 대통령은 이른 시일 내에 관련 조치에 나설 것으로 보인다. 이 대통령이 강 후보자를 임명한다고 해도 부담은 남는다. 강 후보자의 사퇴를 요구한 상당수 민주당 보좌진들과 정서적으로 등을 지게 될 수밖에 없다. 강 후보자 사퇴를 요구한 시민단체의 입장도 부담이다. 야당은 여론을 돌리기 위한 파상 공세에 나서고 있다. 강 후보자도 갑질 장관이라는 낙인이 찍힌 상태에서 업무를 제대로 수행할 수 있을지도 의문이다. 향후 여론 추이에 관심이 쏠리는 이유다.    leejc@newspim.com 2025-07-21 06:45
안다쇼핑
Top으로 이동