"내 사진도 내 마음대로 못 올린다니! 너무 불편한 세상 아니니?"

SNS가 온통 셀피였던 친구가 꽃 사진으로 갈아탔다. 이유를 물었더니 딥 페이크 때문에 조심하는 거란다. 편의성 최고인 AI 기술이 자기 표현의 즐거움에 불편을 준다 하니 아이러니다.

자세히 보면 어딘가 어색했던 딥 페이크 기술은 나날이 놀랍게 진화하고 있다. 2024년 이후 영상과 음성 품질이 현저하게 향상된 딥 페이크는 실시간으로 합성 영상을 생성할 수 있는 수준에 이르렀다. 심지어 얼굴에 혈류 흐름을 재현해 영상 속 인물의 얼굴에 심장박동 징후가 나타나게 만들 정도다.

하민회 이미지21 대표.

딥 페이크 기술은 실제와 구분이 거의 안되는 영상과 음성으로 엔터테인먼트, 의료, 문화 분야에선 유용하게 활용되고 있는 반면 화상통화 사기, 플랫폼에서의 특정인 사칭 등의 각종 범죄에도 악용되고 있다.

딥 페이크 도구가 온라인에서 쉽게 접근이 가능해 일반인도 가짜 콘텐츠를 만들기 쉬워진 만큼 탐지 및 방지기술 역시 빠르게 발전 중이다. 픽셀 단위의 질감, 사람 눈에는 보이지 않지만 흔적으로는 남는 패턴의 불균형, 호흡 주기, 미세한 프레임 간 일관성의 불일치 등을 분석해 합성 여부를 찾아내는 기술까지 동원되고 있다.

최근 LG 유플러스는 스마트폰으로 걸려온 전화 목소리가 AI로 위, 변조한 딥 보이스인지 여부를 식별해 고객에게 알려주는 서비스를 시작했다. AI 엔진에 3000시간, 약 200만 건 분량의 통화 데이터를 학습시켜 위조된 목소리의 부자연스러운 발음이나 음성 주파수의 비정상 패턴을 탐지한다.

AI로 AI를 잡는, AI기술의 위협을 AI기술로 대응하는 시대가 왔다. 어떤 방패도 뚫을 수 있는 창과 어떤 창도 막을 수 있는 모순의 시대를 사는 셈이다.

[사진=게티이미지뱅크]

우리가 남긴 말, 사진, 위치, 관심사, 클릭 한 번이 고스란히 AI의 훈련 데이터가 되고, 그것은 다시 정교한 사기 수단으로 되돌아올 수 있다는 점에서 AI 보안에 대한 인식 전환이 시급하다. AI 보안은 더 이상 전문가의 영역이 아니다. 조직이나 기업의 책임이 아닌 개개인이 스스로 준비해야 할 일상의 영역이다.

그렇다면 개인은 어떤 의식과 태도를 가져야 할까?

첫째는 '내 데이터에 대한 주체의식'이다. 아무 생각 없이 개인정보를 입력하고 또렷한 얼굴 사진을 업로드하고 항공권이나 영수증 사진을 공개하는 일은 더 이상 안전하지 않다. SNS로 인해 열린 프라이버시가 일상화되었지만 자칫 정보 공유가 아닌 디지털 복제의 대상이 될 수 있다.

걸려온 전화에 의심 없이 이름, 주소 등 개인정보를 답하는 것도 삼가는 것이 바람직하다. 새로운 AI앱을 사용하고자 할 때는 귀찮더라도 반드시 개인정보 처리 방침과 데이터 수집·보관 정책을 확인하는 것이 좋다. 과도한 정보 활용이 꺼림칙하면 사용하지 않는 것이 현명하다.

AI시대에는 내 정보가 어떻게 쓰일 수 있을지 그 과정을 한 번쯤 상상해 보고 자신의 정보는 스스로 보호한다는 의식을 갖는 것이 필요하다.

둘째는 'AI 콘텐츠를 판단하는 눈'을 길러야 한다. AI가 내놓은 결과이니 무조건 옳거나 믿을 만하다는 생각은 위험하다. 2023년 철회된 과학논문이 1만건을 넘어서는데 그 상당수가 AI가 생성한 결과를 그대로 사용한 것이라 한다. 까다로운 과학계조차 이런 상황이니 일상에서의 AI 컨텐츠에 대한 무분별한 신뢰와 사용은 필경 그 이상일 것이다. 문자, 이메일, 전화 등 모든 접근에 대해 경계하고 일단 의심하는 태도를 갖는 것이 현명하다. AI가 만든 콘텐츠 일수록 더 그럴 듯해 보인다. 온라인 상에서 사람이 아닌 AI가 생성한 콘텐츠를 구별하는 눈을 갖도록 훈련하는 것도 유익한 습관이다.

유튜브 로고 [사진=로이터 뉴스핌]

셋째는 'AI에 대한 충분한 이해' 가 필요하다. AI의 답은 '가능성이 높은 예측'이지 '정답'이라 보기 어렵다. 알고리즘에 의해 조작이나 편향이 가능하다는 점을 염두에 두고 ''이 결과는 어떤 데이터와 알고리즘에 의해 만들어졌을까?'' 하는 비판적인 관점에서 사고하는 훈련을 하는 것이 좋다.  결국 모든 판단은 인간의 몫이기 때문이다.

의식과 태도는 행동으로 연결될 때 의미가 있다. 다양한 기관에서 공통적으로 꼽는 AI시대 보안 실천 사항은 다음과 같다.

▲SNS에 고해상도 얼굴 사진, 자녀 사진, 사적인 공간 등을 공개하지 않거나 최소화한다. ▲챗봇 이나 AI 비서에게 민감정보(주민번호, 금융 정보, 주소 등)를 입력하지 않는다 ▲ AI 서비스 설정에서 '데이터 학습 동의', '기록 저장' 옵션을 주기적으로 점검한다 ▲ 영상 통화 시에는 – 특히 직접 만나지 못한 대상일 때는 상대방의 신원을 이중 확인한다 ▲ 업무 시 AI에 외부반출이 허용되지 않은 자료, 의사결정이 완료되지 사항, 공표되지 않은 정보 등은 절대로 입력하지 않는다 ▲ AI의 답변은 검증 없이 사용하지 않는다.

내가 제공하지 않은 정보도 내가 만든 컨텐츠를 통해 유출될 수 있다. 거의 모든 데이터가 기록되고 훈련에 활용되는 AI 시대, 올바른 보안의식은 디지털 시민성이자 생존 역량이다.

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등