[서울=뉴스핌] 박우진 기자 = 인공지능(AI) 기술의 발달로 지인이나 제3자가 개인 사진을 악용해 가짜 이미지나 영상을 만드는 '딥페이크' 범죄가 잇따르자, 경찰이 민간과 손잡고 예방 기술을 선보였다.

경찰청은 지난 2일부터 오는 30일까지 사이버범죄 신고시스템 홈페이지에서 국민 누구나 이용할 수 있는 '딥페이크 예방 서비스'를 한시적으로 제공한다고 3일 밝혔다.

기자가 직접 경찰청 사이버범죄 신고시스템에 접속해 '딥페이크 예방 서비스'를 이용해보니 온라인상에서 사진을 업로드를 할 줄 알면 국민 누구나 쉽게 이용할 수 있을 정도로 절차는 간단했다.

신고시스템 홈페이지 접속 후 팝업창을 클릭하자 전용 프로그램으로 연결됐다. 준비한 사진(최대 8MB)을 업로드하자 '테스트 결과를 생성하고 있습니다'라는 문구가 떴다. 고해상도 사진도 딥페이크 보호 기능이 갖춰진 사진이 나오기까지는 30초 밖에 안 걸렸다.

생성된 사진은 육안으로는 원본과 차이가 없었다. 화질이 떨어지는 현상도 없었다. 하지만 원본과 같은 이 사진에는 미세한 노이즈가 주입됐다. 

효과는 확실했다. 보호 처리된 사진을 딥페이크 기술에 적용하니 AI가 얼굴 특징을 잡아내지 못했다. 결과물은 심하게 왜곡됐다. 합성된 얼굴에 모자이크가 자동으로 생기거나 색이 번져 얼굴을 알아볼 수가 없었다.

홈페이지에는 보호 기능이 갖춰진 이미지를 딥페이크 기술에 적용할 경우 어떤 결과가 나오는지도 볼 수 있다. 

이 기술은 국내 최초로 카이스트(KAIST) 사이버보안 연구센터와 디지털 범죄 대응 전문 기업 라바웨이브가 공동 개발했다. 현 기술 단계로는 일반적인 수준 딥페이크 기술 적용을 차단할 수 있다. 다만 초기 단계 기술이어서 제미나이(Gemini), 챗지피티(Chat GPT) 등 최신 생성형 인공지능(AI) 모델을 이용하면 딥페이크 차단에는 한계가 있다.

이에 경찰청은 민간과 협력해 최신 AI 모델에도 적용 가능한 고도화 작업을 이어간다는 계획이다. 경찰은 사이버범죄 예방 수칙 전파와 함께 사이버성폭력, 사이버도박, 허위정보 관련 범죄도 집중 단속한다.

경찰 관계자는 "사이버범죄 예방을 위해 수상한 인터넷 주소(URL)와 도박사이트에 접속하지 말아야 한다"며 "가짜영상(딥페이크) 등 불법성영상물은 소지, 구입, 시청도 범죄가 될 수 있다"고 강조했다.

krawjp@newspim.com