[서울=뉴스핌]박공식 기자 = 오픈AI가 인공지능(AI)을 이용한 중국의 감시 툴을 적발했다고 뉴욕타임스(NYT)가 24일 보도했다.
오픈AI 연구진은 중국 요원들이 감시툴을 심어놓고 서방국가의 소셜미디어 서비스에 게재된 반중국 게시물 정보를 실시간 수집했다고 밝혔다.
작업자가 오픈AI 기술을 이용해 컴퓨터 코드 일부를 디버그하는 "동료 평가(Peer Review)"로 불리는 이 감시활동을 적발했다고 설명했다.
오픈AI 수석조사관 벤 니모는 "위협을 가한 자들이 우리의 AI 모델을 사용하는 방식에 근거해 인터넷의 다른 부분에서 그들이 하는 행동을 우리가 들여다 볼 수 있었다"고 말했다. 이런 종류의 AI 이용 감시 툴 적발은 처음이라고 했다.
AI가 감시, 컴퓨터 해킹, 가짜 정보 유포 기타 악의적 목적을 갖고 하는 행동에 사용될 수 있다는 우려가 커지고 있다. 니모 등 연구자들은 AI가 그런 행동을 가능하게 만들지만 동시에 그런 행동을 찾아 중단시킬수 있다고 말했다.
오픈AI 팀은 중국의 감시 툴이 메타의 AI 기술인 라마에 기반을 두고 있다고 말했다. 이는 전 세계 소프트웨어 개발자들과 작업을 공유한다는 의미다.
오픈 AI는 AI 사용에 대한 보고서에서 "스폰서가 있는 불만(Sponsored Discontent)"이라 불리는 별도의 중국 활동도 적발했다고 밝혔다. 이것은 오픈AI 기술을 이용해 중국의 반체제 인사들을 비판하는 영어 게시물을 만든다.
이 활동을 벌인 그룹은 오픈AI 기술을 이용해 게시물을 스페인어로 번역해 남미에 이를 배포했다. 이 게시물들은 미국 사회와 정치를 비판하고 있다.
이밖에 캄보디아에 근거지를 둔 것으로 보이는 다른 부정적 활동도 적발했다. '돼지도살(pig butchering)'이라는 스캠을 퍼뜨리는 소셜미디어 게시물을 작성하거나 번역하는 데 오픈AI의 기술이 사용된 것. AI가 만든 게시물은 인터넷에서 남성 상대로 투자 사기 행각을 벌이는 데 악용됐다.
kongsikpark@newspim.com
