[서울=뉴스핌]박공식 기자 = 미국 연방거래위원회(FTC)가 인공지능(AI) 챗봇이 소비자에 끼칠 부정적 영향을 어떻게 평가, 시험, 감시하는지 관련 정보를 제공할 것을 생성형 AI 기업들에 요구했다고 로이터통신이 현지 시간 11일 보도했다.
정보를 요구한 기업은 알파벳, 메타 플랫폼, 오픈AI, 캐릭터 AI(Character.AI),, 스냅(Snap), 엑스AI(xAI) 등이다.
FTC의 정보 수집은 이들 기업의 수익 창출, 사용자 정보 처리, 사용자 질문에 대한 대응, 챗봇과의 대화에서 취득한 정보의 사용 방법을 파악하기 위한 것이라고 로이터는 전했다.
생성형 AI 기업 중 메타는 챗봇이 어린이들과 애정을 표현하는 대화를 하도록 허용한 내부 정책에 대한 조사를 받고 있다.
메타는 지난 8월 로이터 통신의 관련 보도가 나오고 두 명의 공화당 상원의원이 내부 정책에 대한 의회 차원의 조사를 요구한 뒤 챗봇의 어린이와의 애정 표현을 금지했다고 주장했다.
오픈AI와 샘 올트먼 최고경영자(CEO)는 챗GPT로부터 자살 방법을 배워 아들이 자살했다는 부모로부터 제소당했다.
16세의 아담 레인은 챗GPT와 몇 달 동안 자살에 대해 의논한 후 지난 4월 자살했다.
부모는 오픈AI가 안전보다 이익을 내세워 챗GPT가 10대 자녀에게 자해 방법을 가르쳐 자살하도록 방임했다며 샌프란시스코 주 법원에 오픈AI와 샘 올트만 최고경영자(CEO)를 제소했다.
챗봇이 레인의 자살 결심을 강화하고 치명적 자해 정보를 제공했으며 부모의 양주 보관장에서 알콜을 훔쳐 자살 미수 흔적을 숨기는 방법을 가르쳤다고 주장했다.
알파벳의 구글과 인공지능 스타트업 캐릭터AI도 자살한 14세 남자아이의 부모로부터 제소당했다.
이 사건은 자녀의 정신적 피해를 보호하지못했다는 이유로 AI 기업을 제소한 최초 사례이다. 부모는 자녀가 AI 챗봇에 빠져 자살하게 됐다고 주장했다.
이와 관련 캐릭터AI 대변인은 "소비자 AI 산업과 발전하는 기술에 대한 안목을 갖고 많은 안전 장치들을 강구했다"고 밝혔다.
스냅 대변인은 "생성형 AI의 사려깊은 개발을 지향하는 FTC의 목적에 공감한다"면서 "커뮤니티를 지키고 미국의 혁신을 증진시키는 AI 정책을 위해 FTC와 협력할 것"이라고 말했다.
![]() |
메타 로고 [서울=뉴스핌]박공식 기자 = 2025.09.12 kongsikpark@newspim.com |
kongsikpark@newspim.com