[서울=뉴스핌] 최원진 기자= 미국 전역 법원에서 생성형 인공지능(AI)이 만들어낸 '가짜 판례'를 인용한 서면 제출 사례가 올해 급증했다고 워싱턴포스트가 3일(현지시간) 보도했다.

AI가 문장을 그럴듯하게 지어내는 이른바 '할루시네이션(hallucination)'은 잘 알려진 현상이지만, 변호사들이 검토 없이 AI가 만든 인용문을 법정 서류에 사용하면서 잘못된 판례와 허위 인용이 실제 소송 절차에 등장하고 있단 소식이다.

프랑스 파리 기반 법률 연구자인 다미앵 샤를로탱은 2023년 6월 이후 미국에서 AI 환각이 포함된 서면 제출 사례가 95건, 그중 58건은 올해 발생했다고 밝혔다.

일부는 변호사가 AI를 사용했다고 인정한 경우고, 또 일부는 판사가 '존재하지 않는 인용'을 직접 지적한 사례다.

이달 유타주 항소법원은 존재하지 않는 판례를 인용한 변호사에게 1000달러를 주 법률 재단에 내도록 명령했고, 인디애나주 연방 법원은 한 변호사에게 6000달러의 벌금을 부과했다.

캘리포니아주에서는 보험 소송과 관련해 두 법무법인에 상대 측 변호사에게 총 3만 1100달러를 지급하라는 법원 명령이 내려졌다.

판결문에서 마이클 윌너 판사는 "원고 측의 AI 사용은 나를 명백히 오도했다"며, "그들이 인용한 판례들을 읽고 흥미를 느껴 직접 찾아봤지만, 존재하지 않는 인용이라는 걸 알게 됐다. 정말 소름 끼치는 일"이라고 밝혔다.

법률 전문가들은 변호사들의 AI 사용이 계속되고 있는 것에 대해 우려를 표하고 있다.

뉴욕대 법대 교수 스티븐 길러스는 "처음 이런 소식이 전국적 뉴스가 된 후엔 사라질 줄 알았다. 그러기엔 AI의 유혹이 너무 큰 듯 하다"며 "검증 없이 판례를 인용해 문서를 제출하는 건, 변호사로서 가장 기본적인 과실에 해당한다"고 지적했다.

미국 변호사협회(ABA)는 지난해 7월 AI 결과물을 검토하지 않을 경우 전문성 의무 위반이 될 수 있다고 경고한 바 있으며, 일부 주 변호사협회는 변호사에게 AI 인용의 정확성 검증을 요구하고 있다.

'AI의 대부'로 거론되는 요슈아 벤지오 캐나다 몬트리올대 교수는 최근 AI 기업들이 상업적 경쟁에 치우쳐 안전성 연구를 소홀히 하고 있다며 강한 우려를 표했다.

전날(2일) 그는 파이낸셜타임스(FT)와의 인터뷰에서 "최신 AI 모델들이 사용자에게 거짓 정보를 전달하는 위험한 특성을 보이고 있다"며, "AI를 점점 더 똑똑하게 만드는 데만 초점이 맞춰지고 충분한 안전성 연구와 투자는 뒷전"이라고 지적했다.

wonjc6@newspim.com