[서울=뉴스핌] 최원진 기자= 생성형 인공진능(AI) 기업 앤스로픽이 주요 AI 연구소들에 개발 속도를 늦출 것을 촉구하며 AI 시스템이 곧 인간 개입 없이 스스로를 개선하는 단계에 도달할 수 있다고 경고했다고 월스트리트저널(WSJ)이 4일(현지시간) 보도했다.

앤스로픽은 이날 블로그 게시물에서 AI 개발을 늦추거나 일시 중단하는 능력을 갖추는 것이 "세계에 좋은 일이 될 가능성이 높다"고 밝혔다.

앤스로픽 내부 연구소장 마리나 파바로와 공동창업자 잭 클라크가 작성한 이 글은 최신 모델들이 인간의 개입 없이 스스로 능력을 향상시키는 '재귀적 자기개선(recursive self-improvement)' 단계로 향하고 있다고 밝혔다.

클라크는 지난달 영국 런던에서 한 강연에서도 "이런 종류의 기술은 지금까지 존재한 적이 없었는데 앞으로 2년 안에, 어쩌면 더 빨리 일어날 수 있다고 본다"고 경고하기도 했다. 

앤스로픽은 전 세계적 합의를 통한 개발 속도 조절과 경쟁사들이 이를 준수하는지 검증하는 메커니즘 마련을 제안했다. 다만 핵무기 조약에 비유하면서도 AI는 "훈련 실행이 미사일 격납고보다 훨씬 숨기기 쉽다"며 검증의 어려움을 인정했다.

이 게시물은 기업 가치가 약 1조 달러로 평가된 앤스로픽이 최근 기업공개(IPO) 준비 서류를 비공개로 제출한 직후 나왔다. 앤스로픽의 연간 환산 매출은 이달 말 500억 달러에 달할 것으로 전망된다. 지난해 말 90억 달러에서 급성장한 수치다.

그러나 일각에서는 자사 AI 모델의 위험성을 경고하는 것이 제품 역량을 홍보하는 마케팅 수단이라는 지적도 나온다. 메타의 전 AI 수석 과학자인 얀 르쿤은 현재의 대형언어모델(LLM) 기반 AI는 인간 수준의 지능에 결코 도달하지 못할 것이라고 주장한다. 

앤스로픽은 앞으로 수개월간 정책 입안자·연구자 등과 논의를 조직해 재귀적 자기개선과 검증 시스템에 관한 질문들을 함께 풀어나갈 계획이라고 밝혔다.

wonjc6@newspim.com