이 기사는 9월 14일 오후 3시52분 '해외 주식 투자의 도우미' GAM(Global Asset Management)에 출고된 프리미엄 기사입니다. GAM에서 회원 가입을 하면 9000여 해외 종목의 프리미엄 기사를 보실 수 있습니다.

[서울=뉴스핌] 이홍규 기자 = 앤스로픽의 다리오 아모데이 최고경영자(CEO)가 지난주 12일 내놓은 인공지능(AI) 개발 감속론에 오픈AI의 샘 올트먼 CEO와 xAI 모회사 스페이스X의 일론 머스크 CEO가 잇달아 동조했다. 경쟁 관계인 3사 수장이 최상위 모델의 성능 개선 속도를 늦추자는 데 공개적으로 뜻을 같이한 것은 처음이다. 다만 업계의 시선은 감속 선언에 붙은 조건에 쏠린다. 아모데이 CEO의 제안이 자발적 제동에 머물지 않고 정부 규제 요구와 한 묶음으로 제시됐다는 점에서다.

업계에서는 규제를 동반한 감속은 개방형 모델과 후발 주자의 진입로를 좁히기 위함이라는 비판이 나온다. 지난달 오픈AI·앤스로픽의 개방형 제한 로비가 '사다리 걷어차기' 논란을 부른 데 이어 같은 구도가 감속론을 매개로 되풀이된 양상이다. 3사만 속도를 늦추면 개방형이 격차를 좁히는 결과만 남는 만큼 개방형까지 같은 규제에 묶어야 감속이 성립한다는 셈법이 규제 요구의 배경으로 지목된다.

◆3단계안과 부속 조치

아모데이 CEO의 에세이 '우리는 프론티어(최상위 성능 모델)의 속도를 조절해야 한다'는 3단계 구조로 짜여있다. 1단계는 앤스로픽이 단독 이행을 약속한 조치로 제3자 평가 기관에 내부 위험평가팀에 준하는 상시 접근권과 평가 결과 공개권을 준다. 같은 의무를 다른 개발사에도 지우도록 정부에 요구하는 내용이 함께 붙어 있다. 2단계는 미국 최상위 모델 개발사 전체에 대한 정부 규제를 기본으로 삼되 입법 지연에 대비해 개발사 간 자발적 기준 마련을 병행하는 내용이고 3단계는 국제 공조다. 앤스로픽이 스스로 지는 부담은 평가자 수용에 그친다.

2단계에 함께 담긴 부속 조치들이 개방형 진영을 자극했다. 아모데이 CEO는 중국과의 격차 이상으로 감속하면 안보 위험이 생긴다며 반도체 수출통제 강화와 무단 증류(한 모델의 출력으로 다른 모델을 훈련하는 기법) 단속, 가중치(모델이 학습한 결과를 담은 핵심 수치) 도난 방지를 요구했다. 표적은 중국이지만 다른 모델의 출력을 훈련에 활용하는 증류가 널리 쓰이는 개방형 생태계에서는 무단 증류의 규제 범위를 넓게 잡을 경우 통상적인 모델 개발 기법까지 제한될 수 있다는 것이 개방형 진영의 우려다.

◆개방형 추격과 감속 딜레마

감속 주장의 '저의'를 따지기에 앞서 살펴야 할 것은 규제를 동반한 감속 주장이 나온 배경이다. 개방형의 추격 속도가 아모데이 CEO에게 규제 없는 감속을 허용하지 않는다. AI 모델 이용 중개 플랫폼 오픈라우터에 따르면 미국 이용자가 요청한 토큰 처리량 가운데 개방형 비중은 작년 9월 26%에서 지난달 60%로 높아졌다. 유럽연합 이용자의 개방형 비중도 같은 기간 16%에서 65%로 상승했다. 가성비로 시장을 파고드는 개방형 모델 앞에서 3사만의 감속은 점유율 양보와 다르지 않다.

폐쇄형 3사만 속도를 줄이면 개방형과의 성능 격차가 좁혀지는 시간만 짧아진다. 기술 우위로 높은 기업가치를 떠받치는 회사가 스스로 감속을 선언하는 것은 자기 약화에 가깝다. 에세이에는 자기 약화를 피하는 장치가 들어 있다. 아모데이 CEO는 훈련 중단이 아니라 안전 검증 시간 확보가 목적이라고 했다. 감속 대상은 외부 공개 모델의 역량 향상 속도이고 내부 연구는 제약에서 비켜난다. 폐쇄형은 공개 시점만 조절하면 되지만 공개 자체가 사업 방식인 개방형은 공개를 늦추면 남는 것이 없다.

규제를 동반한 감속이 개방형에 지우는 부담은 준수 조건에서 한층 커진다. 아모데이 CEO가 제시한 제3자 평가자 상주 방식은 모델을 자사 서버에 두고 API로 제공하는 구조에서만 작동한다. 누가 쓰는지 확인하고 위험한 사용을 감시하며 접근을 차단하고 문제 모델을 서비스에서 내리는 일은 서버를 통제하는 개발사만 할 수 있다. 가중치를 공개한 개발사는 수정·재배포된 복사본을 회수할 방법이 없다. 해당 조건이 강제되면 개방형은 결국 존재 방식 자체가 문제가 될 수 있는 셈이다.

◆진입장벽 논란과 '규제 포획' 공방

앤스로픽이 6월 내놓은 규제 프레임워크의 적용 기준도 논란이다. 훈련 연산량이 10의 25제곱 플롭을 초과하고 연간 AI 매출 5억달러 또는 연구개발비 10억달러가 넘는 기업을 대상으로 삼는다. 소규모 개발사는 면제되는 구조지만 문제는 기준선을 넘는 순간부터다. 문턱을 넘자마자 비용과 기간을 가늠하기 어려운 승인 절차에 들어가야 한다면 투자자와 창업자로서는 문턱 아래 머무는 편이 합리적 선택이 된다. 소규모로 남는 것은 허용하되 대형사로 성장하는 길은 막는 면제 조치가 된다.

백악관에서 감속론을 공개 비판한 인사는 데이비드 색스 대통령 과학기술 자문 공동의장이다. 색스 공동의장은 감속 선언 다음 날인 13일 소셜미디어 엑스(X)에서 "다리오가 프론티어 속도를 조절하자고 썼고 샘이 동의했다. 그렇게 해라. 당신들이 프론티어다"고 했다. 두 회사가 점유율·매출·성능 어느 기준으로 봐도 최상위 모델 시장을 사실상 둘이 나눠 갖고 있으니 남을 규제할 것 없이 스스로 늦추면 된다는 논리다. 감속의 대가로 원하는 규제 틀을 얻으려는 시도는 규제 포획(규제가 기존 강자의 이익 보호 수단으로 변질되는 것)에 해당한다고 했다.

색스 공동의장의 규제 포획 비판은 지난달 아모데이 CEO와의 엑스 공방에서 이미 구체화된 바 있다. 당시 그는 앤스로픽이 요구하는 사전 심사 체제를 'AI를 위한 차량국(DMV)'에 빗댔다. 모델을 내놓을 때마다 정부 시험과 승인을 기다려야 한다면 대응 인력과 자금을 갖춘 대형사만 대기열을 견디고 후발 주자는 출시 자체가 늦어진다는 논리다. 안전을 명분으로 한 심사 요건이 기존 강자에게 유리한 경쟁 규칙으로 굳어진다는 지적이 감속론에서도 되풀이된 셈이다.

◆반독점 면제 요청 문턱

규제 포획 논란과 별개로 규제를 동반한 감속은 현행법의 문턱부터 넘어야 한다. 와이어드에 따르면 오픈AI는 최근 수주간 의회 의원들에게 업계 차원의 감속 조율이 합법인지 지침을 요청했다. 경쟁사 간 개발 속도 합의는 일종의 생산량 제한에 해당해 반독점법 위반 소지가 있다는 것이 법조계 일각의 해석이다. 7월 초당파 의원들이 안전·보안 협력에 반독점 예외를 두는 법안을 발의했으나 하원 법사위원회에 계류 중이다. 아모데이 CEO의 반독점 면제 요청은 현행법 아래 조율이 자동으로 합법이 아니라는 점을 인정한 것이기도 하다.

법적 문턱을 넘더라도 실행 시점은 정해지지 않았다. 포브스는 에세이가 제3자 평가자 도입 시한을 명시하지 않은 점을 짚었다. 아모데이 CEO가 요청한 반독점 면제도 정부가 받아들일 의무가 없어 거부되면 2단계는 시작조차 어렵다. 반독점법을 거론하는 것 자체가 두 회사의 협력 회피를 가리기 위한 구실이라는 시각도 있다. 면제가 나올 가능성이 낮다는 점을 알고 요청한 것이라면 감속은 처음부터 이행 의사 없이 내건 조건부 약속에 가깝다. 공동 제안서조차 만들지 않은 채 규제 요청부터 앞세운 순서가 의심의 근거로 언급된다.

◆백악관 입장과 개방형 반응

앤스로픽의 규제 요청은 지난달 백악관이 한 번 거절한 내용과 같다. 백악관이 지난달 확정한 자발적 AI 심사 틀은 대상을 폐쇄형 최상위 모델로 한정했다. 개방·폐쇄를 가리지 않는 시험을 요구했던 앤스로픽으로서는 폐쇄형 최상위 모델만 심사받고 개방형은 빠지는 결과가 됐다. 에세이에서 거론된 2단계가 정부에 요구하는 것은 모든 최상위 모델 개발사에 같은 기준을 강제하라는 내용이다. 폐쇄형에 그친 심사 대상을 개방형까지 넓혀 달라는 요구를 감속론의 이름으로 다시 낸 셈이다.

개방형 진영의 대응은 규제 확대 요구를 맞받아치는 형태로 나왔다. 오픈소스 개발자 제이크 골드는 공개서한에서 "진심이라면 가중치를 공개하라"고 했다. 개방형을 심사 대상에 넣자는 요구에 폐쇄형도 가중치를 공개해 외부 검증을 받으라고 맞선 것이다. 개방형 모델 공유 플랫폼 허깅페이스의 클렘 들랑그 CEO도 감속 자체에는 동의했지만 규제 대상 확대에 대한 찬반은 명시하지 않았다. 감속의 필요성은 인정하더라도 감속의 조건을 폐쇄형 진영이 정하는 구도는 받아들이지 않겠다는 것이 개방형 진영의 입장으로 읽힌다.

◆IPO 시기와 겹친 감속론

감속론의 저의를 둘러싼 근본적 물음은 왜 지금이냐에 있다. 최상위 모델 개발사들은 이전 세대 훈련 비용을 회수하기 전에 다음 세대에 더 큰 자본을 투입하기를 거듭해 왔다. 로이터통신에 따르면 오픈AI의 GPT-6 아스트라는 내부 다량 사용 직원 기준 하루 7000달러어치 토큰이 소모된다고 한다. 기술 투자자 마틴 바르사브스키는 엑스에서 "[3사가 다른 건 몰라도] 서로 벌이는 경주가 모두를 파산시킬 수 있다는 데는 동의할 것"이라고 썼다. 감속 합의의 실제 동기가 안전이 아니라 비용에 있다는 지적이다.

감속 선언과 상장 절차 연기가 비슷한 시점에 나온 점은 의심을 뒷받침하는 정황이다. 앤스로픽은 지난주 예정됐던 증권신고서(S-1) 공개를 이달 늦은 시점으로 미뤘고 올트먼 CEO는 12일 연내 상장 배제 의사를 밝혔다. AI 연구자 엘리 데이비드는 엑스에서 "S-1이 손실 규모를 드러낼 것이므로 훈련 비용을 줄여 수익성 경로를 보여야 한다"고 했다. 상장을 앞둔 회사로서는 손실을 줄일 방법을 투자자에게 보여야 하는데 훈련 비용 절감이 가장 확실한 수단이고 안전을 이유로 감속하면 비용 절감이라는 속내를 드러내지 않고도 같은 효과를 얻을 수 있다는 것이다.

bernard0202@newspim.com