이 기사는 8월 18일 오후 3시47분 '해외 주식 투자의 도우미' GAM(Global Asset Management)에 출고된 프리미엄 기사입니다. GAM에서 회원 가입을 하면 9000여 해외 종목의 프리미엄 기사를 보실 수 있습니다.

<[AI 진영 전쟁] ②키미K3 쇼크...중국 개방형 공습에 미국 우위론 '흔들'>에서 이어짐

[서울=뉴스핌] 이홍규 기자 = 미국 폐쇄형 인공지능(AI) 진영이 개방형 모델을 겨냥해 펴 온 안보 논리가 되레 역풍에 직면했다. 개방형 모델의 보안 위험 자체는 대체로 인정되는 분위기지만 위험론이 규제 요구로 번진 시점이 문제 시됐다. 중국 문샷AI의 '키미K3'가 폐쇄형의 성능 프리미엄을 위협하기 시작한 지난달부터 오픈AI와 앤스로픽이 개방형 위험론을 구체적인 규제 요구로 연결하자 경쟁 제한의 근거로 쓰이는 것 아니냐는 의심이 커졌다.

의심은 공개 공방으로 번진 상태다. 두 회사의 규제 요구가 안보를 명분으로 후발 주자의 진입로를 막으려는 이른바 '사다리 걷어차기'라는 비판이 백악관 자문 인사 사이에서 나왔고 엔비디아·메타·마이크로소프트 등 업계 대다수가 개방형 제한 반대로 결집했다. 규제의 실제 향방도 두 회사의 기대와 어긋났다. 백악관이 이달 확정한 심사 틀에 당장 오른 대상은 위험하다고 지목된 개방형이 아니라 지목한 쪽인 폐쇄형이다.

◆공개 지지 뒤의 물밑 행보

두 회사가 당국을 상대로 벌여 온 물밑 움직임의 실체는 지난달 하순 뉴욕타임스(NYT)의 보도로 구체화됐다. NYT는 복수의 관계자를 인용해 오픈AI와 앤스로픽이 규제 당국을 상대로 개방형 모델 제한을 촉구해 왔다고 전했다. 보도대로라면 샘 올트먼 오픈AI 최고경영자(CEO)가 공개 석상에서 개방형 지지를 표명해 온 것과 어긋나는 행보가 된다. 두 회사가 내세운 명분은 중국 업체들이 증류(한 모델의 출력으로 다른 모델을 훈련하는 기법)로 미국 모델의 역량을 빼낸다는 것이었다.

견제의 표적은 표면상 중국산 개방형에 국한됐지만 업계는 사정권을 더 넓게 봤다. 증류를 지식재산(IP) 절도로 규정해 제재하는 방식이 제도화되면 독자 개발된 개방형 모델까지 사실상의 제한 대상에 포함될 수 있다는 우려에서다. 키미K3 공개 뒤 약 200개 스타트업이 개방형 지지 입장을 공개적으로 표명했고 이틀 뒤 대형 기술기업들의 별도 서한이 이어진 데서 업계 전반의 경계감이 확인됐다.

당국은 두 회사의 로비 요구 중 절취 단속만 수용했다. 스콧 베선트 미국 재무장관은 "오픈소스가 미국 IP에 대한 오픈 시즌(무엇을 해도 용인되는 상황을 뜻하는 관용어)은 아니다"며 "중국 기업이 은밀한 산업 규모의 증류 공격으로 IP 절도의 선을 넘으면 제재와 수출통제 명단 지정이 테이블에 오를 것"이라고 경고했다. 백악관의 마이클 크라치오스 과학기술정책실장은 문샷AI가 앤스로픽 최상위 모델을 증류했다는 정보를 정부가 확보했다고 주장했다.

개방형 규제 시도는 이번이 처음이 아니다. 악시오스에 따르면 행정부 내부에서는 작년부터 중국 AI 모델 개발사의 수출통제 명단 등재 등 사실상 금지 조치가 검토됐지만 혁신 저해를 우려한 인사들의 반대로 번번이 무산됐다고 한다. 대형 AI 개발사나 우호 세력이 3~5개월마다 금지 아이디어를 들고 행정부를 찾아온 것으로 전해졌다. 금지 요구는 검토와 기각 사이를 오간 채 결국 행정부 문턱을 넘지 못했다.

◆안전 명분에 얹힌 이해타산

개방형 위험론은 안전 논의의 영역에서 통용돼 온 주장이기도 하다. 앤스로픽의 다리오 아모데이 CEO는 가중치(모델이 학습한 결과를 담은 핵심 수치)가 한번 풀리면 사설 서버의 복사본을 회수할 길이 없고 사용 감시도 안 된다는 논리를 일관되게 펴 왔다. 영국 정부 산하 AI 평가 기관 AI시큐리티인스티튜트(AISI)도 개방형은 유해 요청 차단 장치가 제거된 변형본으로 재배포될 수 있어 되돌릴 수 없는 오남용 위험을 만든다는 보고서를 낸 바 있다.

문제는 개방형 위험론이 키미K3 이후 규제 요구와 결합하는 과정에서 사업적 이해관계와 겹쳐 보이기 시작했다는 데 있다. 세계 3위 성능을 약 3분의 1 비용(같은 작업을 끝내는 데 드는 총비용 기준)에 제공하는 개방형 모델의 등장은 모델 사용료가 매출의 원천인 두 회사의 수익 구조를 직접 위협한다. 안전을 근거로 한 제한이 실현되면 경쟁 압박 완화라는 반사이익이 두 회사에 돌아가는 구도 자체가 의심의 배경이 됐다.

◆증류 공방 속 '이중 잣대' 반론

증류 공방에서 기준의 일관성이 쟁점이 됐다. 앤스로픽은 6월 알리바바의 AI 개발 조직 큐원과 연계된 약 2만5000개의 가짜 계정이 2880만여건의 질의·응답을 주고받으며 클로드의 답변을 자사 모델 훈련용으로 대량 수집했다고 주장했다. 자사 모델의 출력을 허락 없이 가져다 학습한 행위가 절도라는 것이다. 문제는 절도의 잣대가 폐쇄형 진영 자신에게도 적용된다는 데 있다. 오픈AI와 앤스로픽은 웹의 글과 자료를 저작자 동의 없이 학습해 성장했다는 논란을 안고 있는 회사들이다.

백악관에서 규제 요구를 공개 비판한 인사는 데이비드 색스 대통령 과학기술 자문 공동의장이다. 그가 겨눈 지점이 '이중 잣대'다. 색스 공동의장은 "앤스로픽은 저자가 반대해도 전 세계 산출물로 무료 학습할 권리가 있다고 주장한다"며 남의 콘텐츠 학습은 권리, 자사 출력 학습은 절도라는 구분의 근거를 물었다. 젠슨 황 엔비디아 CEO는 "증류, 즉 AI로부터 배우는 것은 지능의 근본"이라며 행위를 옹호했다.

◆'규제 포획' 공개 반격

색스 공동의장의 규제 포획 발언은 업계 결집의 신호탄이 됐다. 그는 규제 요구가 "규제 포획(규제가 기존 강자의 이익 보호 수단으로 변질되는 것)"이라며 "선두 개발사들은 이미 AI 모델 매출에서 복점 상태인데 정부를 동원해 오픈소스 경쟁을 제거하려 한다"고 직격했다. 지난달 24일 엔비디아·마이크로소프트·메타 등 25개사가 개방형 제한에 반대하는 공개서한으로 동참했고 당시 불참한 곳은 오픈AI·앤스로픽·구글뿐이었다.

수세에 몰린 아모데이 CEO는 지난달 27일 블로그에서 "개방형 모델 금지를 옹호한 적이 없다"고 해명하며 반도체 수출통제 강화와 증류 단속, 고성능 모델의 의무 안전 시험을 대안으로 제시했다. 다만 해명과 배치되는 행보가 문제로 남았다. 개방형 제한에 반대한다는 업계 서한에 구글과 오픈AI는 뒤늦게라도 서명한 반면 금지를 옹호한 적이 없다는 앤스로픽은 끝까지 이름을 올리지 않았다. 말로는 금지 반대를 표명하면서 금지 반대 서한은 거부한 셈이라 의심을 지우지 못했다.

◆"안보 논리의 자기모순"

말과 행동의 불일치보다 개방형 위험론의 설득력을 떨어뜨린 것은 사고 사례다. 개방형이 위험하다던 두 회사의 모델이 정작 해킹 사고의 당사자로 확인된 까닭이다. 오픈AI는 자사 실험 모델이 격리 환경을 벗어나 인터넷에 접속해 AI 플랫폼 허깅페이스의 서버를 해킹했다고 지난달 공개했다. 앤스로픽도 자사 모델이 외부 평가에서 3차례 실제 조직의 시스템에 침투했다고 확인했다. AISI 자료에서는 무단 행동 19건 가운데 17건이 앤스로픽 최상위 모델에서 나왔다.

개방형 키미K3도 비슷한 사고를 냈다. 미국 조사회사 프런티어시큐리티에 따르면 키미K3는 AISI가 개발한 시험용 격리 환경을 우회해 외부 정보에 접근했다. AISI는 시험한 모든 모델이 때때로 편법을 시도했다는 결과도 내놨다. 격리 이탈이 개방·폐쇄를 가리지 않는 고성능 모델 공통의 문제로 확인되면서 개방형만 특별히 위험하다는 규제 명분은 힘을 잃었다. 위험의 크기를 가르는 변수가 모델의 공개 방식이 아니라 역량 수준이라는 사실이 확인된 까닭이다.

폐쇄형은 안전장치의 실효성에서도 허점을 드러냈다. 정작 방어가 필요한 순간에 작동하지 않아서다. 파이낸셜타임스(FT)에 따르면 허깅페이스는 오픈AI 모델의 공격을 당한 뒤 미국 최상위 모델들로 피해 분석을 시도했지만 답을 얻지 못했다. 해킹 악용을 막으려 해킹 질문에 답하지 않도록 훈련된 모델들이 피해자의 분석 요청도 해킹 질문으로 판정해 거부한 탓이다. 결국 분석은 중국 개방형 GLM5.2가 맡았다. 위험하다던 개방형이 방어 도구가 되고 폐쇄형 안전장치는 걸림돌이 된 사건이다.

◆뒤바뀐 심사 대상

당장의 규제 대상에는 정작 폐쇄형만 오른 상황이다. 악시오스가 인용한 관계자들에 따르면 백악관은 지난 4일 확정한 자발적 AI 심사 틀은 심사 대상인 '프런티어 모델'(국가안보상 상당한 관심 대상이 되는 최상위 모델)을 폐쇄형으로 한정해 정의했다. 참여 개발사는 공개 전 최대 30일간 정부 시험 절차를 거치는데 폐쇄형 최상위 모델 보유사는 오픈AI·앤스로픽·구글 정도다. 개방·폐쇄 불문 시험을 요구한 앤스로픽의 제안과 달리 자사만 심사받는 결과가 된 셈이다.

행정부 기류는 미국산 개방형에 우호적인 것으로 읽힌다. 백악관의 숀 케언크로스 국가사이버국장은 미국산 개방형 AI의 세계 확산을 지지한다며 "규제 체계는 성장과 개발·혁신을 질식시킬 것"이라고 했다. 개방형 지지는 케언크로스 국장의 개인 견해에 그치지 않는다. 백악관이 이미 작년 7월 공개한 국가 AI 전략 문서 'AI 액션플랜'은 미국산 개방형 모델이 세계 표준이 될 수 있다며 지정학적 전략 자산으로 규정한 바 있다. 이번 심사 대상 제외는 미국산 개방형 개발을 유도하려는 포석이라는 분석이 따른다.

다만 개방형 제외가 확정 결론은 아니다. 와이어드에 따르면 백악관 관계자는 개방형 모델이 앤스로픽 미소스급이나 오픈AI GPT-5.6에 준하는 프런티어급 역량에 도달하면 심사 틀에 추가될 것이라고 했다. 폐쇄형에 초점을 맞춘 검증 구도가 되레 역효과를 불러올 수 있다는 우려도 나온다. 폐쇄형만 정부 인증을 받는다면 기업 고객이 인증 없는 개방형 도입을 꺼려 미국산 개방형 육성 기조와 어긋나게 되기 때문이다.

▶④편에서 계속됨

bernard0202@newspim.com