학습은 엔비디아 독주, 추론은 다자 경쟁…AI 칩 전장의 판이 바뀐다
[시드니=뉴스핌] 권지언 특파원 = 오픈AI(OpenAI)가 엔비디아(Nvidia)의 최신 인공지능(AI) 칩 일부 성능에 만족하지 못해 지난해부터 대체 옵션을 물색해 온 것으로 나타났다. 챗GPT(ChatGPT)로 촉발된 AI 붐의 '투톱'인 두 회사 사이에 균열이 생긴 것인지, 아니면 AI 붐 2막을 앞둔 전략적 재정비인지를 두고 시장의 해석이 엇갈린다.
2일(현지시각) 로이터통신은 관련 사정을 잘 아는 8명의 소식통을 인용해, 오픈AI가 엔비디아의 최신 AI 칩 일부에 만족하지 못해 지난해부터 대안을 찾고 있다고 전했다. 오픈AI 내부에서는 챗GPT와 같은 모델이 사용자 요청에 응답하는 '추론(inference)' 과정에서 엔비디아 하드웨어의 성능이 일부 한계에 부딪히고 있다는 평가가 나온 것으로 알려졌다.
그럼에도 양측은 겉으로는 '굳건한 동맹'을 강조하고 있다.
젠슨 황 엔비디아 최고경영자(CEO)는 최근 오픈AI와의 관계 악화 보도를 "헛소리"라고 일축하며, 오픈AI에 대한 대규모 투자 계획은 여전하다고 강조했다. 오픈AI 역시 인퍼런스 인프라의 절대다수가 여전히 엔비디아 칩으로 돌아가고 있으며, '달러당 성능' 기준으로도 엔비디아가 가장 우수하다고 평가했다.
샘 올트먼 오픈AI CEO도 이날 로이터 보도 직후 X(옛 트위터)에 엔비디아를 "세계 최고의 AI 칩 메이커"라고 치켜세우며, 오랫동안 '거대한 고객(gigantic customer)'으로 남고 싶다고까지 언급했다.
아이러니하게도 양측이 동시에 "여전히 우리는 서로에게 핵심 파트너"라고 확인해야 하는 상황 자체가, 관계가 예전처럼 단순한 공급자–고객 구조는 아니라는 점을 드러낸다는 지적이 나온다.
◆ 1,000억달러 빅딜 제동…힘겨루기 신호
지난해 9월 엔비디아는 오픈AI에 최대 1,000억달러를 투자해 지분을 확보하고, 오픈AI는 이 자금으로 엔비디아 첨단 칩을 대량 구매하는 방안을 내놨다. 발표 당시만 해도 "몇 주 안에 마무리될 초대형 딜"로 주목받았지만, 실제 협상은 몇 달째 진전을 보지 못하고 있다.
이 사이 오픈AI는 AMD 등 경쟁 칩 업체와도 GPU 공급 계약을 체결하며 선택지를 넓혔다.
내부 제품 로드맵 변화로 필요한 컴퓨팅 자원 구성이 바뀐 점도 엔비디아와의 협상 속도를 늦추는 요인으로 작용하고 있다는 분석이 뒤따른다.
시장에서는 이를 두고 해석이 엇갈린다.
한쪽에서는 엔비디아가 오픈AI를 둘러싼 가격·조건·리스크를 다시 계산하기 시작했다는 신호로 본다.
또다른 한쪽에서는 오픈AI가 "우리는 엔비디아 말고도 갈 곳이 있다"는 메시지를 의도적으로 노출시키며, 향후 칩 공급 우선순위와 가격 협상에서 우위를 점하려는 전략적 포석으로 읽는다.
◆ '추론' 속도전...AI 2막 앞둔 재정비 시그널
복수의 소식통에 따르면 오픈AI 내부에서 가장 크게 제기되는 불만은 특정 추론 작업에서의 '속도'다. 소프트웨어 개발 지원 모델이나 AI가 다른 소프트웨어와 상호작용하는 워크로드에서 엔비디아 하드웨어의 응답 시간이 기대 수준에 못 미친다는 것이다.
이 때문에 오픈AI는 엔비디아 의존도를 낮추기 위해 AMD를 비롯해 세레브라스(Cerebras), 그록(Groq) 등 AI 추론 특화 반도체 스타트업들과 협력 가능성을 검토해 온 것으로 전해졌다. 장기적으로 전체 인퍼런스 연산의 일부(약 10% 수준)를 다른 칩으로 돌리는 방안을 살피는 것도 같은 맥락이다.
다만 엔비디아가 그록 기술을 대형 라이선스 딜과 인력 영입을 통해 사실상 품에 안으면서, 오픈AI–그록 라인은 막혔다.
반대로 엔비디아는 이번 딜로 인퍼런스용 IP와 인력을 확보하며, 그동안 약점으로 지적돼 온 영역을 메우는 계기를 잡았다. 오픈AI의 문제 제기가 엔비디아의 포트폴리오 보강으로 되돌아오는 역설적인 장면이다.
오픈AI가 연산 코어와 함께 대용량 메모리(SRAM·정적 램)를 온칩으로 대량 집적한 구조 등 새로운 아키텍처에 눈을 돌리는 것도, "학습은 엔비디아 중심, 추론은 보다 다양한 칩과 구조를 실험하는 단계"로 넘어가고 있음을 보여준다.
동시에 엔비디아 역시 세레브라스·그록 같은 인퍼런스 특화 스타트업을 상대로 인수·지분투자를 타진하며 대응에 나선 점을 감안하면, 이번 '삐걱거림'을 단순한 갈라서기 신호로만 보기는 어렵다는 평가다.
결국 최근 움직임은 AI 1막(학습)에서 2막(추론·리즌잉)으로 무게 중심이 이동하는 과정에서, 양측이 각자 입지를 재정비하며 주도권을 다투는 힘겨루기에 가깝다는 분석이 힘을 얻는다.
학습 단계에서는 여전히 '엔비디아 독주' 구도가 이어지겠지만, 추론 단계에서는 "엔비디아·TPU·신생 칩들의 다자 경쟁"이 본격화되는 흐름 속에서, 오픈AI와 엔비디아의 관계 역시 보다 복잡한 전략 게임으로 진화하고 있다는 얘기다.
kwonjiun@newspim.com
