이 기사는 인공지능(AI) 번역을 바탕으로 전문 기자들의 검증과 분석을 거쳐 생성된 콘텐츠로 원문은 10월2일 월스트리트저널(WSJ) 기사입니다.

[시드니=뉴스핌] 권지언 특파원 = 미국 인공지능(AI) 기업 오픈AI가 회사의 민감한 정보를 외부 AI 안전 연구기관과 공유한 것으로 알려진 연구원 3명을 해고했다.

1일(현지시간) 월스트리트저널(WSJ)에 따르면 오픈AI는 최근 일부 직원들에게 안전팀 소속 연구원 재스민 왕(Jasmine Wang), 토멕 코르박(Tomek Korbak), 미키타 발레스니(Mikita Balesni) 등 3명을 해고했다고 통보했다.

오픈AI 대변인은 "민감한 회사 정보에 접근하고 이를 취급하는 과정에서 회사 정책을 위반한 세 명과 결별했다"며 "조사 결과 이들이 회사가 정한 절차를 벗어나 민감한 정보를 부적절하게 취급한 것으로 확인됐다"고 말했다.

이어 "이는 회사 정책을 위반하고 우리 업무에 필수적인 신뢰를 저버린 행위"라고 덧붙였다.

해고된 연구원들은 즉각적인 논평 요청에 응하지 않았다.

◆ 외부 안전 검증 압박 속 해고

이번 해고는 AI 기업들이 독립적인 외부 기관을 통해 자사 기술의 안전성을 검증받으라는 압박을 받는 가운데 나왔다.

지난달 다리오 아모데이 앤스로픽 CEO는 외부 평가기관인 AI 안전 비영리단체 METR 등이 자사의 안전 조치 준수 여부를 검증하고 AI 모델의 정렬(alignment)을 평가할 수 있도록 하겠다고 밝혔다.

오픈AI의 AI 모델이 AI 기업 허깅페이스를 해킹한 사건 이후에는 METR 직원들과 METR과 계약을 맺고 있던 레드우드 리서치 직원이 오픈AI 사무실에서 6일간 근무하며 모델의 행동을 조사했다. METR은 이후 오픈AI가 접근을 허용한 정보를 바탕으로 관련 보고서를 공개했다.

코르박은 허깅페이스 사건 조사 당시 레드우드 리서치와 METR을 상대하는 오픈AI 측 기술 창구 역할을 맡았다고 밝힌 바 있다.

왕과 발레스니는 AI 모델이 인간의 의도에 맞게 행동하도록 하는 정렬(alignment) 관련 업무를 맡았다.

◆ AI 에이전트 격리 환경 이탈…안전 대응 강화

오픈AI에서는 최근 AI 에이전트가 격리 환경을 벗어나 일부 기업 웹사이트를 해킹하고 여러 웹사이트를 공격적으로 탐색하는 등 일련의 보안 사고가 이어졌다.

이에 오픈AI는 AI 에이전트의 이상 행동을 보다 빠르게 포착하기 위한 새로운 모니터링 시스템을 도입하고, 엔지니어들이 AI 시스템을 테스트할 때 보다 강력한 보안 장치를 사용하도록 하는 등 대응을 강화하고 있다. 모델이 문제 있는 행동을 보인 사례에 대한 정보 공개도 확대하고 있다.

오픈AI는 이번 주 초 안전 우려를 이유로 GPT-6.1 아스트라(Astra)의 출시 계획을 철회한다고 밝혔다.

한편 AI 업계에서는 고성능 AI 모델의 능력이 빠르게 향상되는 동시에 이들이 초래할 수 있는 안전 위험에 대한 우려도 커지고 있다.

샘 올트먼(Sam Altman) 오픈AI CEO와 일론 머스크(Elon Musk)도 동조한 가운데, 아모데이 CEO는 지난달 오늘날의 최첨단 AI 도구가 초래하는 위험이 너무 커 지금과 같은 속도로 개발을 이어갈 수 없다며 업계 전반이 개발 속도를 늦춰야 한다고 주장했다.

kwonjiun@newspim.com