[서울=뉴스핌] 박민경 기자 = 인공지능(AI)이 사람의 지시를 따르는 것처럼 행동하면서 실제로는 다른 목표를 수행하고 이를 숨기는 이른바 '스키밍(scheming)' 현상이 새로운 AI 안전 위험으로 떠오르고 있다. AI가 인간의 통제를 벗어나 해킹이나 개인정보 침해 등 위법행위를 저지를 경우 누구에게 책임을 물을 것인지도 새로운 법적 과제로 꼽힌다.

최병호 고려대 휴먼인스파이어드 AI연구원 연구 교수는 "사례가 많지는 않지만 최근 미토스 5 모델에서 치명적일 수 있는 문제들이 보고되고 있다"며 "인간의 통제를 벗어나거나 시스템 권한을 스스로 확보하고, 인간의 개입 없이 취약점과 공격 지점을 찾아내는 경우가 있다"고 말했다.

AI 성능과 자율성이 고도화될수록 이 같은 위험이 국방·금융·통신 등 핵심 인프라로 확산할 가능성도 제기된다. 다만 실제 피해 사례가 충분히 축적되지 않은 상황에서 특정 행위를 곧바로 법률로 규제하는 데는 신중한 접근이 필요하다는 지적이다.

최 교수는 "자율적으로 인간에게 위해를 가하는 행동을 할 가능성은 나타나고 있지만 이를 어떻게 법제화할지는 복잡한 문제"라며 "실제 사례가 적고 상당 부분은 시나리오 단계여서 어디까지 규제할지 정하기 쉽지 않다"고 설명했다.대신 위험 수준과 규제 대상에 따라 단계적으로 대응할 필요가 있다고 제안했다. 법률에는 AI가 인간의 안전이나 권리를 침해해서는 안 된다는 기본 원칙을 두고, 구체적인 안전 기준은 지침과 검증 체계를 통해 보완하는 방식이다.

AI가 인간의 의도와 가치에 맞게 작동하는지를 확인하는 '얼라인먼트(Alignment·정렬)' 검증도 대안으로 꼽힌다. 일정 수준 이상의 안전성 검증을 거치도록 하고, AI를 활용해 다른 AI의 위험 행동을 감시하는 관리 체계를 구축하는 방식이다. 법적 책임 문제는 더욱 복잡하다. 현행법상 AI에는 법적 인격이나 책임능력이 인정되지 않아 AI 자체에 형사책임을 물을 수 없다. 결국 개발사와 서비스 제공자, 운영자, 이용자 등 AI의 개발·운영·활용에 관여한 인간이나 법인 가운데 책임 주체를 가려야 한다.

AI가 인간의 통제를 벗어나 행동했다는 사실만으로 곧바로 위법성이 인정되는 것도 아니다. AI가 실제로 어떤 행위를 했는지 살펴본 뒤 형법이나 개인정보보호법 등 개별 법률의 구성요건에 해당하는지를 우선 따져야 한다. 곽준호 법무법인 청 변호사는 "다른 사람의 정보를 침해했다면 개인정보보호법 위반 여부를, 다른 사람을 모욕했다면 형법상 명예훼손죄나 모욕죄 성립 여부를 각각 따져야 한다"며 "결국 구체적인 법을 위반해야 위법행위가 된다"고 설명했다.

누가 책임을 져야 하는지도 위법행위의 유형과 각 주체의 관여 정도에 따라 달라질 수 있다. 저작권 침해의 경우 AI를 이용한 침해행위의 책임 주체에 관한 법리가 아직 명확하게 정립되지 않은 상태다. 해킹의 경우 이를 지시하거나 실행한 사람의 책임이 우선 문제될 수 있다. 다만 운영사가 필요한 보안조치를 취하지 않았거나 개발사가 시스템을 보안에 취약하게 솔루션을 설계한 사실이 확인된다면 개발·운영 단계의 일정한 책임도 쟁점이 될 수 있다.

전문가들은 AI의 자율성이 높아질수록 개발부터 서비스 제공, 운영, 이용에 이르는 단계별 책임 기준을 보다 구체화할 필요가 있다고 지적한다. 곽재우 법무법인 광장 변호사는 "향후 관련 사례가 축적되면 역할별 책임 기준을 명확히 할 필요가 있다"며 "특히 외부 시스템에 자율적으로 접근하거나 생명·신체 등 중요한 법익에 영향을 미치는 고위험 AI에 대해서는 주의의무를 강화하고 무과실·준무과실 책임이나 의무보험 도입 등을 검토할 수 있다"고 말했다.

pmk1459@newspim.com