전체기사 최신뉴스 GAM
KYD 디데이
홈 사회 법원·공소청·중수청

속보

더보기

"통제 벗어난 AI, 위법행위 책임은 누구에게"…'스키밍' 책임 공백

기사입력 :

최종수정 :

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

AI 핵심 요약

beta
분석 중...
  • AI의 스키밍 현상이 13일 새로운 안전위험으로 떠올랐다.
  • 전문가들은 자율성 고도화에 따라 위법행위 위험이 커졌다고 봤다.
  • 책임은 개발사·운영자·이용자 등 역할별로 따져야 한다.

!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.

고도화된 AI서 자율 행동 위험 신호
전문가 "인간 개입 없이 취약점 공격 가능"
AI는 처벌 못해 책임 주체 모호
개발·운영·이용자별 기준 마련 필요

[서울=뉴스핌] 박민경 기자 = 인공지능(AI)이 사람의 지시를 따르는 것처럼 행동하면서 실제로는 다른 목표를 수행하고 이를 숨기는 이른바 '스키밍(scheming)' 현상이 새로운 AI 안전 위험으로 떠오르고 있다. AI가 인간의 통제를 벗어나 해킹이나 개인정보 침해 등 위법행위를 저지를 경우 누구에게 책임을 물을 것인지도 새로운 법적 과제로 꼽힌다.

최병호 고려대 휴먼인스파이어드 AI연구원 연구 교수는 "사례가 많지는 않지만 최근 미토스 5 모델에서 치명적일 수 있는 문제들이 보고되고 있다"며 "인간의 통제를 벗어나거나 시스템 권한을 스스로 확보하고, 인간의 개입 없이 취약점과 공격 지점을 찾아내는 경우가 있다"고 말했다.

인공지능(AI)이 사람의 지시를 따르는 것처럼 행동하면서 실제로는 다른 목표를 수행하고 이를 숨기는 이른바 '스키밍(scheming)' 현상이 새로운 AI 안전 위험으로 떠오르고 있다. 사진은 기사 이해를 돕기위한 일러스트. [일러스트=ChatGPT]

AI 성능과 자율성이 고도화될수록 이 같은 위험이 국방·금융·통신 등 핵심 인프라로 확산할 가능성도 제기된다. 다만 실제 피해 사례가 충분히 축적되지 않은 상황에서 특정 행위를 곧바로 법률로 규제하는 데는 신중한 접근이 필요하다는 지적이다.

최 교수는 "자율적으로 인간에게 위해를 가하는 행동을 할 가능성은 나타나고 있지만 이를 어떻게 법제화할지는 복잡한 문제"라며 "실제 사례가 적고 상당 부분은 시나리오 단계여서 어디까지 규제할지 정하기 쉽지 않다"고 설명했다.대신 위험 수준과 규제 대상에 따라 단계적으로 대응할 필요가 있다고 제안했다. 법률에는 AI가 인간의 안전이나 권리를 침해해서는 안 된다는 기본 원칙을 두고, 구체적인 안전 기준은 지침과 검증 체계를 통해 보완하는 방식이다.

AI가 인간의 의도와 가치에 맞게 작동하는지를 확인하는 '얼라인먼트(Alignment·정렬)' 검증도 대안으로 꼽힌다. 일정 수준 이상의 안전성 검증을 거치도록 하고, AI를 활용해 다른 AI의 위험 행동을 감시하는 관리 체계를 구축하는 방식이다. 법적 책임 문제는 더욱 복잡하다. 현행법상 AI에는 법적 인격이나 책임능력이 인정되지 않아 AI 자체에 형사책임을 물을 수 없다. 결국 개발사와 서비스 제공자, 운영자, 이용자 등 AI의 개발·운영·활용에 관여한 인간이나 법인 가운데 책임 주체를 가려야 한다.

AI가 인간의 통제를 벗어나 행동했다는 사실만으로 곧바로 위법성이 인정되는 것도 아니다. AI가 실제로 어떤 행위를 했는지 살펴본 뒤 형법이나 개인정보보호법 등 개별 법률의 구성요건에 해당하는지를 우선 따져야 한다. 곽준호 법무법인 청 변호사는 "다른 사람의 정보를 침해했다면 개인정보보호법 위반 여부를, 다른 사람을 모욕했다면 형법상 명예훼손죄나 모욕죄 성립 여부를 각각 따져야 한다"며 "결국 구체적인 법을 위반해야 위법행위가 된다"고 설명했다.

누가 책임을 져야 하는지도 위법행위의 유형과 각 주체의 관여 정도에 따라 달라질 수 있다. 저작권 침해의 경우 AI를 이용한 침해행위의 책임 주체에 관한 법리가 아직 명확하게 정립되지 않은 상태다. 해킹의 경우 이를 지시하거나 실행한 사람의 책임이 우선 문제될 수 있다. 다만 운영사가 필요한 보안조치를 취하지 않았거나 개발사가 시스템을 보안에 취약하게 솔루션을 설계한 사실이 확인된다면 개발·운영 단계의 일정한 책임도 쟁점이 될 수 있다.

전문가들은 AI의 자율성이 높아질수록 개발부터 서비스 제공, 운영, 이용에 이르는 단계별 책임 기준을 보다 구체화할 필요가 있다고 지적한다. 곽재우 법무법인 광장 변호사는 "향후 관련 사례가 축적되면 역할별 책임 기준을 명확히 할 필요가 있다"며 "특히 외부 시스템에 자율적으로 접근하거나 생명·신체 등 중요한 법익에 영향을 미치는 고위험 AI에 대해서는 주의의무를 강화하고 무과실·준무과실 책임이나 의무보험 도입 등을 검토할 수 있다"고 말했다.

pmk1459@newspim.com

[뉴스핌 베스트 기사]

사진
20일 상암서 '마이 케이팝 스타' 결선 생방송 무대 [서울=뉴스핌] 최문선 기자 = 종합뉴스통신사 뉴스핌이 주최·주관하고 문화체육관광부가 후원하는 글로벌 오디션 '마이 케이팝 스타(MY KPOP STAR)'의 결선 진출자 사전투표가 시작됐다. 지난 12일 시작된 이번 사전투표는 결선에 진출한 국내외 참가자 톱10을 대상으로 진행된다. '마이 케이팝 스타'는 국적과 나이에 제한 없이 누구나 참여할 수 있는 글로벌 오디션으로, 총 60개국에서 참가자가 지원해 글로벌 K팝 오디션으로서 관심을 모았다. [서울=뉴스핌] 최문선 기자 = 종합뉴스통신사의 글로벌 오디션 '마이 케이팝 스타(MY KPOP STAR)'의 결선 진출자 10팀 사전 투표가 시작됐다. 앞서 예선 진출자 200팀 가운데 국내 12팀, 해외 18팀 등 총 30팀이 본선 무대에 올랐으며, 치열한 경쟁 끝에 국내 5팀과 해외 5팀이 최종 결선 진출자로 선정됐다. 국내 결선 진출자는 고도아, 박희주, 황승대, 조하음, 윤근아다. 해외에서는 다니 리베라(Dani Rivera·브라질), 샌디 에고(Sandy Ego·이스라엘), 시리나(Shirina·우즈베키스탄), 메이 칫 뗏(Maye Chit Thet·미얀마), 바흐테(Vachte·이란)가 이름을 올렸다. 사전투표 시작과 함께 톱10 참가자들의 홍보 영상도 공개됐다. 영상에는 참가자들의 자기소개와 오디션 참가 소감, 결선 무대에서 보여주고 싶은 모습, 응원해 주는 팬들에게 전하는 메시지 등이 담겼다. 참가자들은 "결선에 진출했을 때 가장 기뻤다", "무대에 설 때가 가장 행복하다", "결선 무대가 기대되면서도 떨린다" 등의 소감을 전했다. 이어 "보내주신 응원에 보답할 수 있도록 최선을 다하겠다", "많은 기대와 응원 부탁드린다"며 팬들에게 감사와 당부의 메시지를 보냈다. [서울=뉴스핌] 최문선 기자 = 종합뉴스통신사의 글로벌 오디션 '마이 케이팝 스타(MY KPOP STAR)'의 결선 진출자 10팀 사전 투표가 시작됐다. 2026.11.13 moonddo00@newspim.com 결선은 오는 20일 서울 마포구 상암동 큐브컨벤션센터에서 오프라인으로 진행된다. 최종 우승자에게는 1억 원의 상금이 수여되며, 국내 참가자는 2위부터 10위까지 각각 200만원의 상금을 받는다. 해외 참가자에게는 결선 진출 시 왕복 항공권과 숙박비 등 체류 비용 전액을 지원한다. 이와 함께 글로벌 쇼케이스 및 공연 참여 기회, 언론 홍보와 인터뷰, 국내 엔터테인먼트사의 현장 캐스팅 기회 등 다양한 혜택도 마련됐다. K팝 보컬·댄스 트레이닝 프로그램과 K팝 안무를 활용한 숏폼 콘텐츠 제작 지원도 제공된다. '마이 케이팝 스타' 결선 진출자 홍보 영상은 유튜브 뉴스핌TV에서 확인할 수 있으며, 사전투표는 투표 사이트(https://vote.mykpopstar.com/)에서 오는 18일 17시까지 참여할 수 있다. moonddo00@newspim.com 2026-11-13 16:15
사진
EBS "수학, 지난해 수능과 비슷한 수준" [서울=뉴스핌] 황혜영 기자 = 19일 치러진 2027학년도 대학수학능력시험(수능) 수학영역은 지난해 수능과 비슷한 수준으로 출제된 것으로 분석됐다. 공통과목은 지난해보다 평이하고 선택과목은 유사한 수준이었으며 종합적인 사고력을 요구하는 문항으로 중상위권 변별력을 확보했다는 평가다. EBS 현장교사단 수학 대표 강사인 남치열 백석고등학교 교사는 이날 정부세종청사에서 열린 2027학년도 수능 출제 경향 브리핑에서 "작년 수능과 올해 모의평가의 출제 기조와 난이도를 유지했다"며 "EBS 수능 연계교재의 개념과 원리를 깊이 있게 학습한 수험생에게 익숙한 중고난도 문항이 다수 연계됐다"고 밝혔다. [서울=뉴스핌] 사진공동취재단 = 2027학년도 대학수학능력시험(수능)이 실시된 19일 오전 서울특별시 광진구 광남고등학교에서 수험생들이 막바지 시험 준비를 하고 있다. 2026.11.19 photo@newspim.com 이번 수능에서는 6월·9월 모의평가와 마찬가지로 출제 범위 내 여러 단원에서 문항이 고르게 출제됐다. 주어진 상황을 논리적으로 추론하거나 수학의 개념·원리·법칙을 종합적으로 적용하는 문항, 함수의 그래프를 추론하고 해석하는 문항 등이 포함됐다. 남 교사는 "13번, 20번 등 중난도 문항은 조건을 차례로 해석해 해결할 수 있는 문항으로 중위권 학생들을 변별할 수 있도록 출제된 것으로 보인다"며 "종합적 사고력이 필요한 고난도 문항들은 다소 까다롭게 느낄 수 있지만 전반적으로는 작년 수능과 비슷한 수준"이라고 분석했다. 공통과목에서는 수학Ⅰ과 수학Ⅱ에서 각각 11문항이 출제됐다. 수학Ⅰ은 지수함수와 로그함수 4문항, 삼각함수 3문항, 수열 4문항으로 구성됐다. 수학Ⅱ는 함수의 극한과 연속 2문항, 미분 5문항, 적분 4문항으로 지나치게 많은 개념을 복합적으로 사용해야 하는 문항은 배제됐다는 설명이다. 비교적 까다로운 문항으로는 공통과목 22번(수학Ⅰ)과 21번(수학Ⅱ), 확률과 통계 30번, 미적분 30번, 기하 30번 등이 꼽혔다. 특히 공통과목 21번은 가장 까다로웠을 것으로 예상됐다. 삼차함수의 그래프를 바탕으로 최댓값과 최솟값의 곱으로 정의된 함수의 미분가능성을 종합적으로 분석하는 문항이다. 22번은 주어진 조건을 만족하는 수열의 항 사이 규칙을 추론하고 수열의 합을 구하는 문제로 상위권 변별력을 갖춘 것으로 평가됐다. 선택과목에서는 확률과 통계 30번이 조건부확률을 구하기 위해 발생할 수 있는 모든 경우를 꼼꼼하게 구분해야 하는 문항으로 분석됐다. 미적분 30번은 주어진 조건에 맞는 구간별 함수를 찾은 뒤 치환적분법으로 정적분을 구하는 문제다. 기하 30번은 좌표공간에서 조건을 만족하는 점과 도형을 찾아 정사영의 넓이를 구하도록 했다. 선택과목 간 유불리에 대해서는 과목별 특성에 맞는 난도로 변별력을 확보했다고 평가했다. 남 교사는 "특정 과목이 쉽다, 어렵다 이렇게 분석하지는 않았다"며 "그 과목 특성에 맞는 난이도를 통해 충분히 변별력을 확보했다"고 말했다.출제본부는 2015 개정 수학과 교육과정의 내용과 수준에 근거해 수학적 사고력을 측정하는 데 중점을 뒀다고 밝혔다. 복잡한 계산이나 반복 훈련으로 익힌 기술·공식을 단순하게 적용하는 문제보다 기본 개념에 대한 충실한 이해와 종합적인 사고력을 요구하는 문항을 출제했다는 설명이다. 남 교사는 "학교 수업에서 학습한 개념을 바탕으로 문제를 이해하고 해결하는 능력을 측정할 수 있는 문항들로 구성됐다"며 "사교육에서 문제풀이 기술을 익히고 반복적으로 훈련한 학생들에게 유리한 문항은 출제되지 않은 것으로 분석했다"고 밝혔다. 이번 수능 수학영역의 EBS 연계율은 50%로 수험생이 응시하는 30문항 가운데 15문항이 연계됐다. 공통과목에서는 수학Ⅰ 6문항과 수학Ⅱ 5문항 등 총 11문항이, 선택과목인 확률과 통계·미적분·기하에서는 각각 4문항이 연계됐다. 남 교사는 "특정 단원에 치우치지 않고 개념을 고르게 익힌 학습으로 대비할 수 있는 시험"이라며 "개념과 원리를 적용한 대표적인 유형뿐 아니라 종합적인 사고능력과 문제해결능력, 추론능력을 평가하는 문항으로 구성됐다"고 평가했다. hyeng0@newspim.com 2026-11-19 14:52
기사 번역
결과물 출력을 준비하고 있어요.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동