[기고] AI예측 어디까지 믿어야 할까?

기사입력 : 2024년06월03일 08:21

최종수정 : 2024년06월03일 10:50

하민회 이미지21대표(코가로보틱스 마케팅자문)

"당신의 결혼 유지 기간은 5년 입니다." 결혼 전 AI모델로부터 95%의 정확성으로 이런 예측을 듣는다면 당신은 어떤 결정을 내릴까? 무시하고 결혼한다? 망설이다 찝찝한 마음으로 결혼한다? 아니면 그냥 연인으로 지낸다.

바야흐로 AI 예측 시대다. 방대한 데이터와 정교한 알고리즘을 토대로 다양한 분야에서 미래예측이 진행되고 있다.

위성 데이터, 기상 센서 데이터를 분석해 날씨 패턴을 예측하고 자연재해 피해를 줄이는가 하면 유통회사는 과거 판매 데이터, 계절적 요인, 프로모션 활동 데이터를 분석해 재고 수요를 예측한다. 소비자의 구매 이력, 검색 기록, 소셜 미디어 활동 분석을 토대로 고객의 구매 행동을 예측해 개인 맞춤형 추천 시스템도 운영한다.

공장에서는 기계설비의 운영 데이터, 센서 데이터를 분석하여 기계설비의 고장 가능성을 예측하고 이에 맞춰 유지 보수를 실시한다. 교통 혼잡도, 에너지 수요 등 산업 다방면에 거친 AI를 활용한 예측은 사회적 비용을 절감하고 생산성을 높이는데 확실히 일조하고 있다.

미래를 내다보는 것은 인간의 오랜 로망이었다. AI의 등장으로 가능해진 로망은 일상을 넘어 이제 개인에게 바짝 다가서고 있다.

하민회 이미지21 대표.

지난 해 말 덴마크 공대와 코펜하겐 대학, 미국 노스웨스턴 대학 공동연구팀은 78%의 정확도로 인간의 사망시기를 예측하는 모델을 개발했다. 연구팀은 덴마크인 약 600만의 국가 등록부의 데이터 중 건강, 교육, 나이, 직업, 소득, 등 삶의 주요 측면과 관련된 정보를 거대언어모델(LLM)에 학습시키고 고소득, 리더십 등의 요소에는 수명을 늘리고, 흡연이나 음주 등의 요소에 수명을 줄이는 항목을 추가해 사망 여부를 판단하도록 했다.

연구를 이끈 수네 레만 교수는 "우리는 AI 알고리즘을 기반으로 인간의 행동을 예측하는 시대에 살고 있으며, AI는 우리 삶에 대한 포괄적인 모델을 구축하게 될 것"이라 전망했다.

개인의 질병 위험을 파악하고 예방조치를 취하는데 수명 예측 모델이 유용할 수는 있다. 그렇지만 만일 "78% 정확도로 당신은 62세에 사망한다."는 선고 같은 예측을 듣는다면 아마도 다수는 이런 반응을 보일 것이다. "누가 궁금해했냐고?"

토마스_프레이_다빈치연구소장 강의. [사진=전남도교육청] 2024.06.01 ej7648@newspim.com

AI를 활용한 인간의 행동 예측기술은 범죄 예측과 예방에도 쓰이고 있다.

뉴질랜드의 스타트업 '오라(Auror)'의 경범죄 절도 예방 시스템. 마트에서 절도 범죄 발생 시 오라의 이용자가 용의자의 모습이 담긴 CCTV캡처 사진을 애플리케이션에 올리면 오라 시스템은 AI로 용의자의 성별, 체형, 행동 패턴 등을 분석한다. 그리고 용의자가 다시 마트에 나타나면 이용자에게 경고 알림을 보낸다. MS의 파트너사인 오라는 현재 뉴질랜드와 호주에서 3만명 이상의 고객을 대상으로 서비스 중이다.

미국의 '딥센티넬'은 일반 가정에 AI기반 CCTV서비스를 제공한다. 주로 범죄 발생 후 용의자 검거에 쓰였던 기존의 CCTV와 달리 딥센티넬은 범죄 예방에 주력한다. 인근을 배회하거나 문 앞에서 집으로 들어오려는 시도가 반복되는 등 수상한 행동이 포착되면 경고음을 내 쫓아낸다.

'범죄자는 같은 행동을 반복한다'는 수사 경험에 착안해 만들어진 시스템도 있다. 일본의 싱글러 퍼터베이션즈의 '크라임 내비'는 과거 범죄 기록, 인구 밀도, 공간 정보, 날씨 등의 데이터를 학습한 자체 알고리즘으로 특정 범죄가 어떤 환경에서 빈번하게 발생하는지를 분석했다. 데이터가 쌓일수록 예측 속도나 정확도가 올라가는 만큼 '크라임 내비'는 도쿄, 나고야 등 대도시에서 실증 작업을 거쳐 범죄예측 가능성을 50~60%까지 끌어 올렸다고 알려졌다.

샘 올트먼 오픈AI 최고경영자(CEO). [사진=로이터 뉴스핌]

첫 질문으로 돌아가보자.

통계에 의하면 결혼한 커플 중 10%가 5년 이내에 이혼한다. 물론 예비부부의 결혼 전 온라인 검색기록, 지출습관, SNS활동, 사회적 결혼 및 이혼 데이터 세트를 학습한 AI모델이 내놓은 예측은 통계보다 더 개인화되고 섬세할 것이다.

문제는 AI 예측이 이혼 여부를 다룰 뿐 이혼 사유는 설명하지 못한다는 점이다.

노스캐롤라이나 대 철학교수 토마스 호프웨버는 AI 예측의 문제로 '불확실성'을 지적한다. AI가 불확실성이 동반된 미래 예측 결과를 내놓는 경우 인간이 올바른 선택을 하지 못하도록 만들 수 있다는 것이다. 예컨대 '이혼 이유는 모르겠지만 암튼 이혼한다'는 식의 예측은 인간의 문제 해결 의지를 꺾을 뿐 아니라 예언적 암시로 작용될 수도 있다는 것이다.

호프웨버 교수는 아무리 정확도가 높은 AI모델이라도 20번 중 1번은 틀린 예측을 할 수 있기 때문에 시스템이 어떻게 작동되는지 충분한 이해가 없이 AI의 판단을 맹신해서는 안 된다고 경고했다.

김장운 작가가 저서 '인류와 AI 공존프로젝트1 - 인간과 AI, 우주를 향해 제3차 대항해를 떠나다'를 들어보이고 있다. [사진=한국현대문화포럼] 2024.05.31 atbodo@newspim.com

AI의 범죄예측, 예방 프로그램에도 '불확실성'이 동반된다. AI가 '이 사람이 범죄를 저지를 확률이 높다' 라고 판단했다고 그가 반드시 범죄를 저지르는 것은 아니라는 말이다. 더구나 범죄 용의자로 지목되면 사회적으로 상당한 불이익을 당할 수 있다는 점에서 AI 범죄예측 프로그램은 유용함 못지 않게 큰 위험성을 내포한다.

세계 최초로 AI규제법을 만들어 2026년부터 시행하기 한 유럽연합(EU)는 공공장소에서 실시간으로 얼굴을 인식하는 AI, 사람의 건강에 점수를 부여하는 AI시스템, 치안을 예측하는 AI프로그램을 금지했다. AI 불확실성으로 인한 인간의 불이익을 허용하지 않겠다는 방침인 셈이다.

AI 기술에 대한 포괄적인 규제를 담고 있는 이 법은 사회적 위험성이 높을수록 더 엄격한 규제가 적용된다. 위반 기업은 최대 3500만 유로 또는 연매출의 7% 중 더 높은 금액을 과징금으로 물어야 하고 최악의 경우 AI 사용이 금지될 수도 있다.

AI가 정교해지고 접근이 용이할수록 AI에 대한 신뢰와 의존도는 높아지기 마련이다.

[맨해튼 로이터=뉴스핌] 이나영 인턴기자= '메가 밀리언스' 복권 추첨을 앞둔 10일(현지시간) 미국 뉴욕시 맨해튼의 한 판매점에서 복권 당첨금이 표시돼 있다. 메가 밀리언스 웹페이지에 따르면 지난 6일 추첨에서 1등 당첨자가 나오지 않아 복권 누적 당첨금이 11억달러(1조 3728억원)까지 치솟았다. 2023.01.10 nylee54@newspim.com

최근 AI로 로또 1등 번호를 찍어준다는 업체로 인한 피해가 늘고 있다고 한다. 로또 1등 당첨 확률은 약 814만분의 1, 벼락을 6번 연속 맞는 확률에 해당한다. 변동성이 크고 데이터가 충분하지 않은 만큼 AI로 예측할 수 있는 분야가 아니다.

AI는 만능이 아니다. 여전히 불확실성이 존재하는 양날의 검이다.

믿을 수 있는 AI를 만드는 것도 적재적소에 필요한 만큼 현명하게 활용하는 것도 다 인간의 몫 이자 책임이라는 점을 기억하자.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

사진

李대통령 22~26일 유엔총회 참석 [서울=뉴스핌] 박찬제 기자 = 이재명 대통령이 80차 유엔총회 고위급 회기 참석을 위해 오는 22일부터 26일까지 미국 뉴욕을 방문한다. 이 대통령은 유엔총회 기조연설을 하고 대한민국 대통령으로는 처음 안전보장이사회 토의를 주재한다. 위성락 대통령실 국가안보실장은 19일 오후 용산 대통령실 기자간담회에서 이 대통령의 유엔총회 참석 일정을 밝혔다. 이 대통령은 우선 22일 뉴욕에 도착해 세계경제포럼 의장인 래리 핑크 블랙록 회장을 만나 인공지능(AI)과 에너지 전환에 관한 협력 방안을 논의한다. 이 대통령은 미국 상·하원 의원단을 접견해 한미관계 발전을 위한 의회의 역할도 당부한다. 뉴욕에 거주하는 한인동포 간담회도 한다. 여러 세대에 걸쳐 다양한 분야에서 활동하는 뉴욕 한인 동포들과 자리한다. [워싱턴 로이터=뉴스핌] 이재명 대통령이 25일(현지시간) 미국 워싱턴 D.C. 백악관에서 도널드 트럼프 대통령과 정상회담을 앞두고 인사를 나누고 있다. 2025.08.26 photo@newspim.com 다음 날인 23일에는 유엔총회 고위급 회기 기조연설을 한다. 이 대통령은 190여 개 국가 정상들 중 7번째로 기조연설에 나선다. 위 실장은 "전 세계 정상이 모이는 자리인 만큼 대한민국 대외정책을 천명하는 주요 무대가 될 것"이라며 "민주주의 대한민국 복귀를 선언하고 한반도 정책 등 한국 정부의 외교 비전을 제시하고 인류 평화와 번영을 이뤄나가기 위한 방안을 설명할 것"이라고 말했다. 23일 오후에는 안토니우 구테흐스 유엔 사무총장을 면담하고 글로벌 현안 대응과 관련해 유엔 중심의 다자주의 강화 방안을 논의한다. 한반도 평화 정착을 위한 유엔 총장의 지지도 당부할 예정이다. 저녁에는 미 조야의 오피니언 리더와 만찬을 하면서 한미관계 발전 방안에 대한 제언을 듣고 의견을 나눈다. 뉴욕 방문 사흘째인 24일 오후 3시에는 이 대통령이 한국 대통령으로는 처음으로 유엔 안보리 공개 토의를 주재한다. AI와 국제평화 안보 주제 회의에서 '모두의 AI 기조와 국제사회 평화 안보 공동 대응'에 대한 논의를 주도할 예정이다. 마지막 날인 25일 오전에는 미 금융가 월가와 한국 금융계 인사들이 참여하는 대한민국 서밋 행사에 참석한다. 이 대통령은 글로벌 핵심 투자자들을 만나 한국 정부의 정책을 소개하고 한국에 대한 투자를 요청할 방침이다. 위 실장은 "이 자리를 통해 코리아 디스카운트를 넘어서 '코리아 프리미엄'을 본격적으로 알려 연중 최고가를 경신 중인 한국 증시에도 활력이 돌 것으로 기대한다"고 설명했다. pcjay@newspim.com 2025-09-19 14:46

사진

KT, 2만명 'IMEI·폰번호 유출 우려 [서울=뉴스핌] 양태훈 기자 = KT가 18일 서울 광화문 웨스트 사옥에서 소액결제 피해 관련 2차 브리핑을 열고, 불법 초소형 기지국(일명 펨토셀) 신호와 연계한 추가 피해 정황 및 향후 재발 방지 대책을 발표했다. KT는 전수 분석을 통해 불법 기지국 아이디(ID) 4개를 확인했고, 해당 신호를 수신한 고객이 누적 약 2만 명이라고 밝혔다. 이는 1차 브리핑 당시 KT가 발표한 2개 ID·1만 9,000여 명에서 범위가 더 확대된 수치다. 피해 고객 수도 278명에서 362명으로 늘었고, 누적 피해액도 1억 7,000만 원에서 약 2억 4,000만 원으로 증가했다. 다만, KT는 9월 5일 비정상 소액결제 패턴 차단 조치 이후 새로운 피해는 발생하지 않았다고 재차 강조했다.◆ 전수 분석으로 불법 기지국 ID 4개 확인…2만 명 신호 수신 구재형 KT 네트워크부문 네트워크기술본부장은 이날 브리핑에서 "9월 5일 비정상 소액결제 패턴을 차단한 이후 현재까지 추가 피해는 없다"며 "1차 브리핑 당시 피해 고객 278명(피해액 1.7억 원)으로 파악했으나, 이후 고객 문의(VOC) 기반 추가 분석으로 362명·2억 4,000만원으로 확대됐다"고 설명했다. [서울=뉴스핌] 류기찬 기자 = 구재형 KT 네트워크부문 네트워크기술본부장이 18일 오후 서울 종로구 KT광화문빌딩 웨스트에서 열린 소액결제 피해 관련 대응 현황 발표에 앞서 고개 숙여 사과하고 있다. 2025.09.18 ryuchan0925@newspim.com 이어 불법 초소형 기지국 추적 과정에 대해 "소액결제 2,267만 건을 전수로 펼쳐놓고 결제 패턴과 기지국 동작 패턴을 이중으로 분석한 결과, 불법 기지국 ID 4개를 검출했다"며 "이는 VOC 고객의 접속 로그에서 확인된 ID와 동일했다"고 덧붙였다. 또 "불법 기지국 신호를 수신한 고객은 누적 약 2만 명으로 산출됐다"며 "다만 뒤늦게 확인된 두 개의 ID는 작동 시간이 매우 짧아 신호 수신 고객이 상대적으로 적었다"고 부연했다. 나아가 개인정보 유출 정황에 대해서는 "1차 브리핑에서 국제 이동가입자 식별번호(IMSI)를 중심으로 설명했지만, 민관합동조사단과의 확대 분석 결과 국제 모바일 기기 식별번호(IMEI)와 휴대폰 번호도 단말 기종·사용 환경에 따라 전송될 가능성이 있다는 점을 확인했다"며 "다만 유심(USIM) 인증키는 유출되지 않았고, 고객 성명·생년월일 역시 KT를 통해 유출된 정황이 없어 복제폰 생성 가능성은 낮다"고 선을 그었다. ◆ 피해 고객 전액 보상, 2만 명에 '안전안심보험' 무상 제공 김영걸 KT 서비스프로덕트본부장은 추가 피해가 발생한 부분을 고려해 고객 케어 방안을 대폭 강화하겠다고 밝혔다. 김 본부장은 "피해 고객 전체에 대한 청구 조정을 진행 중이며, 278명은 조정 완료, 추가 확인된 84명도 금일까지 마무리하겠다"며 "신용카드 결제 시점 차이 등으로 발생한 금액은 즉시 환불 처리하고 있다"고 강조했다. [서울=뉴스핌] 류기찬 기자 = 김영걸 KT 서비스프로덕트본부장이 18일 오후 서울 종로구 KT광화문빌딩 웨스트에서 소액결제 피해 관련 대응 현황 발표를 하고 있다. 2025.09.18 ryuchan0925@newspim.com 이어 "현재 무료 USIM 교체와 유심 보호 서비스 가입을 지원하고 있다"며 "피해 우려 고객 2만 명 전원에게 'KT 안전안심보험'(가칭)을 3년간 무료 제공해 금융사기 피해를 보상하겠다"고 밝혔다. 또 "오후 3시부터 KT 매장·고객센터·홈페이지에서 피해 여부 확인 시스템을 오픈했고, 24시간 전담 고객센터를 지속 운영하고 있다"고 덧붙였다. KT는 현장 대응 강화도 예고했다. 김 본부장은 "전국 2,000개 매장을 '안전안심 전문매장'으로 전환해 후후 앱 기반의 보안 점검, 악성 앱 탐지, 피싱 대응 안내 등을 상시 지원하겠다"며 "매장별 안전안심 담당자를 지정하고 IT 서포터즈를 활용해 피싱 예방 교육을 연말까지, 내년 이후에도 지속하겠다"고 강조했다. 나아가 2차 인증 확대와 관련해서는 "고위험 업종에 대해 9월 9일부터~12일까지 PASS 생체/핀 인증을 적용했다"며 "정부·유관기관 지침과 별개로 선제적 확대를 검토하겠다"고 말했다. ◆ 펨토셀 18.9만 대 현황 공개…미사용 4.3만 대 차단·회수 착수 KT는 이날 브리핑에서 펨토셀 관리 실태도 공개했다. 구 본부장은 "총 설치 18.9만 대 중 시점별 가동 장비는 15~16만 대 수준"이라며 "3개월 미사용 4.3만 대는 연동 해지 조치했고, 2주 이내 전수 점검해 정상 사용 확인, 철거·회수 또는 영구 접속 차단을 병행하겠다"고 설명했다. 이어 불법 기지국 추정 방식과 원인에 대해 "합법 장비를 불법 개조하거나, 고출력 앰프를 추가 연결했을 가능성이 크다. 또 실내용 이동형 형태로 제작해 광범위한 커버리지를 확보한 정황이 있다"고 설명했다. 다만 "로그 분석 기준으로는 ID 4개가 확인됐고, 하드웨어 실물 대수는 수사로 확인될 것"이라고 말했다. [서울=뉴스핌] 류기찬 기자 = 구재형 KT 네트워크부문 네트워크기술본부장이 18일 오후 서울 종로구 KT광화문빌딩 웨스트에서 소액결제 피해 관련 대응 현황 발표를 하고 있다. 2025.09.18 ryuchan0925@newspim.com 복제폰 가능성 논란에 대해 손정엽 KT 디바이스본부장은 "복제폰에는 IMEI·IMSI·인증키 3가지가 모두 필요하다"며 "인증키는 유심(HSM 주입)과 서버에만 암호화 저장돼 있으며 통신망을 오가지 않는다. 따라서 IMEI·IMSI만으로는 복제 불가"라고 재차 강조했다. 한편, KT는 이번 사태를 계기로 보안 관련 투자도 확대하기로 했다. 황태선 KT 정보보안실장은 "KT는 수개월 전 향후 5년간 보안 투자 1조 원 계획을 밝힌 바 있다"며 "이번 사태를 계기로 올해·내년 우선순위를 모바일 서비스·단말 보안으로 재배치하고, 보안 거버넌스 강화도 병행하겠다"고 말했다. *용어 설명 펨토셀(Femtocell) :초소형 이동통신 기지국. 가정이나 소규모 사무실에 설치해 휴대폰 신호를 보강하는 장치. 불법 개조 시 해킹·소액결제 범죄에 악용될 수 있음.VOC (Voice of Customer) :고객 불만·문의 사항. 기업이 문제를 파악하고 대응책을 마련할 때 쓰는 데이터 소스. IMSI (International Mobile Subscriber Identity, 국제 이동가입자 식별번호) : 유심(USIM)에 저장된 번호. 이동통신망에서 가입자를 식별하는 고유 번호로, 유출될 경우 특정 가입자의 통신 기록 추적이 가능. IMEI (International Mobile Equipment Identity, 국제 모바일 기기 식별번호) :단말기(휴대폰) 고유 식별번호. 분실·도난 시 기기 차단이나 추적에 활용. USIM 인증키 : 통신사 네트워크에 가입자임을 인증하는 핵심 암호화 키. 유심 칩과 서버에만 저장되며, 유출되면 복제폰 생성 가능성이 생김. 복제폰(Clone Phone) : 정식 단말과 동일한 IMSI, IMEI, 인증키를 복사해 만든 불법 단말기. 원래 가입자처럼 네트워크에 접속할 수 있음. dconnect@newspim.com 2025-09-18 17:18