AI 챗봇은 정치색이 있을까?

워싱턴포스트가 최근 주요 AI 챗봇의 정치 성향을 분석한 결과는 꽤나 충격적이다. 챗GPT는 정치적으로 민감한 질문에서 전체 답변의 80%를 진보 진영 논리만 담아 답했고, 클로드는 중립적 답변이 57%였지만 보수적 답변은 한 건도 없었다. 중국계 딥시크도 70%가 진보 편향이었다. 심지어 일론 머스크가 '정치적 올바름(PC주의)에 오염되지 않은 진실을 추구하겠다' 호언장담하며 선보인 그록조차 진보적 답변이 40%로 보수적 답변(33%)보다 높게 나타났다. 그나마 구글 제미나이만 93%에서 양측 입장을 균형 있게 소개했다.

그 동안 "AI가 왜곡된 정치적 이데올로기를 주입하고 있다"고 주장해 온 보수 진영은 이 결과를 "거 봐, 맞지?"라고 할 것이고, 진보 진영은 "AI가 옳은 말을 하는 것뿐"이라고 할 것이다.

문제의 핵심은 좌냐 우냐가 아니다. 더 근본적인 질문이 숨겨져 있다. AI가 사실만 말해도, 굳이 설득하려 들지 않아도, 사람의 생각은 바뀔 수 있다는 것이다.

올해 3월 예일대 연구팀이 학술지 PNAS Nexus에 발표한 논문이 이 점을 실증한다. 연구팀은 1,912명에게 역사적 사건에 대한 요약문을 읽게 했다. 일부는 GPT-4o가 생성한 기본 요약문을, 일부는 위키피디아를 받았다. AI 요약문에는 거짓 정보가 없었다. 설득 의도도 없었다. 그런데 AI 요약문을 읽은 집단이 위키피디아를 읽은 집단보다 일관되게 더 진보적인 견해를 보였다.

연구 책임자 대니얼 카렐 교수는 사실 정보를 제공하는 AI 챗봇을 통해 역사적 사실을 알아보는 것만으로도 사람들의 견해가 달라질 수 있으며 "효과는 미약하지만, 누군가가 사실 정보를 얻기 위해 챗봇을 자주 사용한다면 그 효과는 누적될 수 있다." 고 경고했다.

이른바 '잠재적 편향(latent bias)' 이다.

AI는 훈련 과정에서 특정 방향의 데이터를 더 많이 학습했고, 그 결과 사실을 고르고 배열하는 방식 자체가 편향돼 있다. AI 모델의 학습 데이터 상당 부분은 레딧(Reddit)과 위키피디아에서 수집된다. 레딧은 좌편향 사용자층을 가진 플랫폼으로 알려져 있다. 더 근본적으로는, 서구의 교육 수준이 높고 산업화된 부유층 민주주의 국가의 가치관이 훈련 데이터에 반영되는 경향이 있다.

딱히 거짓을 말하지 않아도 무엇을 앞에 놓고, 무엇을 뒤에 배치하고, 어떤 맥락으로 감싸느냐 하는 프레이밍 방식은 이미 하나의 정치적 행위다. 위키피디아는 편집 과정을 공개한다. 하지만 AI의 훈련 과정은 불투명한 블랙박스다. 

개인에게 미치는 영향은 여기서 그치지 않는다. AI는 사용자가 듣고 싶은 말을 해줄 때 더 좋은 평가를 받도록 학습되었다. 실지로 사용자도 자신의 견해를 확인해주는 AI를 더 선호하고 더 많이 사용한다.  그 결과 AI와 개인 사이에서만 편향이 증폭되는 구조가 생긴다. 영국 옥스퍼드대 등 연구팀은 올해 Nature Mental Health에 발표한 논문에서 이를 "1인 에코 챔버(echo chamber of one)"라 명명했다. 소셜미디어 에코 챔버가 비슷한 생각을 가진 사람들 사이에서 형성된다면, AI 에코 챔버는 타인의 영향력 없이 나와 알고리즘 사이에서만 완성된다. 훨씬 강력하고 은밀한 셈이다.

AI의 설득력이 정말 그렇게 강할까?

코넬·MIT 연구팀이 지난해 12월 Nature와 Science에 동시 발표한 논문에 따르면, AI가 강력한 이유는 심리적 조작 때문이 아니라 관련 사실과 근거를 끊임없이 쏟아내기 때문이다.

문제는 그 역효과다. 사실을 최대한 많이 제시하도록 설계된 AI일수록 부정확한 정보도 더 많이 포함됐다. "백만 개의 사실이 필요하다면, 결국 좋지 않은 것들도 채워 넣게 된다"고 데이비드 랜드 교수는 말했다. 설득력이 강할수록 오류도 많다는 역설이다.

AI가 사실에 기반한 정보를 제공해도 프레이밍의 차이만으로 의견이 달라질 수 있다는 발견은, 사람들이 뉴스 검색 대신 AI에 의존하는 시대에 심각한 우려를 제기한다.

AI의 영향력이 커지는 속도에 비해 우리의 대응은 여전히 너무 느리다. 미국 성인의 52%가 현재 챗GPT 같은 AI 언어모델을 사용하고 있으며, AI가 교육·행정 분야의 의사결정 보조 도구로 점점 더 많이 쓰이는 상황에서 사용자가 모르는 사이 특정 정치적 편향을 내면화 할 위험이 크다는 점은 심히 우려스럽다.

한국도 다르지 않다. 젊은 세대를 중심으로 '모르는 것은 포털 대신 AI에게 묻는' 습관이 자리 잡고 있다. 그 AI가 어떤 가치관의 데이터로 학습됐는지, 어떤 방식으로 답변을 구성하는지를 우리는 알지 못한다.

AI는 설득하지 않는다. 강요하지도 않는다. 대신 프레이밍을 선택하고, 사실을 골라 배열하고, 내가 듣고 싶은 말에 조금씩 가까워진다. 그리고 그 선택이 매일, 매달, 매년 수만 번 반복된다.

오늘날 민주주의가 걱정해야 할 것은 거짓 정보만이 아니다. 진실을 선별하는 알고리즘이 누구의 가치관으로 어떻게 설계됐는지, 그 질문을 우리는 아직 제대로 시작하지도 못했다. 공중에 뜬 질문이 미래의 우리를 만들고 있는 셈이다.

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등