전체기사 최신뉴스 GAM
KYD 디데이
글로벌 미국·북미

구글 '바드' 오답 "문장 자동완성 시스템이 오정보 생성"

기사입력 : 2023년02월09일 15:36

최종수정 : 2023년05월17일 08:27

[서울=뉴스핌] 최원진 기자= 마이크로소프트(MS)가 오픈AI의 인공지능(AI) 챗봇 '챗GPT'를 탑재한 새로운 버전의 검색 엔진 빙(Bing)을 출시하자 구글도 '바드'(Bard)를 공개했지만 광고 영상 속에서 바드의 오답이 확인되면서 망신을 샀다. 

구글이 지난 6일(현지시간) 공개한 짧은 바드 시현 영상에는 "나의 9살 아이에게 알려줄 만한 '제임스 웹 우주망원경'(JWST)의 새로운 발견들은 어떤 게 있을까"란 질문이 검색됐고, 바드는 "당신의 9살 아이가 좋아할 만한 JWST의 발견들을 아래에 모아봤다"며 '사실'들을 나열했다.

그러나 답변 중에는 "JWST가 최초의 외계 행성 사진을 찍었다"는 잘못된 정보가 포함돼 주요 외신과 전문가들의 지적이 빗발쳤다. 미 항공우주국(NASA)도 최초의 외계 행성 이미지는 지난 2004년 유럽남방천문대가 설치한 초거대 망원경(VLT)이 찍었다고 확인했다. 

챗GPT 모바일 구동화면.[사진=블룸버그]

구글 바드의 잘못된 답변을 지적한 여러 전문가 중 한 명인 NASA 소속의 천체 물리학자 그랜트 트렘블래이 박사는 "챗GPT 등 AI챗봇은 소름끼치도록 인상적인 것은 맞지만 오답을 내놓는다. 그것도 '매우 자신있게' 잘못된 답변을 내놓는다"고 지적했다.

이는 비단 구글만의 문제라기 보단 생성형 AI의 구동 방식 자체의 문제일 수 있다고 미 IT전문 매체 더버지는 분석했다. 

챗GPT, 바드 같은 AI챗봇은 질문에 답하기 위해 입증된 사실만 모아놓은 특정 데이터베이스(DB)에서 정보를 가져오는 것이 아니라 셀 수 없을 정도로 방대한 인터넷상 글의 문장 패턴을 분석, 이용자 질문에 부합하는 단어들을 서술형으로 재조합하는 원리다. 

AI챗봇은 본질적으로 '문장 자동 완성 시스템'이기 때문에 알맞는 단어들을 추출하고 재조합하는 과정에서 오류를 범할 수 있다.

또 정보를 수집하는 출처도 현재로선 제한된 것이 없어서 각종 블로그, 소셜미디어 등 이용자의 주관적 시각을 포함한 글들도 정보 수집 재료로 쓰일 수 있어 문제다. 

"미국의 초대 대통령은 누구?"와 같은 역사적 사실에 관한 질문에 오답이 나올리 없겠지만 JWST 등 최근 발생한 사건에 대한 답변은 '오류투성이'일 가능성이 큰 것도 이 때문이다. 

결국 AI챗봇은 입력값에 따라 출력값이 결정되는 '결정론적'(deterministic) 시스템이 아니라, AI가 질문과 연관됐다고 판단할 경우 사실입증 여부와 관계없이 정보를 제공하는 '개연론적'(probabilistic) 접근을 취한다는 설명이다. 

AI를 연구하는 미 프린스턴대학의 아빈드 나라야난 컴퓨터과학과 교수도 생성형 AI가 내놓는 답변이 "사실인지 아닌지 어떻게 알 수 있겠나"면서 현재로선 "엉터리 생성기에 불과하다"고 지적했다.

AI가 기계학습(machine learning) 능력으로 거짓정보를 차단할 순 없는 것일까. 미 매사추세츠공과대학(MIT)의 레미 발리 박사는 "정보를 가져온 웹사이트가 한 번이라도 가짜뉴스나 잘못된 정보를 게시한 적이 있다면 시스템이 자동적으로 해당 사이트에서의 데이터 수집을 차단하는 것이 한 방법일 수 있겠다"고 조언했다. 

콘텐츠 마케팅 업체 시에지 미디어의 로스 허젠스 검색엔진 전문가는 구글과 MS의 AI 검색 서비스는 이제 막 첫걸음을 뗀 상태이고 당연히 완벽할 수 없기 때문에 "구글이 바드를 일반 대중에 전면 출시할 때 아마도 답변 출처 URL링크를 첨부하지 않을까 생각한다"고 예상했다. 

wonjc6@newspim.com

[뉴스핌 베스트 기사]

사진
정부조직 개편 방식 '안갯속' [서울=뉴스핌] 윤채영 기자 = 이재명 정부의 조직 개편 발표가 오는 8월 13일로 정해진 것으로 확인됐다. 국정기획위원회는 이달 말 대국민보고를 할 계획이었지만 미뤄지면서 정부조직 개편의 구체적인 방식은 안갯속이다. 26일 뉴스핌 취재를 종합하면, 국정위는 정부 조직 개편안 등을 이재명 대통령에게 보고하며 막바지 정리 작업 중에 있다. 개편이 유력한 기획재정부와 검찰 조직 등에 대한 추가 검토가 이뤄지고 있는 것으로 알려졌다. [서울=뉴스핌] 이길동 기자 =이한주 국정기획위원회 위원장.2025.07.22 gdlee@newspim.com 국정위는 당초 이달 중 대국민보고 등 주요 일정을 마칠 계획이었다. 국정위의 법적 활동 기한은 60일로 오는 8월 14일까지 활동할 수 있다. 1회 한해 최장 20일까지 연장할 수 있지만 국정위는 조기에 활동을 마무리 하겠다고 했다. 국정위의 속도전에 제동이 걸린 데는 정부의 첫 조직 개편인 만큼 조금 더 신중해야 한다는 목소리가 크게 작용한 것으로 알려졌다. 환경부와 산업자원통상부의 기후와 에너지 파트를 분리해 기후에너지부를 신설하는 과정에서 각 부처의 반발도 나오는 점 등이 대표적이다. 또 이 대통령이 이달 말에서 내달 초 방미 일정이 잡힐 수 있다는 점도 정부조직 개편이 늦어진 배경인 것으로 전해졌다. 1차 정부조직 개편안에는 기재부의 예산 분리 기능과 검찰청 폐지가 담길 것이 유력하다. 조승래 국정위 대변인은 앞서 "기재부 예산 기능을 분리하는 것과 (검찰청의) 수사와 기소 분리는 공약 방향이 명확하다"고 말했다. 기재부 조직 개편은 ▲예산 편성 기능을 분리해 과거의 기획예산처를 되살리고 나머지 기능은 재정경제부로 개편하는 안 ▲예산처가 아니라 재무부를 신설하는 안 ▲기재부 내에서 기능을 조정하는 안 등이 거론돼 왔다. 이 방안들을 놓고 국정위는 검토하고 있다. 현재는 기획재정부를 기획예산처와 재정경제부로 나누는 안이 유력한 것으로 알려졌지만, 국정위는 초안 등과 관련해서는 말을 아끼고 있는 상황이다. 검찰청 폐지 골자의 검찰 조직 개편안도 이번 조직 개편에 포함될 가능성이 높다. 이미 여당에서는 검찰의 수사권과 기소권을 분리하는 내용의 '검찰개혁 4법'을 발의했다. 김용민 더불어민주당 의원 등이 발의한 법안에는 검찰 권력의 핵심인 기소권은 법무부 산하에 공소청을 신설해 여기로 이관하는 내용이 담겼다. 수사권은 행정안전부 산하에 중대범죄수사청을 신설해 이곳으로 넘기기로 했다. 다만 수사권을 행안부 산하에 둘지 법무부 산하에 둘지를 두고는 여권 내에서도 이견이 있어 더 논의 중인 것으로 알려졌다. 금융위원회와 금융감독원 개편 방안을 놓고도 논의가 이어지고 있는 것으로 전해졌다. 당초 금융위 해체 차원의 '금융위 정책과 감독 기능 분리' 조직 개편안이 유력했다. 그러나 최근 여당에서 기획재정부 내 국제금융 업무를 금융위로 이관하는 내용의 법안을 발의하며 '금융위 존치론'이 급부상하고 있다. 금융위 해체론에 제동이 걸렸다는 목소리가 나오면서 이 역시도 오리무중인 상황이다. ycy1486@newspim.com 2025-07-26 07:00
사진
특검, 한덕수 자택·총리공관 압수수색" [세종=뉴스핌] 양가희 기자 = 내란특검팀이 24일 국무총리 서울공관에 대한 압수수색에 들어갔다. 국무총리실은 이날 문자 공지를 통해 특검팀의 수사에 적극 협조하고 있다며 이같이 밝혔다.   특검은 이날 한덕수 전 총리 자택 압수수색에도 나섰다. [서울=뉴스핌] 이형석 기자 = 한덕수 전 국무총리가 2일 오후 서울 서초구 서울고등검찰청에 마련된 내란 특검 사무실에서 조사를 마치고 차량으로 이동하고 있다. 2025.07.02 leehs@newspim.com 한 전 총리는 윤석열 전 대통령의 비상계엄 선포 계획을 알고도 이를 묵인 또는 방조했다는 의혹을 받고 있다. 특검은 압수물 분석을 마치는 대로 한 전 총리 등을 다시 조사한 뒤 구속영장 청구 여부 등을 검토할 전망인 것으로 알려졌다. sheep@newspim.com 2025-07-24 13:54
안다쇼핑
Top으로 이동