전체기사 최신뉴스 GAM
KYD 디데이
전국 대전·세종·충남

속보

더보기

만능이라더니 헛소리하는 챗GPT?...AI 신뢰성 잡으면 전세계 잡는다

기사입력 : 2023년03월04일 19:16

최종수정 : 2023년03월06일 15:46

쓰레기 정보까지 학습하는 챗GPT, 신뢰성 우려
"데이터 편향 측정·데이터 표준화 선도 적기"

[서울·대전=뉴스핌] 김수진 기자 = # 대전의 한 소재 관련 연구소에서 근무하는 A연구원은 재미삼아 대화형 인공지능(AI) 챗GPT로 연구보고서를 작성했다가 깜짝 놀랐다. 챗GPT가 보고서에서 인용했다는 논문은 실제로는 존재하지 않는 '거짓' 출처였기 때문이다. A연구원은 "그럴 듯한 내용으로 보고서를 만들어냈지만 자세히 살펴보면 내용의 오류가 상당했고 심지어 잘못된 참고 논문을 알려주거나 아예 거짓 출처를 제시하기도 했다"며 "한마디로 챗GPT가 거짓말로 소설을 쓴 것으로, 신뢰성 측면에서 상당히 우려된다"고 말했다.

산업계부터 의료, 교육, 정치, 문화·예술 모든 분야에서 챗GPT(chat GPT) 열기가 뜨겁다. 일론 머스크가 작정하고 차린 스타트업 '오픈AI'가 지난해 11월 말 '챗GPT'를 선보이며 전 세계를 뒤집어놓고 있다. 챗GPT은 그간 AI와는 전혀 다른 수준의 결과물을 만들어내며 공개 5일만에 이용자 100만명을 돌파하고 지난달에는 1억명 이상이 이용하고 있다. 오픈AI는 이달 중으로 이용자 2억명을 거뜬히 넘길 것으로 보고 있다. 챗GPT를 놓고 '아이폰 이후 최대 혁신' '모든 분야의 게임체인저' 등의 극찬이 연일 쏟아지고 있다.

오픈AI와 챗GPT 로고 [사진=로이터 뉴스핌]

챗GPT는 대규모 언어모델(LLM)을 기반한 AI시스템에 많은 정보를 투입해 인간의 언어·문법 등을 이해시키는 학습과정을 거친다. 여기에 투입되는 정보는 인류가 그간 쌓아온 지식 자산을 기반으로 한다. 상황을 전체적으로 이해하고 대응하는 '인공일반지능(AGI)'에 가깝다. 심지어 출시 시점부터 이미 학습시스템을 완료한 모델로 곧바로 비즈니스 모델화가 가능하다는 장점도 갖췄다. 분야·기능별 AI모델을 새롭게 만들어야 하는 기존 모델과는 다르다. 국내 한 교육 플랫폼 대표는 "챗GPT가 시장에서 각광받는 이유도 즉각 활용할 수 있는 완성형 AI모델이기 때문"이라고 평가하며 "우리도 제품에 챗GPT를 도입을 위한 준비 중"이라고 밝혔다.

실제로 이미 국내에서도 챗GPT를 도입한 기업들이 적지 않다. 의학·건강부터 교육, 업무용 툴, 여행플래너 등 다양한 분야에서 해당 AI를 활용하고 있다.

일론 머스크 테슬라 CEO.[사진=로이터 뉴스핌]

◇ 거짓말하는 챗GPT?..."TTA 데이터 편향기준 적극 활용해야"

그런데 출시 불과 3달만에 챗GPT를 어디까지 믿을 수 있느냐는 우려가 나오고 있다. 챗GPT가 신뢰성이 떨어지는 결과물을 내놓기 시작했기 때문이다.

실제 국내 한 언론사에서 챗GPT의 성능을 확인하기 위해 '현재 대한민국 대통령이 누구냐'고 묻자 문재인 전 대통령이라는 오답을 냈다. 또 미국 의사시험과 로스쿨 시험을 통과한 챗GPT가 정작 한국 대학수학능력시험 수리영역에서는 두 자리수 곱셈도 틀리는 등 연산능력에 한계를 보였다. 스스로 만들어낸 근거없는 출처를 바탕으로 한 논문을 작성하기도 했다. 이러한 상황에 더해 심지어 일부 커뮤니티에서는 잘못된 결과물을 내놓게 하기 위해 일부러 챗GPT에게 '가스라이팅'하는 놀이문화까지 번지고 있는 상황이다.

미국 워싱턴주 리치먼드의 마이크로소프트(MS) 본사에서 인공지능(AI) 챗봇이 탑재된 검색엔진 빙(Bing)을 체험해보는 시민. 2023.02.07 [사진=블룸버그]

전문가들은 챗GPT가 학습한 데이터에는 팩트에 기반한 좋은 정보뿐만 아니라 인터넷에 돌아다니는 쓰레기 정보까지 모두 흡수하기 때문이라고 본다. AI가 데이터 오류까지 모조리 학습하다보니 틀린 답변을 내놓는 것. 이 때문에 출처 없이 '속이는 행위'가 빈번히 일어나고 사실과 거짓을 혼용한 결과물이 나온다. 챗GPT의 이러한 시스템을 악용할 수도 있다고 전문가들은 지적한다. 이해주 국가ESG연구원 공동대표는 한 언론을 통해 "여론조작에 이용되도록 유혹적 댓글을 수만개씩 양산할 수 있다"고 경고하기도 했다.

이처럼 AI 산업에서 정확성과 신뢰성이 화두로 떠오르면서 산업계·정부 모두 대책 마련에 나서고 있다. 시장 블루오션인 '신뢰성'을 확보하면 전세계 AI 시장을 선점할 수 있을 것으로 본 것이다.

실제로 한국은 전세계 최초로 '인공지능법'을 발의한 상태다. 국회 정필모(더불어민주당, 비례)의원은 '인공지능산업 육성 및 신뢰기반 조성 등에 관한 법률안'을 지난해 7월 발의, 현재 해당 법은 국회 과학기술정보방송통신위원회 정보통신방송 법안심사소위원회를 통과한 상태다.

특히 법안에는 '신뢰성 전문위원회'를 민간전문가로 구성해 AI 신뢰기반조성을 위한 의견 수렴 및 논의·연구를 진행하는 내용이 담겨 눈길을 끈다. 정 의원은 "국내 AI 기술 발전 기반과 국가역량 집중 투자 등을 위한 제도 마련을 위해 세계 최초 관련 법 제정이 시급하다"고 강조했다.

네이버는 챗GPT와 차별성을 두기 위해 AI윤리를 앞세우고 있다. 지난 2021년 2월 서울대와 협업해 AI윤리준칙을 발표, 자체 서비스에 적용하며 신뢰성 확보에 신경쓰고 있다. 네이버 측은 "AI의 편향성을 없애고 사용자 신뢰를 확보할 수 있는 AI를 연구개발하고 있다"며 "사회적 편향을 완화하는데 중점을 두고 있다"고 설명했다.

[사진=셔터스톡]

일각에서는 신뢰성 확보를 위해 지금이야말로 정부 차원에서의 'AI 데이터 검증 표준화' 선도가 시급하다는 목소리가 커지고 있다.

소프트웨어 공학 전문기업 씽크포비엘 박지환 대표는 "학습데이터를 통제하지 않은 채 AI에 공정한 판단을 요구하는 것은 길거리에 자유롭게 방치된 아이가 무탈히 인격자로 자라나길 기대하는 것과 같다"고 꼬집었다.

이어 박 대표는 한국정보통신기술협회(TTA)가 이미 마련하고 있는 데이터 편향 측정 기준을 정부 차원에서 적극 활용해야 한다고 덧붙였다.

박지환 대표는 "AI허브에 민간기업을 위해 만들어 놓은 막대한 양의 공공데이터가 있는데 어떠한 가치가 있는지, 보완할 점을 무엇인지를 평가할 것을 제안한다"며 "AI 데이터 표준화를 대한민국이 선도한다면 우리 기준으로 세계 AI를 검증·평가하는 날이 올 것"이라고 말했다.

nn0416@newspim.com

[뉴스핌 베스트 기사]

사진
소고기 콕 집은 트럼프...축산농 반발 [세종=뉴스핌] 이정아 기자 = 다음 달 1일 한국에서 생산돼 미국으로 수입되는 모든 제품에 '25% 상호관세' 부과를 앞둔 상황에서 한미 간 막판 협상에 돌입했다. 이번 협상에서 미국은 30개월령 이상 미국산 소고기 수입 제한 철폐를 강하게 요구하며 한국을 압박하고 있다. 정부는 미국 측의 압박으로 30개월령 이상 미국산 소고기 수입 허용 등 농축산물 비관세장벽 카드를 협상테이블에 올리는 방안을 고심 중이다. 다만 농민단체의 반발과 국민 신뢰가 흔들릴 것으로 예상되면서 '제2의 광우병 사태'가 재현되는 것 아니냐는 우려도 제기된다.  ◆ 美, 30개월령 이상 소고기 압박…韓, 농산물 카드 검토 28일 정부에 따르면 도널드 트럼프 미국 대통령은 호주가 미국산 소고기를 개방했다는 점을 연일 언급하며 한국에도 같은 수준의 개방을 요구하고 나섰다.  도널드 트럼프 대통령은 지난 24일(현지시간) 소셜미디어인 트루스소셜에 "호주가 미국산 소고기를 받아들이기로 합의했다"며 "이제 우리는 호주에 (미국산) 소고기를 많이 팔 것"이라고 게시했다. 도널드 트럼프 미국 대통령.[사진=로이터 뉴스핌] 2025.07.25 mj72284@newspim.com 이어 "우리의 훌륭한 소고기를 거부하는 다른 나라들도 (개방) 요구를 받은 상태"라며 "이 좋은 흐름을 이어가자. 지금은 미국의 황금기"라고 덧붙였다. 트럼프 대통령은 소고기 개방을 거부하는 국가를 구체적으로 명시하지는 않았지만, 관세협상을 앞둔 한국을 겨냥한 것 아니냐는 해석이 나왔다. 제이미슨 그리어 미국 무역대표부(USTR) 대표와 브룩 롤린스 미국 농무부 장관 또한 트루스소셜을 통해 "지난 20년간 비과학적인 무역 장벽 때문에 우리 소고기가 호주 소비자들에게 판매되지 못했다는 것은 터무니없다"는 성명을 발표했다. 이들은 "미국 농축산업자들은 세계에서 가장 안전하고 건강한 소고기를 생산하고 있다"며 "USTR은 불공정한 무역 관행을 타파하고 미국 국민이 주요 시장에 배제되지 않도록 미국의 무역 파트너들과 계속 협상할 것"이라고 밝혔다. 미국이 협상을 진행하는 국가를 대상으로 연일 30개월 이상 소고기 개방을 압박하면서, 한국도 소고기 카드를 협상 테이블에 올릴지 여부를 검토 중이다.  김용범 대통령실 정책실장은 지난 25일 한미 관세협상과 관련해 "협상 품목 아래 농산물도 포함돼 있다"며 "농업이나 디지털 분야는 제이미슨 그리어 미 무역대표부(USTR) 대표와 여한구 통상교섭본부장 간 협상이 계속 이어지고 있다"고 전했다. 당초 정부는 한미 관세협상에서 농업분야 보호를 우선으로 두고, 30개월령 이상 미국산 소고기 개방 등 비관세 장벽을 해소할 카드를 협상 테이블에 올리지 않기로 방침을 정한 바 있다. 한 대형마트의 미국산 쇠고기 진열대 모습 <뉴스핌 DB> 그러나 지난 25일(현지시간) 미국 워싱턴DC에서 열릴 예정이었던 한미 고위급 '2+2 통상협의'가 스콧 베센트 미국 재무장관의 일정 사유로 전날 취소되면서 미국이 한국의 협상 태도에 불편을 느낀 것 아니냐는 지적이 나왔다. 앞서 미국은 우리나라에 대해 25%의 상호관세를 부과하는 행정명령에 서명했다. 이는 오는 8월 1일부터 적용되며, 한미 양국은 관세 협상을 진행 중이다. 트럼프 행정부는 한국에 대해 ▲30개월령 이상 미국산 쇠고기 수입 허용 ▲쌀 시장 추가 개방 ▲유전자변형(LMO) 감자·사과 검역 완화 등을 강하게 요구하고 있다. ◆ 농민단체 "관세협상에 농업 희생양 삼지 말아야"…대정부 투쟁 돌입 정부로서는 30개월령 이상 미국산 소고기 수입에 대해 민감하게 반응할 수밖에 없다. 우선 한국은 현재도 미국산 소고기의 최대 수입국이다. 지난해 미국산 쇠고기 수입액은 22억1000만달러로 집계됐다. 전체 수입액(38억4700만달러) 대비 57.4%를 차지한다. 미국산 쇠고기 수입액은 지난 2004년 1억300만달러에서 2012년 5억2200만달러, 2016년 10억3500만달러로 20억달러를 넘기다 2022년에는 26억2400만달러로 역대 최대치를 기록했다. 지난해까지의 연평균 증가율은 17.5%다. 이재명 대통령 [사진=대통령실] 우리나라는 이른바 '광우병 파동' 이후 30개월령 미만 미국산 소고기만 수입하고 있다. 지난 2008년 한미 쇠고기 협상이 타결됐고, 우리 정부가 30개월령 이상 미국산 소고기까지 수입한다는 사실이 알려지자 이에 반대하는 촛불집회가 전국적으로 열렸다. 당시 이명박 정부 지지율은 취임 2개월 만에 20%대로 폭락했고, 결국 정부는 미국과 소고기 협상을 일부 재협상했다. 다시 말해 현재 국내 소비자들은 30개월령 이상 미국산 소고기 섭취에 대해 안전하지 못하다는 인식이 기반에 깔려 있다. 또 우리나라 연간 쌀 저율관세할당(TRQ) 물량은 40만8700톤으로, 미국 물량이 이중 13만2304톤(32%)을 차지한다. 쌀 개방은 WTO 규약에 묶여 있기 때문에 한미 양자 간 협상체계가 불가능하다. 다만 미국이 소고기 등 농산물 개방을 미루는 국가에 더 높은 관세를 부과할 계획이라는 점을 연일 강조하면서 국익 측면에서 조선·철강·반도체 등 산업을 보호하고 농산물을 희생해야 하지 않겠냐는 의견도 나온다. 농민단체는 정부의 기류에 대거 반발하고 있다. 한국농축산연합회, 한국종합농업단체협의회, 축산관련단체협의회, 농민의길 등 농축산업 단체는 이날 용산 대통령실 앞에서 결의대회를 개최하고 대정부 투쟁에 나선다. 이들 단체는 "미국산 농축산물은 이미 한미 FTA로 전면개방을 한 마당에 관세 추가 인하 및 비관세장벽까지 철폐된다면 농민 생존권 말살과 함께 국내 농업생산 기반 붕괴는 시간문제일 것"이라며 강하게 규탄한다. 이어 "미국산 소고기에 대한 수입연령 제한과 사과에 대한 식물검역은 국내법과 WTO 등 국제협정 등에 따른 정당한 조치이며, 국민건강과 직결된 것으로 절대 포기해선 안 되는 문제"라며 "농축산물을 협상대상에서 제외해 식량주권과 국민건강권을 반드시 사수할 것"을 정부에 촉구했다. 단체 관계자는 "한미 관세협상 추이를 예의주시하면서 요구가 묵살될 경우 대대적인 추가 농민항쟁을 벌이겠다"고 예고했다. [서울=뉴스핌] 이형석 기자 = 3일 오후 서울 여의도 국회 본청 계단에서 열린 더불어민주당 쌀값정상화법 공포 촉구 결의대회에서 참석자들이 피켓을 들고 구호를 외치고 있다. 2023.04.03 leehs@newspim.com plum@newspim.com 2025-07-28 12:49
사진
SPC "8시간 넘는 야간근무 없앤다" [서울=뉴스핌] 최원진 기자= SPC그룹이 27일 대표이사 협의체인 'SPC 커미티'를 열고 장시간 야간 근로를 폐지하고, 앞으로 생산직의 야근 시간을 8시간 이내로 제한하기로 했다고 밝혔다. SPC그룹은 야간 생산이 불가피한 일부 필수 품목을 제외하고, 가능하면 야간 가동 자체를 줄여나가겠다는 방침이다. 그룹 관계자는 "8시간 초과 야근 폐지를 위해 △인력 확충 △생산 품목 및 생산량 조정 △라인 재편 등 전반적 생산 구조를 완전히 바꿀 계획이다. 각 (계열)사별 실행 방안을 마련해 10월1일부터 전면 시행한다"고 설명했다. 이재명 대통령이 지난 25일 경기 시흥시 SPC 삼립 시흥 공장에서 열린 산업재해 근절 현장 노사간담회에서 발언을 하는 모습. [사진=대통령실]  주간 근무 시간 역시 단계적으로 단축해 장시간 노동에 따른 피로 누적과 사고 위험을 사전에 차단한다는 계획이다. 또한 이번 근무체계 전환이 현장에서 안정적으로 정착될 수 있도록 노조와 협의를 병행하고, 내부 교육 및 매뉴얼 정비 작업도 함께 추진할 예정이다. SPC는 "생산 현장의 장시간 야간 근로에 대한 지적과 우려를 무겁게 받아들여 근무 형태를 비롯한 생산 시스템 전반에 대한 개혁을 추진하기로 했다"며 "앞으로 근로자 안전이 최우선시되는 일터를 만들 수 있도록 적극 개선하고 투자하겠다"고 밝혔다. 이번 결정은 지난 25일 이재명 대통령이 SPC삼립 시화공장을 직접 찾아 현장 간담회를 주재하며 야간 노동과 과도한 업무 강도를 지적한 데 따른 것이다.  이 대통령은 지난 5월 SPC 시화공장에서 발생한 여성 노동자 사망 사고와 관련해 "수십 년이 흘렀지만 여전히 현장에서 노동자가 죽고 있다"며 "같은 방식의 사고가 반복되는 건 심각한 문제"라고 강하게 비판했다. 이어 "돈과 비용 때문에 안전과 생명을 희생하는 구조라면 반드시 바뀌어야 한다"며 "이번을 계기로 산재 사망률을 줄이기 위한 현실적이고 구체적인 대책이 마련되길 바란다"고 강조했다. 이날 간담회에는 김영훈 고용노동부 장관, 김용범 정책실장, 문진영 사회수석 등 청와대 주요 인사들이 배석했으며, SPC 측에선 허영인 회장과 김범수 SPC삼립 대표, 김지형 컴플라이언스위원장, 김희성 안전보건총괄책임자, 김인혁 노조위원장 등이 참석했다. CJ푸드빌, 크라운제과 등 타 식품업체의 현장 책임자들도 함께 자리를 했다. wonjc6@newspim.com 2025-07-27 13:22
안다쇼핑
Top으로 이동