전체기사 최신뉴스 GAM
KYD 디데이
홈 문화·연예 문화·연예일반

속보

더보기

[기고] 데이터 생태계의 오염

기사입력 :

최종수정 :

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

AI 핵심 요약

beta
분석 중...
  • 시민과학 플랫폼에 AI로 만든 가짜 생물 사진이 유입됐다
  • 과도한 AI 보정은 생물 분포와 행동 연구를 왜곡했다
  • 원본 공개와 AI 사용 고지로 데이터 오염을 막아야 한다

!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.

하민회 이미지21 대표 (미래기술문화연구원장)

소셜미디어를 보다 보면 눈을 의심케 하는 사진이나 영상을 자주 만난다. 처음 보는 빛깔의 새, 어디서도 본 적 없는 기묘한 곤충, 상상하지 못하는 상황 속의 동물. 설명은 그럴듯하지만 너무나 생경한 모습이 의심스럽다. 진짜일까, AI로 만들어낸 것일까?

최근 과학계에도 같은 현상이 일어나고 있다. 미국 시민과학 플랫폼 '아이내추럴리스트'에 말레이시아 열대우림에서 찍었다는 낙엽 사마귀 사진이 올라왔다. 방패 모양의 납작한 낙엽 형태로 위장하는 이 신기한 사마귀 사진은 AI로 만든 가짜였다. 전문가들조차 식별하기 어려운 정교한 가짜 생물 사진들이 올라오고 있다.

하민회 이미지21 대표.

일반 시민이 과학 데이터의 관찰, 수집, 분석에 참여하는 연구 방식인 '시민 과학'은 과학자만으로는 지구 곳곳의 생물을 다 관찰할 수 없기에 시민의 눈이 연구의 촉수가 되는 일종의 집단 지성이다. 예컨대 플랫폼 '아이내추럴리스트'에서 여러 이용자가 같은 종으로 판별한 '연구 등급' 기록은 세계생물다양성정보기구(GBIF)로 넘어가 연구와 보전 정책에 쓰인다. 연구자들은 시민과학 관찰 기록 3억 건을 위성 자료 등과 결합해 전 세계 식물의 주요 형질 지도를 그려내기도 했다. 한국도 국립생물자원관이 2011년부터 시민과학자 네트워크(K-BON)를 운영하며 그 기록을 정책 기초자료로 활용한다. 그런 의미에서 시민과학은 더 이상 취미가 아니라 과학의 기반 시설이 된 셈이다.

유튜브 시대를 맞아 시민과학의 문은 더 넓어졌다. 2017년 한 연구팀은 유튜브의 때까치 영상 1000여 편을 분석해, 일반인의 영상이 연구가 부족한 종과 지역의 빈틈을 메울 수 있다는 결과를 내놓았다. 카메라를 든 관찰자 누구나 과학의 집단 지성에 기여할 수 있는 셈이다.

그러나 열린 문으로 가짜도 들어왔다. 포식자와 먹잇감이 다정하게 지내거나, 구조된 북극곰이 어부에게 고마워하는 장면처럼 AI가 만든 동물 영상이 동물 행동에 대한 대중의 이해를 왜곡하고 있다. 전문가 검증을 거치는 기록 플랫폼조차 뚫리는 상황에서, 검증 장치 없는 영상 플랫폼은 오염에 더 무방비 할 수밖에 없다.

딥페이크 보호 이미지를 딥페이크 생성에 사용시 모습 [사진 = 경찰청 사이버범죄 신고시스템 캡처]

생태계 교란종을 떠올리면 위험이 더 선명하게 다가온다. 외래종은 한번 들어오면 먹이사슬을 따라 번진다. 브라질에서는 북미에 사는 붉은어깨검은새가 처음 관찰됐다는 사진이 올라왔는데, 알고 보니 현지에 흔한 다른 새였다. 사진을 올린 사람은 더 나은 사진을 위해 구글의 AI 편집 도구를 썼을 뿐이라고 했지만 결과적으로 새가 다른 종처럼 '재구성'되었다. AI 보정 한 번에 깃털 색이 바뀌고 없던 무늬가 생기기 때문이다. 사용자는 시각적인 향상을 위해 약간의 힘을 가했을 뿐이지만, 데이터베이스에는 실제와 다른 생물이 기록되는 것이다.

올해 7월 <네이처 생태와 진화> 논평에는 이런 왜곡, 합성된 이미지가 쌓이면 종의 분포와 행동에 관한 잘못된 결론으로 이어질 수 있다는 경고와 함께 노골적 조작보다 과도한 보정이 더 흔하고 문제가 되고 있음을 밝혔다. 자칫 있지도 않은 철새의 이동 경로가 지도에 그려질 수 있다는 얘기다.

교란은 거기서 멈추지 않는다. 시민이 올린 사진은 종 식별 AI의 학습 재료가 된다. 코넬대의 새 식별 앱 '멀린'도 집단지성을 통해 모인 기록으로 학습한다. 2024년 《네이처》에 실린 연구는 AI가 만든 데이터로 AI를 거듭 학습시키면 드문 사례부터 사라지며 모델이 무너진다는 '모델 붕괴' 현상을 보고했다. 시민과학이 가장 귀하게 여기는 '드문 관찰', 즉 희귀 종 기록이 가장 먼저 오염될 수 있다는 뜻이다.

학계의 오염은 더 심각하다. 논문 사전공개 사이트 '아카이브'에는 지난 9월 4만363건이 접수돼 2년 전의 두 배가 됐다. 양은 배로 늘었는데 질은 보장하기 어려운 상황이다. 생 의학 논문 초록의 최소 13.5%가 이미 대규모 언어모델을 거쳤다는 분석도 있을 정도다. 아카이브는 10월부터 1인당 제출을 월 2건으로 제한했고, 검증되지 않은 AI 산출물이 확인되면 저자 전원에게 1년간 제출을 금지키로 했다.

영화 아이언맨의 AI 자비스, 프라이데이가 현실이 되고 있다. 사진은 영화 아이언맨2의 한장면. [사진=영화 아이언맨2 스틸컷]

올해 5월 《랜싯》에 실린 컬럼비아대 분석에서는 존재하지 않는 참고문헌이 실린 생 의학 논문이 2023년 2828편 중 1편에서 올해 초에는 277편 중 1편으로 늘었다. 연구진은 허위 인용 일부가 이미 다른 논문에 재 인용됐고, 진료에 영향을 주는 체계적 문헌고찰에도 들어가 있다고 밝혔다. 자칫 존재하지 않는 근거 위에 환자의 치료법이 세워질 수 있다는 뜻이다. 심지어 1950년대 논문 스캔 오류로 생긴 엉터리 용어가 AI를 거쳐 20여 편의 논문에 되살아난 '디지털 화석' 사례도 있었다. 집단지성의 기록이 데이터베이스로, AI 학습 데이터로, 논문과 정책으로 흘러가는 사슬에서 상류의 가짜 한 방울은 하류에서 걸러낼 수 없는 오염이 될 수 있다.

그렇다면 어떻게 대응할 수 있을까?

단순히 탐지 기술만으로는 막을 수 없다. 무엇보다 사용자의 윤리의식이 첫 번째 방역선이다.  세계 최대 규모의 탐조 기록 플랫폼인 이버드(eBird)는 AI 생성·변형 사진 제출을 금지하고 반복 위반자의 계정을 비공개 처리한다. 편집 프로그램의 AI 기능조차 피하라고 권고한다. AI 이미지는 예술일 수는 있어도 종의 기록은 될 수 없다는 것을 분명히 밝혔다. '아이내추럴리스트'는 AI 이미지로 신고된 기록을 연구용 데이터에서 제외한다. 한국도 지난 9월 「국가연구개발 AI 연구윤리 가이드」를 확정해 참고문헌의 실존 확인과 AI 활용 공개를 권고하고, 심사자가 평가 자료를 외부 AI에 입력하는 것도 막았다.

문제는 기관의 AI 거버넌스가 잘 갖춰졌다는 연구자는 32%, AI 교육이 충분하다는 응답이 27%에 그쳤다는 점. 더구나 이 가이드는 연구자를 대상으로 한 것이다. 스마트폰으로 생물을 기록하는 시민에게 'AI 보정 사진은 기록이 아니다'라는 원칙을 알려주는 장치는 아직 눈에 띄지 않는다.

데이터 플랫폼의 바른 사용법은 복잡하지 않다. 기록에는 원본을 올린다. 흐릿한 진짜가 선명한 가짜보다 낫다. AI를 썼다면 밝힌다. AI가 내놓은 출처는 반드시 원문으로 확인한다. 놀라운 발견일수록 재차 확인하고 한 박자 늦게 믿는다.

사진을 올리는 시민, 영상을 공유하는 이용자, 이를 인용하는 기자와 독자 모두가 데이터 생태계의 일원이다. 플랫폼은 이 원칙을 규정집에만 묻어두지 말고, 사진을 올리는 화면에서 바로 확인하고 경고하는 장치로 사용자의 눈앞에 보여줘야 한다. 

오클리 메타 HSTN AI 글라스 [사진 = 메타 플랫폼스 홈페이지]

데이터 생태계의 오염이 무서운 진짜 이유는 따로 있다. 정교한 가짜가 알려질수록 진짜 증거마저 "가짜일 수 있다"며 부정하기 쉬워지기 때문이다. 법학자 바비 체스니와 대니얼 시트론이 말한 '거짓말쟁이의 배당금' 개념이다. 정치인이 진짜 스캔들을 가짜라고 주장했을 때 지지가 오히려 늘어나는 현상이 미국의 여러 실험에서 확인됐다. 누군가 정말로 새로운 종을 발견해도 첫 반응은 감탄이 아니라 "AI 아니야?"가 될 수 있다는 말이다. 획기적인 논문이 나올 때마다 인용이 실재하는 지부터 일일이 따져야 하는 시대가 오고 있다.

가짜의 진짜 피해는 속는 데서 그치지 않는다는 점이다. 진짜가 의심받고, 진실을 입증하는 비용이 생긴다는 것이다.

누구나 참여할 수 있다는 믿음으로 성장해 온 유용한 시민과학이  의심의 값을 치르기 시작했다.그 값을 줄이는 것은 거대한 탐지 시스템이 아니라, 'AI 보정'과 '공유' 버튼 앞에서 적절한 선택을 하는 우리들의 몫이다.

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
20일 상암서 '마이 케이팝 스타' 결선 생방송 무대 [서울=뉴스핌] 최문선 기자 = 종합뉴스통신사 뉴스핌이 주최·주관하고 문화체육관광부가 후원하는 글로벌 오디션 '마이 케이팝 스타(MY KPOP STAR)'의 결선 진출자 사전투표가 시작됐다. 지난 12일 시작된 이번 사전투표는 결선에 진출한 국내외 참가자 톱10을 대상으로 진행된다. '마이 케이팝 스타'는 국적과 나이에 제한 없이 누구나 참여할 수 있는 글로벌 오디션으로, 총 60개국에서 참가자가 지원해 글로벌 K팝 오디션으로서 관심을 모았다. [서울=뉴스핌] 최문선 기자 = 종합뉴스통신사의 글로벌 오디션 '마이 케이팝 스타(MY KPOP STAR)'의 결선 진출자 10팀 사전 투표가 시작됐다. 앞서 예선 진출자 200팀 가운데 국내 12팀, 해외 18팀 등 총 30팀이 본선 무대에 올랐으며, 치열한 경쟁 끝에 국내 5팀과 해외 5팀이 최종 결선 진출자로 선정됐다. 국내 결선 진출자는 고도아, 박희주, 황승대, 조하음, 윤근아다. 해외에서는 다니 리베라(Dani Rivera·브라질), 샌디 에고(Sandy Ego·이스라엘), 시리나(Shirina·우즈베키스탄), 메이 칫 뗏(Maye Chit Thet·미얀마), 바흐테(Vachte·이란)가 이름을 올렸다. 사전투표 시작과 함께 톱10 참가자들의 홍보 영상도 공개됐다. 영상에는 참가자들의 자기소개와 오디션 참가 소감, 결선 무대에서 보여주고 싶은 모습, 응원해 주는 팬들에게 전하는 메시지 등이 담겼다. 참가자들은 "결선에 진출했을 때 가장 기뻤다", "무대에 설 때가 가장 행복하다", "결선 무대가 기대되면서도 떨린다" 등의 소감을 전했다. 이어 "보내주신 응원에 보답할 수 있도록 최선을 다하겠다", "많은 기대와 응원 부탁드린다"며 팬들에게 감사와 당부의 메시지를 보냈다. [서울=뉴스핌] 최문선 기자 = 종합뉴스통신사의 글로벌 오디션 '마이 케이팝 스타(MY KPOP STAR)'의 결선 진출자 10팀 사전 투표가 시작됐다. 2026.11.13 moonddo00@newspim.com 결선은 오는 20일 서울 마포구 상암동 큐브컨벤션센터에서 오프라인으로 진행된다. 최종 우승자에게는 1억 원의 상금이 수여되며, 국내 참가자는 2위부터 10위까지 각각 200만원의 상금을 받는다. 해외 참가자에게는 결선 진출 시 왕복 항공권과 숙박비 등 체류 비용 전액을 지원한다. 이와 함께 글로벌 쇼케이스 및 공연 참여 기회, 언론 홍보와 인터뷰, 국내 엔터테인먼트사의 현장 캐스팅 기회 등 다양한 혜택도 마련됐다. K팝 보컬·댄스 트레이닝 프로그램과 K팝 안무를 활용한 숏폼 콘텐츠 제작 지원도 제공된다. '마이 케이팝 스타' 결선 진출자 홍보 영상은 유튜브 뉴스핌TV에서 확인할 수 있으며, 사전투표는 투표 사이트(https://vote.mykpopstar.com/)에서 오는 18일 17시까지 참여할 수 있다. moonddo00@newspim.com 2026-11-13 16:15
사진
EBS "수학, 지난해 수능과 비슷한 수준" [서울=뉴스핌] 황혜영 기자 = 19일 치러진 2027학년도 대학수학능력시험(수능) 수학영역은 지난해 수능과 비슷한 수준으로 출제된 것으로 분석됐다. 공통과목은 지난해보다 평이하고 선택과목은 유사한 수준이었으며 종합적인 사고력을 요구하는 문항으로 중상위권 변별력을 확보했다는 평가다. EBS 현장교사단 수학 대표 강사인 남치열 백석고등학교 교사는 이날 정부세종청사에서 열린 2027학년도 수능 출제 경향 브리핑에서 "작년 수능과 올해 모의평가의 출제 기조와 난이도를 유지했다"며 "EBS 수능 연계교재의 개념과 원리를 깊이 있게 학습한 수험생에게 익숙한 중고난도 문항이 다수 연계됐다"고 밝혔다. [서울=뉴스핌] 사진공동취재단 = 2027학년도 대학수학능력시험(수능)이 실시된 19일 오전 서울특별시 광진구 광남고등학교에서 수험생들이 막바지 시험 준비를 하고 있다. 2026.11.19 photo@newspim.com 이번 수능에서는 6월·9월 모의평가와 마찬가지로 출제 범위 내 여러 단원에서 문항이 고르게 출제됐다. 주어진 상황을 논리적으로 추론하거나 수학의 개념·원리·법칙을 종합적으로 적용하는 문항, 함수의 그래프를 추론하고 해석하는 문항 등이 포함됐다. 남 교사는 "13번, 20번 등 중난도 문항은 조건을 차례로 해석해 해결할 수 있는 문항으로 중위권 학생들을 변별할 수 있도록 출제된 것으로 보인다"며 "종합적 사고력이 필요한 고난도 문항들은 다소 까다롭게 느낄 수 있지만 전반적으로는 작년 수능과 비슷한 수준"이라고 분석했다. 공통과목에서는 수학Ⅰ과 수학Ⅱ에서 각각 11문항이 출제됐다. 수학Ⅰ은 지수함수와 로그함수 4문항, 삼각함수 3문항, 수열 4문항으로 구성됐다. 수학Ⅱ는 함수의 극한과 연속 2문항, 미분 5문항, 적분 4문항으로 지나치게 많은 개념을 복합적으로 사용해야 하는 문항은 배제됐다는 설명이다. 비교적 까다로운 문항으로는 공통과목 22번(수학Ⅰ)과 21번(수학Ⅱ), 확률과 통계 30번, 미적분 30번, 기하 30번 등이 꼽혔다. 특히 공통과목 21번은 가장 까다로웠을 것으로 예상됐다. 삼차함수의 그래프를 바탕으로 최댓값과 최솟값의 곱으로 정의된 함수의 미분가능성을 종합적으로 분석하는 문항이다. 22번은 주어진 조건을 만족하는 수열의 항 사이 규칙을 추론하고 수열의 합을 구하는 문제로 상위권 변별력을 갖춘 것으로 평가됐다. 선택과목에서는 확률과 통계 30번이 조건부확률을 구하기 위해 발생할 수 있는 모든 경우를 꼼꼼하게 구분해야 하는 문항으로 분석됐다. 미적분 30번은 주어진 조건에 맞는 구간별 함수를 찾은 뒤 치환적분법으로 정적분을 구하는 문제다. 기하 30번은 좌표공간에서 조건을 만족하는 점과 도형을 찾아 정사영의 넓이를 구하도록 했다. 선택과목 간 유불리에 대해서는 과목별 특성에 맞는 난도로 변별력을 확보했다고 평가했다. 남 교사는 "특정 과목이 쉽다, 어렵다 이렇게 분석하지는 않았다"며 "그 과목 특성에 맞는 난이도를 통해 충분히 변별력을 확보했다"고 말했다.출제본부는 2015 개정 수학과 교육과정의 내용과 수준에 근거해 수학적 사고력을 측정하는 데 중점을 뒀다고 밝혔다. 복잡한 계산이나 반복 훈련으로 익힌 기술·공식을 단순하게 적용하는 문제보다 기본 개념에 대한 충실한 이해와 종합적인 사고력을 요구하는 문항을 출제했다는 설명이다. 남 교사는 "학교 수업에서 학습한 개념을 바탕으로 문제를 이해하고 해결하는 능력을 측정할 수 있는 문항들로 구성됐다"며 "사교육에서 문제풀이 기술을 익히고 반복적으로 훈련한 학생들에게 유리한 문항은 출제되지 않은 것으로 분석했다"고 밝혔다. 이번 수능 수학영역의 EBS 연계율은 50%로 수험생이 응시하는 30문항 가운데 15문항이 연계됐다. 공통과목에서는 수학Ⅰ 6문항과 수학Ⅱ 5문항 등 총 11문항이, 선택과목인 확률과 통계·미적분·기하에서는 각각 4문항이 연계됐다. 남 교사는 "특정 단원에 치우치지 않고 개념을 고르게 익힌 학습으로 대비할 수 있는 시험"이라며 "개념과 원리를 적용한 대표적인 유형뿐 아니라 종합적인 사고능력과 문제해결능력, 추론능력을 평가하는 문항으로 구성됐다"고 평가했다. hyeng0@newspim.com 2026-11-19 14:52
기사 번역
결과물 출력을 준비하고 있어요.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동