과기부, 인공지능 인증제 도입하고 개발 가이드북 보급한다

기사입력 : 2021년05월13일 15:30

최종수정 : 2021년05월13일 15:30

2025년 책임있는 AI 활용 세계 5위 목표
윤리·신뢰성 높여 AI 산업 활성화 기대

[세종=뉴스핌] 이경태 기자 = 인공지능(AI) 제품 등에 대한 민간 인증제가 도입된다. 학습용 데이터의 신뢰성을 높이기 위한 표준 기준도 제시된다.

과학기술정보통신부는 13일 대통령 직속 4차산업혁명위원회 제22차 전체회의에서 이같은 내용이 포함된 '사람이 중심이 되는 인공지능을 위한 신뢰할 수 있는 인공지능 실현전략'을 발표했다.

큰 틀에서 정부는 오는 2025년까지 책임있는 인공지능 활용 부문에서 세계 5위, 신뢰있는 사회 세계 10위, 안전한 사이버국가 세계 3위 수준을 목표로 두고 있다.

조경식 과학기술정보통신부 제2차관 [사진=과학기술정보통신부] 2021.05.06 photo@newspim.com

◆ 신뢰 가능한 인공지능을 구현할 수 있는 환경 조성

민간에서 인공지능 제품･서비스를 구현하는 단계(개발→ 검증→ 인증)에 따라 기업, 개발자, 제3자 등이 신뢰성 구현을 위해 참조할 수 있는 신뢰 확보 기준과 방법론을 제시하고 지원한다.

개발단계에서는 국내･외 신뢰성 관련 법･제도･윤리･기술적 요구사항을 한 번에 확인할 수 있는 '개발 가이드북'을 제작･보급한다. 검증단계에서는 개발 가이드북을 준수한 신뢰성 확보 여부와 그 수준을 확인하고 평가할 수 있는 검증절차･항목･방법 등의 검증체계를 마련한다. 인증단계에서는 기술·윤리적 요구사항을 충족해 검증체계를 통과한 제품·서비스에 대해 민간 자율 인증과 공시를 추진한다.

기술･재정적 상황이 열악한 스타트업 등도 체계적으로 신뢰성을 확보해 나갈 수 있도록 인공지능 구현을 위한 '데이터 확보→ 알고리즘 학습→ 검증'을 통합 지원하는 플랫폼을 운영한다. 학습용 데이터와 컴퓨팅 자원을 지원 중인 인공지능 허브(AI Hub) 플랫폼에서 검증체계에 따른 신뢰 속성별 수준 분석, 실(實)환경 테스트 등의 기능을 추가 개발·연계해 일괄적으로 지원한다.

이미 구현된 시스템에 인공지능이 판단기준 등을 설명할 수 있는 기능을 추가할 수 있고, 인공지능이 스스로 법･제도･윤리적 편향성을 진단하고 효율적으로 제거할 수 있도록 인공지능의 설명가능성, 공정성, 견고성 제고를 위한 원천기술 개발도 추진한다.

◆ 안전한 인공지능 활용을 위한 기반 마련

민･관이 인공지능 학습용 데이터 제작공정에서 공통적으로 준수해야할 신뢰 확보 검증지표 등의 표준 기준을 민간과 함께 마련, 통일성 있게 구축 될 수 있도록 확산한다. 디지털 뉴딜로 추진되는 데이터 댐 사업에서는 구축 전 과정에서 저작권, 개인정보보호와 같은 법·제도 준수 여부 등의 신뢰성 확보 고려사항을 선제적으로 적용해 품질을 향상시킨다.

국민의 안전이나 기본권에 잠재적 위험을 미칠 수 있는 고위험 인공지능의 범주를 설정하고, 서비스 제공 전에 해당 인공지능의 활용 여부를 이용자에게 고지하도록 할 예정이다. 고지 이후, 해당 인공지능 기반 서비스에 대한 이용 거부, 인공지능의 판단 근거에 대한 결과 설명 및 이에 대한 이의제기 등의 제도화와 관련해 글로벌 입법･제도화 동향, 산업적 파급력, 사회적 합의･수용성, 기술적 실현 가능성 등을 고려해 종합적으로 검토할 계획이다.

과학기술정보통신부는 12일 '인공지능 학습용 데이터 사업'의 2차 공모를 시작했다. [자료=게티이미지뱅크] 2021.05.11 biggerthanseoul@newspim.com

인공지능이 국민생활 전반에 미치는 영향을 종합･체계적으로 분석하고 대응하기 위해 지능정보화기본법에 규정된 사회적 영향평가도 도입한다. 신뢰성 요소(안전성, 투명성 등)를 토대로 인공지능의 영향력을 종합 분석해 향후 인공지능 관련 정책이나 기술･관리적 조치방안 수립 시 활용할 예정이다.

인공지능에 대한 신뢰 확보와 이용자의 생명·신체보호와 관련된 과제에 대해 ▲업계 자율적 알고리즘 관리･감독환경 조성 ▲플랫폼 알고리즘 공정성･투명성 확보 ▲영업비밀 보장을 위한 알고리즘 공개기준 마련 ▲고위험 기술기준 마련 등 제도를 개선한다.

◆ 사회 전반의 건전한 인공지능 의식 확산

인공지능이 사회에 미치는 영향, 인간-인공지능 간 상호작용 등 사회·인문학적 관점과 윤리 기준의 사회 실천을 인식할 수 있는 내용을 담은 인공지능 윤리교육 총론을 마련한다. 이를 토대로 연구·개발자, 일반시민 등 맞춤형 윤리 교육을 개발·실시한다.

인공지능 윤리기준에 대한 구체적인 행위지침으로, 연구･개발자, 이용자 등이 업무, 일상생활 속에서 윤리 준수 여부를 자율점검을 할 수 있는 체크리스트도 개발해 보급한다. 인공지능 윤리기준을 기본원칙으로 해 타 분야의 자율점검표와도 체계성과 정합성을 유지해 현장의 실천 가능성을 높인다.

학계·기업·시민단체·공공 등 다양한 사회 구성원이 참여해 인공지능 윤리에 대해 깊이 있게 토의하고 의견 수렴 및 발전방향을 논의하는 공론의 장도 마련해 운영한다.

조경식 과기부 2차관은 "챗봇 이루다 사건은 우리 사회가 인공지능의 신뢰성에 대해 어떻게 대처해야 하는 지 많은 숙제를 안기는 계기가 됐다"며 "정부는 AI 서비스 개발 과정에서 혼란을 겪거나 국민이 피해보지 않도록 AI의 신뢰 확보 기준을 명확히 할 뿐더러 기술적·재정적으로 여력이 부족한 중소기업이 신뢰성 기준을 준수할 수 있도록 지원할 것"이라고 강조했다.

biggerthanseoul@newspim.com

사진

모델 문가비 아들 친부는 정우성 [서울=뉴스핌] 양진영 기자 = 모델 문가비(35)가 출산한 아들의 친부가 배우 정우성(51)인 것으로 드러났다. 정우성 소속사 아티스트컴퍼니는 24일 "문가비가 소셜미디어를 통해 공개한 아이는 정우성의 친자가 맞다"며 "아이의 양육 방식에 대해서 최선의 방향으로 논의 중이다. 아버지로서 아이에 대해 끝까지 책임을 다할 것"이라고 밝혔다. 다만 "출산 시점과 두 사람의 교제 여부, 결혼 계획 등 사생활 관련 내용은 확인해 줄 수 없다"고 알렸다. 배우 정우성 [사진=에이스메이커무비웍스] 앞서 두 사람 사이의 득남 소식이 알려졌다. 두 사람은 2022년 한 모임에서의 만남 가까이 지냈으나 교제한 사이는 아니었고 결혼 계획도 없는 것으로 전해졌다. 작년 6월 문가비가 임신 사실을 알렸고 정우성은 양육의 책임을 약속했다고 한다. 문가비는 뷰티 예능 프로그램 '겟잇뷰티' 등으로 얼굴을 알린 한동안 활동을 중단했다가 지난 22일 인스타그램을 통해 아들 출산 사실을 고백했다. 그러나 결혼 여부나 아이 아버지에 관한 언급은 없어 궁금증을 샀다. 당시 문가비는 "너무 갑작스럽게 찾아온 소식에 아무 준비가 돼 있지 않았던 저는 임신의 기쁨이나 축하를 마음껏 누리기보다는 가족들의 축복 속에 조용히 임신 기간 대부분을 보냈다"며 "그렇게 하기로 선택한 건 오로지 태어날 아이를 위함이었다. 마음 한편에 늘 소중한 무언가를 지키기 위해서는 꽁꽁 숨겨야 한다고 생각했다"고 했다. [사진=문가비 인스타그램] 이어 "세상에 나온 아이를 앞에 두고 여전히 완벽한 준비가 되지 않은 엄마지만 그런 내 부족함과는 상관없이 존재 자체만으로 나의 마음을 사랑으로 채워주는 아이를 보며, 완벽함보다는 사랑과 행복으로 가득 찬 건강한 엄마가 돼야겠다고 다짐했다"며 "그러기 위해서는 용기를 내야 한다고 생각했다"고 말했다. 문가비는 1989년생으로 2017년 온스타일 예능 '매력티비'와 '겟잇뷰티'로 얼굴을 알렸다. 이후 SBS '정글의 법칙'과 KBS '볼빨간 당신' 등 각종 예능에 출연했다. 여러 광고와 헤라서울패션위크 등 패션쇼 무대에도 섰다. jyyang@newspim.com 2024-11-25 09:48

사진

이재명 '위증교사' 1심 김동현 판사 누구 [서울=뉴스핌] 배정원 기자 = 이재명 더불어민주당 대표의 위증교사 혐의 1심 선고를 맡은 서울중앙지법 형사합의33부 재판장에 대한 관심이 집중되고 있다. 서울중앙지법 형사합의33부(김동현 부장판사)는 25일 오후 2시 위증교사 혐의로 기소된 이 대표의 1심 선고공판을 진행한다. 전라남도 장성 출신의 김동현 부장판사는 고려대학교 법학과를 졸업하고 2001년 사법연수원을 30기로 수료했다. 김 부장판사는 2004년 광주지법 판사를 시작으로 인천지법, 서울동부지법, 서울고법 등을 거쳐 지난해부터 선거·부패 사건을 전담하는 서울중앙지법 형사합의33부 부장판사로 재직하고 있다. [서울=뉴스핌] 이형석 기자 = 이재명 더불어민주당 대표가 25일 오전 서울 여의도 국회에서 열린 최고위원회의에 자리하고 있다. 2024.11.25 leehs@newspim.com 김 부장판사는 이 대표의 위증교사 사건 외에도 '대장동·위례신도시·성남FC·백현동 의혹' 사건을 함께 심리하고 있는데, 해당 사건은 기록의 양이 방대하고 쟁점이 복잡해 1심 선고를 하기까지 몇 년이 더 걸릴 수 있다는 전망이 나온다. 당초 이 대표 측은 두 사건을 분리해서 진행할 경우 방어권 보장에 어려움을 겪게 된다며 병합 심리를 요구했으나, 김 부장판사는 두 사건을 병합하지 않고 별도로 진행하기로 결정했다. 또 김 부장판사는 이른바 '가짜 수산업자'에게 금품을 받은 혐의로 기소된 박영수 전 특별검사(특검)의 1심 사건을 맡으며 징역 4개월에 집행유예 1년을 선고하기도 했다. 당시 김 부장판사는 "이 사건 범행으로 공직자의 공정한 직무수행과 공공기관에 대한 국민의 신뢰가 크게 훼손됐다"며 "특히 박영수 피고인은 국정농단 규명을 위해 임명된 특별검사로 어느 공직자보다 공정성과 청렴성에서 모범을 보여야함에도 금품을 수수했다"고 질책했다. 박 전 특검 등에게 금품을 제공한 혐의로 기소된 가짜 수산업자 김모 씨에 대해서는 "다수의 공직자에게 긴 시간 금품을 제공한 점, 이종범죄로 처벌받은 전력이 있는 점 등을 고려했다"며 징역 6개월의 실형을 선고했다. 또 김 부장판사는 이명박 정부 시절 이른바 '스파르타팀'을 꾸려 정부에 우호적인 방향으로 온라인 여론을 조작한 혐의 등으로 기소된 전직 청와대 비서관들에게도 징역형 집행유예를 선고한 바 있다. 이런 가운데, 위증교사 혐의는 이 대표의 형사 사건 중 가장 불리한 판결이 나올 가능성이 높은 사건으로 꼽히고 있다. 검찰에 따르면 최근 6년간 유죄가 확정된 위증교사 사범 195명 중 실형(69명)이나 징역형 집행유예(114명)가 선고된 사례는 94.8%에 이르며 벌금형(12명) 선고 비율은 6.2%에 그쳤다. 이 대표가 만약 위증교사 혐의로 대법원에서 금고 이상의 형(집행유예 포함)을 확정받으면 공직선거법 제19조에 따라 피선거권이 박탈돼 형이 실효될 때까지 선거에 출마할 수 없게 된다. jeongwon1026@newspim.com 2024-11-25 11:19