[서울=뉴스핌] 이나영 기자= 보안 전문기업 이니텍은 FKI타워 컨퍼런스센터에서 열린 'KMAC AX SUMMIT 2025'에 참가해 안전한 인공지능(AI) 활용을 위한 보안 플랫폼 'Secure AI'를 선보였다고 10일 밝혔다.

이번 행사는 'The Third Wave of AI'를 부제로 눈 앞에 다가온 AI에이전트(Agent) 시대에 필요한 변화와 대응 전략을 다루는 다양한 강연으로 구성됐다.

'KMAC AX SUMMIT 2025'에서 발표를 진행한 김찬성 이니텍 실장. [사진=이니텍]

김찬성 이니텍 실장은 '제로 트러스트 기반의 AI 보안 전략'을 주제로 발표를 진행했다. 김찬성 실장은 "AI 공격은 기존 타 시스템에서의 공격 패턴과 다른 방식으로 전개될 것"이라며 "AI 보안은 'AI를 위한 보안'과 '보안을 위한 AI'로 AI와 보안이 상호 작용을 통해 스마트하게 운용될 것"이라고 전했다.

이어 "이제 강화된 보안을 위해서 제로트러스트 방법론이 반드시 적용돼야 한다"며 "AI 시스템 접근을 위해서 여러 층으로 접근 단계를 나누고, 허용된 최소한의 범위로 내에서 안전하게 활용해야 한다"고 설명했다.

이번에 소개된 이니텍의 AI 보안 플랫폼 'Secure AI'는 AI 생애주기 전 과정 ▲AI 시스템 구성 ▲학습데이터 수집·전처리 ▲AI 모델 검증·평가를 아우르는 보안 기능을 제공한다. 주요 기능으로 ▲프롬프트 인젝션(Prompt Injection) 및 탈옥(Jailbreaking) 기능 방어 ▲프롬프트 과정에서 개인정보 유출을 차단하는 마스킹 처리 ▲사용자의 역할과 권한에 따른 LLM 응답 패턴 차별화 ▲편향 완화를 위한 혐오 발화 탐지 ▲학습 데이터 수집 단계 안전성 제공 등이 있다.

김 실장은 "Secure AI는 이니텍이 28년간 쌓아온 보안 전문성과 새로운 AI 보안 개념을 결합한 결과물"이라며 "앞으로도 제로 트러스트 방법론을 기반으로 AI 보안을 지속 발전시켜 나가겠다"고 밝혔다. 

nylee54@newspim.com