AI 핵심 요약
beta- BC카드는 14일 미국 애틀랜타 레드햇 서밋에서 Agentic AI 운영 플랫폼을 발표했다
- BC카드는 SLM 기반 플랫폼으로 추론 속도 3배, GPU 사용 70% 절감 효과를 설명했다
- BC카드는 자체 AI·데이터셋을 허깅페이스에 공개하며 글로벌 LLM 컨트리뷰터로 활동하고 있다
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
[서울=뉴스핌] 이윤애 기자 = BC카드가 세계 최대 오픈소스 기술 콘퍼런스에서 국내 금융권의 인공지능(AI) 혁신 사례를 소개했다.
BC카드는 지난 14일 미국 애틀랜타에서 열린 '레드햇 서밋 2026(Red Hat Summit 2026)'에서 국내 금융사 최초로 발표자로 초청받아 레드햇과 공동 구축한 'Agentic AI 운영 플랫폼' 사례를 발표했다고 18일 밝혔다.
레드햇 서밋은 글로벌 오픈소스 기업 레드햇이 2005년부터 매년 개최하는 오픈소스·클라우드·AI 기술 콘퍼런스다. 전 세계 IT 리더와 개발자, 엔지니어 등이 참석하는 대표적인 글로벌 기술 행사로 꼽힌다.
BC카드는 이번 행사에서 지난 1년여간 레드햇과 함께 구축해 온 Agentic AI 운영 플랫폼을 글로벌 무대에 처음 공개했다.
Agentic AI는 단순히 답변을 생성하는 데 그치지 않고 스스로 판단하고 실행하는 AI를 의미한다. BC카드가 선보인 플랫폼은 하나의 거대언어모델(LLM)에 모든 업무를 의존하는 기존 방식에서 벗어나, 업무 영역별로 특화된 소형언어모델(SLM)을 군집화해 동시에 처리할 수 있도록 설계된 것이 특징이다.
이를 통해 운영 안정성과 비용 효율성을 동시에 높였다는 설명이다. 기존 LLM은 높은 운영 비용과 느린 처리 속도가 한계로 꼽혔지만, SLM은 특정 업무에 최적화돼 안정적인 결과를 도출할 수 있다. BC카드는 이번 플랫폼을 통해 추론 속도를 최대 3배 이상 높이고, GPU 자원 사용량은 최대 70%까지 절감할 수 있었다고 밝혔다.
BC카드는 연간 100억건 이상의 결제 데이터를 처리하며 축적한 데이터 운영 노하우를 AI 기술에 접목한 사례도 소개했다. 고가의 GPU 자원을 효율적으로 분산해 운영 비용을 낮추고 서비스 처리 속도를 끌어올린 점을 강조했다.
이 같은 기술적 성과를 기반으로 단순 도입하는 AI 서비스를 넘어 ▲Eat.pl(실시간 소비 패턴 분석 후 맛집 추천) ▲BCGPT(금융 특화 생성형 AI 플랫폼 통한 임직원 업무 지원) ▲MOAI(여러 AI 연결해 업무 자동화 구현) 등 현재 운영 중인 서비스도 소개해 글로벌 기업들의 관심도 이끌어냈다.
R&D 기술 개발 외 글로벌 AI 인프라 발전에 기여하기 위한 다양한 활동도 병행하고 있다.
BC카드는 자체 개발한 AI 모델과 한국 금융 특화 데이터셋을 전세계 개발자들이 사용할 수 있도록 글로벌 LLM 오픈소스 허브인 '허깅페이스(Hugging Face)'에 약 38개의 LLM을 오픈소스로 공개한 바 있다.
이를 통해 국내 금융권 유일의 글로벌 LLM 컨트리뷰터로도 활동하고 있으며 월 평균 10만여 건 다운로드라는 가시적인 성과를 내고 있다. 이는 폐쇄적인 금융권 이미지를 벗고 전세계 기술 표준을 선도하는 리더로서의 면모를 보여준 대표적 사례로 평가받고 있다.
오성수 BC카드 AI데이터본부장 상무는 "이번 레드햇 서밋 발표는 BC카드의 글로벌 수준 Agentic AI 엔지니어링 역량이 세계 무대에서 인정받은 의미 있는 자리"라며 "한국 금융권을 대표해 단순한 AI 도입을 넘어 오픈소스 생태계에 기여하는 기술 주체로서의 정체성을 지속적으로 보여줄 예정"이라고 말했다.
yunyun@newspim.com
