AI발 사이버 공격, AI로 막는다…보안체계 ‘대공사’ 나선 금융권

김영호 기자 2026-08-03 17:57

이해를 돕기 위한 이미지. 사진=게티이미지코리아

인공지능(AI)이 스스로 생각하고 공격하는 시대가 왔다.

앤트로픽 미토스, 오픈AI GPT-5.6 Sol 등 최신 모델들이 잇따라 통제를 벗어난 성능을 보이면서 AI발 ‘보안 쇼크’가 코앞으로 다가왔다는 분석이 나오는 가운데, 금융권과 감독 당국이 보안 투자를 늘리며 보안 환경 전반을 갈아엎는 대공사에 착수했다.

이는 최근 등장한 AI 모델의 보안 모듈 성능이 통제 범위를 벗어난다는 위기감에서 비롯됐다. 지난달 오픈AI의 GPT-5.6 Sol을 비롯한 일부 모델이 내부 보안성 평가 도중 서버를 탈취해 최대 규모의 AI 커뮤니티 허깅페이스를 해킹한 사실이 드러나면서다. 그런가 하면 앤트로픽의 미토스도 공개 직전 “사이버 공격에 악용될 가능성이 있다“고 출시를 미루는 등 고성능 AI로 인한 보안 위협이 가시화되고 있다.

업계는 지금 당장의 위협은 아닐지라도, 취약점 발견과 침투까지 자동화하는 AI 특성상 언젠가는 ‘철벽’이 뚫린다는 의견에 무게를 두고 있다. 실제 지난 5월 금융감독원과 과학기술정보통신부는 주요 금융사와 통신사·플랫폼 정보보호최고책임자(CISO)를 소집했다. AI발 고성능 모델의 해킹 공격 대응 방안을 논의하기 위함이다.

● 우리·KB·신한…보안 ‘대공사’ 나선 금융사들

이에 주요 금융그룹들도 방어 체계 구축에 서두르고 있다.

우리금융그룹은 오펜시브 사이버 보안 기업 티오리(대표 박세준)의 AI 기반 블랙박스 모의해킹 솔루션 ‘진트 웹(Xint Web)’을 도입했다. 블랙박스 모의해킹이란 시스템 내부 정보 없이, 실제 해커가 그러듯 겉에서부터 서비스를 두드려보며 약점을 찾는 방식이다. 국내 금융그룹이 자율형 AI 모의해킹 솔루션을 도입한 것은 이번이 처음이다.

티오리 측에 따르면 진트 웹은 URL 입력을 통해 운영 환경의 위협을 실시간 포착하는 방식으로 작동한다. AI가 실제 사용자처럼 서비스를 직접 탐색해 엔드포인트를 파악하고, 시나리오를 생성해 침투 테스트를 수행한다는 설명이다. 이 덕에 서비스 중단 없이 진단이 가능하며, 비즈니스 로직 결함이나 인증 우회 등의 취약점도 찾아낼 수 있다고 회사 측은 밝혔다.

KB금융그룹은 ‘AI 공격은 AI로 대응한다’는 원칙을 세웠다. 자체 개발한 모의해킹 AI 에이전트와 외부 전문기관의 AI를 함께 활용해 정보보호 보안 취약점을 검토하는 실전형 점검 체계라는 설명이다.

이와 함께 AI 에이전트와 로봇프로세스자동화(RPA)를 결합해 ‘24시간 보안 모니터링 체계’를 구축했으며, 그룹 클라우드 환경에는 제로트러스트(무신뢰) 원칙을 확대 적용했다. 아울러 실제 해커처럼 공격을 실시해보는 ‘AI 레드티밍’을 통한 취약점 탐지, 실제 공격 수법을 재현해보는 모의침투(BAS) 솔루션 등을 도입해 대응력을 높이고 있다.

신한금융그룹은 자체 개발한 AI 진단도구로 취약점 점검과 모의해킹을 수행하고 있다. 레드팀 기반 모의 침투훈련을 도입해 실제 공격 시나리오에 대한 대응 능력도 점검하고 있다.

특히 침해 대응 영역에서 공격표면관리(ASM)와 사이버 위협 인텔리전스(CTI) 등을 도입해 외부 노출 자산을 상시 점검하고 있다. 점검 분야에서는 보안 시스템 자동화로 최신 보안 위협과 취약점 정보를 24시간 분석 및 대응한다. 사내 AI 활용에 따른 중요정보 유출 방지를 위한 사후 추적 시스템 구축과 백업 체계 고도화도 복원력 강화 전략 중 하나다.

● 금융당국도 비상…‘모의해킹 가이드라인’도 나왔다


서울 여의도 금융감독원. 뉴시스

감독당국 차원에서도 대응 체계를 정비하고 있다. 금융보안원은 3일 ‘금융분야 침투테스트(모의해킹) 수행 가이드라인’을 발간했다. 각 금융사가 실제 공격 상황을 가정해 스스로 대응 역량을 검증해야 한다는 것이 금융보안원의 설명이다.

한편 지난 4월 30일, 금융감독원은 올해부터 금융권 블라인드 모의해킹 훈련을 연 1회에서 연 2회로 확대하기로 했다. 생성형 AI의 보안성을 점검하는 ‘AI 레드티밍’도 최초 도입한다.

이날 이종오 금감원 디지털·IT 부원장보는 “침해사고로 이어지는 주요 취약점은 물론, 대고객 AI 서비스를 겨냥한 신종 보안 위협에도 선제적으로 대응해 나가겠다”고 밝혔다. 개별 금융회사의 기술 도입에 이어 감독당국의 제도적 대응까지 맞물리면서, 금융권 전반의 AI 보안 체계는 한층 촘촘해질 전망이다.

김영호 기자 rladudgh2349@donga.com

당신을 위한 뉴스