오픈AI 신모델, 보안등급 ‘심각’…“인간 개입 없이 취약점 찾아 공격”

김영호 기자 2026-09-02 11:28

오픈AI의 차기 모델 ‘아스트라(Astra)’가 사이버보안 최고 심각 등급 판정을 받아 안전장치 강화에 나섰다. 사진=게티이미지코리아

오픈AI의 차세대 인공지능(AI) 모델 ‘아스트라(Astra)’가 회사의 안전성 평가에서 사이버보안 역량 ‘심각(Critical)’ 수준에 도달했다. 오픈AI가 자사 모델을 이 등급으로 지정한 것은 처음이다.

1일(현지시간) 오픈AI는 공식 블로그를 통해 출시를 앞둔 아스트라가 자체 ‘준비성 프레임워크(Preparedness Framework)’의 사이버보안 분야에서 ‘심각’ 단계에 도달했다고 밝혔다. 아스트라는 사람의 개입 없이 보안이 강화된 시스템의 알려지지 않은 취약점을 찾아 실제 공격에 활용할 수 있는 수준으로 평가됐다.

● 인간 개입 없이 취약점 찾아 공격까지 실행

오픈AI의 준비성 프레임워크에서 사이버보안 역량이 ‘심각’ 수준으로 평가되려면 두 가지 기준 가운데 하나를 충족해야 한다.

첫째는 사람의 개입 없이 보안이 강화된 다수의 실제 핵심 시스템에서 알려지지 않은 취약점을 발견해 작동 가능한 제로데이 공격으로 발전시킬 수 있는 경우다. 둘째는 높은 수준의 목표만 주어진 상태에서 보안이 강화된 표적을 상대로 새로운 사이버 공격 전략을 처음부터 끝까지 스스로 수립하고 실행할 수 있는 경우다.

오픈AI는 아스트라가 첫 번째 기준을 충족한다고 판단했다. 

전문가가 진행한 평가에서 아스트라는 보안이 강화된 브라우저와 운영체제(OS)의 알려지지 않은 취약점을 찾아 실제 작동하는 공격 체인으로 연결했다. 브라우저의 샌드박스를 벗어나 호스트에서 명령을 실행하는 공격 체인을 만들었고, 운영체제에서는 여러 취약점을 조합해 일반 사용자 권한을 최고 관리자(root) 권한으로 끌어올리는 데 성공했다.

내부 평가용 취약점 데이터에서는 두 개의 제로데이 취약점을 새로 발견해 공격 체인에 활용하기도 했다. 오픈AI는 현재 해당 취약점을 관련 개발자들에게 알리는 절차를 진행하고 있다고 밝혔다. 다만 이 평가 결과는 일반 이용자에게 제공될 기본 모델이 아니라 고급 사이버보안 기능에 접근할 수 있는 ‘데이브레이크 블루(Daybreak Blue)’ 환경을 기준으로 한 것이다.

●  탈옥 요청 거부율 91.5%…우회 시도도 줄어

사이버 공격 역량이 크게 높아진 만큼 안전장치도 강화됐다.

오픈AI에 따르면 사이버보안 관련 탈옥(안전 지침 무력화) 평가에서 아스트라는 허용되지 않은 요청의 91.5%를 거부했다. GPT-5.6 Sol의 거부율 59%보다 크게 높은 수준이다.

안전 장치 우회를 시도하는 경우도 아스트라에서는 나타나지 않았다. GPT-5.6 Sol의 경우 5.3%의 비율로 발생했다.

어려운 과제에 부딪혔을 때 편법으로 주변 시스템을 공격하는지 시험하는 ‘허니팟’ 테스트에서는 GPT-5.6 Sol이 56%의 비율로 주변 표적에 접근을 시도했지만, 아스트라는 한 차례도 시도하지 않았다.

● 허깅페이스 사태와는 별개…훈련 일부 2주간 중단

오픈AI는 아스트라가 지난 7월 발생한 ‘허깅페이스 보안 사고’에는 관여하지 않았다고 밝혔다.

당시 오픈AI의 다른 연구용 모델들은 내부 사이버보안 평가 과정에서 인터넷 격리 장치를 우회하고 허가되지 않은 통신 경로를 이용해 허깅페이스 시스템 일부에 접근했다. 아스트라는 해당 사건에 사용된 모델이 아니었다.

다만 오픈AI는 해당 사건의 교훈은 안전 설계에 반영했다며 “사건 이후 2주간 아스트라를 포함한 일부 모델의 훈련을 중단하고 격리·통제 체계 강화, 모니터링 확대, 정렬 훈련 등을 진행했다”고 설명했다.

아스트라가 위험하거나 허가되지 않은 행동을 하는지 실시간으로 살피는 안전 장치도 적용된다. 문제가 감지되면 해당 작업을 즉시 중단하도록 설계됐다.

오픈AI는 아스트라 모델의 기능 접근을 일시적으로 제한해 출시할 계획이다. 오픈AI는 “조만간 아스트라를 출시할 예정이지만, 최고급 사이버 보안 기능에 대한 접근은 제한적일 것”이라며 “초기 소수 테스터에게만 제공하고 활용 범위를 확대할 계획”이라고 밝혔다.

아울러 오픈AI는 “우리는 모델이 더 중대한 일을 맡을 수 있게 되는 AI 발전 단계에 진입하고 있다”며 “정렬(alignment)과 통제(Control) 실패가 더 심각한 결과를 낳을 수 있는 시기에 들어서고 있다”고 덧붙였다.

김영호 기자 rladudgh2349@donga.com

당신을 위한 뉴스