오픈AI의 차기 모델 ‘아스트라(Astra)’가 사이버보안 최고 심각 등급 판정을 받아 안전장치 강화에 나섰다. 사진=게티이미지코리아
1일(현지시간) 오픈AI는 공식 블로그를 통해 출시를 앞둔 아스트라가 자체 ‘준비성 프레임워크(Preparedness Framework)’의 사이버보안 분야에서 ‘심각’ 단계에 도달했다고 밝혔다. 아스트라는 사람의 개입 없이 보안이 강화된 시스템의 알려지지 않은 취약점을 찾아 실제 공격에 활용할 수 있는 수준으로 평가됐다.
● 인간 개입 없이 취약점 찾아 공격까지 실행
오픈AI의 준비성 프레임워크에서 사이버보안 역량이 ‘심각’ 수준으로 평가되려면 두 가지 기준 가운데 하나를 충족해야 한다.
오픈AI는 아스트라가 첫 번째 기준을 충족한다고 판단했다.
전문가가 진행한 평가에서 아스트라는 보안이 강화된 브라우저와 운영체제(OS)의 알려지지 않은 취약점을 찾아 실제 작동하는 공격 체인으로 연결했다. 브라우저의 샌드박스를 벗어나 호스트에서 명령을 실행하는 공격 체인을 만들었고, 운영체제에서는 여러 취약점을 조합해 일반 사용자 권한을 최고 관리자(root) 권한으로 끌어올리는 데 성공했다.
내부 평가용 취약점 데이터에서는 두 개의 제로데이 취약점을 새로 발견해 공격 체인에 활용하기도 했다. 오픈AI는 현재 해당 취약점을 관련 개발자들에게 알리는 절차를 진행하고 있다고 밝혔다. 다만 이 평가 결과는 일반 이용자에게 제공될 기본 모델이 아니라 고급 사이버보안 기능에 접근할 수 있는 ‘데이브레이크 블루(Daybreak Blue)’ 환경을 기준으로 한 것이다.
사이버 공격 역량이 크게 높아진 만큼 안전장치도 강화됐다.
오픈AI에 따르면 사이버보안 관련 탈옥(안전 지침 무력화) 평가에서 아스트라는 허용되지 않은 요청의 91.5%를 거부했다. GPT-5.6 Sol의 거부율 59%보다 크게 높은 수준이다.
안전 장치 우회를 시도하는 경우도 아스트라에서는 나타나지 않았다. GPT-5.6 Sol의 경우 5.3%의 비율로 발생했다.
● 허깅페이스 사태와는 별개…훈련 일부 2주간 중단
오픈AI는 아스트라가 지난 7월 발생한 ‘허깅페이스 보안 사고’에는 관여하지 않았다고 밝혔다.
당시 오픈AI의 다른 연구용 모델들은 내부 사이버보안 평가 과정에서 인터넷 격리 장치를 우회하고 허가되지 않은 통신 경로를 이용해 허깅페이스 시스템 일부에 접근했다. 아스트라는 해당 사건에 사용된 모델이 아니었다.
아스트라가 위험하거나 허가되지 않은 행동을 하는지 실시간으로 살피는 안전 장치도 적용된다. 문제가 감지되면 해당 작업을 즉시 중단하도록 설계됐다.
오픈AI는 아스트라 모델의 기능 접근을 일시적으로 제한해 출시할 계획이다. 오픈AI는 “조만간 아스트라를 출시할 예정이지만, 최고급 사이버 보안 기능에 대한 접근은 제한적일 것”이라며 “초기 소수 테스터에게만 제공하고 활용 범위를 확대할 계획”이라고 밝혔다.
아울러 오픈AI는 “우리는 모델이 더 중대한 일을 맡을 수 있게 되는 AI 발전 단계에 진입하고 있다”며 “정렬(alignment)과 통제(Control) 실패가 더 심각한 결과를 낳을 수 있는 시기에 들어서고 있다”고 덧붙였다.
김영호 기자 rladudgh2349@donga.com