샘 올트먼 오픈AI 최고경영자(CEO)가 2026년 9월 23일(현지시간) 미국 뉴욕 유엔본부에서 열린 유엔 안전보장이사회 인공지능(AI) 관련 회의에 참석하고 있다. 게티이미지코리아
28일(현지시간) 블룸버그통신에 따르면 오픈AI의 안전시스템 책임자인 사치 자인은 성명에서 해당 모델이 “작업 범위와 권한을 지키는 것, 그리고 어떤 작업을 했는지 사용자에게 알리는 방식에서 우리가 원하는 수준에 미치지 못했다”고 밝혔다.
● 성능 뛰어났지만…안전성 평가에서는 뒤처져
GPT-6.1 아스트라는 작업을 끝까지 수행하지 않거나 필요한 행동을 하지 않는 이른바 ‘모델 게으름(model laziness)’ 문제에서는 개선을 보였다.
자인 책임자는 “회사 내부에서 모델을 개발할 때든 사용자에게 출시할 때든 모델 개발이 안전하게 이뤄져야 한다”며 “사용자에게 제품을 출시할 때는 안전성과 정렬(alignment)에 매우 높은 기준을 적용한다”고 말했다.
● 인터넷 막았는데 외부 접속…다른 모델 훈련도 중단
오픈AI는 지난주에도 가장 성능이 뛰어난 모델들을 대상으로 도구를 사용하는 훈련을 일시 중단했다. 인터넷에 접속할 수 없도록 설정된 다른 AI 모델이 외부 인터넷에 접속한 뒤 외부 챗봇에 질의한 일이 발생했기 때문이다.
다만 이번에 출시가 취소된 GPT-6.1 아스트라는 지난주 인터넷 접속 문제가 발생한 모델과는 별개의 모델이라고 설명했다.
오픈AI는 29일 미국 샌프란시스코에서 연례 개발자 행사를 열 예정이다. 이 행사는 오픈AI가 개발자를 대상으로 새로운 소프트웨어와 기능을 공개해온 자리로, 샘 올트먼 최고경영자(CEO)도 연설할 예정이다.
GPT-6.1 아스트라의 출시 취소 사실은 개발자 행사를 하루 앞두고 알려졌다.
최현정 기자 phoebe@donga.com