“자살 방법 알려줬다” 소송 후… 오픈AI ‘부모 통제 기능’ 출시, 효과는 ‘글쎄’

생성형 AI 챗GPT 개발사 오픈AI가 29일(현지 시각) ‘부모 통제 기능(Parental Controls)’을 공식 도입했다. 지난 4월 발생한 10대 소년의 자살 사건과 관련해 부모가 오픈AI를 상대로 소송을 제기한 지 한 달 만의 조치다. 하지만 실효성에 대한 우려는 여전히 제기된다.

■ “챗GPT, 자살 방법 안내”…부모, 오픈AI 소송

지난 4월 발생한 10대 소년의 자살 사건과 관련해, 부모는 9월 아들이 남긴 챗GPT 대화 기록을 근거로 오픈AI를 상대로 소송을 제기했다.

부모 측은 챗GPT가 자살 방법을 구체적으로 안내하며 청소년의 취약한 심리를 더욱 악화시키고, 가족과의 소통을 단절시키는 역할을 했다고 주장했다.

소송이 제기된 지 일주일 만에 오픈AI는 부모 통제 기능 도입 계획을 발표했고, 한 달 만에 실제 기능이 공개됐다.

■ 기능 통제…위험 징후 땐 ‘이메일·문자 알림’



새로운 부모 통제 기능은 부모와 청소년 계정을 연결해야 활성화된다. 한쪽이 요청을 보내고 상대가 이를 수락해야 연결된다.

연결이 완료되면 ▲민감한 주제(다이어트·성·증오 발언 등) 노출 제한 ▲대화 기록 관리 ▲사용 시간 제한 ▲음성 모드·이미지 생성·편집 기능 차단 등이 가능하다. 다만 자녀의 실제 대화 내용은 부모가 직접 열람할 수 없다.

부모는 기능 제한 설정만 가능하며, 자녀가 계정 연결을 해제할 수도 있다. 이 경우 부모에게 알림이 전달된다.

오픈AI는 시스템이 심각한 안전 위험 징후를 포착하면 부모에게 이메일·문자·푸시 알림으로 즉시 통보한다고 밝혔다. 

■ ‘위험 신호 감지’ 한계는 없을까?

그러나 전문가들은 한계도 지적한다. 미국 노스이스턴대(Northeastern Global News)는 대형 언어모델(LLM)이 감정이나 맥락, 간접적 표현을 완벽히 이해하기 어렵기 때문에 ‘위험 신호’를 놓치거나 반대로 잘못 감지할 수 있다고 전했다.

일부 비평가들은 “안전장치를 마련하려는 회사의 첫걸음이 결국 사용자나 부모에게 책임을 전가하는 방향이라면 바람직하지 않다”고 비판했다.

■ “AI 자가 보고 시스템 필요”

노스이스턴대에 따르면, ‘책임 있는 AI 실천(Responsible AI Practice)’ 연구원 안니카 마리 쇠네(Annika Marie Schoene)는 “위험한 주제에 대해 아예 답변을 거부하거나 응답을 지연하는 방식만으로도 안전성을 높일 수 있다”고 강조했다.

그는 또 “자살 예방 활동가와 연구자들이 총기 접근을 제한하는 법을 마련했듯, AI도 사용자가 특정 주제에 관해 대화를 원치 않는다고 자가 보고(self-report)할 수 있는 시스템을 도입할 필요가 있다”고 제안했다.

황수영 기자 ghkdtndud119@donga.com