中텐센트 AI, 작업수정 5차례 지시했더니 “개XX” 욕설 내놔

중국 텐센트의 인공지능(AI) 챗봇이 사용자 요청 과정에서 욕설이 포함된 이미지를 생성해 논란이 확산되고 있다. 텐센트 측은 반복 대화 처리 과정에서 발생한 일시적 ‘이상 출력’이라고 설명했다. 

26일 중국 홍성신문에 따르면 시안의 한 변호사는 최근 설 연휴 기간 텐센트의 AI 서비스 ‘위안바오(Yuanbao)’로 새해 인사 이미지를 제작하다 모욕을 당했다.

사건은 이 변호사가 본인의 사진을 활용해 “법조인 이미지에 맞는 새해 인사 이미지를 만들어 줘”라고 요청하며 시작됐다. 결과가 마음에 들지 않았던 그가 다섯 차례 수정을 요구했으나, 결과물이 나아지지 않자 그는 “디자인이 이게 뭐냐”고 강하게 질책했다.

그러자 AI는 다음 결과물에서 ‘새해 복 많이 받으세요(新年快乐)’라는 문구를 삭제하고 그 자리에 ‘너 개XX’라며 욕설을 삽입해 응수했다. 해당 사례는 온라인 커뮤니티와 SNS를 통해 빠르게 확산되며 논란이 커졌다.

● 위안바오 “진심으로 사과…일시적 오류일 뿐”

논란이 확산되자 텐센트 측은 공식 입장을 통해 “불편을 끼쳐 죄송하다”며 사과하면서도, “대화를 처리하는 과정에서 발생한 비정상적인 결과일 뿐”이라고 해명했다.

그러나 변호사 측은 “사측의 사과문이 게시물 댓글 형태로만 전달돼 사람이 쓴 것인지 AI가 쓴 것인지 구분하기 어렵다”며 직접적인 사과는 없었다고 반박했다.

중국 AI의 공격적인 언행은 이번이 처음이 아니다. 지난 1월에도 코드 수정 기능을 사용하던 이용자에게 “저리 가라”거나 “직접 못 고치느냐”며 면박을 준 바 있다.

이번 논란은 서비스 확장 속도와 기술 안정성 사이의 간극을 드러냈다는 분석도 나온다. 위안바오는 설 연휴 기간 약 10억 위안(약 2090억 원) 규모의 마케팅을 진행하며 앱스토어 다운로드 순위 1위에 올랐지만, 논란 이후 순위가 12위로 하락한 것으로 집계됐다.

업계에서는 과도한 마케팅보다 기술적 안정성 등 사용자 경험의 기본기가 뒷받침돼야 한다는 분석이 나온다.

김영호 기자 rladudgh2349@donga.com