인공지능(AI) 기업 앤스로픽의 생성형 AI ‘클로드(Claude)’ 로고가 노트북 화면에 표시돼 있다. 게티이미지코리아
앤트로픽은 워터마크가 발견됐다고 해서 해당 글을 클로드가 작성했다는 뜻은 아니라고 설명했다. 워터마크는 클로드가 해당 텍스트를 ‘처리했다’는 사실을 나타낸다는 것이다.
13일(현지시간) 비즈니스인사이더에 따르면 앤스로픽은 이번 주 일부 클로드 모델이 생성·처리한 텍스트에 사람이 알아볼 수 없는 워터마크를 삽입한다고 밝혔다. 워터마크는 글을 복사해 다른 곳에 붙여넣어도 함께 따라가며 일부 내용을 수정한 뒤에도 남을 수 있다.
앤스로픽은 유럽연합(EU)의 인공지능법(AI Act)에 대응하기 위해 이 기능을 도입했다고 밝혔다. 지원되는 모델이 생성한 텍스트에는 지난 2일부터 전 세계적으로 워터마크가 적용되고 있다.
논란의 핵심은 워터마크가 붙는 범위다. 사람이 직접 작성한 글을 클로드에 입력한 뒤 맞춤법이나 문법만 다듬은 경우에도 워터마크가 남을 수 있다.
디지털 헬스케어 기업 클릭(Klick)에서 생성형 AI를 이끄는 사이먼 스미스는 엑스(X)를 통해 사람이 작성한 글을 클로드로 가볍게 교정한 경우까지 AI가 쓴 글로 오인될 수 있다는 우려를 제기했다.
이에 앤스로픽은 비즈니스인사이더에 워터마크는 클로드가 해당 텍스트를 처리했다는 사실을 보여줄 뿐, 클로드가 직접 작성했다는 의미는 아니라고 설명했다. 교정뿐 아니라 번역이나 요약을 맡긴 경우에도 워터마크가 남을 수 있다.
누가 워터마크를 확인할 수 있는지를 두고도 지적이 나왔다. 기술 투자자 빌 걸리는 앤스로픽만 워터마크를 식별할 수 있다면 회사가 사실상 “판사와 배심원, 검사의 역할을 모두 맡게 된다”고 비판했다.
앤스로픽은 이용자와 제3자도 클로드의 워터마크를 직접 확인할 수 있도록 무료 API를 제공할 계획이라고 밝혔다. 다만 워터마크가 어떤 방식으로 텍스트에 들어가는지 등 구체적인 기술은 아직 모두 공개하지 않았다.
특정 단어나 표현을 조합하는 방식이라면 답변 자체가 달라지는 것 아니냐는 의문도 나왔다. 앤스로픽은 워터마크가 클로드 답변의 “의미와 품질, 가독성을 바꾸지 않는다”고 밝혔다.
워터마크를 둘러싼 평가는 엇갈린다. 스티븐 시노프스키 전 마이크로소프트 임원은 개인의 생각에도 디지털 흔적이 남을 수 있다며 개인정보 보호 문제를 제기했다. 소프트웨어 엔지니어 교육자 존 크리켓은 AI가 생성한 코드에 워터마크가 붙으면 저작권을 주장하는 과정에서 인간이 얼마나 기여했는지를 입증하는 문제가 복잡해질 수 있다고 지적했다.
반대로 소프트웨어 개발자 돈 펠커는 워터마크가 AI 생성물을 다시 AI가 학습하는 문제를 줄이는 데 도움이 될 수 있다고 봤다. AI가 만든 콘텐츠가 계속 쌓이고 이를 다시 AI가 학습하면서 품질이 떨어지는, 이른바 “뱀이 자기 꼬리를 먹는” 문제를 막는 데 활용할 수 있다는 것이다.
AI 워터마크를 도입한 곳은 앤스로픽뿐만이 아니다. 구글은 ‘신스ID(SynthID)’ 기술로 AI 생성 콘텐츠에 워터마크를 적용하고 있으며, 오픈AI도 일부 이미지와 오디오에 신스ID를 사용하고 있다.