최근 화제가 됐던 ‘경찰 바디캠(Body cam)’이라 게시된 영상들. 모두 AI로 제작된 가짜 영상인 것으로 밝혀졌다. 인터넷 커뮤니티 갈무리
● 전 세계 유튜브 채널 278곳, 오로지 ‘AI 오물’만 송출
27일(현지 시간) 가디언에 따르면, 영상 편집 플랫폼 카프윙은 국가별 상위 100개 유튜브 채널을 전수 조사한 결과를 공개했다. 조사 대상 1만5000개 채널 가운데 278곳은 사람이 개입하지 않은 AI 저품질 영상만을 반복적으로 송출하고 있었다.
이들 채널의 총 구독자 수는 2억2100만 명, 누적 조회수는 630억 회에 달했다. 연구진은 이들이 벌어들이는 연간 광고 수익이 약 1억1700만 달러(약 1670억 원)에 이른다고 추산했다. 비용을 거의 들이지 않고 자동화된 콘텐츠로 막대한 트래픽을 확보하는 구조가 이미 하나의 수익 모델로 자리 잡았다는 의미다.
● 한국은 왜 ‘AI 슬롭 소비 1위’가 됐나
유튜브가 저질 AI 콘텐츠 ‘슬롭’으로 몸살을 앓는 가운데, 한국발 채널 조회수가 84억 회로 세계 1위를 기록했다. 자극적 영상으로 막대한 수익을 올리며 ‘뇌 썩음’을 유발하는 만큼, 플랫폼 규제와 리터러시 교육이 시급하다는 지적이다. 제미나이로 생성한 사진
실제 국내에서는 경찰 보디캠 영상을 흉내 낸 AI 가짜 영상이 확산되며 경찰청이 내사에 착수하는 등 현실적인 피해도 발생했다. 파키스탄에서는 대홍수 참사 장면을 AI로 재구성한 영상이 13억 회 이상의 조회수를 기록해 국제적 비판을 받았다. 공통점은 사실 여부와 맥락보다 ‘분노·공포·자극’을 우선 설계했다는 점이다.
카프윙은 추천 영상의 약 3분의 1이 ‘브레인롯(brainrot·뇌 썩음)’ 유형에 해당한다고 분석했다. 화려한 색감, 과도한 효과, 기괴한 설정으로 판단력이 낮은 이용자나 즉각적인 도파민 자극을 원하는 소비자를 겨냥하는 방식이다.
● 플랫폼 책임론, 실효성은 있나
순다르 피차이 알파벳 CEO가 구글 I/O 이벤트에서 발표하고 있다. AP/뉴시스
현재 구글은 인간의 개입 없이 자동 생성된 AI 콘텐츠에는 수익을 제공하지 않겠다는 방침을 유지하고 있다. 그러나 실제로는 AI와 인간 제작물의 경계가 점점 흐려지면서 정책의 실효성이 떨어진다는 지적이 잇따른다.
김영호 기자 rladudgh2349@donga.com