인권단체 ‘아동착취’ 누명 씌워 계정 삭제…메타 “AI가 실수했다”

최현정 기자 2026-07-23 11:55

17년 운영 단체·100만 팔로워 강사 계정도 정지
AI가 심사…김명주 교수 “사람이 최종 검토해야”



메타(Meta) 로고가 표시된 스마트폰 화면. 최근 메타의 AI 계정 심사 시스템이 인권단체와 사업자 계정을 잘못 정지한 사례가 알려지며 논란이 커지고 있다. 게티이미지코리아

최근 국내 스레드와 인스타그램 이용자들 사이에서 이유를 알 수 없는 계정 정지와 영구 정지 사례가 잇따르면서 메타(Meta)의 AI 계정 관리 시스템에 대한 불만이 커지고 있다.

이런 가운데 미국에서는 17년 동안 활동해 온 인권단체와 100만 명의 팔로워를 보유한 사업자 계정이 AI의 오판으로 삭제됐다가 언론 취재 이후에야 복구된 사실이 알려졌다.

21일(현지시간) 뉴욕타임스(NYT)에 따르면 미국 애틀랜타에서 흑인 해방 기념행사 ‘준틴스(Juneteenth)’ 관련 활동을 해온 시민단체 ‘준틴스NY’ 운영자 아테니아 로드니는 지난해 페이스북과 인스타그램 계정이 한꺼번에 정지됐다.

메타는 해당 계정이 아동착취물 관련 정책을 위반했다고 통보했다. 그러나 로드니는 행사 사진과 지역사회 활동 내용을 공유해 왔을 뿐 관련 콘텐츠를 게시한 적이 없다고 주장했다.

로드니는 신분증 제출과 소비자 보호기관 신고, 링크드인을 통한 메타 직원 접촉 등 여러 방법으로 계정 복구를 시도했지만 실패했다. 결국 NYT가 취재 과정에서 사례를 전달한 뒤에야 계정이 복구됐다.

메타는 조사 결과 해당 계정이 해킹 피해를 입었고, AI 시스템이 이를 문제 계정으로 잘못 분류했다고 설명했다.

● 100만 팔로워 사업자도 계정 삭제

비슷한 사례는 또 있었다. 포르투갈에서 영어 교육 사업을 운영하는 카밀 한슨 부부는 올해 3월 페이스북과 인스타그램 계정이 삭제된다는 통보를 받았다. 두 사람은 SNS를 기반으로 사업을 운영하며 약 100만 명의 팔로워를 보유하고 있었다.

메타는 이들의 계정이 ‘사기 및 기만 행위’ 정책을 위반했다고 판단했다. 이의신청도 기각됐다. 계정에 저장된 게시물과 메시지, 팔로워 정보까지 모두 삭제될 수 있다는 안내가 이어졌다.

하지만 NYT 취재 이후 메타는 해당 계정 역시 잘못 정지된 사례라고 인정하고 복구했다.

NYT는 메타가 AI를 활용해 계정 정지 여부를 판단하고 있으며, 이용자들의 항소 절차 역시 상당 부분 자동화돼 있다고 지적했다. 이용자들은 문제 발생 시 실제 담당자와 연결되기 어려워 구제 절차가 사실상 막혀 있다고 주장하고 있다.

● 한국서도 계정 정지 논란…AI 심사 체계 도마 위

이 같은 논란은 미국만의 문제가 아니다.

최근 국내 스레드와 인스타그램 이용자들 사이에서도 “이유를 알 수 없는 계정 정지 통보를 받았다”, “이의신청 후 복구됐지만 위반 사유를 알 수 없었다”, “영구 정지 후 수시간 만에 복구됐다”는 경험담이 잇따라 올라오고 있다.

일부 이용자들은 메타 AI가 반복적인 좋아요·팔로우 활동이나 특정 댓글 패턴을 자동으로 스팸 행위로 오인하는 것 아니냐는 추측까지 내놓고 있다. 다만 메타는 개별 사례에 대한 구체적인 심사 기준은 공개하지 않고 있다.

메타는 AI 기반 심사 시스템이 기존 인력 중심 심사보다 오류가 적고 위반 콘텐츠를 더 많이 찾아낸다고 주장한다. 그러나 이용자들은 AI가 계정을 정지하고, 다시 AI가 이의신청을 심사하는 구조에서는 억울한 피해가 발생해도 구제받기 어렵다고 지적한다.

● “사람 권리에 영향 주는 결정은 인간이 검토해야”

전문가들은 AI가 방대한 콘텐츠와 계정을 효율적으로 관리할 수는 있지만, 계정 삭제나 영구 정지처럼 개인의 권리와 경제 활동에 영향을 미치는 결정은 인간의 감독이 필요하다고 지적한다.

김명주 AI안전연구소장(서울여대 지능정보보호학부 교수)은 “계정 삭제나 영구 정지처럼 이용자의 권리와 재산상 이익에 영향을 미치는 결정은 AI에 전적으로 맡겨서는 안 된다”며 “최종 단계에서 사람이 검토하는 ‘휴먼 인 더 루프(Human-in-the-Loop)’ 절차가 필요하다”고 말했다.

이어 “완전 자동화된 시스템은 문제가 발생했을 때 사람이 개입해 바로잡을 기회를 놓칠 수 있다”며 “이번 사례는 AI가 사람의 권리에 영향을 미치는 결정을 내릴 때 인간의 감독이 왜 필요한지를 보여주는 사례”라고 설명했다.

김 소장은 또 “기업은 AI가 어떤 기준으로 판단하는지 원칙을 공개하고 그 원칙에 따라 운영해야 한다”며 “신뢰할 수 없는 AI를 사용하는 기업은 결국 신뢰받기 어려운 기업이 될 수 있다”고 지적했다.

최현정 기자 phoebe@donga.com

당신을 위한 뉴스