생성형 인공지능(AI)이 사이버 공격에 활용되는 모습을 표현한 이미지. AI 제미나이 생성 이미지
24일(현지 시간) 블룸버그통신에 따르면 대만 사이버보안 연구업체 팀T5(TeamT5)는 중국 정부와 연계된 해킹 조직들이 반복적인 작업을 AI에 맡기고 악성 소프트웨어 개발에 활용하기 시작한 이후 공격 횟수가 두 배 이상 증가했다고 밝혔다.
모든 공격에 사용된 AI 모델이 확인된 것은 아니다. 다만 연구진은 중국 해커들이 딥시크를 많이 이용하는 이유로 높은 성능과 낮은 비용, 상대적으로 느슨한 사이버보안 제한을 꼽았다.
찰스 리 팀T5 수석분석가는 “딥시크는 상대적으로 강력하면서 사이버보안 가드레일은 매우 낮아 중국 해커들이 선호하는 AI”라며 “서구의 AI 모델도 인기가 높지만 가드레일이 훨씬 엄격해 이를 우회하려면 더 많은 노력이 필요하다”고 말했다.
● 공격 코드 만들고 IP 1000개 수집…딥시크 어디에 썼나
딥시크를 비롯한 오픈소스 AI 모델은 해킹의 여러 단계에서 사용됐다. 팀T5는 최근 중국 정부 연계 해커들이 정찰부터 취약점 공격 수단 생성까지 AI를 사용한 사실을 보여주는 스크립트와 작업 기록을 확보했다고 밝혔다.
‘그림펑시(Grimfengxi)’로 알려진 해킹 조직은 딥시크를 이용해 취약점을 공격하는 익스플로잇 코드를 만들었다. 또 다른 조직 ‘화피(Huapi)’는 중국산 AI 모델을 이용해 대만 기업의 이메일 시스템을 공격했다. 연구진은 이때 사용된 모델 역시 딥시크일 가능성이 높은 것으로 보고 있다.
연구진은 중국 해킹 생태계의 일부를 보여주는 자료도 확보했다. 공개된 공유 드라이브에서 올해 2월까지 촬영된 중국어 스크린샷 수천 장을 발견했는데, 여기에는 직원 약 10명으로 구성된 소규모 업체가 해킹 도구를 개발해 판매하는 과정이 담겨 있었다.
이 업체는 해킹 소프트웨어를 30만~50만 위안(약 6200만~1억원)에 판매했으며, 고객은 각각 별도의 공격을 수행하는 최소 4개 해킹 조직이었다. 이 가운데 한 조직의 활동은 미 법무부가 중국 정부의 지원을 받는다고 밝힌 해킹 조직 ‘머스탱 판다(Mustang Panda)’의 활동과 일부 겹쳤다.
중국 해커들이 미국산 AI를 사용한 사례도 발견됐다. 사이버보안업체 사이크래프트(CyCraft)에 따르면 해킹 소프트웨어를 판매하는 업체가 서방 싱크탱크를 공격하는 과정에서 챗GPT를 이용한 사실도 확인됐다.
오픈AI는 자사 AI 모델을 악용하려는 시도를 찾아내고 차단하는 데 힘쓰고 있다고 밝혔다.
● 엔지니어인 척 클로드 속여…AI 안전장치도 우회
앤스로픽의 AI 코딩 도구 ‘클로드 코드(Claude Code)’를 해킹에 이용한 사례도 확인됐다.
팀T5에 따르면 ‘슬라임22(Slime22)’라는 해킹 조직은 대만의 한 기술기업 시스템에 침입한 뒤 클로드 코드를 이용해 내부의 다른 시스템으로 접근 범위를 넓혔다. 이들은 침투 테스트에 사용되는 플랫폼 ‘칼리(Kali)’를 설치한 뒤 클로드에 이를 이용한 작업을 수행하도록 요청했다.
앤스로픽은 중국계 기업의 자사 서비스 이용을 차단하고 있다. 회사는 지난해 중국 정부 지원을 받는 해커들이 클로드 코드를 이용해 대형 기술기업과 금융회사, 화학업체, 정부기관 등 30개 조직을 대상으로 공격을 벌였다고 밝힌 바 있다.
해커들에게 반드시 가장 뛰어난 AI가 필요한 것도 아니었다. 팀T5에 따르면 가격이 낮고 보안 제한이 느슨한 AI만으로도 정찰과 정보 수집, 코드 작성 같은 반복 작업을 맡기면서 공격량을 크게 늘릴 수 있었다.
최현정 기자 phoebe@donga.com