제프리 힌턴 토론토대 명예교수가 2024년 6월 19일(현지시간) 캐나다 토론토에서 열린 ‘콜리전 2024’ 행사에서 ‘우리는 AI를 통제할 수 있는가’를 주제로 열린 패널 토론에 참석해 발언하고 있다. 게티이미지코리아
17일(현지시간) 비즈니스인사이더에 따르면 힌턴은 전날 미 의회 의원들과 브리핑을 마친 뒤 정책당국이 의미 있는 안전장치를 마련할 시간이 얼마나 남았느냐는 질문에 “아마 1년, 그보다 많이 남지는 않았다”고 말했다.
힌턴은 초지능 AI의 등장 시점에 대한 예상도 빠르게 앞당겨졌다고 봤다. 과거에는 수십 년 뒤로 예상됐지만 이제는 불과 몇 년 안에 등장할 가능성까지 거론되고 있다는 것이다.
● “AI가 더 나은 AI 설계”…허깅페이스 사건은 ‘작은 체르노빌’
최근 AI 에이전트가 오픈소스 AI 플랫폼 허깅페이스(Hugging Face)를 공격한 사건도 언급했다. 힌턴은 이 사건을 “작은 체르노빌”이라고 표현하며 첨단 AI 시스템을 통제하기가 갈수록 어려워지고 있다고 경고했다. 그는 “우리를 멸종시킬지도 모르는 것을 개발해서는 안 된다”고도 말했다.
힌턴은 최근 AI 위험에 대해 잇따라 강한 경고를 내놓고 있다. 지난주 BBC 인터뷰에서는 향후 10년 안에 AI가 인류 멸종을 초래할 가능성을 약 10%로 보는 것이 “불합리하지 않다”고 말했다.
힌턴은 인공신경망 연구의 선구자로, 딥러닝의 기반을 닦은 공로를 인정받아 2024년 노벨물리학상을 공동 수상했다.
힌턴의 경고는 AI 업계 안에서 개발 속도를 조절해야 한다는 목소리가 커지는 가운데 나왔다. 다리오 아모데이 앤스로픽 최고경영자(CEO)는 최근 첨단 AI의 발전 속도가 안전장치보다 빠르다며 개발 속도를 조절해야 한다고 주장했다. 오픈AI CEO 샘 올트먼과 구글 딥마인드 CEO 데미스 허사비스, 일론 머스크도 제안의 핵심 취지 일부에 공감을 표시했다.
도널드 트럼프 미국 대통령은 AI 개발 속도를 늦추자는 요구에 반대하고 있다. 트럼프 대통령은 최근 AI 업계의 규제 요구를 “사기”라고 일축하고, 개발 속도를 늦추면 중국이 이익을 볼 수 있다고 주장했다.
미 의회에서는 AI 기업에 더 큰 안전 책임을 부과하는 방안이 논의되고 있다. 상원 협상단은 첨단 AI 개발사에 ‘주의 의무(duty of care)’를 부과해 핵·생물무기 개발 지원 등 중대한 위험을 막도록 하는 방안을 검토하고 있다. 정부가 위험성이 큰 AI 모델의 출시를 제한하고, 국립연구소의 전문가들이 모델의 안전성을 시험하는 방안도 논의 대상이다. 구체적인 적용 범위와 정부 권한을 놓고는 협상이 이어지고 있다.