구글 로고를 형상화한 반도체 칩 위로 데이터가 흐르는 모습을 형상화한 이미지. AI 메모리 압축 기술 ‘터보퀀트’의 개념을 시각적으로 표현했다. 제미나이 AI 생성 이미지
AI 투자 흐름을 이끌어온 고대역폭메모리(HBM) 수요 확대 기대에 변수가 생겼다는 해석이 나온다.
● 메모리 병목 겨냥…“덜 쓰고도 된다”
터보퀀트의 핵심은 AI가 사용하는 메모리를 줄이면서도 성능을 유지하는 데 있다.
대형 언어모델은 사용자 대화 맥락을 ‘KV 캐시’에 저장하는데, 문맥이 길어질수록 메모리 사용량이 급격히 늘어난다. 그동안 AI 성능 경쟁이 GPU와 메모리 증설 경쟁으로 이어진 배경이다.
핵심은 ‘덜 써도 된다’는 점이다. 구글은 특히 정확도 손실 없이 메모리를 줄일 수 있다는 점을 강조했다.
● 외신도 주목…“비용 구조 바꿀 기술”
외신들도 이번 기술의 의미를 빠르게 짚었다.
일부 오픈소스 커뮤니티에서는 발표 직후 관련 알고리즘을 적용하려는 시도도 이어지고 있는 것으로 전해졌다.
● HBM 성장 공식에 생긴 변수
그동안 AI 산업은 ‘더 많은 GPU와 메모리’라는 공식 위에서 성장해 왔다. 특히 HBM은 핵심 수혜 부품으로 꼽히며 삼성전자와 SK하이닉스 주가 상승을 이끈 요인이었다.
시장에서는 이를 두고 “AI 인프라 경쟁이 하드웨어 확장에서 소프트웨어 효율 경쟁으로 일부 이동하는 신호”라는 해석이 나온다. 이는 메모리 업체 중심 구조에서 빅테크의 설계 역량이 더 큰 영향을 미치는 방향으로 무게가 이동할 가능성을 시사한다.
● 증권가 “차익실현 명분”…과도 해석 경계
증권가에서는 이번 주가 하락을 구조 변화로 단정하기보다 투자 심리 영향으로 보는 시각이 우세하다.
다만 그는 “어디까지나 논문 단계의 알고리즘 공개이고 실제 상용화까지는 시간이 필요하다”며 “연초 메모리 폭등 랠리 이후 누적된 피로 속에서 차익실현의 명분으로 작용한 측면이 있다”고 분석했다.
이어 “AI 모델 효율성과 성능이 향상될수록 오히려 AI 총수요가 증가하는 현상이 나타날 가능성도 있다”며 “이번 이슈가 딥시크 사태처럼 단기 이벤트에 그칠지, 아니면 새로운 국면으로 이어질지는 지켜볼 필요가 있다”고 덧붙였다.
● ‘덜 쓰는 기술’이 시장을 키울 수도
터보퀀트가 던진 메시지는 분명하다. AI 경쟁의 기준이 바뀌고 있다는 점이다. 지금까지는 자원을 얼마나 많이 투입하느냐가 중요했다면, 앞으로는 같은 자원으로 얼마나 효율을 끌어올리느냐가 더 중요해질 수 있다.
메모리 사용량 감소는 데이터센터 비용과 전력 부담을 낮추고 AI 도입을 확산시키는 요인이 된다. 효율 개선이 오히려 시장 전체 수요를 키우는 흐름으로 이어질 가능성도 있다.
최현정 기자 phoebe@donga.com