이틀째 메모리주 끌어내린 구글 ‘터보퀀트’ 뭐길래 > it

• 목록

로이터 연합통신

AI 효율 높여 메모리 의존 낮추는 기술

논문 발표 단계로 ‘영향 과장’ 지적 속

기업 진입 장벽 낮춰 수요 증가 전망도

구글이 인공지능(AI) 메모리 사용량을 크게 줄이는 ‘터보퀀트’(TurboQuant) 기술에 관한 논문을 발표한 이후 메모리 반도체 시장이 동요하고 있다. 삼성전자와 SK하이닉스 등 주요 반도체 기업 주가는 27일에도 이틀째 급락을 이어갔다.

구글 리서치가 지난 24일(현지시간) 논문에서 공개한 터보퀀트는 AI 모델의 효율성을 높여 메모리 사용량을 낮추는 기술이다. 터보퀀트는 거대언어모델(LLM)에서 이전 대화 내용을 기억하는 일종의 ‘임시 메모리’인 KV캐시를 성능 저하 없이 압축할 수 있다. AI 추론의 관건인 맥락 데이터를 압축해 병목 현상을 해결함으로써, 연산 속도를 끌어올리는 동시에 정확도 손실을 최소화해 코딩이나 질문 답변, 텍스트 요약 등 성능을 유지하는 게 핵심이다.

이를 통해 메모리 사용량은 최소 6분의 1 수준으로 줄이고 데이터 처리 속도는 최대 8배까지 올라간다는 게 구글의 연구 결과다. 터보퀀트 연구진에는 구글 아미르 잔디에와 바하브 미로크니를 비롯해 한인수 카이스트(KAIST) 교수 등 8명이 참여했다.

터보퀀트 기술이 실제 적용되면 AI 추론 워크로드에 필요한 메모리 용량이 줄어들게 될 것이라는 관측이 나오면서 메모리 반도체 기업 주가가 휘청이게 된 것이다. 삼성전자와 SK하이닉스는 물론이고 26일(현지시간) 뉴욕 증시에서도 마이크론, 미국 최대 낸드 메모리기업 샌디스크 주가가 각각 7%, 11% 이상 폭락했다.

일각에선 터보퀀트를 두고 중국 LLM 딥시크와 같은 충격을 선사했다고도 보고 있다. AI 산업의 메모리 의존도를 줄일 수 있는 획기적인 기술이라는 것이다. 매슈 프린스 클라우드플레어 최고경영자(CEO)는 터보퀀트를 “구글의 딥시크”에 견주면서 “AI 추론 산업이 속도, 메모리 사용, 전력 소비 등에서 여전히 개선할 여지가 있다는 점을 보여준다”고 말했다.

아직 논문 발표 단계 기술인 터보퀀트로 인한 영향이 과장됐다는 지적도 나온다. AI 메모리 효율성이 높아져서 비용이 절감되면 기업들의 AI 진입 장벽이 낮아져, 오히려 AI 메모리 수요가 증가할 수 있다는 관측도 힘을 얻고 있다. 기술 전문 매체 테크크런치는 AI 추론 과정에 작용하는 알고리즘 기술만으로는 AI 학습에 필요한 방대한 메모리 수요를 해결하지 못한다고 지적했다. 레이 왕 세미애널리시스 분석가는 CNBC에 “AI 하드웨어 성능이 향상되어 AI 모델이 더 강력해지게 되면, 더 많은 하드웨어가 필요해질 것”이라고 말했다.