구글이 터보퀀트(Turbo Quant)를 발표하자마자 반도체 주식이 일제히 빠졌다.
삼성전자, SK하이닉스, 마이크론. 한국 미국 할거 없이 메모리,반도체 관련있다 싶은건 싹다~(ㄷㄷ) 오늘은 이 발작의 원인을 해부하고, 진짜 AI 반도체 수요가 줄어드는지 아닌지 차분하게 따져보자.
터보퀀트가 뭔데 이 난리야?
터보퀀트는 AI가 대화할 때 쓰는 'KV캐시'의 메모리 사용량을 6분의 1로 줄이는 기술이다.
KV캐시가 뭔지 잠깐 설명하면, AI가 긴 답변을 만들 때 앞서 쓴 내용을 매번 참조해야 한다. 근데 문장이 길어질수록 이 참조 작업이 기하급수적으로 복잡해진다. 그래서 앞 내용을 '벡터 값'으로 압축해 저장해놓고 빠르게 불러오는 게 KV캐시다.
문제는 AI가 갈수록 더 긴 답변, 더 복잡한 에이전트 작업을 수행하면서 KV캐시가 HBM 용량의 80%를 잡아먹는 상황까지 벌어지고 있다는 거다. 사실상 AI 추론 영역의 가장 뜨거운 병목 지점이었다.
터보퀀트는 이 병목을 뚫겠다는 기술이다. 벡터 양자화 방식으로 데이터를 압축해서 정확도 손실 없이 KV캐시 용량을 6분의 1로 줄인다고 구글 연구진이 발표했다.처리 속도는 H100 대비 최대 8배 빠르다고 한다
- 데이터 압축해서 손실없이 메모리 필요를 1/6로 줄였다!
- H100대비 최대 8배 빠르다!
숫자들만 보면 진짜 혁신처럼 들린다.
그래서 반도체 수요가 줄어드는 거 아니라고?
여기서 시장이 크게 착각했다. "메모리 효율이 올라가면 → 메모리를 덜 산다"는 논리를 직선으로 그어버린 것이다.근데 역사가 이 논리를 한 번도 지지한 적이 없다.
MP3가 나왔을 때를 생각해보자. 10배 압축이 가능하니 저장 공간이 필요 없어진다고 했다. 실제로는? 음악 접근성이 폭발했고, 스트리밍 시대가 열리면서 고품질 무손실 음원 수요가 오히려 커졌다.
디스플레이 FHD 시절, 전문가들은 사람의 눈이 이 이상을 인식 못 한다고 했다. QHD, UHD를 넘어 지금은 8K를 논한다.
딥시크 사태는 더 최근이다. GPU 효율화로 컴퓨팅 수요가 줄어든다는 공포에 엔비디아가 폭락했다. 결말은? GPU 효율이 올라가자 AI 서비스 사용량이 폭발하면서 전체 컴퓨팅 수요는 되려 폭증했다.
경제학에선 이걸 제번스의 역설이라고 한다. 19세기 윌리엄 제번스가 발견한 개념인데, 증기기관 연료 효율이 개선될수록 석탄 소비가 오히려 늘었다는 사실에서 나왔다.
효율이 좋아지면 → 비용이 낮아지고 → 사용량이 폭발한다. 기술의 역설이자 수요의 본질이다.
2023년의 교훈: SLM이 답이라던 사람들 어디 갔나
AI 초기에 수많은 테크 기업들이 SLM, 즉 소형 언어 모델이 미래라고 했다. 컴퓨팅 효율화로 작은 모델로도 충분하다고. 대표적인 게 애플이었다. 온디바이스 AI, 경량화 모델, 엣지 추론. 화려한 발표들이 줄을 이었다.
근데 지금 AI 경쟁 선두는 어디인가. 오히려 뒤늦게 컴퓨팅 파워를 때려 넣은 xAI가 올라왔다. 효율화를 논하는 대신 더 많은 GPU를 집어넣은 곳이 이겼다. 효율화로 살아남은 SLM 전략은 없었다.
스케일이 효율을 이겼다.
터보퀀트의 진짜 의미
KV캐시를 6배 압축한다는 건, 같은 HBM으로 6배 더 긴 컨텍스트를 처리할 수 있다는 뜻이다. AI 개발자들이 이 효율을 어디에 쓸까. 메모리를 덜 사는데 쓸까, 아니면 더 긴 컨텍스트와 더 복잡한 추론을 시도할까.
역사의 답은 항상 후자였다.
그럼 낸드는 어떻게 되나?
이날 가장 많이 빠진 종목이 샌디스크와 웨스턴 디지털이었다.두 기업은 낸드 플래시와 HDD 중심이다. KV캐시와 직접적인 관련이 없다.
시장이 "메모리"라는 단어 하나만 보고 섹터 전체를 팔아버린 것 같다. 터보퀀트가 정확히 무엇을 압축하는지조차 읽지 않은 채로.
오히려 논리적으로 따지면 이렇다.
KV캐시 폭발로 HBM이 감당을 못 하니까 낸드 플래시에 역할을 나눠주려는 HBF 기술까지 논의되고 있었다. 터보퀀트로 HBM 효율이 개선되면 낸드에 역할을 넘길 필요성이 줄어든다. 즉 타격을 입어야 한다면 HBM 기업보다 낸드 기업이 타격을 받는게 더 타당하다는 말이다.
근데 논리가 거꾸로였다. 발작이라는 표현이 과하지 않다.
참고로 터보퀀트, 이미 작년에 나온 기술이다
반도체 시장이 패닉하며 반응했지만, 사실 이 논문은 2025년 4월에 이미 arXiv에 공개됐다. 이번에 구글이 공식 리서치 블로그에 다시 올린 건 실제 자사 서비스, 즉 제미나이와 검색에 적용하겠다는 상용화 신호다.
4월 23일 브라질 리우데자네이루에서 열리는 AI 국제학술대회 ICLR 2026에서 추가 발표도 예정돼 있다.이미 나왔던 기술이 이제야 현실로 들어오는 시점이다.
시장이 처음인 마냥 당황한 것뿐이다.
결론 :공포는 기회다.
MP3가 나왔을 때 음반 주식을 팔았던 사람들, 딥시크 발표 다음 날 엔비디아를 팔았던 사람들이 어떻게 됐는가?
효율화 기술이 발표될 때마다 시장은 수요 감소를 먼저 읽는다. 그리고 매번 틀렸다.
기술의 효율화는 시장을 죽이지 않는다. 진입 장벽을 낮추고 사용량을 폭발시키고 결국 더 많은 인프라를 요구한다.
휘발유가 저렴해지면 더 좋터보퀀트는 위협이 아니다. AI가 지금보다 훨씬 더 복잡하고 야심찬 작업을 시도할 수 있게 되는 출발점이라고 생각한다.
솔직히, 현재의 결정이 올바른 결정이었는지는 시간이 지나봐야 알 수 있다. 지금의 시장 발작을 피해서 살아남은 사람이 되었을지, 역사를 기억하고 버텨서 살아남는 사람이 되었을지.. 판단은 각자에게 달렸으나.. 난 쫄지 않겠다.
0 댓글
📌 자유롭게 질문해주세요. 단, 광고성 댓글 및 비방은 사전 통보 없이 삭제됩니다.