램포칼립스 한가운데에서 다시 묻는 질문
1. 우리가 메모리에 베팅할 수 있었던 진짜 이유
이번 메모리 사이클이 어디서 끝날지, 솔직히 누구도 모른다. 나도 모른다. 사이클의 정점을 맞추는 일은 항상 사후적으로만 정확하다.그런데 우리가 메모리에 강하게 베팅할 수 있었던 건, 사이클 예측이 뛰어나서가 아니다. 2023년과 2024년에 이미 한 번 봤기 때문이다
엔비디아 H100 GPU의 대기 시간이 8~11개월에 달했고, 일부 주문은 40주(약 9개월) 이상 기다려야 했다. 중국향 A800·H800은 정가 대비 40% 프리미엄을 얹어 거래되었고, 일부 주문은 6개월 이상 대기열에 묶였다. GPU가 마약보다 구하기 힘들다는 농담이 농담이 아니던 시기였다
그때 GPU 옆에 붙어 있어야 하는 부품이 무엇인지, 그 부품을 만드는 회사가 어디인지는 명백했다. 다시 말해, 메모리 베팅은 미래 예측이 아니라 과거 패턴의 연장선이었다. GPU에서 벌어진 일이 메모리에서 벌어지지 않을 이유가 없다는, 비교적 안전한 추론이었다
지금 그 패턴은 정확히 반복되고 있다. SK하이닉스 DRAM 마케팅 책임자는 2025년 10월 FT 인터뷰에서 "내년 DRAM, NAND, HBM 모든 capacity가 매진되었다"고 밝혔다. 같은 시점 SK하이닉스의 DRAM 재고는 약 2주 수준까지 떨어졌고, 일부 DDR5 제품은 재고가 0인 상태로 생산과 출하가 동시에 이루어지는 구조가 됐다. 한국 메모리 양사는 5세대 HBM(HBM3E)의 2026년 인도분 가격을 약 20% 인상한 것으로 전해진다. GPU가 마약이었던 시기를 메모리가 그대로 다시 쓰고 있다
다만 여기서 갈린다. "메모리가 정말로 그만큼 필요할 것인가"는 각자의 AI 리서치 깊이에 따라 답이 다르다. 누군가는 단순한 숏티지로 봤고, 누군가는 구조적 폭증으로 봤다. 같은 종목을 사고도 확신의 두께는 달랐다
2. 그들은 왜 메모리를 비싸게 사는가
핵심 질문 하나만 짚자. CSP와 LLM 회사들 — 마이크로소프트, 구글, 메타, 아마존, OpenAI, Anthropic — 이들은 왜 메모리를 비싼 값에 사고 있을까.토큰 단가를 낮추기 위해서 아닐까?
지난 17개월 동안 토큰 가격은 자유낙하했다. GPT-4가 출시 시점인 2023년 3월 백만 토큰당 36달러였던 것이, GPT-4o 출시 17개월 만에 4달러까지 떨어졌다. 연 79% 하락 페이스다. Sam Altman은 더 공격적인 숫자를 내놓았다. "GPT-4(2023년 초) 대비 GPT-4o(2024년 중반) 토큰 가격은 약 150배 떨어졌다. 무어의 법칙이 18개월에 2배였는데, 이건 비교가 안 될 만큼 강하다". 알파벳도 같은 곡선을 자랑한다. CEO 순다 피차이는 2025년 한 해에만 모델 최적화로 Gemini 추론 비용을 78% 줄였다고 발표했다.
이 가격 곡선의 의미는 명확하다. 그들은 지금 수익화가 목표가 아니다. 이 점을 자주 잊는다. 분기 실적에서 AI 부문 마진이 압박을 받는다는 뉴스가 반복되지만, 그건 그들이 신경 쓰는 지표가 아니다. 그들이 신경 쓰는 건 토큰 한 개를 만들어내는 한계비용이 얼마나 빠르게 떨어지느냐다.
왜 토큰 비용을 낮춰야 하나. 시나리오를 생각해보자. 토큰 비용이 충분히 낮아지면, AI는 모든 소프트웨어 레이어에 침투한다. 검색, 생산성, 코드, 디자인, 고객 응대, 의사결정 보조. 그 시점에 사용자는 AI 없이는 일을 못 한다. 그게 lock-in이다. 그리고 lock-in 이후에 가격은 다시 오른다. 그게 그들의 게임 플랜이다.
지금의 적자는 미래의 독점 지대를 사기 위한 비용이다. 그래서 그들은 비싼 가격에도 메모리를 사고, 다년 계약을 맺는다. 단기 계약이던 메모리 시장이 최근 3~5년짜리 LTA(장기공급계약) 모델로 전환되고 있다. 마이크로소프트는 SK하이닉스와 수십조 원 규모의 DDR5 3년 공급 계약을 마무리 단계에 있고, 구글은 SK하이닉스와 최대 5년짜리 범용 DRAM 장기 계약을 협상 중이다. 더 인상적인 건 계약 구조다. SK하이닉스의 마이크로소프트·구글 장기 계약은 총 계약가의 약 10~30%를 선급금으로 지급하고, 계약 기간 내 최저가를 보장하는 조항을 포함한다. 이건 단순한 구매계약이 아니다. 메모리 회사들이 받고 있는 돈은 사실 미래 독점 지대의 선급금이다.
3. 진짜 병목은 어디였나
여기서 한 번 멈추고 다시 생각해야 한다.
토큰 비용이 0에 수렴하려면 무엇이 필요한가. 메모리만으로는 안 된다. AI 자체의 고도화가 필요하다. 같은 결과를 더 적은 연산으로, 더 적은 토큰 입출력으로 만들어내는 모델 효율화. 그리고 그 효율화의 기반은 여전히 GPU다.
수치가 뒷받침한다. 2026년 빅4 하이퍼스케일러(MS, 알파벳, 메타, 아마존)의 CapEx는 합계 7,250억 달러로, 작년 대비 77% 증가한 규모로 가이던스가 잡혀 있다. 이 중 약 75%인 4,500억 달러가 AI 인프라 — 서버, GPU, 데이터센터, 장비 — 로 직접 흘러간다. 메모리가 이 CapEx에서 차지하는 비중은 SemiAnalysis 추정으로 2023~24년 약 8%에서 2026년 약 30%로 4배 가까이 증가했다. 그러나 GPU와 컴퓨팅에 대한 지출은 줄지 않았다. 마이크로소프트 CFO Amy Hood는 2026년 CapEx의 약 3분의 2가 GPU와 CPU에 투입되며, 이렇게 쓰고도 2026년 내내 capacity 제약 상태가 지속될 것이라고 명시했다.
엔비디아 주가가 버티고 있는 이유가 여기 있다고 본다. 2025년 10월 약 213달러의 ATH를 찍은 이후, 2026년 3월 164달러까지 조정을 받고 5월 현재 196~200달러 부근에서 약 7개월간 박스권 횡보 중이다. 시장은 GPU 사이클이 끝났다고 단정하지 못한다. 단정할 수 없는 이유는 명확하다. GPU 병목은 아직 해결되지 않았기 때문이다.
마이크로소프트가 좋은 사례다. Azure는 800억 달러 규모의 주문 백로그를 전력 제약 때문에 채우지 못하고 있다고 공시했다. 알파벳의 클라우드 계약 백로그는 전 분기 대비 거의 두 배인 4,620억 달러로 폭증했고, 회사는 "내부·외부 모두에서 전례 없는 AI 컴퓨팅 수요를 보고 있다"고 밝혔다. 학습 단계의 GPU 수요는 어쩌면 정점에 가까울 수 있다. 그러나 추론 단계 수요, 그리고 다음 세대 모델 — Agentic AI, 멀티모달, 장기 컨텍스트 — 이들이 요구하는 컴퓨팅은 아직 충분히 공급되지 않았다.
4. 이 게임의 진짜 구조
그래서 게임을 다시 정의해야 한다.
이 게임은 메모리 회사들이 얼마나 비싸게 팔 수 있느냐의 게임이 아니다. CSP와 LLM 회사들이 토큰 비용을 얼마나 빠르게 0에 가깝게 만들 수 있느냐의 게임이다. 메모리는 그 게임의 입력값 중 하나일 뿐이다. 중요한 입력값이지만, 게임의 결과를 결정하는 변수는 아니다.
투자 강도가 이를 증명한다. Jefferies는 미국 빅4 하이퍼스케일러가 2026년 영업현금흐름의 92%를 CapEx에 쓸 것으로 추정한다. 2023년의 41%에서 두 배 이상 뛴 수치다. 이 중 28%는 메모리에만 들어간다. 자기 자본만으로는 모자란다. 알파벳은 2025년 11월 250억 달러 규모의 채권을 발행했고, 장기부채는 한 해 동안 4배 늘어나 465억 달러가 됐다. 아마존은 2026년 자유현금흐름이 마이너스 170~280억 달러로 추정되며, 추가 채권·주식 발행 가능성을 SEC 공시에 명시했다. 한 분석은 이 흐름을 "이미 자본전쟁이지 AI 하이프가 아니다"라고 표현했다. 래리 페이지는 "이 경쟁에서 지느니 차라리 파산하겠다"고 말한 것으로 인용된다.
만약 그들이 토큰 비용 zero化에 성공한다면? 보상은 막대하다. AI에 lock-in된 전 세계 기업과 개인으로부터 거의 무한에 가까운 캐시플로우를 끌어낼 수 있다. 그래서 그들은 지금 손실을 감수하고 메모리에, GPU에, 전력에, 데이터센터에 돈을 쏟는다.
만약 실패한다면? 토큰 비용이 충분히 떨어지기 전에 자본조달 환경이 먼저 식으면, 사이클은 그 시점에 꺾인다. 메모리 가격이 좋다는 이유로 사이클이 연장되지 않는다.
5. 그래서 사이클의 끝은 어디에서 오는가
사이클의 끝을 결정하는 건 두 가지 중 하나다. 첫째, CSP와 LLM 회사들이 토큰 비용을 충분히 낮추는 데 성공해서 게임이 다음 단계로 넘어갈 때. 그때는 인프라 투자 단계가 마무리되고, 수익화 단계가 시작된다. 둘째, 그들이 성공하기 전에 자본 사이클이 먼저 식을 때. 그때는 모두가 함께 식는다. 영업현금흐름의 92%를 쓰고 있는 회사들은 자금조달 비용이 조금만 변해도 흔들린다.
어느 쪽이든, 신호는 메모리 가격이 아니라 다른 곳에서 온다. 하이퍼스케일러의 CapEx 가이던스 변화, 빅테크의 채권 발행 스프레드와 발행 규모, 토큰 단가의 실제 하락 속도, 추론 시장의 단위 경제, GPU 백로그의 소화 속도. 이런 지표들을 봐야 한다.
지금 이 순간 우리가 보고 있는 건 인류 역사상 보기 드문 메모리 수요 폭증, 즉 램포칼립스다. SK하이닉스의 2026년 capacity가 매진됐다는 사실, 메모리가 hyperscaler 지출의 30%를 차지한다는 사실, HBM 신규 capacity가 2027~28년에야 의미 있게 풀린다는 사실 — 이 모두가 사실이다. 그러나 사실이라는 것과, 그것이 사이클의 종착지를 알려준다는 것은 다른 얘기다.
램포칼립스 한가운데서 메모리만 보고 있으면 진짜 게임을 놓친다. 진짜 게임은 토큰 비용 곡선이고, 그 곡선의 기울기를 결정하는 건 결국 GPU와 모델 효율화다. 메모리 회사들은 이 게임의 가장 큰 수혜자이지만, 이 게임의 룰을 만드는 사람은 아니다.
🚨 Attention all Solidity dev teams - The ultimate Audit Preparation AI tool is here!
Fixing your entire audit preparation process in minutes instead of days for FREE.
Use it before your audit engagement and arrive fully prepared.
Fully open-source. Link in the comments👇