Claude Code fully dissected!
Researchers from UCL reverse-engineered the leaked Claude source. What they found changes how you should think about agent design.
Only 1.6% of the codebase is AI decision logic.
The other 98.4% is operational infrastructure. Permission gates, tool routing, context compaction, recovery logic, session persistence. The model reasons. The harness does everything else.
This is the opposite of what most agent frameworks do today.
LangGraph routes model outputs through explicit state machines. Devin bolts heavy planners onto operational scaffolding. Claude Code gives the model maximum decision latitude inside a rich deterministic harness, and invests all its engineering effort in that harness.
The core loop is a simple while-true. Call model, run tools, repeat.
But the systems around that loop are where the real design lives:
A permission system with 7 modes and an ML classifier. Users approve 93% of prompts anyway, so the architecture compensates with automated layers instead of adding more warnings.
A 5-layer context compaction pipeline. Each layer runs only when cheaper ones fail. Budget reduction, snip, microcompact, context collapse, auto-compact.
Four extension mechanisms ordered by context cost. Hooks (zero), skills (low), plugins (medium), MCP (high). Each answers a different integration problem.
Subagents return only summary text to the parent. Their full transcripts live in sidechain files. Agent teams still cost roughly 7x the tokens of a standard session.
Resume does not restore session-scoped permissions. Trust is re-established every session. That friction is the point.
The bet behind all of this is simple. As frontier models converge on raw coding ability, the quality of the harness becomes the differentiator, not the model.
Paper: Dive into Claude Code (arXiv:2604.14228)
We've shared an article on Agent Harness and what every big company is building.
Read it below.
난 게임을 즐겨하지 않는데 이런건 진짜 유익함
만원으로 데이터 센터의 복잡한 구조와 컴퓨터 인프라를 이해하는 스팀게임 : Data Center
빈 방에서 시작해서
랙 구매 → 서버 장착 → 모든 케이블을 직접 손으로 하나하나 연결해야함
실제 데이터 센터처럼 고객 트래픽을 처리하는 시뮬레이션 게임
출시 48시간 만에 180개가 넘는 리뷰가 달렸고, 플레이어들은 “최근 본 시뮬레이션 게임 중 가장 몰입감 있다”, “컴퓨팅 인프라를 이해하는 데 최고”라는 평가를 하고 있습니다.
Claude Code can now run an entire PhD-level research pipeline by itself.
it runs a 10-stage workflow from blank page to publication-ready PDF, replacing the work of a PhD advisor, three peer reviewers, and a copy editor in one repo.
→ Deep research with 13 agents (PRISMA + systematic review)
→ 12 agents write the paper section by section
→ 5-person peer review (Editor + 3 Reviewers + Devil's Advocate)
→ Integrity agent catches fabricated citations + stat errors
→ Final output: LaTeX → PDF, ready to submit
After the paper is finalized, it runs a Collaboration Quality Evaluation that scores YOU, across 6 dimensions, 1–100. Direction setting, intellectual contribution, quality gatekeeping.
It tells you exactly where you were the bottleneck.
Drop it into .claude/skills/ and the whole pipeline auto-loads. Works in Claude Code, Cowork, and as a Claude Project.
100% open source. CC-BY-NC 4.0.
카페 테이블 위에 휴대폰만 올려 놓거나 상점 바깥에 상품을 진열하거나 집 밖에 택배물건을 놔 둬도 괜찮은 현대 한국 문화는 한국인들 스스로 오랜 세월에 걸쳐 쌓아 올린 것이지, 쿠팡이 만든 게 아닙니다.
쿠팡의 새벽배송 덕에 생활이 편해졌다는 분들, 당신들이…
https://t.co/wtKbf77T1O
LangChain(에이전트 프레임워크)은 에이전트를 만들 때 쓰는 레고 블록 세트
LangGraph(에이전트 런타임)는 그렇게 설계된 에이전트/워크플로우를 상태를 유지하면서 돌려주는 실행 엔진
DeepAgents(에이전트 하네스)는 프레임워크/런타임 위에서 리서치·코딩 같은 딥에이전트를 쓸 수 있게 해줌
What’s the difference between agent runtime, a framework, and a harness?
In this post we expand on the patterns we’re seeing, when to use different approaches, and how things are evolving. Our mental model in brief:
- Frameworks: abstractions that help build agents with LLMs (LangChain)
- Runtime: infrastructure level with support for durable execution, streaming, human-in-the-loop and more (LangGraph)
- Harness: general purpose agent (Deep Agents)
Read the post: https://t.co/14lNrjNuZc
제미나이는 GPT 대비 토큰 비용에서 훨씬 저렴함. 이번에 나온 제미나이3 프로 아웃풋 기준으로도 12달러(1M토큰) 에 불과.
데이터에서도 압도적 우위에 있지만 결정적으로 TPU-데이터센터-JAX-제미나이 로 이어지는 수직계열화의 승리라고 볼 수 있음.
여기서 중요한 시사점이 있는데, 구글은 초기 우려섞인 시선을 이겨내고 자체 TPU 풀스택 정착에 완벽히 성공함.
앞으로 AI 전쟁에서 최적화된 커스텀칩 없이 엔비디아 GPU에만 의존해서는 경쟁에서 살아남기 쉽지 않을 것.
자율주행은 물론 로봇 전쟁도 마찬가지임. 일론이 최근 AI5, AI6 설계에 올인하고 있는 것도 같은 맥락.
11/23(일) 중요한 이야기 #2
앞으로 가장 중요한 새로운 " AI 내러티브 " 는 바로 " Google+Broadcom 진영의 Gemini+TPU가 OpenAI+Nvidia 진영의 ChatGPT+GPU를 이길 수 있을지도 모른다 " 는 이야기일 수 있겠다. 만약 이 내러티브가 점차 " 현실화 " 된다면, 그렇게 정말 될 수 있다면, 이것이 만들어 낼 " 균열 " 은 상당히 크고 깊을 수 있다는 것이 나의 생각이다.
Gemini가 ChatGPT를 앞지를 수도 있다는 이야기는 이제 단순한 희망 사항이 아닌 데이터로 증명되고 있는 현실이다. Gemini 3는 각종 벤치마크 리더보드를 손쉽게 장악했으며 이에 더해 프라이빗 영역에서 수많은 이들의 긍정적인 유저 경험과 피드백이 X에 도배되고 있는 상황이다. 흥미롭게도 Polymarket에서는 올해 내내 Google이 최고의 모델을 보유하게 될 것이라는 예측이 지배적이었는데, Gemini 3의 출시와 함께 그 예측은 결국 현실이 되어 현재 " Which company has best AI model end of 2025? " 라는 질문에 Google은 무려 87%라는 압도적인 확률을 나타내고 있다. 이번 Gemini 3 출시 이후 OpenAI의 CEO 샘 알트만은 Google의 최근 AI 진전이 " OpenAI에 일시적인 경제적 역풍(economic headwinds)을 불러 일으킬 수 있다 " 라고 사내에서 언급했다고 전해진다. 동시에 그는 " 이제 범용 모델이 아닌 누가 AGI 에 먼저 도달하느냐의 싸움 " 이라는 말도 했다고 전해지는데, 이렇게 먼 목표를 다시 제시했다는 사실이야말로 역설적으로 Gemini가 ChatGPT 대비 얼마나 강력한 모델로 다시 AI 시장에서 빠르게 자리매김하고 있는지를 보여주는 방증이라 볼 수 있지 않을까 싶다. Gemini 3 출시 이후 공개한 Nano Banana Pro 또한 복잡하고 다양한 테스트에서 기존의 모델들을 압도하는 성능을 나타내고 있다. 더욱이 충격적인 사실은 Google Maps와의 데이터 연동을 통해 원하는 지역의 북위와 동경을 프롬프트에 입력하며 해당 지역의 모습에 대한 이미지 혹은 가상의 주문이 더해진 이미지를 완벽하게 그려내고 있다는 사실이다. 이러한 Nano Banana Pro의 능력은 Google이 진정한 " 데이터 해자(Data moat) " 기업이라는 사실을 다시 한 번 증명시켜주는데, Gemini 또한 Google의 서비스인 YouTube 링크를 프롬프트에 입력할 경우 제약없이 해당 내용을 직접적으로 분석해 줄 수 있는 유일한 AI 모델이라는 점에서 이 또한 Google의 " 데이터 해자(Data moat) " 가 얼마나 강력한지 느끼게 해주는 대목이라 볼 수 있다.
Google은 전세계에서 가장 방대하고 독보적인 데이터를 보유한 기업으로, 이는 AI 경쟁력의 핵심 원천이 된다. 개인적 친분을 통해 알고 지냈던 ex-Google 엔지니어에 의하면 Google은 " 일부러 의도적으로 사용하지 않는 데이터가 사용하는 데이터들 대비 훨씬 더 많고 그럴 수밖에 없다 " 고 내게 이야기해 준 적이 있다. Google이 보유한 데이터들을 모조리 활용한다면 특정 산업 일부를 살짝 건드리기만 하더라도 아마 해당 산업이 여러모로 난처한 입장에 처할 수 있다는 것이다. 데이터의 압도적 양과 경쟁력 때문이다. 어쩌면 그것이 그들이 " Don't be evil. " 이라는 모토를 가지게 된 연유인지도 모른다. 멀티모달 데이터의 보고인 YouTube, 전 인류의 지식을 차곡차곡 쌓아둔 Google Books, 물리 세계 데이터인 Google Maps, 학술 및 특허 데이터인 Google Scholar & Patents, 단백질 구조 예측 데이터를 2억개 이상 보유한 AlphaFold, 검색엔진에서 수십억 명의 사용자가 매일 생성하는 Google Search 데이터, Android와 Chrome 데이터, Workspace (Docs, Sheets, Slides), Google Photos 등 Google은 그야말로 언제라도 " 파괴적 성장 " 을 만들어 내기에 조금도 부족함이 없는 회사이다. 이러한 " 데이터 해자(Data moat) " 기업이 이제는 Gemini라는 최고 수준의 프론티어 AI 모델을 보유하게 된 것인데, 더욱 충격적인 사실은 Gemini 3.0 모델은 Nvidia의 GPU가 단 1개도 사용되지 않은, Google이 자체 설계한 TPU(Tensor Processing Unit)만이 사용된 결과이며 지금도 오로지 TPU만으로 100% 훈련되고 추론되고 있다는 점이다. 이는 Google이 " Nvidia 공급망 " 에만 목을 맬 필요가 없는 기업이라는 증명이며, 프론티어 AI 모델 경쟁에서 " 기술적 자립 " 을 완벽하게 이뤄냈음을 의미한다는 점에서 그 중요성이 매우 높다고 볼 수 있다.
일전에 나는 AI 칩 업계에서 관심 밖에 존재했던 Google의 TPU가 Gemini 3.0 Pro의 등장과 함께 주목받게 되는 시점이 올 수 있다는 포스팅을 한 적이 있었는데, Gemini 모델이 오로지 TPU로만 학습되고 구동되고 있음이 공식적으로 확인되면서 이 시점이 본격 도래한 것으로 느껴져 이 글을 급히 써야겠다는 생각을 나는 하게 되었다. Google이 자체 AI 칩인 TPU 제작을 위해 Broadcom과 협력을 시작한 시점은 2014~2015년경으로 알려져 있다. TPU의 첫번째 버전인 v1이 개발된 시기가 바로 그쯤이며 10년 넘게 두 회사의 동맹은 유지되어 현재는 최신 6세대 " Trillium " 및 v7 " Ironwood " 까지 이어지고 있다. Google이 TPU의 핵심 논리와 아키텍처를 설계하면 Broadcom은 이를 실제 칩으로 제조하기 위한 물리적 설계, 회로 배치, 패키징 등을 담당하여 TSMC 등을 통해 생산하는 구조를 가지고 있는데 이것이 우리가 흔히 말하는 " ASIC(Application-Specific Integrated Circuit) " 이다. 2024년 기준으로 Broadcom의 전체 매출에서 Google이 차지하는 비중은 약 15~20% 수준으로 추정되는데, Broadcom의 핵심 성장 동력인 AI 반도체 부문에서 Google이 차지하는 비중은 가히 압도적이라고 볼 수 있다. 과거 Broadcom의 최대 고객은 단연 무선 칩 공급을 위해 파트너십을 맺었던 Apple 이었으나, 이제는 AI 붐을 힘입어 Google의 비중이 급격하게 상승한 것이다. Broadcom의 2024년 AI 관련 매출은 120억불을 기록하며 전년 대비 3배 이상 폭증했는데, 이 성장의 대부분을 Google(TPU)과 Meta(MTIA)가 견인했으며 그 중에서도 Google의 비중이 아무래도 훨씬 더 높은 것으로 알려져 있다. 따라서, 이제 Google과 Broadcom은 뗄래야 뗄 수 없는, 말 그대로 하나의 " 운명 공동체 " 로서 Gemini+TPU 라는 강력한 진영으로 그 존재감을 드러내고 있는 것이다.
Google의 TPU가 Nvidia의 GPU 대비 가지는 경쟁 우위는 단순한 성능 수치를 넘어선다. Google은 Broadcom과의 협력을 통해 커스텀 ASIC 시장을 장악하며, 범용 GPU가 가지는 불필요한 오버헤드를 제거했다. 특히 최근 공개된 TPU v7 " Ironwood " 는 이전 세대인 " Trillium " 대비 4배 이상의 속도와 압도적인 전력 효율을 보여주고 있다. 경쟁사들이 Nvidia GPU를 구하기 위해 막대한 프리미엄, 이른바 " Nvidia 세금 " 을 지불하며 마진율을 갉아먹고 있을 때, Google은 자체 칩을 통해 비용을 획기적으로 낮추고 있는 것. 이러한 비용 구조의 차이는 결국 Google이 비용 단에서 막대한 경쟁력을 보유하며 AI 서비스를 더 공격적인 가격으로, 더 방대하게 배포할 수 있는 결정적인 무기가 될 수 있다. 이러한 주장이 단순한 마케팅이 아닌 이유는 TPU의 아키텍처가 GPU와는 근본적으로 다른 " 태생적 차이 " 를 가지기 때문이다. GPU가 그래픽 처리를 위해 탄생하여 범용성을 지향하는 병렬 프로세서라면, TPU는 애초에 AI의 행렬 연산(Matrix Multiplication)만을 위해 태어난 " Systolic Array " 구조를 채택하고 있기 때문이다. 실제로 거대언어모델(LLM)이 수행하는 연산의 절대다수는 방대한 규모의 " 행렬 곱셈 " 이라는 점을 상기해 볼 필요가 있는데, 데이터가 메모리를 불필요하게 오가지 않고 칩 내부를 흐르며 연속적으로 연산되는 이 방식이야말로 AI라는 " 본질 " 에 가장 부합하는 공학적 해답이라 볼 수 있기 때문이다. 바로 이 지점에서 " 전력 효율 " 의 결정적인 격차가 벌어진다. 불필요한 메모리 접근을 최소화한 이 구조 덕분에 TPU는 GPU 대비 발열이 적고 에너지 소모량이 현저히 낮으며, 전력 공급이 곧 " 성능의 한계 " 가 되는 현시점에서 타의 추종을 불허하는 " 와트당 성능(Performance per Watt) " 을 제공하게 되는 것이다. 이러한 구조는 GPU 대비 연산 효율은 극대화하고, 거대 모델 훈련 시 발생하는 " Tail Latency " 와 동기화 문제를 최소화한다. 더욱이 Google은 칩 설계부터 컴파일러(XLA), 데이터센터 인프라까지 수직 통합하여 최적화했기에, 범용 GPU 클러스터가 따라올 수 없는 " 아키텍처적 효율성 " 을 달성했다고 평가된다.
Gemini 3.0 Pro를 통해 그 강력함이 입증된 TPU를 Google은 이제 외부에 판매하기 위한 준비를 하고 있다고 일각에서는 전해지고 있다. Google이 TPU를 외부에 개방한다는 것은 AI 인프라 시장의 판도를 뒤흔들 수 있는 변수다. 이미 Anthropic과 같은 주요 플레이어가 최대 100만 개의 TPU를 사용하기로 계약했다는 사실은, Google Cloud가 단순한 호스팅 업체를 넘어 " Nvidia 없는 AI 생태계 " 를 구축하기 시작했음을 시사한다. 그동안 Google의 비호 아래 있던 TPU가 빗장을 풀고 시장에 나오는 것은 단순한 판매 그 이상의 의미를 가진다. 전직 Google 직원의 한 인터뷰에 따르면(다소간 과장이 있을 수 있으나), 시장에서 TPU는 이미 Nvidia GPU의 " 가장 가까운, 그리고 유일한 대안 " 으로 평가받고 있으며, 이는 개발자들에게 CUDA라는 거대한 장벽을 넘을 수 있는 실질적인 사다리를 제공하는 것과 같다. 과거 Nvidia가 CUDA를 통해 개발자들을 락인(Lock-in) 시켰던 " 플레이북 " 을 Google 또한 그대로, 더 강력한 비용 효율성을 무기로 실행하게 될 수도 있다. 또한 Google은 하이퍼스케일러가 아닌 다른 호스팅 업체들에게도 TPU 용량을 공급하며 Nvidia가 장악한 유통망의 빈틈을 파고들 것으로 보이는데, 이러한 과정이 Nvidia에게는 상당히 " 불편한 전략 " 이 될 수도 있다. 특히 Anthropic과의 파트너십은 TPU가 단순히 Google의 내부 워크로드(Search, YouTube)에만 최적화된 것이 아니라, 범용 AI 모델 훈련에도 완벽하게 적용될 수 있다는 것을 증명하는 " 시장 성숙도 " 의 신호탄이라 볼 수 있다. 결국 TPU가 내부용을 넘어 외부 고객에게 판매되기 시작하면, TPU를 중심으로 한 새로운 생태계가 형성될 수 있고, 이는 Nvidia의 GPU 독점에 대항하는 가장 강력한 대안 세력으로 자리매김 할 가능성이 존재한다. 물론, 앞서 설명한 " 아키텍처적 효율성 " 을 극도로 달성한 Google의 TPU가 외부 판매에 얼마나 성공적인 사업적 성과를 거둘지는 일부 더 지켜봐야 하는 측면이 있다. Google의 10년 간의 TPU 투자와 동일한 행보를 Microsoft(Maia), Amazon(Trainiu), Meta(MTIA), Tesla(AI5) 등도 마찬가지로 보이면서 ASIC 시장 또한 과열화 되고 있기 때문이다. 가령 Tesla가 현재 투자하고 있는 자체 AI칩 또한 일론 머스크가 매우 집중하고 있는 분야이며, 이를 통해 Physics AI 분야에서 승기를 잡고자 하는 Tesla 입장에서는 이것이 곧 " 또 다른 TPU " 로 시장에서 자리매김하게 될지도 모르는 것이 현재의 ASIC칩 시장이기 때문이다. 그런 의미에서는 Google의 협력사로 오래 함께 한 Broadcom은 TPU 칩에 대한 주목도 상승과 함께 ASIC에 대한 시장 확대에 따라 받을 수 있는 수혜가 분명히 존재할 수 있다는 것 또한 우리가 기억해야 할 주지의 사실일 것이다.
Google은 어쩌면 이 순간을 위해 2015년 TPU v1을 시작으로 지난 10년 동안 조용히, 그러나 막대한 자본을 투입해 왔는지도 모른다. 래리 페이지와 세르게이 브린이 새롭게 그리고 있는 AI에 대한 비전은 Gemini 3.0 Pro와 TPU Ironwood를 통해 이제 그 " 중대한 결실 " 을 맺고 있는 것으로 보인다. Google이 보유한 " 데이터 해자 ", 그리고 Google이 만들어낸 Gemini라는 " 모델 해자 ", 그리고 Broadcom과 손잡고 만들어낸 이 견고한 " 칩 해자 " 까지, 이렇게 강력한 " AI 해자 " 를 통해 Google은 이제 그동안 난공불락처럼 보였던 OpenAI와 Nvidia의 동맹에 생각보다 훨씬 깊고 뚜렷한 " 균열 " 을 만들어낼지도 모르겠다는 것이 나의 생각이다.
- parkthomson -
일론이 정확하다고 인정한 현재 AI 시장 현황
짧게 3줄로 요약하면
- 한마디로 AI 시장에서 앱 레이어의 소규모 스타트업들은 생존하기 어렵다는 것.
- 왜냐하면, 파운데이션 모델과 플랫폼을 가진 빅테크 기업이 다 쓸어버리기 때문에.
- 생존하려면 구체적 진입장벽을 가진 물리세계의 리얼월드 데이터를 다루는 영역이 유리.
"모든 AI 애플리케이션 스타트업은, 파운데이셔널 모델 제공 기업들의 빠른 확장에 의해 거의 대부분 짓눌리게 될 가능성이 큼.
앱에서 제공하는 기능들은 결국 파운데이셔널 모델 사업자들의 제품·서비스에 흡수될 것임. 여기서 중요한 점은, 이 거대 플레이어들이 과거 산업에서 말하던 '느린 공룡'이 아니라는 것임. '빠른 스타트업 vs 느린 공룡 기업'이라는 오래된 비유를 여기에 적용하는 것은 잘못임. 이들은 단지 덩치가 클 뿐이고, 그 거대한 규모로도 매우 빠르게 움직이고 있음.
지금의 AI는 과거 어떤 기술 혁신보다도 훨씬 강력하고 빠르게 밀려오는 거대한 파도에 가까움. 이 파도는 새로 만들어지는 거의 모든 앱을, 만들어지는 속도와 비슷한 속도로 바로 구식으로 만들어버림. 회사를 설립하고, 독립적으로 스케일시키고, 방어력 있는 사업을 만들 수 있는 시간이 거의 존재하지 않음.
AI 애플리케이션 스타트업 창업자가 돈을 벌 수 있는 길은 두 가지뿐임.
- 단기간에 폭발적인 인기를 얻는 앱을 만들어, 12~18개월 정도의 현금흐름이 나오는 동안 최대한 돈을 뽑아내고, 그 현금을 쌓아두는 전략
- 충분히 쓸 만한 수준의 앱을 만들어, 대형 플레이어에게 지분과 함께 인수되는 전략
현재 상황은 매우 불안정함. 이게 붕괴로 갈지, 극단적 성장으로 갈지 아무도 모름. 하지만 어느 쪽이든, 어떤 AI 애플리케이션 스타트업이 독립적으로 '세대를 바꾸는 초거대 기업'으로 성장할 확률은 극도로 낮음. 원래도 낮았지만 지금 환경에서는 더 낮아진 것임.
가장 가능성이 있는 전략은 다음과 같음.
매우 특수한 분야에서, 극도로 독특하고 구체적인 데이터 진입장벽을 가진 애플리케이션 니치를 찾는 것. 특히 소프트웨어나 금융 데이터가 아니라, 실제 물리 세계(하드웨어, 제조, 바이오, 로보틱스, 인프라 등)와 연결된, 현실의 원자에 기반한 데이터를 다루는 영역일수록 유리함."
'독자 AI 파운데이션 모델 프로젝트' 선정 기업
- 네이버클라우드
- 업스테이지
- SK텔레콤
- NC AI
- LG AI연구원
예상대로 선정되었네요. 너무 당연한 결과라 긴장감은 없었지만. 연말에 하는 승자 발표가 진짜니, 연말 결과 기대해봅니다. 😎🍿🥤
연말 승자 발표도 마음속의 순위는 이미 있지만 😏 이번보다는 조금 헷갈리긴 합니다.
OpenAI, Google, and Anthropic just dropped the guides on:
- Prompt Engineering
- Building effective Agents
- AI in Business
- 601 AI use cases
and so much more...
9 best guides you don’t want to miss: