Banya

[Banya @banya_diary]

OpenAI의 생명과학 보고서: AI는 어떻게 신약 개발을 가속시키는가

-

신약 개발의 생산성 저하와 이룸의 법칙(Eroom's Law)​

지난 100년 동안 의학은 큰 발전을 이루었지만 신약을 하나 개발하는 데 드는 비용은 9년마다 두 배씩 늘어나고 있습니다. 이를 반도체 성능이 비약적으로 발전한다는 무어의 법칙을 뒤집은 이룸의 법칙(Eroom's Law)이라고 부릅니다.

실제로 1950년대와 비교하면 신약 생산성은 약 80배나 줄어들었으며, 현재 신약 하나를 만드는 데는 약 26억 달러의 막대한 비용과 12년에서 15년이라는 긴 시간이 소요됩니다. 임상 1상에 진입한 후보 물질이 최종 승인을 받을 확률도 7.9%에 불과할 정도로 성공 문턱이 매우 높습니다.
​
-
​
지식의 파편화와 지식의 암흑기(The Great Endarkenment)

신약 개발이 어려워진 근본 원인은 기술 부족이 아니라 지식이 너무 세분화되어 서로 연결되지 않기 때문입니다. 생물학은 유전학, 단백질 생화학, 면역학 등 20개 이상의 분야로 나뉘어 있고 각자 사용하는 용어가 달라 소통이 어렵습니다.

OpenAI는 이를 지식의 과도한 분화로 인한 이해 단절, 즉 지식의 암흑기(The Great Endarkenment)라고 정의했습니다. 하지만 최근에는 인간의 몸을 구성하는 DNA를 4개의 문자로 된 디지털 코드로 읽을 수 있게 되었고, 유전자 편집 기술인 크리스퍼(CRISPR)를 통해 이를 직접 수정하는 단계까지 발전했습니다.

​-

단백질 구조 예측과 분자 설계의 혁신​

단백질의 입체 구조를 알아내는 것은 신약 개발의 핵심이지만 과거에는 실험을 통해 하나를 밝히는 데만 수개월에서 수년이 걸렸습니다. 하지만 구글의 알파폴드(AlphaFold) 같은 인공지능 모델은 50년 동안 풀리지 않았던 이 난제를 해결하며 2억 개 이상의 단백질 구조를 한 번에 예측해냈습니다. 이는 기존 방식으로는 수억 년이 걸렸을 작업을 단 몇 년 만에 끝낸 것과 같은 효과를 주며, 약물 분자가 질병 유발 인자에 얼마나 잘 결합할지를 사전에 계산할 수 있게 만들어 연구 속도를 획기적으로 높였습니다.
​
$ABSI $GENB $프로티나(Proteina)

-​

유전자 편집 기술의 진화​

인공지능은 단순히 기존의 유전자 편집 도구를 사용하는 것을 넘어 자연계에 존재하지 않는 새로운 유전자 편집 효소 자체를 설계하기도 합니다. 크리스퍼(CRISPR-Cas9) 기술이 특정 DNA를 잘라내는 수준이었다면, 이제는 단일 염기만 바꾸거나 더 긴 서열을 수정하는 정교한 단계로 발전했습니다. 특히 2025년 연구에 따르면 대규모 언어 모델(LLM)이 설계한 유전자 편집 도구가 자연 상태의 효소보다 더 뛰어난 성능을 보이기도 하며 생명체의 설계도를 더 정확하게 수정할 수 있게 되었습니다.​

$TXG $CRSP $BEAM $프로플루언트(Profluent)

​-​

자동화 연구실의 등장 (Self-driving lab)​

기존에는 사람이 직접 가설을 세우고 실험과 분석을 반복해야 했기에 한 번의 사이클에 수개월이 걸렸습니다. 하지만 인공지능과 로봇이 결합한 자동화 연구실은 설계부터 실험, 분석에 이르는 전 과정을 스스로 수행합니다. 이를 통해 연구 사이클이 수일 수준으로 단축되었으며, 실제 일부 기업은 신약 타겟을 찾고 임상 1상에 진입하기까지의 기간을 30개월 이하로 대폭 줄이는 성과를 보여주고 있습니다.​

$DNA $RXRX

​-​

임상 시험 최적화 및 효율성 개선​

임상 시험은 신약 개발에서 가장 오래 걸리고 실패율이 높은 구간이지만, 인공지능은 환자 모집부터 안전성 모니터링까지 전 단계를 최적화합니다. 방대한 데이터를 분석해 약이 잘 들을 것 같은 환자 그룹을 미리 분류하고 실패 가능성이 높은 시험을 조기에 걸러냄으로써 병목 현상을 해결합니다. 일부 분석에 따르면 이러한 기술 적용을 통해 임상 단계에 소요되는 기간을 20% 이상 단축할 수 있는 것으로 나타났습니다.

$TEM $토모큐브(Tomocube)

​-​

인공지능의 역할: 지식의 번역기와 폴리매스(Polymath)

결국 인공지능은 생명과학의 특정 단계만 돕는 도구가 아니라 서로 다른 분야의 지식을 연결해주는 번역기 역할을 합니다. 과거에는 여러 분야에 능통한 소수의 천재인 폴리매스(Polymath)가 했던 역할을 인공지능이 대신하면서, 연구자가 자기 분야가 아닌 지식도 쉽게 이해하고 활용할 수 있게 되었습니다.

OpenAI는 인공지능이 데이터를 읽고 분석하며 실험하고 다시 학습하는 전체 연구 순환 과정을 하나로 묶는 거대한 인프라로 자리 잡으며 생물학 연구의 판도를 바꾸고 있다고 강조합니다.

[Banya @banya_diary]

Original Text:
https://t.co/PDriAd7PgX

[Banya @banya_diary]

엔비디아 Vera Rubin 하루 1,000개 랙 생산 체계 준비 루머, 과연 현실일까 과장일까

$NVDA $TTMI

Vera Rubin 하루 1000개 랙 생산 루머

최근 엔비디아가 장기적으로 Vera Rubin NVL72 랙을 하루 최대 1,000대까지 생산할 수 있는 체계를 준비하고 있다는 보도가 나왔습니다. 하루 1,000대를 1년 동안 계속 생산하면 연간 생산량은 36만 5,000대가 됩니다.

랙 한 대의 추정가격을 약 700만 달러로 계산하면 전체 시스템 가치는 약 2조 5,000억 달러, 한화로 약 4,000조 원에 이릅니다. 다만 이 금액을 엔비디아의 매출로 그대로 해석하면 안 됩니다. 랙 가격에는 Rubin GPU와 Vera CPU뿐 아니라 HBM4, SSD, 네트워크 장비, 전력장치, 액체냉각, PCB, 광모듈과 서버 조립 비용까지 포함되기 때문입니다.

다만 실제 출하량을 제한하는 가장 큰 요소는 전력과 데이터센터 건설 속도입니다. Vera Rubin NVL72 한 대는 약 227kW의 전력을 사용하는 것으로 파악되는데, 그렇다면 냉각과 전력 변환 과정의 손실까지 포함해 실제 필요 전력은 연간 약 100GW에 가까워질 수 있습니다. 따라서 발전소와 송전망, 변전소, 액체냉각 설비가 동시에 확대되지 않으면 연간 36만 5,000대의 설치는 현실적으로 어렵습니다.

-

장기적 수요 확대 대비

그럼에도 엔비디아가 이런 생산체계를 준비하는 배경에는 AI 인프라 수요가 장기간 증가할 것이라는 전망이 있습니다. OpenAI의 10GW 규모 AI 인프라 계획과 함께 구글, 마이크로소프트, AWS, 오라클, 코어위브 등이 투자를 확대하고 있습니다.

또한 AI 에이전트가 검색과 코딩, 도구 사용을 반복하면 처리해야 할 추론 토큰이 늘어나고, 긴 문맥과 KV 캐시, 기업과 개인 데이터를 장기간 기억하는 기능에도 더 많은 컴퓨팅 자원이 필요합니다. 앞으로 영상 생성, 월드 모델, 로봇, 자율주행과 소버린 AI까지 확대되면 AI 랙 수요가 더욱 커질 수 있습니다.

또한 하루 1,000대 생산체계는 Vera Rubin NVL72만을 위한 일회성 생산라인이라기보다, Rubin Ultra와 Feynman 같은 다음 세대 AI 랙도 생산할 수 있는 공통 제조 플랫폼으로 보는 것이 적절합니다. GPU 세대가 바뀌면 CPU, HBM, NVLink, NVSwitch, 전력 공급과 냉각 구조도 달라질 수 있지만, 랙 조립과 검사, 액체냉각 배관, 번인 테스트, 장애 진단과 품질관리 체계는 계속 활용할 수 있습니다. 따라서 엔비디아가 준비하는 것은 특정 제품의 생산량이 아니라 장기적으로 차세대 AI 랙 전체를 대량생산할 수 있는 기반입니다.

-

네트워크 & PCB

Vera Rubin은 기존 서버처럼 수많은 케이블을 작업자가 직접 연결하는 방식에서 벗어나, 중앙 PCB 미드플레인과 모듈식 컴퓨트 트레이를 사용하는 구조를 도입했습니다. 미드플레인은 랙 중앙에 설치되는 대형 회로기판으로, 각 부품 사이의 데이터와 전력 연결을 하나의 기판에 모아주는 역할을 합니다. 각 모듈을 정해진 위치에 꽂는 방식으로 조립할 수 있어 랙 조립 시간이 기존 약 2시간에서 약 5분으로 줄어들고, 배선 오류와 재작업도 감소할 수 있습니다.

랙 생산이 확대되면 우선 가장 직접적인 수혜자는 GPU, CPU, NVSwitch, ConnectX와 BlueField를 공급하는 엔비디아입니다. 그다음으로는 Amphenol과 TE Connectivity가 공급하는 고속·고전력 커넥터, TTM Technologies와 이수페타시스가 생산하는 고다층 PCB가 중요해질 수 있습니다.

데이터 전송 속도가 800G와 1.6T로 높아질수록 신호 손실과 간섭을 줄이는 정밀한 연결 부품이 필요합니다. 특히 Rubin에서는 PCB와 커넥터가 단순 부품을 넘어 고속 통신과 랙 조립 자동화를 함께 가능하게 하는 핵심 제조 플랫폼으로 역할이 확대됩니다.

-

핵심 의미

이번 보도의 핵심은 엔비디아가 곧바로 연간 약 4,000조 원 규모의 Rubin 랙을 곧 판매한다는 것이 아닙니다. AI 인프라의 생산 단위가 개별 GPU와 서버에서 완성형 랙과 데이터센터 전체인 AI 팩토리로 이동하고 있다는 점이 더 중요합니다. 엔비디아는 수요 폭증에 대비해 미래의 AI 인프라를 주문에 따라 소량 조립하는 형태가 아니라, 표준화된 제품을 자동차처럼 빠르게 대량생산하는 산업으로 전환하려는 것으로 볼 수 있습니다.

[Banya @banya_diary]

Original Text:
https://t.co/29FJdZC47D

[Banya @banya_diary]

알리바바 로비앤트의 LingBot-World 2.0: 1시간 이상 지속되는 월드 모델 & 메모리 스케일링

-

LingBot-World 2.0

알리바바가 투자한 로비앤트는 차세대 월드 모델인 LingBot-World 2.0을 공개했습니다. 월드 모델은 사용자가 움직이거나 행동하면 그 결과를 예측해 다음 장면을 실시간으로 만들어내는 AI입니다. 이번 모델은 720p 해상도와 초당 60프레임으로 작동하면서, 1시간 이상 장면 품질을 크게 떨어뜨리지 않고 가상세계를 계속 생성할 수 있다는 점이 가장 큰 특징입니다.

기존 월드 모델은 사용자가 가상세계 안을 걷거나 주변을 둘러보는 정도의 단순한 조작을 주로 지원했습니다. LingBot-World 2.0은 이동뿐 아니라 전투, 활쏘기, 마법과 총기 사용, 문 열기, 물체 조작 등을 지원합니다. 텍스트로 명령하면 비나 눈을 내리게 하고, 낮과 밤을 바꾸거나 새로운 생물을 등장시키는 등 세계 자체를 실시간으로 변화시키는 것도 가능합니다.

또한 기존 모델은 화면을 계속 생성할수록 작은 오류가 누적되는 드리프트(Drift) 문제가 있었습니다. 처음에는 자연스럽던 건물과 사물의 형태가 시간이 지나면서 일그러지고, 배경이 흔들리거나 장면의 연결이 무너지는 현상입니다. 이 때문에 대부분 수십 초에서 수분 정도만 안정적으로 작동했지만, LingBot-World 2.0은 새로운 학습과 추론 방식을 적용해 무려 1시간 이상 비교적 안정적인 세계를 생성할 수 있습니다.

-

모델 핵심 구조

모델은 Director와 Pilot이라는 두 부분으로 나뉩니다. Director는 비전-언어 모델이 담당하며 현재 화면과 사용자의 명령을 이해하고 다음에 어떤 일이 일어나야 하는지 계획합니다. Pilot은 비디오 월드 모델로, Director가 세운 계획을 실제 화면과 움직임으로 만들어냅니다. 쉽게 말하면 Director가 세계의 이야기와 논리를 관리하고, Pilot이 그 내용을 실시간 영상으로 구현하는 구조입니다.

-

KV 캐시 문제

트랜스포머 모델은 이전에 본 정보를 KV 캐시에 저장하고 다음 장면을 만들 때 다시 사용합니다. 그러나 1시간 이상 모든 정보를 저장하면 메모리 사용량과 계산량이 엄청나게 증가합니다. LingBot-World 2.0은 동적 KV 캐시(Dynamic KV Cache)를 적용해 현재 장면과 사용자 행동에 중요한 정보만 남기고 관련성이 떨어지는 오래된 정보는 제거합니다. 이를 통해 실시간 속도를 유지하면서 현재 상황에 더 집중하도록 만들었습니다.

-

장기 기억 문제

LingBot-World 2.0의 가장 큰 한계는 아직 과거의 세계 상태를 완벽하게 정확히 기억하진 못한다는 점입니다. 사용자가 오래전에 방문했던 마을로 돌아가면 당시의 건물과 물체 상태를 그대로 불러오는 것이 아니라, 현재 문맥을 바탕으로 비슷한 장소를 새롭게 생성하는 식입니다. 따라서 1시간 이상 최대한 문맥에 맞춰 세계를 이어서 만들 수는 있지만, 세계 전체가 계속 저장되는 진정한 영속 세계는 아직 구현하지 못했습니다.

-

앞으로의 과제

알리바바 로비앤트 연구진은 앞으로 장기 메모리와 영속 메모리, 더욱 효율적인 KV 캐시 관리, 같은 캐릭터의 얼굴이나 복장이 조금씩 바뀌는 문제, 물체가 서로 겹쳐 지나가는 등 부정확한 물리 현상 등을 해결해야 한다고 말합니다. 결국 월드 모델의 경쟁력은 단순히 사실적인 영상을 만드는 것을 넘어, 과거의 세계 상태를 얼마나 많이 저장하고 필요할 때 정확하게 불러올 수 있는지에 달려 있습니다. 이는 월드 모델 시대에 연산 성능과 함께 메모리 스케일링이 핵심 경쟁 요소가 된다는 의미입니다.

[Banya @banya_diary]

Original Text:
https://t.co/WKEDaa0toR

[Banya @banya_diary]

구글 2026년 2분기 어닝 콜: 폭발적인 클라우드 성장세 & 또 다시 상향된 Capex AI 투자

$GOOG $GOOGL

-

구글(알파벳) 2026년 2분기 실적

알파벳은 2026년 2분기 매출 1,198억 달러로 전년 동기 대비 24% 증가했고, 영업이익은 408억 달러로 30% 늘었습니다. 영업이익률도 34.0%까지 상승하며 수익성이 더욱 좋아졌습니다. 특히 AI에 대한 대규모 투자가 단순한 연구개발에 그치지 않고 검색(Search), 광고, 클라우드 사업의 실제 매출 증가로 이어지고 있다는 점이 이번 실적의 가장 큰 특징입니다.

-

검색·광고

생성형 AI의 등장으로 검색 광고가 위축될 것이라는 우려가 있었지만, 실제 결과는 반대였습니다. Google Search 매출은 633억 달러로 17% 증가했고, YouTube 광고 매출도 111억 달러로 13% 성장했습니다. 구글은 AI 오버뷰(AI Overviews)와 AI 모드(AI Mode)를 검색에 통합하면서 사용자가 검색을 더 많이 이용하게 되었고, 이것이 광고 매출 증가로 이어졌다고 설명했습니다.

-

Google Cloud

이번 실적에서 가장 눈에 띈 부분은 Google Cloud였습니다. 매출은 248억 달러로 전년 대비 82% 급증했고, 영업이익률도 20.7%에서 35.6%까지 크게 개선됐습니다. 특히 기업들이 문서 작성 서비스인 Workspace보다 AI 학습과 추론을 위해 GPU와 TPU를 빌려 사용하는 GCP(Google Cloud Platform)의 이용량이 더 빠르게 증가했다고 밝혔습니다. 이는 기업들의 AI 인프라 수요가 실제로 폭발적으로 늘고 있다는 의미입니다.

앞으로 매출로 인식될 계약잔고(Backlog)는 5,140억 달러까지 증가했습니다. 이는 이미 많은 기업들이 장기간 사용할 클라우드 계약을 체결했다는 의미이며, 구글은 이 가운데 절반 이상을 앞으로 24개월 안에 실제 매출로 인식할 것으로 예상했습니다. 또한 Gemini Enterprise는 현재 Fortune 100 기업의 약 90%가 도입할 정도로 빠르게 확산되고 있다고 설명했습니다.

-

CapEx

구글은 AI 인프라 투자를 다시 한 번 확대했습니다. 이번 분기 CapEx는 449억 달러로 전년 대비 약 두 배 증가했고, 연간 투자 계획도 기존 1,800억~1,900억 달러에서 1,950억~2,050억 달러로 상향했습니다. 또한 2027년에도 투자 규모가 상당 폭 증가할 가능성을 언급했습니다. 이는 AI 서비스 수요가 예상보다 빠르게 늘어나면서 데이터센터와 서버를 더 빨리 구축해야 하기 때문이라고 설명했습니다. CapEx의 약 60%는 AI 서버 구축에 사용됐고, 나머지 약 40%는 데이터센터와 네트워크 장비에 투자됐습니다.

-

현금흐름

AI 투자가 크게 늘면서 이번 분기 잉여현금흐름(Free Cash Flow)은 59억 달러 적자를 기록했습니다. 잉여현금흐름은 기업이 영업활동으로 벌어들인 현금에서 설비투자를 제외하고 실제로 남는 현금을 의미합니다. 다만 최근 12개월 기준으로는 여전히 533억 달러의 잉여현금흐름을 유지하고 있어, 구글은 현재의 투자 부담보다 장기적인 AI 시장 선점이 더 중요하다고 판단하고 있습니다.

-

AI 모델

구글은 Gemini 3.6 Flash, Gemini 3.5 Flash-Lite, Gemini 3.5 Flash Cyber를 새롭게 공개했고, 차세대 Gemini 4 개발도 시작했다고 밝혔습니다. 또한 AI 모델 사용량이 너무 빠르게 늘어나 현재는 공급이 수요를 따라가지 못하는 상태라고 설명했습니다. 현재 매월 900만 명 이상의 개발자가 Gemini를 활용하고 있으며, AI 모델 API는 분당 약 220억 개의 토큰(Token)을 처리하고 있습니다.

-

AI 서비스

텍스트뿐 아니라 이미지와 영상을 입력해 영상을 생성하는 멀티모달 AI Omni도 출시됐습니다. Gemini 앱의 영상 생성 일일 활성 사용자는 Google I/O 이후 40% 증가했고, 오픈소스 모델인 Gemma 시리즈는 누적 9억 회 이상 다운로드됐습니다. 또한 AI 에이전트 개발 플랫폼인 Antigravity는 주간 활성 사용자 240만 명을 확보했으며, Chrome 개발에서는 AI를 활용해 개발 기간을 기존 2년에서 약 3개월로 줄일 수 있을 것으로 기대하고 있다고 밝혔습니다.

[Banya @banya_diary]

Original Text:
https://t.co/IMe5SFxmz2

[Banya @banya_diary]

메모리 최적화: Kimi K3는 모델을 키우고, 엔비디아는 KV 캐시 저장 공간을 넓히고

$NVDA

-

메모리 최적화

문샷 AI Kimi K3와 엔비디아 Nemotron은 모두 긴 문맥을 처리할 때 계속 커지는 KV 캐시 부담을 줄이려는 모델입니다. 일반적인 트랜스포머는 과거 모든 토큰의 Key와 Value를 KV 캐시에 저장하므로 문맥이 10배 길어지면 필요한 메모리도 대체로 10배 늘어납니다. 두 모델은 대부분의 문맥을 작은 압축 상태로 기억하고, 이름·숫자·코드처럼 정확한 원문을 다시 찾아야 할 때만 일부 어텐션 레이어의 KV 캐시를 이용하는 하이브리드 구조를 사용합니다.

-

Mamba

Mamba는 과거 토큰을 하나씩 따로 저장하는 대신, 문장을 순서대로 읽으면서 핵심 정보를 상태공간모델(SSM)의 내부 상태에 계속 누적합니다. 새로운 토큰이 들어올 때마다 어떤 정보를 유지하고 잊을지 선택하기 때문에 선택적 상태공간모델(Selective State Space Model)이라고 부릅니다. 쉽게 말하면 일반 어텐션이 대화를 전부 녹음해 두는 방식이라면, Mamba는 대화를 들으면서 중요한 내용만 하나의 메모로 계속 다시 정리하는 방식입니다.

-

KDA (Kimi Delta Attention)

Kimi K3의 KDA도 과거 모든 토큰의 Key와 Value를 각각 저장하지 않고, 제한된 크기의 메모리 상태에 문맥을 압축합니다. 다만 Mamba가 하나의 요약 메모를 계속 갱신하는 방식에 가깝다면, KDA는 Query·Key·Value 구조를 유지하면서 압축된 검색용 데이터베이스를 계속 수정하는 방식에 가깝습니다. Kimi K3는 대부분의 레이어에서 KDA를 사용하고, 일부 글로벌 MLA 레이어에서만 실제 KV 캐시를 유지합니다.

-

메모리 활용 차이

Kimi K3와 엔비디아 모델의 가장 큰 차이는 절약한 메모리를 어디에 사용했느냐입니다. Kimi K3는 KDA로 KV 캐시 부담을 줄인 뒤 전문가 혼합 구조인 MoE의 전문가를 896개까지 늘리고, 전체 모델 크기를 2.8조 파라미터까지 확대했습니다. 즉 확보한 효율을 더 많은 지식과 표현력을 가진 대형 모델을 만드는 데 사용했습니다. 반면 엔비디아는 모델까지도 더 작게 만들어 KV 캐시와 동시 사용자 요청을 저장할 공간을 늘렸습니다.

-

모델 압축 기술

엔비디아는 원본 모델인 Nemotron-3-Super를 한 번에 크게 줄이지 않고 반복 압축(Iterative Puzzle) 방식을 사용했습니다. 모델 일부를 조금 줄인 뒤 원본 모델의 지식을 다시 학습시켜 성능을 회복하고, 그 상태에서 다시 중요도가 낮은 부분을 찾아 압축하는 과정을 여러 차례 반복했습니다. 모델의 한 부분을 줄이면 다른 부분의 역할도 달라질 수 있기 때문에, 단계마다 다시 학습하고 평가해 성능 손실을 최소화했습니다.

그리고 모든 부분을 같은 비율로 줄이지 않고 성능 기여도가 낮은 MoE 전문가와 Mamba 상태를 선택적으로 축소했습니다. 토큰 하나를 처리할 때 사용하는 전문가는 기존 22개에서 레이어별 4~18개로 줄였고, Mamba 상태 크기도 128에서 96으로 낮췄습니다. Mamba 상태를 줄인 것만으로도 배치 크기 8~512 환경에서 추론 속도가 약 1.2~1.3배 높아졌습니다.

압축으로 발생할 수 있는 성능 저하는 지식 증류를 통해 보완했습니다. 먼저 32K 문맥에서 원본 모델의 출력과 판단 방식을 따라 배우게 한 뒤, 128K와 512K 문맥까지 추가 학습해 긴 문서를 이해하는 능력을 회복했습니다. 그 결과 전체 파라미터는 1,207억 개에서 753억 개로 약 38% 줄었고, 토큰당 실제로 사용하는 활성 파라미터는 128억 개에서 93억 개로 약 27% 감소했지만 주요 성능은 대부분 원본에 가깝게 유지됐습니다.

-

메모리는 AI 추론의 핵심

이러한 모델 압축은 실제 서비스 처리량 증가로 이어졌습니다. 동일한 GPU 서버에서 추론 처리량은 약 2배 높아졌습니다. 특히 H100 80GB 한 장에서 원본 모델은 가중치만 약 70GB를 사용하고, 100만 토큰 요청 하나당 KV 캐시가 약 4GB 필요해 사실상 요청 1개 정도만 처리할 수 있었습니다. 반면 압축 모델은 가중치를 약 44.5GB로 줄여 같은 H100에서 100만 토큰 요청을 최대 8개까지 동시에 처리할 수 있었습니다. 또한 원본 모델의 디코딩 처리량은 초당 약 94토큰이었지만, 압축 모델은 8개 요청을 합산해 초당 약 400토큰을 처리했습니다.

이는 모델 가중치가 차지하던 공간을 줄이고, 그 공간을 사용자의 긴 문맥과 작업 기억을 저장하는 KV 캐시에 돌린 결과입니다. 이는 AI 추론의 병목이 단순한 GPU 연산 능력에서 HBM 용량, KV 캐시 관리, 장문맥 처리와 동시 사용자 처리 능력으로 이동하고 있음을 보여줍니다.

[Banya @banya_diary]

Original Text:
https://t.co/k5AoeF3mO0

[Banya @banya_diary]

SemiAnalysis 창립자 딜런 파텔이 전망하는 AI 인프라 슈퍼사이클

-

AI 투자수익률

SemiAnalysis의 창립자 딜런 파텔은 최근 인터뷰에서 AI가 실제 수익을 내는 단계에 진입했다고 설명합니다. 앤트로픽은 2분기 흑자와 4~5월 잉여현금흐름 흑자를 기록했고, 연간 반복매출은 500억 달러를 넘어섰으며 총이익률도 70% 이상입니다. OpenAI도 GPT-5.6과 Codex 사용 증가로 매출이 빠르게 성장하고 있습니다. 즉 AI 모델 기업들은 막대한 비용만 쓰는 단계를 지나 수익성을 증명하기 시작했습니다.

SemiAnalysis 또한 연간 AI 사용 비용이 지난해 10만 달러 미만에서 현재 약 1,100만 달러로 증가했다고 밝혔습니다. 직원 약 90명인 회사에서 AI 비용이 인건비의 3분의 1 수준까지 늘어난 이유는 그보다 더 큰 생산성과 매출 증가가 나타났기 때문입니다. 때문에 여러 기업들은 AI 지출을 줄이기보다 기존 SaaS나 다른 비용을 줄여 AI 예산을 확대하기 시작했습니다.

-

토큰 효율성

SemiAnalysis는 AI 모델의 토큰당 가격보다 같은 일을 얼마나 적은 토큰과 대화 횟수로 끝내는지가 이제 더 중요하다고 말합니다. 예를 들어 Claude Opus 4.6에서 약 10만 토큰이 필요했던 작업을 Opus 4.8은 약 2만 5천 토큰과 한 번의 대화로 끝낼 수 있는데, 이러면 모델 단가가 높아도 총 비용은 낮아집니다. 실제로 AI 모델의 비용 효율은 같은 성능 기준으로 매년 약 60배 개선되고 있으며, DeepSeek V3는 GPT-4보다 약 2년 만에 600배 저렴해졌습니다.

-

메모리 슈퍼사이클

추론 모델은 긴 문맥을 유지하며 여러 단계로 생각하기 때문에 이전 계산 결과를 저장하는 KV 캐시(Key-Value Cache)가 크게 늘어납니다. 문맥이 길어질수록 계산량보다 메모리에 저장하고 반복해서 읽어야 하는 데이터가 더 빠르게 증가합니다. 이에 따라 SemiAnalysis는 GPU의 연산 성능보다 메모리 용량과 대역폭이 새로운 병목이 될 가능성이 크다고 봅니다. 하지만 메모리 생산능력은 연간 약 20~30% 증가하는 데 그치는 반면 AI 수요는 훨씬 빠르게 늘어 장기적인 공급 부족이 예상됩니다.

-

가격 결정력

SemiAnalysis의 생각으로는 AI 공급망의 수혜는 단순한 기술력보다 가격 결정력에 따라 달라집니다. TSMC는 고객 관계를 고려해 가격을 보통 5~10% 정도 올리지만, 메모리는 공급 부족 시 가격이 2~3배까지 오를 수 있습니다. 메모리 기업의 총이익률도 85~90%까지 상승할 수 있지만 공급이 정상화되면 약 70%로 내려올 수 있습니다. 따라서 AI 투자금이 얼마나 유입되는지와 공급 부족을 가격에 반영할 수 있는지를 함께 봐야 합니다.

-

CPU 수요 증가

AI 에이전트와 강화학습이 확산되면서 CPU 수요도 크게 늘고 있습니다. AI가 코드를 실행하고 브라우저를 조작하며 데이터베이스를 조회하고 결과를 검증하는 작업은 주로 CPU가 담당합니다. GPU가 AI 모델의 계산을 수행한다면 CPU는 운영체제와 실제 프로그램을 실행해 AI와 외부 환경을 연결하는 역할을 합니다. 특히 AWS Graviton처럼 CPU를 클라우드에서 임대하는 방식은 지속적으로 사용료를 받을 수 있어 수익성이 높습니다.

-

AI 인프라 네트워크

GPU 클러스터가 커질수록 GPU 사이에서 데이터를 전달하는 네트워크의 비용과 중요성도 높아집니다. 현재 네트워크는 AI 시스템 비용의 10% 이상을 차지하며, 장기적으로 CPO(Co-Packaged Optics)가 확산되면 20~30%까지 높아질 수 있습니다. 다만 CPO의 경우 낮은 수율과 높은 제조 난도로 본격적인 도입은 2028년 말 이후, 대규모 확산은 2029년 이후가 될 가능성이 높습니다. 그전까지는 기존 광트랜시버와 구리 연결이 예상보다 오래 성장할 전망입니다.

[Banya @banya_diary]

Original Text:
https://t.co/BJqsDsPZ9i

[Banya @banya_diary]

이번 Kimi K3는 왜 컴퓨팅과 메모리, 네트워크 수요를 줄이지 않는가?!

$NVDA

-

Kimi K3

Kimi K3는 중국 Moonshot AI가 공개한 총 2.8조 개 파라미터 규모의 초거대 오픈웨이트 모델입니다. 텍스트와 이미지를 함께 이해하는 멀티모달 기능과 최대 100만 토큰의 문맥을 지원하며, 대규모 코드 분석, 소프트웨어 개발, 과학 연구, 산업 분석, 장시간 에이전트 작업에 초점을 맞췄습니다. 코딩과 에이전트 성능은 프런티어급에 근접했으며, 공식 API 가격은 입력 100만 토큰당 3달러, 출력 15달러입니다. 캐시가 적용된 입력은 0.3달러까지 낮아집니다.

-

MoE 구조

Kimi K3는 896개의 전문가를 보유한 전문가 혼합 구조(MoE)를 사용합니다. 모든 파라미터를 매번 계산하는 대신, 라우터가 입력 내용을 분석해 가장 적합한 전문가 16개만 선택합니다. 예를 들어 코딩 질문에는 코딩에 강한 전문가를, 수학 문제에는 수학에 강한 전문가를 호출하는 방식입니다. 덕분에 전체 모델 규모는 2.8조 파라미터에 달하지만 실제로 한 번의 추론에 사용되는 계산량은 훨씬 적습니다.

-

KDA (Kimi Delta Attention)

핵심 기술인 Kimi Delta Attention(KDA)은 KV 캐시를 없애는 기술이 아닙니다. 기존 어텐션은 새로운 토큰을 생성할 때마다 KV 캐시에 저장된 이전 토큰들을 다시 읽어 관련성을 계산하기 때문에 문맥이 길어질수록 메모리 접근량이 늘어납니다. 반면 KDA는 이전 단계에서 만들어진 어텐션 상태를 재사용하고, 새 토큰이 추가되면서 생긴 변화만 갱신합니다. 이를 통해 최대 100만 토큰의 긴 문맥에서도 KV 캐시를 읽는 양과 어텐션 계산량을 크게 줄일 수 있습니다.

-

추가 효율화 기술

Kimi K3에는 중요한 이전 정보를 다시 불러오는 AttnRes, 각 어텐션 헤드를 특성에 맞게 학습시키는 Per-Head Muon, 중요한 신호를 강화하는 SiTU, 필요한 정보만 선택적으로 통과시키는 Gated MLA가 적용됐습니다. 또한 MXFP4 가중치와 MXFP8 활성값을 고려한 양자화 인식 학습을 사용해 숫자의 정밀도를 낮추면서도 성능 저하를 줄였습니다. 같은 프롬프트의 앞부분을 재사용하는 프리픽스 캐시도 적용해 이전 Kimi K2보다 전체 스케일링 효율을 약 2.5배 높였습니다.

-

HBM 수요

다만 KDA가 KV 캐시 부담을 줄이더라도 Kimi K3의 모델 가중치 자체를 저장하려면 약 1.5TB 이상의 HBM이 필요합니다. 일반 GPU 한두 장에는 전체 모델을 담을 수 없기 때문에 수십 개의 GPU를 하나의 시스템처럼 연결해야 합니다. Moonshot AI도 효율적인 서비스에는 최소 64개 이상의 GPU가 랙 내부에서 초고속으로 연결된 스케일업 환경이 필요하다고 설명했습니다. 결국 KV 캐시가 감소해도 초거대 모델을 저장하기 위한 GPU와 HBM 수요는 여전히 매우 큽니다.

-

WideEP (Wide Expert Parallelism)

또한 Kimi K3는 896개의 전문가를 여러 GPU에 넓게 분산하는 WideEP을 사용합니다. GPU 하나에 많은 전문가를 저장하지 않고 GPU마다 일부 전문가만 나눠 저장하기 때문에 개별 GPU의 HBM 부담은 낮아집니다. 그러나 토큰마다 필요한 전문가가 서로 다른 GPU에 있을 수 있어, 토큰을 해당 GPU로 보내는 분산 과정과 계산 결과를 다시 모으는 결합 과정이 계속 발생합니다.

WideEP의 분산과 결합 통신은 거의 모든 MoE 레이어에서 반복되며, 출력 토큰 하나를 생성할 때 120회 이상 발생할 수 있습니다. KDA를 통해 KV 캐시 관련 네트워크 트래픽은 최대 10배 감소할 수 있지만, 전문가를 호출하기 위한 GPU 간 통신은 오히려 크게 증가합니다. 따라서 네트워크 수요가 사라지는 것이 아니라 병목이 KV 캐시 전송에서 전문가 간 통신으로 이동하는 것입니다.

때문에 Kimi K3는 엔비디아 GB200·GB300 NVL72처럼 72개의 GPU가 NVLink와 NVSwitch로 연결된 시스템에서 높은 성능을 낼 수 있습니다. NVL72는 GPU들이 각각 따로 작동하는 것이 아니라 하나의 거대한 컴퓨터와 메모리처럼 협력하도록 만들어줍니다. 랙 내부 네트워크 대역폭도 DGX B200보다 약 18배 높아, WideEP처럼 GPU 사이에서 데이터를 자주 주고받는 초거대 MoE 모델에 적합합니다.

-

계층형 메모리

Kimi K3는 모델 가중치만으로 1.5TB 이상의 HBM을 사용하기 때문에 KV 캐시와 사용자 데이터를 저장할 공간이 부족해집니다. 따라서 일부 KV 캐시를 CPU에 연결된 DDR5 메모리나 NVMe SSD로 옮기는 오프로딩이 필요합니다. 앞으로는 가장 빠른 HBM에 현재 계산에 필요한 정보를 두고, DRAM에는 상대적으로 덜 자주 사용하는 정보, SSD에는 장기 데이터를 저장하는 계층형 메모리 구조가 더욱 중요해질 가능성이 큽니다.

-

핵심 결론

Kimi K3는 하드웨어 수요를 줄인 모델이라기보다 병목의 위치를 바꾼 모델에 가깝습니다. KDA가 KV 캐시와 어텐션 계산 부담을 줄였지만, 2.8조 파라미터의 가중치 저장, 896개 전문가의 분산 배치, 토큰당 120회 이상 발생할 수 있는 GPU 간 통신이 새로운 부담으로 등장했습니다. 따라서 초거대 AI 모델이 발전할수록 GPU, HBM, NVLink·NVSwitch 같은 고대역폭 네트워크, DDR5와 SSD를 포함한 계층형 메모리의 중요성은 오히려 더 커질 수 있습니다.

[Banya @banya_diary]

Original Text:
https://t.co/2QI8CORd2f

[Banya @banya_diary]

AI 코딩 에이전트의 진짜 비밀: 하네스 엔지니어링의 본질은 메모리 관리

-

하네스 엔지니어링 (Harness)

코딩 에이전트는 일반적으로 Plan → Act → Verify 구조로 움직입니다. 먼저 해결 방법을 계획하고, 도구를 이용해 작업한 뒤, 실행 결과가 올바른지 확인합니다. 문제가 있으면 계획을 수정해 같은 과정을 반복하며, 모든 작업이 끝나면 최종 답변을 생성합니다.

Claude Code, Codex, Cursor 같은 AI 코딩 에이전트에서 하네스는 모델이 실제 업무를 수행하도록 관리하는 운영 시스템입니다. LLM이 문제를 해결하는 두뇌라면, 하네스는 필요한 파일과 대화 기록을 준비하고 터미널·파일 편집 도구를 연결하는 프로젝트 관리자에 가깝습니다.

그런데 대부분의 LLM은 상태 비저장(Stateless) 구조로, 이전 작업을 스스로 계속 기억하지 못합니다. 대화가 이어지는 것처럼 보이는 이유는 하네스가 이전 대화와 파일, 작업 기록을 다시 모아 새로운 요청에 포함하기 때문입니다. 즉 AI의 실질적인 기억은 모델 자체보다 하네스가 구성하는 문맥(Context)에 가깝습니다.

-

프롬프트 캐싱 (Prompt Caching)

프롬프트 캐싱은 이전에 계산한 문맥을 메모리에 저장해 다시 활용하는 기술입니다. 시스템 프롬프트나 프로젝트 구조처럼 반복되는 정보를 매번 처음부터 계산하지 않기 때문에 추론 비용과 응답 시간을 줄일 수 있습니다. 하네스는 같은 정보가 안정적으로 반복되도록 문맥을 구성하고, 실제 저장과 재사용은 AI 추론 시스템이 담당합니다.

-

하네스 요청(Request) 구조

하네스가 모델에 보내는 요청은 시스템 프롬프트(System Prompt), 도구 정의(Tool Definitions), 메시지(Messages)로 구성됩니다. 시스템 프롬프트에는 역할과 작업 규칙이, 도구 정의에는 파일 읽기·수정과 터미널 실행 방법이 들어갑니다. 그리고 메시지에는 사용자와의 대화, 이전 도구 실행 결과, 현재 작업 진행 상황이 포함됩니다.

-

메모리 관리

사실상 하네스의 핵심은 어떤 정보를 모델에 보여주고, 어떤 내용은 요약하거나 제외할지를 결정하는 것입니다. 또한 이미 계산한 문맥을 캐시로 다시 활용해 비용과 시간을 줄입니다. 따라서 하네스 엔지니어링은 단순한 도구 연결보다 문맥과 캐시를 조율하는 메모리 관리 기술에 가깝습니다.

Claude Code, Codex, Cursor 등의 코딩 에이전트들도 기본적인 하네스 구조는 비슷합니다. 실제 차이는 문맥을 얼마나 정확히 선별하는지, 오래된 작업을 얼마나 잘 요약하는지, 캐시와 도구를 얼마나 빠르고 안정적으로 운영하는지에서 발생합니다. 같은 LLM을 사용해도 하네스에 따라 속도와 비용, 작업 정확도가 달라질 수 있습니다.

이는 장기적으로 HBM뿐 아니라 DRAM, CXL 메모리, SSD 등 전체 메모리 계층의 중요성이 커질 수 있음을 시사합니다.

[Banya @banya_diary]

Original Text:
https://t.co/77ZGkoFggm

[Banya @banya_diary]

프로티나, AI 신약개발의 마지막 퍼즐을 맞추다: ABX바이오사이언시스 지분 취득 공시

-

프로티나의 ABX바이오사이언시스 지분 투자

프로티나는 생성형 AI 항체 설계 기업인 ABX바이오사이언시스(ABX Biosciences)의 지분 26.66%를 약 34억 2,000만 원에 취득했습니다. ABX바이오사이언시스는 정부의 클라우드 인공지능 항체은행 구축 사업을 기반으로 AI 항체 설계 플랫폼인 AbGPT-3D를 사업화하기 위해 2026년 설립된 회사입니다. 특히 최대주주가 서울대학교 백민경 교수라는 점이 주목됩니다.

이번 투자의 핵심은 단순한 지분 투자가 아니라, 그동안 부족했던 자체 생성형 AI 항체 설계 기술을 확보했다는 점입니다. 이를 통해 프로티나가 AI 신약개발 기업으로 성장하기 위한 마지막 핵심 퍼즐을 맞췄다는 평가가 가능합니다.

-

AI 신약개발 플랫폼

프로티나는 기존부터 SPID 플랫폼을 통해 항원과 항체의 결합력을 매우 정밀하게 측정하고, 주당 약 1만 개의 단백질 상호작용 데이터를 생산하는 경쟁력을 갖고 있었습니다. 앞으로는 ABX의 AI가 새로운 항체를 설계하고, SPID가 이를 실제 실험으로 검증한 뒤, 그 결과를 다시 AI가 학습하는 폐쇄형 반복 학습 루프(Closed-loop)를 구축하게 됩니다. AI와 실험실이 함께 발전하는 AI 신약개발 플랫폼으로 진화하는 것입니다.

-

De novo 신약 설계

프로티나는 AI 신약개발이 기존 후보물질을 찾는 탐색(Search) 방식에서 AI가 처음부터 새로운 항체를 설계하는 de novo 설계(Design) 방식으로 바뀌고 있다고 설명합니다. 이를 통해 약 85%의 언드러거블(Undruggable) 표적까지 개발 범위를 넓히고, 개발 기간은 수년에서 수주~수개월로 단축하며, 초기 개발 비용도 약 2억 3,000만 달러에서 약 7,500만 달러 수준으로 줄일 수 있다고 전망했습니다.

-

데이터 중심 AI

또한 프로티나는 앞으로 AI 바이오의 핵심 경쟁력은 모델보다 데이터에 있다고 강조합니다. AI가 설계한 항체를 실제 실험실(Wet-lab)에서 검증하고, 생성된 데이터를 다시 AI가 학습하는 데이터 중심(Data-centric) 반복 학습 구조가 중요하다는 것입니다. 이는 엔비디아, 일라이 릴리, Generate:Biomedicines, Insilico Medicine 등 글로벌 AI 바이오 기업들이 추진하는 방향과도 일치합니다.

-

온코닉타라퓨틱스와의 협력

프로티나는 온코닉테라퓨틱스와 분자접착제(Molecular Glue), 항체-약물접합체(ADC) 등 차세대 항암 신약 공동연구도 시작했습니다. 프로티나는 SPID 플랫폼으로 단백질 상호작용을 정밀 분석하고, 온코닉테라퓨틱스는 실제 신약 개발을 담당합니다. 이를 통해 AI 설계부터 실험 검증, 실제 신약 개발까지 연결되는 AI 기반 신약개발 플랫폼을 구축해 나가고 있습니다.

[Banya @banya_diary]

@goodtek_xyz 네 이러한 실제 업무 데이터, 즉 온톨로지에 대한 경쟁이 지금 빅테크들 사이에서 한창인 것 같습니다~

[Banya @banya_diary]

SpaceXAI의 역습, Grok 4.5는 어떻게 AI 최상위권에 올랐나 (feat. Cursor & Sand)

$SPCX

-

SpaceXAI Grok 4.5

SpaceXAI는 Grok 4.5를 지금까지 출시한 모델 가운데 가장 뛰어난 AI라고 소개했습니다. 특히 코딩, AI 에이전트, 그리고 지식 노동(Knowledge Work)에 최적화된 모델이라는 점을 강조했습니다. 지식 노동은 연구, 금융, 법률, 회계, 데이터 분석, 소프트웨어 개발처럼 컴퓨터를 이용해 생각하고 판단하는 대부분의 사무 업무를 의미합니다.

또한 API 가격은 입력 100만 토큰당 2달러, 출력 100만 토큰당 6달러로 책정됐습니다. 최고 수준의 모델과 비슷한 성능을 제공하면서도 비용은 크게 낮춰 기업들이 AI를 보다 쉽게 도입하도록 하는 전략을 선택했습니다.

-

코딩 에이전트 Cursor

이번 Grok 4.5의 가장 큰 변화는 얼마 전 SpaceXAI가 인수한 Cursor와의 결합입니다. 많은 사람들이 Cursor를 단순한 AI 코딩 프로그램으로 알고 있지만 실제로는 훨씬 큰 의미를 갖습니다. Cursor는 프로젝트 전체를 이해하고 여러 파일을 동시에 수정하며, 터미널(Terminal)에서 명령을 실행하고, 테스트를 수행하고, 오류까지 수정하는 AI 에이전트 플랫폼으로 발전하고 있습니다.

무엇보다 중요한 점은 실제 개발자들이 코드를 작성하면서 발생하는 수정 과정, 오류 해결 과정, 테스트 결과 같은 현실적인 데이터를 계속 축적한다는 것입니다. Grok 4.5는 바로 이러한 실제 개발 환경에서 만들어진 고품질 데이터를 학습했기 때문에 긴 작업을 이전보다 훨씬 안정적으로 수행할 수 있게 되었습니다.

-

모델 성능 벤치마크

Grok 4.5는 여러 벤치마크에서 단기간에 최상위권 모델로 올라섰습니다. Artificial Analysis Intelligence Index에서는 54점을 기록하며 전체 168개 모델 가운데 4위를 차지했고, 이전 버전인 Grok 4.3보다 무려 16점 상승했습니다.

코딩 능력도 크게 개선되었습니다. Coding Agent Index에서는 GPT-5.5와 비슷한 수준의 성능을 보였으며, DeepSWE에서는 버전 1.0 기준 62.0%, 버전 1.1 기준 53%를 기록했습니다. Claude Fable 5와 GPT-5.5보다는 조금 낮았지만 여전히 세계 최고 수준의 개발 능력을 보여주었습니다. 특히 동일한 작업을 수행하면서도 더 적은 토큰과 더 낮은 비용을 사용했다는 점이 강점으로 평가되었습니다.

Grok 4.5는 코딩뿐 아니라 복잡한 업무를 수행하는 능력도 크게 향상되었습니다. 금융, 법률, 연구와 같은 여러 단계를 거쳐 해결해야 하는 업무를 평가하는 GDPval-AA v2에서는 Elo 1543을 기록하며 전체 4위에 올랐습니다. 이는 긴 문서를 이해하고, 필요한 정보를 여러 번 찾아가며, 여러 단계를 거쳐 문제를 해결하는 능력이 크게 발전했다는 의미입니다.

또한 최대 50만 토큰의 컨텍스트(Context)를 지원하기 때문에 매우 긴 문서나 대규모 프로젝트도 한 번에 처리할 수 있으며, 출력 속도도 초당 약 86.7토큰으로 상당히 빠른 편입니다.

-

엔터프라이즈 시장 공략의 신호탄 'Sand'

Cursor는 이제 개발자만을 위한 제품이 아니라 모든 직장인을 위한 AI 플랫폼으로 확장되고 있습니다. 현재 내부 테스트 중인 Sand는 일반 직장인을 위한 개인화 AI 비서입니다. Sand는 이메일 작성, 메신저 답변, 문서 작성, 스프레드시트 정리 같은 일반 사무 업무는 물론 데이터 분석과 코딩까지 수행하는 것을 목표로 합니다.

SpaceXAI는 앞으로 가장 큰 시장으로 약 22.7조 달러 규모의 엔터프라이즈 애플리케이션 시장을 보고 있습니다. 엔터프라이즈 애플리케이션은 기업에서 사용하는 업무용 소프트웨어를 의미하며, ERP, CRM, 협업 도구, 문서 관리, 회계 프로그램 등이 모두 여기에 포함됩니다.

기존에는 SpaceXAI가 AI 인프라 분야에서는 강점을 갖고 있었지만 기업용 AI 애플리케이션은 부족하다는 평가를 받았습니다. Grok 모델과 Cursor 그리고 Sand는 이러한 약점을 보완해 앞으로 AI 모델 기업에서 실제 업무를 수행하는 플랫폼 기업으로 확장하려는 전략의 핵심입니다.

[Banya @banya_diary]

Original Text:
https://t.co/oLiSPRw24O

[Banya @banya_diary]

Original Text:
https://t.co/AFnspwjNES

[Banya @banya_diary]

메타가 다시 AI 레이스의 중심에 선 이유: Muse Spark 1.1 모델 & 컴퓨팅 인프라 전략

$META

-

Meta Muse Spark 1.1

Muse Spark 1.1은 단순히 질문에 답하는 챗봇이 아니라 여러 작업을 스스로 계획하고 수행하는 멀티모달 추론 모델입니다. 또한 검색, 코드 실행, 컴퓨터 조작 같은 외부 도구도 직접 활용할 수 있습니다. 특히 하나의 AI가 모든 일을 처리하는 것이 아니라 중심 에이전트가 전체 계획을 세운 뒤 여러 하위 에이전트에게 동시에 일을 나누어 맡기는 멀티 에이전트 구조를 적용해 복잡한 프로젝트를 더 빠르게 처리하도록 설계됐습니다.

그리고 Muse Spark 1.1은 최대 100만 토큰(Context Window)을 지원합니다. 기존 AI는 대화가 길어질수록 앞부분을 잊어버리는 경우가 많았지만, Muse Spark 1.1은 장시간 작업에서도 이전에 수행했던 내용과 중요한 정보를 계속 기억합니다. 또한 중요하지 않은 내용은 자동으로 압축하고 핵심 정보만 유지하기 때문에 긴 프로젝트나 대규모 코드 수정 같은 작업도 안정적으로 수행할 수 있습니다.

이러한 Muse Spark 1.1은 Meta AI 서비스뿐 아니라 Meta Model API를 통해 외부 개발자에게도 제공되기 시작했습니다. 이는 메타가 광고 기업을 넘어 OpenAI나 앤트로픽처럼 AI 모델 자체를 판매하는 사업에도 본격적으로 진출하고 있다는 의미입니다.

메타의 가장 큰 강점은 전 세계 수십억 명이 사용하는 페이스북, 인스타그램, WhatsApp입니다. 이들 서비스에서는 매일 엄청난 양의 공개 콘텐츠와 사용자 상호작용 데이터가 생성됩니다. 메타는 이러한 데이터를 활용해 Muse Spark 1.1이 사람들의 관심사와 사회적 맥락을 더 잘 이해하게 되었다고 설명합니다. 앞으로 Meta AI는 릴스, 사진, 게시물 등을 활용해 사용자마다 더욱 개인화된 답변을 제공하는 방향으로 발전할 계획입니다.

-

Muse Image & Video

Muse Image는 일반적인 이미지 생성 AI보다 한 단계 발전한 에이전트형 이미지 생성 모델입니다. 단순히 그림만 생성하는 것이 아니라 필요한 경우 인터넷 검색을 하거나 직접 코드를 작성해 그래프나 QR코드를 만든 뒤 이를 이미지에 반영합니다. 또한 여러 장의 참고 이미지에서 사람, 옷, 배경, 화풍 등을 각각 가져와 하나의 새로운 이미지로 합성할 수 있으며, 사용자와 대화를 이어가면서 원하는 부분만 정밀하게 수정하는 기능도 지원합니다.

또한 Muse Video는 영상 생성 모델로, 사용자의 명령을 더 정확하게 반영하고 영상이 진행되는 동안 인물과 사물이 계속 같은 모습으로 유지되는 시간적 일관성을 크게 높였습니다. 기본적으로 영상뿐 아니라 오디오도 함께 생성할 수 있습니다.

-

Iris 칩

Iris는 메타가 자체 개발하는 AI 가속기입니다. 다만 GPU처럼 모든 종류의 연산을 수행하는 범용 칩이 아니라, 메타 서비스에서 반복적으로 발생하는 AI 학습과 추론에 맞춰 설계된 주문형 반도체(ASIC)입니다. 브로드컴이 설계에 협력하고 TSMC가 생산하며, 메타는 2026년 9월부터 생산을 시작할 계획입니다. 앞으로 2027년까지 약 6개월마다 새로운 AI 칩을 출시해 외부 GPU 의존도를 점차 낮출 계획입니다.

-

AI 인프라 전략

메타는 2026년에 약 7GW 규모의 AI 컴퓨팅 인프라를 구축하고, 2027년에는 이를 14GW까지 확대할 계획입니다. 또한 2026년 AI 인프라 투자 규모는 최대 1,450억 달러로 예상됩니다. 이를 위해 삼성전자와 메모리, 샌디스크와 플래시 스토리지, 스미토모전기와 광섬유 장비에 대한 장기 공급 계약도 체결했습니다. 결국 메타는 반도체부터 메모리, 저장장치, 네트워크까지 AI 데이터센터 전체 공급망을 직접 확보하려는 수직 통합 전략을 추진하고 있습니다.

저커버그는 앞으로 메타가 구축하는 초대형 데이터센터를 단순한 비용이 아니라 수익을 창출하는 자산으로 활용할 수 있다고 설명했습니다. 내부에서 사용하고 남는 컴퓨팅 자원이 있다면 다른 기업에게 임대하거나, AWS나 Azure처럼 AI 클라우드 서비스를 제공하는 사업도 가능하다고 보고 있습니다. 실제로 메타에는 AI 모델과 컴퓨팅 자원을 구매하려는 기업들의 문의가 거의 매주 들어오고 있으며, 내부 수요가 예상보다 적더라도 외부에 판매할 수 있기 때문에 데이터센터 투자의 위험도 줄일 수 있다는 판단입니다.

-

핵심 의미

이번 메타의 전략은 단순히 새로운 AI 모델을 발표했다는 데 의미가 있는 것이 아닙니다. 메타는 데이터, 연구 인력, AI 모델, 자체 반도체, 데이터센터, 플랫폼, AI 서비스를 하나의 거대한 생태계로 통합하려 하고 있습니다. 앞으로 AI 산업에서는 모델 성능만으로 경쟁하기보다 이러한 전체 시스템을 얼마나 효율적으로 구축하고 운영하느냐가 기업 경쟁력을 결정할 가능성이 더욱 커지고 있으며, 메타는 이러한 방향으로 가장 적극적으로 움직이는 기업 가운데 하나라고 볼 수 있습니다.