MoeAlpha

[MoeAlpha @steve218008]

@hongsv11 再这么搞 人民群众可就要把尹桑从大牢里救出来去干李在明了

[MoeAlpha @steve218008]

@ivanalog_com 问题是你有没有实际用过最近的额度重置 一周额度明显缩水了很多 这是营销策略

[Markos @MarkosAAIG]

New website live and stick to the thesis.

Our new website is live (few things will change still) make sure you check it out.

https://t.co/adwcynv4YC

Then for some moral support:
In days like this, i remind people of one of the most important lessons I’ve learned over the years as an investor:

Build your thesis well.

If you’re going to allocate a big amount of capital to an investment, put in the work. Put in the time. Stress test your assumptions. Challenge your own conclusions. Build your thesis brick by brick. then define the key parameters that would actually change your thesis if new information emerges.

Then, when the market turns volatile, ask yourself one simple question:

Did any of those parameters change?

If the answer is no, then stick to the thesis. I tell our subscribers this over and over again:

Stick to the thesis. Stick to the thesis. Stick to the thesis.

The market can be incredibly volatile. In my opinion, the best way to deal with that is to make sure your process is not.

$SKHY $MU $IREN $NBIS

[MoeAlpha @steve218008]

@BabybusFL 你可能小瞧固收市场的量级了 以前他们可是连接近零利率的美债都买的下去的

[美研芒格君 @Kay2289123]

如果最近被市场和机构反复忽悠得有点迷失了，如果甚至怀疑 AI是不是真的需要存储? 真的很推荐两周之前的这篇文章，是给价值投资者看的

“内存为王”，永远缺存储，股价会一直涨。这个逻辑其实是不完全正确还是这句话：存储在征税，存储是一堵墙，大家都想打破它

存储是不是会反弹？在急跌之后，值得关注。同样，也值得我们认真去布局打破“内存墙”的几条路线。许多玩家自身 AI infra 属性随着存储和半导体板块一起被错杀了

昨天我长文拆解了 CXL 这条主线。后续我会继续拆解其他的主线和关键结构

再等等，再等些时间，我们再来回看这条逻辑

[ali @waterloo_intern]

in the next 2 minutes, I'll walk you through why every single AI company, including Nvidia, was unnecessarily sacrificing model intelligence, speed, and often both... and how we fixed it

the tldr:
- error(layer a) + error(layer b) < error(layer a) alone
- quantizing MORE of the model can result in the same or HIGHER quality model, if you know which layers to quantize.

let's take GLM5.2 architecture as an example. tokens here go through:
1) normalize 2) attention 3) normalize 4) moe
repeated 78 times

moe:
> just a big mlp, split into 257 separate smaller mlps (experts)
> 8 are routed and one is shared (only 3.5% of the mlp is activated)

so we say, let's make the matrix multiplications faster.
we quantize the matrices to nvfp4

but what do you quantize: every single one of the 257 experts, the attention projections, both?

Nvidia, and every other quant scheme, settles on a somewhat intuitive solution:

"""
a) there is only one router per layer, only one shared expert, and only one output projection per layer.
b) every single token goes through these, so they must be pretty important, and if we quantize these,
errors will compound across the xN number of tokens input.
c) so let's leave the shared experts and projections unquantized.
d) let's quantize ONLY the 256 routed experts
"""
-this is literally nvidia/GLM-5.2-NVFP4

intuitive.
simple to reason about.
wrong.

empirically:
if you have a model that processes its input through layer a, then layer b, it is possible that a scheme
quantizing BOTH layer a and layer b performs better than a scheme quantizing just one of these.

by way of example, our config quantizes every single out projection (all 78) of the attention, and 43 of the 78 shared experts. Nvidia quantizes none of these.

we score the same on benchmarks (quality).
we get a free 20% higher throughput.

i leave the math proof as an exercise for the reader in the paper...
and some pictures to click through if you'd rather skip the (43 pages of) math

[酱紫表 @pengchujin]

ChatGPT 网页端也上线了 Work 功能，给配了 9 核 15G 内存的虚拟机...

[Yacine Mahdid @yacinelearning]

very neat beginner friendly intro to GPU kernel check it out!

[Neeraj @neeraj_here15]

STEVE JOBS GOT FIRED FROM APPLE.

Then he walked straight into MIT and dropped the most raw, unfiltered 60-minute business masterclass ever recorded.

Zero PR bullshit. Zero image to protect.

Just pure, brutal honesty from the man who built Apple once and was about to rebuild it even bigger.

Stop scrolling.

Watch this tonight instead of Netflix.

Bookmark it. Come back to it.

[Markos @MarkosAAIG]

In the basics, this is of course a time-will-tell argument... it's very hard to look five years into the future. But I have my personal arguments why I think a much higher gross margin than the level they had before is totally possible.

Because in my opinion people are pattern-matching HBM to old commodity DRAM, and that's a huge miss. HBM isn't just sold off a spot price anymore, it's really co-designed. HBM4 carries a lot of customer-specific base dies, and it's being designed into the accelerator roadmap for years ahead. So that brings product specialization, which almost equals higher margins if you take it really simple. The more expertise you need, the more expensive it costs. The more different variants and packages you want, the more that expertise is worth. That's just plain simple.

And then on the other side you have the EPIC Center, where SK Hynix and Micron signed on as founding partners in Applied Materials' facility to co-develop cutting-edge materials, process and packaging for next-gen memory, with a lot of engineers working side by side. And in my opinion, you don't co-develop your process tech in a joint lab like that for something that's becoming a commodity.

That's the integration depth. Every generation the memory maker gets deeper into the customer's design process and the equipment maker's process, into hybrid bonding, taller stacks, the thermal challenges. Everything gets harder to build, not easier to commoditize in my opinion. These 3 thesis foundations I use and the timeline beyond 2030 is just far away man. Would be guess work. Gun to my head i would say it will work trough the half of next decade also like this and beyond because it is literally a postion change for the big 3 not only a supply story.

[Alis volat propriis @Alisvolatprop12]

구글 딥마인드의 데미스 허사비스가 작성한 아티클, 전문 번역 입니다. 제미나이 3.5 Pro 가 일부 유출된 벤치 결과 만큼이나 센세이션을 불러일으킬 지 기대가 되며, 저 역시 그의 말대로 AGI가 다가오고 있음을 깊이 느끼고 있습니다.

"지금은 인류 역사에 있어 매우 중대한 전환점입니다. 뇌가 가진 모든 인지 능력을 발휘하는 시스템인 범용 인공지능(AGI)의 등장이 아마 불과 몇 년밖에 남지 않았을 것입니다. 수십 년 후 지금 이 시기를 되돌아본다면, 우리가 특이점의 초입에 서 있었다는 사실을 깨닫게 될 것입니다. 이는 인류에게 있어 진정 새로운 시대의 서막과도 같습니다.

저는 평생을 AGI 연구에 매진해 왔습니다. 책임감 있게 구축되고 도입되기만 한다면, AGI가 인류 역사상 가장 유익하고 혁신적인 기술이 될 것이라는 깊은 확신이 있었기 때문입니다. AGI는 일반적인 기술적 돌파구와는 차원이 다릅니다. 인터넷이나 모바일처럼 중대한 변화조차 비할 바가 못 되며, 오히려 전기나 불의 발견에 훨씬 더 가깝습니다. 가만히 생각해보면, 우리는 본질적으로 모래가 생각하게 만드는 방법을 찾아낸 셈입니다. 기적 같은 일이죠.

이 기술이 미칠 영향력의 규모는 전례 없는 수준일 것이며, 아마도 산업혁명보다 10배 더 큰 파급력을 10배 더 빠른 속도로 가져올 것입니다. 이는 신약 개발 가속화부터 새로운 청정 에너지원 개발, 혁신적인 첨단 소재 창조에 이르기까지 우리 사회가 직면한 가장 큰 문제들을 해결하는 데 도움이 될 것입니다. 더 나아가 자원이 더 이상 인류 발전의 제약 요인이 되지 않는 지점에 도달하여, 놀라운 풍요의 새 시대를 맞이하게 될 수도 있습니다.

프런티어의 도전 과제들

AI는 이미 실질적인 혜택을 제공하기 시작했지만, 그 엄청난 잠재력을 실현하려면 이 중요한 개발 시기를 신중하고 세심하게 헤쳐 나가야 합니다. AGI에 가까워질수록 발생할 수 있는 위험에 대응하기 위해 시급한 조치가 필요합니다. 우리는 이미 프런티어 모델이 사이버 보안에 미치는 위협을 목격했으며, 역량이 계속 발전함에 따라 핵 및 바이오 위험을 포함한 다른 위협들도 곧 나타날 수 있습니다. 앞으로는 점점 더 에이전트화되고 재귀적으로 자기 개선을 반복하는 시스템을 통제하기 위한 강력한 안전장치가 필요하며, 시간이 흐르면서 명확해질 미지의 문제들도 해결해 나가야 합니다.

저는 인간의 독창성과 창의성이 그 어떤 문제도 해결할 수 있다는 힘을 항상 믿어왔습니다. AI와 관련된 기술적 위험을 완화하는 것은 우리가 함께 해결할 수 있는 과제라고 확신하지만, 이는 오직 우리가 이 다음의 중요한 단계를 제대로 밟을 수 있는 시간과 여유를 가질 때만 가능합니다. 현재 우리 분야와 사회 전체는 그렇게 하지 못하고 있습니다.

현재 우리는 매우 치열하고 다층적인 상업적, 지정학적 경쟁에 갇혀 있습니다. 이러한 경쟁 구도는 빠른 발전을 촉진하고 엄청난 긍정적 효과를 가속화하지만, 프런티어 영역의 진보는 기술에 대한 우리의 이해를 앞지르고 있습니다. 앞으로 어떤 일이 벌어질지 세상 그 누구도 확실히 알지 못하며, 전문가들 사이에서도 의견이 갈립니다. 불확실성이 크고 위험 부담이 이토록 높은 상황에서는 신중한 낙관론을 가지고 나아가는 것이 합리적이고 올바른 전략입니다. 이를 위해서는 혁신을 장려하는 동시에 책임감과 보안에 인센티브를 부여하고, 핵심 안전 문제에 대한 국제적 협력을 도모하며, 사회적 이익을 위한 AI 도입 방식을 신중하게 고민하도록 유도하는 공공 정책이 필요합니다.

프런티어 AI 표준 기구(Frontier AI Standards Body)를 위한 프레임워크

AI 분야에서 목격되고 있는 급격한 발전은 역동적이고 유연하며 엄격한 새로운 방식의 프런티어 AI 모델 역량 테스트 접근법을 요구합니다. 미국은 경제적, 기술적 위상을 고려할 때 이러한 프레임워크 개발의 첫걸음을 내딛기에 유리한 위치에 있습니다. 미국은 금융산업규제기구(FINRA)와 유사하게 연방 정부의 감독을 받는 민관 협력체 또는 자율 규제 기구를 모델로 한 새로운 표준 기구를 설립할 수 있으며, 이사회에는 독립적인 주요 기술 전문가와 오픈 소스 대표들이 포함되어야 합니다. 세계적인 수준의 기술 인재를 영입하고 대규모 테스트에 필요한 컴퓨팅 자원을 확보하기 위해서는 업계 중심의 상당한 규모의 자금 지원이 필요할 것입니다.

표준 기구는 평가 프로토콜을 개발하고, 관련 연방 기관 및 미국 국립 연구소와 협력하여 국가 안보 관련 분야의 테스트를 수행할 책임을 집니다. 특정 모델이 표준 기구에서 결정하고 진화하는 AI 역량에 맞춰 정기적으로 업데이트하는 벤치마크 기준을 충족할 경우 '프런티어급(Frontier-class)'으로 분류됩니다. 이러한 벤치마크에 따라 정의된 '프런티어 모델'을 보유한 조직은 '프런티어 랩(Frontier Labs)'으로 간주되며, 기술적 세부 사항이 담긴 모델 카드 게시, 강력한 내부 사이버 보안 유지, 핵심 인력 검증, 안전 및 보안 연구를 위한 충분한 자원 제공 등의 모범 사례를 채택하도록 권장됩니다.

초기에는 프런티어 랩(Frontier Labs)이 모델 출시 전 최대 30일 동안 표준 기구(Standards Body)에 모델을 자발적으로 공유하여 검토를 받게 됩니다. 평가 프로토콜의 효과와 견고함이 입증되면 곧바로 공식화될 수 있으며, 이는 프런티어 모델이 미국 시장에 배포되기 위해 해당 평가를 반드시 통과해야 함을 의미합니다. 또한 랩은 표준 기구와 협력하여 출시 후 발견되는 중대한 취약점들을 해결해 나갈 것입니다.

모델 평가는 사이버 보안, 생물학적 위협 및 기타 고위험 영역의 역량에 대한 엄격한 과학적 평가를 포함해야 합니다. 구체적인 에이전트형 AI 테스트를 통해 안전 가드레일 우회 시도나 기만 징후를 조사하고, AI 생성 이미지의 디지털 워터마킹 및 모델의 추론 과정을 이해하기 위한 인간 판독 가능 출력 토큰 생성과 같은 모범 사례를 준수하도록 해야 합니다.

이러한 평가는 정기적으로 업데이트되어야 하며, 초기에는 분기별로 실시하다가 노후화되거나 변별력을 잃은 벤치마크는 폐기하고 교체하는 방식이 될 것입니다. 처음에는 프런티어 랩(Frontier Labs)과의 협의를 통해 개발되겠지만, 궁극적으로 표준 기구는 오버피팅(overfitting)을 방지하기 위해 랩과는 독립적인 자체 테스트를 생성할 수 있는 기술적 역량을 갖춰야 합니다. 또한 미국 정부와 협력하여 새로운 벤치마크 및 평가 개발과 심사를 도울 제3자 감사 생태계를 활성화할 수 있을 것입니다.

이 접근 방식의 강점은 기술적 측면에 집중하면서도, 동시에 혁신을 지원하고 책임감 있는 행동을 장려한다는 점입니다. 이는 분야의 가속화에 발맞추고 확인된 중대 위험 요소에 적응하도록 설계되었으며, 상황의 심각성에 따라 필요시 프런티어 랩(Frontier Labs) 간의 개발 속도 조절을 조율하는 등 강도를 높일 수도 있습니다. 프런티어 랩으로 지정되는 것은 상당한 명성을 얻는 일이 될 것이며, 벤치마크 기준을 충족하는 모델을 구축하는 모든 조직에 열려 있습니다. 이 프레임워크는 국가나 오픈/클로즈드 여부와 관계없이 프런티어급 모델에 적용될 수 있지만, 스타트업이나 학계의 비프런티어 모델은 이 프로세스에서 제외됩니다.

미국이 주도하는 이번 노력은 프런티어 AI(Frontier AI)에 대한 공동의 국제 표준을 마련하는 강력한 출발점이 될 것입니다. 이 기술은 지구 전체에 영향을 미칠 것이기에, 이 프레임워크가 국제 사회의 합의를 이끌어내는 기폭제가 되기를 기대합니다. 이를 통해 가장 심각한 위험들을 관리하는 동시에, 모든 사람이 AI가 가져올 기회를 누리고 그 혜택을 받을 수 있도록 해야 합니다.

미래는 아직 쓰이지 않았다

AGI는 과학과 의학을 발전시키고, 막대한 생산성 향상과 경제 성장을 이끌어낼 궁극적인 도구가 될 잠재력을 가지고 있습니다. 하지만 이를 실현하기 위해서는 공유된 글로벌 프레임워크를 중심으로 협력하고, 가장 엄격한 과학적 방법을 사용하며, 우리가 직면한 과제들을 해결하기 위해 최고의 인재들을 모으는 등 기술적 토대를 올바르게 구축해야 합니다.

이러한 난해한 기술적 과제들을 해결한다 하더라도, 우리가 맞닥뜨릴 복잡한 경제적·철학적 질문들이 남아 있습니다. 결핍이 사라진 포스트 희소성(post-scarcity) 시대에 모두가 번영하기 위해 어떤 새로운 경제 모델이 필요할까요? 우리는 어떤 가치를 지키며 살아가고 싶어 할까요? 삶의 의미와 목적은 무엇이 될 것이며, 인간의 조건 그 자체는 어떻게 변화하게 될까요? 이러한 질문들에 답하는 것은 당연히 기술자들만의 몫이 될 수도, 되어서도 안 됩니다. 사회의 모든 구성원이 함께 모여 이 새로운 장을 정의해 나가야 합니다.

AI를 둘러싼 엄청난 기대와 불확실성이 공존하고 있으며, 두 가지 모두 타당한 반응입니다. 하지만 미래는 아직 정해지지 않았습니다. 우리는 AGI가 도래하기 전 이 소중한 기회의 시간을 활용해, 인류 전체에 이익이 되는 방향으로 이 기술을 형성해 나가야 합니다. 지금 우리가 함께 내리는 결정이 인류 문명의 다음 단계가 어떻게 펼쳐질지를 결정할 것입니다. AGI를 안전하게 세상에 안착시킴으로써, 우리는 과학적 발견과 진보의 새로운 황금기를 맞이하고 인류가 눈부시게 번영하는 밝은 미래를 열어갈 수 있습니다."

[ChatGPT @ChatGPTapp]

ICYMI, you can now build and ship full web apps with ChatGPT.

@coreyching shows you how.

[Sam Altman @sama]

come for the best model, stay because we don’t treat you with contempt

[Markos @MarkosAAIG]

Good post by @zephyr_z9… honestly one of the best public fab-level DRAM builds out there. We never compared notes. @citrini team has fab access we simply don’t have. We built ours from the other end… serving demand and the contract book, bottom-up. Two independent methods.
And still, both models land on the same structure: The shortage does not clear by 2030. His general DRAM deficit: ~25%. Our gap path: 27-29% through the decade. Same mechanism also. HBM eats wafers at a 2.7x to 4x+ trade ratio and starves general DRAM. Nearly half of his 91 EB general DRAM supply is Chinese-owned capacity… while Chinese HBM demand sits outside his model by his own note. Count China symmetrically, in or out on both sides, and his 25% deficit is the floor. Ex-China it runs closer to 60%. The squeeze is worse than the headline most will interpret.
One honest difference: his 2030 HBM numbers (37.5 EB at $5-6/Gb) sit ABOVE our locked path. We carry a lower central and a lower price line. So if @zephyr_z9 is right, our upside is too conservative, and it already is high... I can live with that asymmetry.
Best part is in my eyes: Two models, zero coordination, and we come to one conclusion: memory is the structural bottleneck of the stack through 2030.

$MU $000660.KS solana:SKHYhSjuRWHgikq8eRKbtBbpABgJSkd7ytQV14i9EQ3 $SNDK

[MoeAlpha @steve218008]

@bitpanda88 这个P图狗闹麻了

[MoeAlpha @steve218008]

@Money_or_Life_X 为什么要卖出英伟达呢 英伟达的估值已经很便宜了呀

[Jukan @jukan05]

Someone argued that if CXMT achieves 1c-class 3D DRAM, it would close the technology gap with the memory Big 3, and since performance wouldn't be an issue, they could even sell into the West — but that's genuinely crazy talk.

The fact that CXMT is heading straight for 3D DRAM actually means the opposite: because the non-CXMT camp — i.e., JEDEC — has no reason to follow CXMT's standard, CXMT DRAM won't be usable in the West at all. What you get instead is a standards divergence between the West and CXMT.

So Lenovo or Xiaomi could use CXMT's 3D DRAM, sure. But non-Chinese companies won't be able to use it.

[Pike时政财经分析 @BigbirdflyChan]

今天海力士adr 157，说明美国资金不认可韩国股票的恐慌被动卖出行为，在买入adr正股，因为adr对应韩国股票价格2.35m，但是韩国股票1.85m，有30%差价。那么我分析今晚韩国股票再跌可能性很小，反弹更有可能性。

所以如果你的海力士持有成本不到2m，这个时候再去割肉，不是一个很理性的选择。

[Phyrex @PhyrexNi]

韩国股市暴跌的原因我已经写过很多很多了，从6月底写到现在了，如果真的想知道，看完连续引用的六篇推文，就应该非常清楚了，做股票，看数据真的很重要。