HW Park

just a poor wayfaring stranger

[HW Park @HWPark17]

AI에 데스크탑 정리를 시킬까 잠깐 고민하다 그만두었다. 굳이 할 필요가 없다. 목적에 맞는 파일을 NAS건 클라우드건 어딘가에서든지 찾아와하면 그만이다. 에이전트가 곧 프론트엔드가 되는 세상엔 프로덕트와 내 사이에 있는 잡다한 것들은 모두 수면으로 가라앉고 대체될 수 있다.

[HW Park @HWPark17]

@TANAKAKAKUEI512 특히 오카모토 고조 같은 문제적 인물은 한국 역사에서는 찾아보기 힘든 유형

[HW Park @HWPark17]

@TANAKAKAKUEI512 개인적으로는 일본의 반체제 투쟁 역사야말로 전공투 적군파 등등 재미있는 요소가 한가득이다. 한국 쪽은 성공하여 제도정치권으로 통합되었다는 점을 제외하면 오히려 단순하고 지루하다.

[HW Park @HWPark17]

@Coriandersayso 지랄한다

[HW Park @HWPark17]

@MiaAI_lab Running GLM5.3f on TP=4. Tempted to test TP=3, but with 2+ weeks of solid uptime, stability and redundancy win every time.

[Semiconsight_ @Semiconsight]

CPU 수요 이야기가 곳곳에서 같은 방향으로 나오고 있다.

앞서 mark의 글을 인용해 정리했듯이(https://t.co/PufqfB9VbK), Agentic AI는 API 호출, 벡터DB 조회, 워크플로우 상태 관리 같은 순차 로직이 많아 CPU 비중이 구조적으로 커진다.
mark는 CPU:GPU 비율이 1:8에서 1:1로 이동한다고 봤다.

Damnang (@damnang2)님의 글은 한 걸음 더 나아간다. 일부 극단적인 경우 CPU:GPU 비율이 40:1까지 갈 수 있고, CPU 생산이 이미 GPU보다 더 많은 TSMC 웨이퍼를 쓴다는 이야기다. 둘 다 전해 들은 내용이라 확인이 필요하지만, 어쨌든 방향은 일치한다.

공급 사이드도 같은 모습이다. AMD EPYC은 TSMC 선단 공정에서 GPU와 캐파를 다투고, intel은 18A 수율 이슈가 남아있다. 수요 구조가 바뀌는 속도를 공급이 따라가지 못하고 있다.

Ryan Leung이 말한 CPU의 높은 CAGR이 현실이 될지는 이 비율이 실제로 어디까지 가는지에 달려 있다.

[HW Park @HWPark17]

노드모니터링 패널 UI디자인 완료 - 이제 e ink esp32 모듈이 도착하기만을 기다린다

[HW Park @HWPark17]

@hw5dd @nobkoba 진지하게 말하자면 빛의 속도가 증가하면 모터 변압기 리소그래피 효율이 떨어져서 지금 수준의 전자 문명이 성립하지 않을 수 있다. 초신성 폭발도 드물어져서 아예 지적 생명체의 탄생이 막힐지도

[Dongxi 东锡 NLP @dongxi_nlp]

Encoder 的卷土重来

BERT 本来是一条极有潜力的路线：高效地把输入压成 representation。但它停留在了 task-specific 时代，每个任务都需要微调。

GPT 早期同样如此，后来却沿着 scaling、in-context learning 和 instruction tuning 走向了 泛化，把自然语言变成 universal task interface。分类、判断、推理、工具调用，统统变成 generation。

于是 decoder-only 赢下了整个 paradigm，encoder 也失去了继续探索 general classifier 和 general representation model 的历史机会。

但 Agent 改变了 workload。模型开始面对越来越大的输入、越来越重的 KV cache、越来越频繁的循环调用，此时，用一个巨大的 decoder 完整 prefill，再 autoregressive decode 几个 token 来完成一次判断，开始显得昂贵。

Jev 恰好等到了这个窗口。它试图补上 BERT 当年没有走完的路线，保留 GPT 的 task generalization，同时重新获得 encoder 和 classifier 式的 decision efficiency，成为面向 service、面向 Agent 的 泛化 decision model。

[HW Park @HWPark17]

@_nodelay 저는 몇 번 당하고 나서 이제 IoT 멀티탭을 씁니다. 스마트폰으로 딸깍하면 재부팅이 완료됩니다.

[HW Park @HWPark17]

@oomineyamato @hippy49_1968 저수준 프로파간다의 진위 여부에 대한 초보적 검증이나 인도적 윤리적 관점에서의 최소한의 비판적 사고마저 전무한 변태적 전체주의 사회의 집단 광기가 단 두발의 핵폭탄으로 조용해졌다는 것이 놀랍다.

[HW Park @HWPark17]

@rockfish31 일본이 사랑하는 사무라이와 전국시대 인물들을 볼 때마다 느끼는 한국인의 감정을 조금은 이해하게 되었습니까? https://t.co/FTyQI1wX3R

[연합뉴스 @yonhaptweet]

[아시안게임] 대한체육회, 선수촌 '도요토미 공연' 관련 조직위에 항의
https://t.co/Yn4ixXPlNT

[HW Park @HWPark17]

https://t.co/lUEJRgMvmC
open jev의 초식대로 DGX TP4 GLM5.3 flash에 logit 판독기를 달아 300ms 의 속도를 실증했다. 인코더 개조도, 별도 head 부착도, 파인튜닝도 없다. 그저 프롬프트 + 토큰을 극단적으로 줄인것

[「」kenrikodaka.as @kenrikodaka]

いよいよやばいやつ。「ダーツの耳」（仮）。こんなことが、本当に見たままに感じられるなんて。まじで奇跡。　#即錯フェス #無神経実験38類

[HW Park @HWPark17]

안녕하세요 불가촉 AI 천민입니다.

[HW Park @HWPark17]

전하는 플러스와 마이너스로 상쇄되지만 질량은 계속 쌓이고 쌓여 아무리 작은 중력이라도 우주 반대편 끝까지 퍼져나간다. 음의 질량은 왜 존재하지 않을까? 미학적으로는 왠지 구멍이 있다.

[HW Park @HWPark17]

전자기력이 중력보다 강하다는 것은 어디까지나 플랑크 질량 (22ug) 이하에서의 이야기. 기본입자의 질량이 이에 비해 터무니 없이 가벼운 덕에 은하도 지적생명체도 존재하게 되었다.

[Wikingenieria @Wikingenieria]

Humor que solo los ingenieros pillamos

[HW Park @HWPark17]

DGX spark의 발열관리가 문제가 되는 지점은 블로어팬이 독립제어 방식이라 OS에서 RPM을 읽을수 없는 것이다. 스로틀링 전에 온도는 아직 일정하지만 팬이 과부하 중인 상황을 미리 파악할수가 없다. 안정적 서빙을 위해 GPU cap은 필수

[HW Park @HWPark17]

@MiaAI_lab topology?

[HW Park @HWPark17]

@eiaserinnys 애초에 임베딩 BERT와 비슷한 구조일 가능성이 높습니다