Ricardo Pacheco

Coding for a living since 1990, and currently in Java & C#. MBA UDLA-P, IIS ITESM-Mty

[Elon Musk @elonmusk]

Grok Build V1.0 is now released. Try it out!

https://t.co/v7TKF3kXL7

[X Freeze @XFreeze]

https://t.co/Ugkjhtwulb

[Guillermo Casaus @_guillecasaus]

🚨 Ahora puedes convertir cualquier libro en una skill de Claude.

Normalmente, utilizar un libro completo como contexto puede consumir cientos de miles de tokens antes de hacer una sola pregunta.

Alguien acaba de crear una herramienta open-source para solucionar este problema.

Se llama book-to-skill y transforma cualquier libro en una skill que Claude puede consultar capítulo por capítulo.

Esto es lo que genera:

→ Un archivo SKILL.md con los conceptos principales y el índice completo
→ Un archivo independiente por cada capítulo
→ Un glosario con los términos clave y sus referencias
→ Un documento con todas las técnicas, patrones y algoritmos del libro
→ Una guía rápida con reglas y tablas de decisión

Lo más interesante:

Los capítulos solo se cargan cuando realmente los necesitas.

Puedes instalar 20 libros y Claude únicamente consume tokens del capítulo que estás consultando en ese momento.

Un libro de 400 páginas puede requerir alrededor de 200.000 tokens si lo cargas completo.

Con este sistema, cada respuesta se basa directamente en el contenido del libro y reduces gran parte de las alucinaciones.

Es completamente gratuito y open-source.

Te dejo el repo en comentarios 👇

[Don Quijote de la IA @IA_Quijote]

🚨 Guarda esta clase magistral de 1 hora.

Se llama “How to Speak” y durante más de 40 años fue una de las charlas más legendarias del MIT.

Patrick Henry Winston, profesor del MIT, tenía una idea muy simple, tu forma de comunicar puede cambiar tu vida.

[Libros y escritores @Librosyescritor]

DOCUMENTAL COMPLETO | Carl Gustav Jung no buscaba respuestas fáciles. Quería descender a las zonas más ocultas de la mente humana: allí donde viven los miedos, los símbolos, los sueños y todo aquello que preferimos no mirar de frente.

A través de su vida y su obra, desarrolló una de las visiones más profundas sobre la identidad: la idea de que no somos solo lo que mostramos al mundo, sino también aquello que reprimimos, negamos o desconocemos de nosotros mismos.

Más que una explicación, es una invitación a enfrentarte a una pregunta inquietante: ¿quién eres realmente cuando nadie te observa?

#CarlGustavJung #psicologia #documental

[Libros y escritores @Librosyescritor]

DOCUMENTAL COMPLETO | Este es el filósofo al que llamaron hereje y de quien Albert Einstein dijo: «Creo en el Dios de Spinoza»

Baruch Spinoza fue condenado al silencio. Excomulgado por su propia comunidad. Tachado de blasfemo y perseguido por sus ideas. Pero no se extinguió. Se volvió eterno.

Descubre la historia del hombre que redefinió a Dios, que desafió la ortodoxia religiosa y cambió la historia del pensamiento sin levantar la voz.

[Wayen @wayen_ai]

香港三所顶尖大学（港大、港中文、港城大）联合搞了个开放学术图书平台，历史、哲学、法律、人类学……覆盖挺广，PDF 直接下，不用注册，完全免费。

知识不该被锁在付费墙后面。对自学者、研究者、或者单纯想读点严肃内容的人来说，这是个实在的资源。

🔗 https://t.co/YMCvYe4ymS

[Miguel Ángel | GptZone @MiguelMaestroIA]

Amazon Prime cuesta $139 al año.

Según J.P. Morgan, te da $1,430 en beneficios.

Pero la mayoría solo usa dos: envío y Prime Video.

El resto, lo pierde.

Aquí tienes 12 beneficios de Prime que casi nadie activa, incluidos los 3 que se esfuman cada 30 días:

[José Mario @JoseMarioMX]

Un padre se negó a firmar el pasaporte de sus hijas para que viajaran con su madre a Nueva York. Dijo que visitar a un tío no era “sano esparcimiento”, que volar era peligroso y que todo respondía al capricho de un familiar. Pero las niñas fueron escuchadas: querían viajar. No había una sola prueba de que estuvieran en riesgo.

El caso llegó a la @SCJN y dejó una definición enorme: la patria potestad no es un derecho de veto ni una escritura de propiedad sobre los hijos. La familia también se construye con abuelos, tíos, historias y afectos. Viajar puede fortalecer la identidad, el esparcimiento y la formación cultural. La negativa de un padre, por sí sola, no puede cerrarles el mundo.

La Corte autorizó sustituir su consentimiento, pero exigió fechas, domicilio, comunicación y garantías de regreso para evitar una sustracción internacional. No eligió entre la madre y el padre: eligió a las niñas. Ésa es la lección brutal del caso: proteger a un hijo no siempre significa impedirle partir; a veces significa dejarlo conocer el mundo y asegurarse de que pueda volver.

Aquí puedes consultar la sentencia que generó este caso: https://t.co/ZxKurENa8U

[Kirk Borne @KirkDBorne]

"Forecasting: Principles and Practice" (3rd edition)

Read the complete book online here: https://t.co/T0eKbEZUfB
-or-
Get a print copy here: https://t.co/wKiZ7w0Kyl
—————
#DataScience #PredictiveModeling #PredictiveAnalytics #MachineLearning #DataScientist

[Snack Reel @SnackReel]

A restaurant chef’s trick

[Rahul @sairahul1]

Anthropic pays $750,000+ a year for engineers who can build LLMs from scratch.

Not how to prompt them.
Not how to fine-tune them.
Not how to build RAG pipelines.

But how to build them from scratch.

This 2-hour Stanford lecture teaches you everything.

Scaling laws.
Data collection.
Architecture design.
Post-training alignment.

Free. From Stanford.

Watch first. Then read this.

The lecture is the theory.

And this article shows you how to actually build it (with code) ↓

[Cloudflare @Cloudflare]

Cloudflare's security team spent the last few weeks testing Anthropic's Mythos against fifty of our own repositories. What we learned about offensive AI, why faster patching is the wrong reaction, and what the architecture around vulnerabilities has to look like next. https://t.co/RSrRtIhgaV

[Brian Roemmele @BrianRoemmele]

NVIDIA just unleashed SANA-WM and it’s an absolute MONSTER for the future of open source AI!

A blazing-fast 2.6B-parameter open-source world model that doesn’t just generate video… it creates controllable, physics-rich, high-fidelity worlds on demand.
Why this is insanely powerful:

• One image + text prompt + 6-DoF camera trajectory → generates 720p videos up to 60 seconds long with buttery-smooth, precisely controlled camera movement. You’re not just watching, you’re piloting the simulation.
• Runs locally on a single consumer GPU (RTX 5090 level) thanks to heavy distillation + NVFP4 quantization. Full 60-second clip denoised in ~34 seconds. No massive clusters required.
• 36× higher throughput than previous open models while rivaling (or beating) closed industrial giants in visual quality and consistency.
• Trained lightning-fast: ~213K public videos in just 15 days on 64 H100s.
• Built with next-level tech: Hybrid Linear Attention, dual-branch camera control, two-stage pipeline, and rock-solid metric-scale pose understanding.

This is a true open world model, the foundation for embodied AI, robotics, autonomous systems, and hyper-realistic simulations that can run anywhere.

Project: https://t.co/GBg4F8FWCp
GitHub: https://t.co/Q66j2UhofN
Paper: https://t.co/ktogIjtFdO

At our Zero-Human Company, we’re already running SANA-WM live in our core pipelines. It’s supercharging autonomous agent training, generating unlimited synthetic training data, and powering full end-to-end simulation loops, zero humans in the loop.

The speed and control let us test thousands of edge-case scenarios overnight, iterate at lightspeed, and push our fully autonomous operations further than ever before.

This is the kind of breakthrough that turns science fiction into daily reality. World models just leveled up — hard.

The age of personal, local, controllable universes is here.

[Kirill @kirillk_web3]

KIMI FOUNDER JUST DROPPED A 40-MINUTE MASTERCLASS.

The exact architecture behind a $20B valuation — there's no faster way to learn how to build AI agents right now.

Bookmark this for the weekend.

40 minutes. zero fluff. from the person who built it.

Optimization → Linear Attention → Sub-Agents → Open Systems → Cash

[Jason Zhu @GoSailGlobal]

Stanford CS336 上，Tatsu 讲了一节 LLM 架构课，把过去 3 年所有主流 LLM 拆开，看它们的共通模板

结论挺爆：90% 的架构选择已经收敛，你随便挑一个开源大模型，它跟其他模型在这些维度上几乎一模一样

讲师的原话
- 2024 年大家都在 cosplay Llama2
- 2025 年的主题是「怎么训得不崩」
- 2026 年的主题是「怎么扛住长上下文」

下面是 2026 年开源 LLM 的标准模板 你训自己的模型可以直接抄

【架构层 已经收敛的 7 件事】
1）Layer Norm 挪出残差流（pre-norm）
原版 Transformer 把 LN 放在残差里 几乎所有现代模型都挪到外面
原因：keep your residual stream clean 梯度反传更稳

2）RMS Norm 替代 LayerNorm
LayerNorm 的减均值 + 加 bias 那部分实际没怎么帮上忙
丢掉���后 flops 只省 0.17% 但运行时省到 25%
（瓶颈在数据搬运 计算反而次要）

3）所有 bias 项全删
跟 RMS Norm 一个道理 系统层省内存搬运

4）激活函数用 SwiGLU 或 GeGLU
gated linear unit 几乎所有现代模型都用
Llama 系 / Qwen / Mistral 用 SwiGLU
Google 系（Gemma / T5）用 GeGLU
区别极小 选哪个都行

5）位置编码用 RoPE
2024 年之后基本统一了
原理：把每对维度按位置旋转一个角度 让 inner product 只依赖相对位置

6）Transformer block 串联（不是并联）
GPT-J / Palm 试过并联 现在基本被放弃
串联的实现优化得太好了 并联省的那点系统开销不值得损失表达力

7）Layer norm 可以「撒」
哪儿不稳就在哪儿加 LN
attention 之前能加 之后能加 两边都加（double norm）也可以
现代模型很多这样做

【超参数 已经收敛的 5 个数】
1）feedforward 维度 / hidden 维度
- 非 GLU 模型：4 倍
- GLU 模型：8/3 ≈ 2.67 倍（因为 GLU 多一组矩阵 要保持总参数量）
- Llama 系：3.5 倍
- T5 1.0 试过 64 倍 后来 T5 1.1 改回标准 别学

2）head 数 × head 维度 ≈ hidden 维度
几乎所有模型都遵守 T5 是为数不多的例外

3）模型纵横比（hidden / 层数）≈ 100
太深 pipeline parallel 难做
太宽 表达力受限
100 这个数字是系统约束 + 表达力的平衡点

4）vocab size
单语模型：30K 左右（早期 GPT-2 那种）
多语 / 通用模型：100K-200K（GPT-4 / Llama 3 / Gemma 都在这个范围）
现代基本都是后者

5）weight decay
仍��普遍使用
但研究发现它在 LLM 里干的事其实是优化器干预 让你最终能收敛到更深的最优点
跟你想的「防过拟合」没什么关系
所以别因为「单 epoch 不会过拟合」就把它关掉

【稳定性 三个救命 trick】
训练大模型最怕中途 loss 突然飙升 然后 NaN 全军覆没
现代模型用三个 trick 防这件事

1）Z-loss
output softmax 的 normalizer 容易爆
加一个 (log Z)² 的正则项 让 Z 始终接近 1
DCLM / Olmo 都用

2）QK norm
attention 的 Q 和 K 在矩阵乘之前各加一个 LN
让 softmax 的输入永远是单位尺度
multimodal 圈先用起来 现在所有大模型都加

3）Logit soft cap（仅 Google 系）
attention logit 用 tanh 硬封顶
Gemma 2/3/4 都在用 但会损失一点���性能 慎用

【Attention 两个新趋势】
1）GQA（Grouped Query Attention）几乎统一
原版 multi-head 推理时 KV cache 会让算术强度崩到 1/h
GQA 共享 K 和 V 但保留多个 Q
表达力几乎不损失 推理成本砍掉 80%
现在所有要做生产部署的大模型 没有不用 GQA 的

2）局部 + 全局 attention 交替
处理长上下文的新方式
Cohere Command A 起头 现在 Llama 4 / Gemma 4 / Olmo 3 全在用
比如每 4 层有 1 层 full attention 其他 3 层是 sliding window 只看附近的 token
比纯 SSM 更稳 比纯 full attention 便宜得多
（Qwen 3.5 做了变体 把 sliding window 那 3 层换成 SSM）

收尾一句
如果你正在训自己的 LLM，上面这一套就是 2026 年的「默认配置」 不需要重新发明，直接抄

如果你只是想看懂 GitHub 上那些 modeling_xxx.py
这一份足够你不再被术语吓住

[Massimo @Rainmaker1973]

Why some perfumes last longer than others.

[Marta Peirano @minipetite]

Me sumo a la advertencia: Sci-Hub ha pirateado más de 85 millones de artículos de investigación y ahora encima han añadido un bot que responde preguntas utilizando artículos completos y recientes.
Esto es un escándalo. Dejo el enlace abajo para que sepas cómo evitarlo.

[CopyRebeldia @CopyRebeldia]

Un ingeniero acaba de humillar a toda la industria de defensa.

Publicó en GitHub un radar phased array de 10.5 GHz capaz de trackear objetivos a 20 km. Gratis. Open source. Documentado hasta el último tornillo.

Lo que incluye:
→ Esquemas PCB completos + archivos de producción
→ Código FPGA (Verilog) para pulse compression, Doppler, CFAR
→ Firmware STM32F746
→ GUI en Python con mapa integrado
→ Integración GPS + IMU para corrección de posición
→ Dos versiones: 3 km y 20 km de alcance
→ Beam steering electrónico ±45°

17.8k estrellas. 4.2k forks.

Lockheed y Raytheon cobran millones por sistemas equivalentes.

Se llama AERIS-10.

[Luca Rossi ꩜ @lucaronin]

Introducing Tolaria! 💧

Today I am releasing a macOS desktop app for managing markdown knowledge bases, and helping both AI and humans operate them.

It’s free and open source, and always will be.

I have been working on it for three months, and I now use it to run my life and work. I personally have a massive workspace of 10,000 notes — the result of 6 years of Refactoring — which I now operate on Tolaria.

Tolaria is the main collaboration surface with my AI agents: they create new notes there, connect them to what exists, and edit existing ones. Everything is easy to understand for them, because it’s just markdown files. In a way, it’s my implementation of @karpathy's LLM wiki.

Tolaria is also the biggest experiment I have ever run about writing software with AI:

• 2000 commits
• 100K+ lines of code
• 3000+ tests / 85% coverage
• 9.9/10 code health
• 70+ architecture decision records

I am releasing it open source also to use it as a living artifact of how I do AI coding, so you can inspect at any time things like how I write docs, what's in my AGENTS file, what hooks do I run, and so on. You can find it below:

• Newsletter announcement: https://t.co/NFzPASLrNK
• Website: https://t.co/R9qTFAeQv9
• Github repo: https://t.co/ck9gfwpzZG

Let me know your thoughts!