Manu Lorente

Ingeniero, builder, homelaber y clouder.

[Manu Lorente @mlorentedev]

@686f6c61 Ya empieza a cansar el nota este, está siendo más coñazo que Bill Gates con Microsoft y en una fracción del tiempo

[Manu Lorente @mlorentedev]

@user_nuria Aún así sigue siendo un riesgo, un vault remoto o un secrets-manager es lo único que puede mitigar tanto desarrollo con IA

[Manu Lorente @mlorentedev]

@Rafael_Casuso Igual que el cerrojazo que hace Microsoft en las big corporates. Estás prácticamente obligado a integrarlo en tus flujos.

[Manu Lorente @mlorentedev]

@fenris1234 Guillermo, si es para la variedad de servicios de AWS Localstack es insuperable.
Si es solo para S3, Minio es un bucket api-compatible con s3 y va de lujo para un entorno local o homelab.

[Manu Lorente @mlorentedev]

😱😱

no es coña que hace unos años tuve una pesadilla así

[Charles Guillemet @P3b7_]

🚨Taiko drained for ~$1.7M. Root cause: a private key committed to a public GitHub repo.

enclave-key.pem, the RSA key used to sign all of Taiko's SGX enclaves, sat in the public taikoxyz/raiko repo. That key is the whole trust model.

The attacker derived MrSigner from the public key, signed their own malicious enclave with the leaked key, and registered as a trusted prover. The L1 contracts trust any enclave whose MrSigner matches. It matched.

From there: forged SGX attestations on fake L2 blocks, processMessage() sets the message to RETRIABLE, retryMessage() does zero proof verification, funds leave.

No key theft. No social engineering. No SGX exploit. Just a .pem in a public repo.

Good opportunity to recall that SGX is broken. But here, nobody even had to break it.

It's just yet another key management failure. The whole system was only ever as strong as the secrecy of one RSA key, and that secrecy depended on a human not running git add . on the wrong folder. AI greps every commit of every public repo at machine speed. Assume that is already happening.

The only real exit: a verifier that checks a succinct validity proof of the L2 state transition. It trusts no enclave, no MrSigner, no operator discipline. It checks the math. In that world this exact attack becomes cryptographically impossible rather than operationally unlikely, because there is no privileged key whose leak forges the entire system. There is just a proof.

Stay safe.

[Manu Lorente @mlorentedev]

@ClaudeDevs I just noticed it, thank you buddies

[Manu Lorente @mlorentedev]

Pocloro

[Polymarket @Polymarket]

JUST IN: The AI “tokenmaxxing” era is ending as companies tell employees to cut back amid soaring usage costs.

[Manu Lorente @mlorentedev]

@Franc0Fernand0 reading habit

[Manu Lorente @mlorentedev]

Un compañero me decía que era sano ir dejando TODO y FIXME de manera controlada así se acumulaban tareas para cuando hubiese poca carga, así nos centramos en lo importante ahora.

Al principio me chocó un poco pero ahora con la IA le doy la razón.

[Alan @bitforth]

Hay una frasecita que dice “la IA saca codigo rápido, pero 6 meses después llegan los bugs, los agujeros de seguridad y la deuda técnica”

Como si el código escrito a mano por humanos iluminados no hubiera dejado cagaderos monumentales desde antes de que existiera ChatGPT o Stackoverflow.

Lo único que me dice esa posición es que nunca han trabajado en un producto con tracción real, o que su participación fue tan trivial que jamás tuvieron que vivir con las consecuencias de sus propias decisiones.

[Alan @bitforth]

Almost as if the role of a manager is to provide context, define success criteria, and help people make better decisions when they have limited visibility...

If you use AI like you'd manage a competent senior engineer or analyst with low context, they become dramatically more useful.

It's literally THE job of a manager

[Adrián Sáez @adriaansaeezdev]

Parece que tenemos ganador 😮‍💨

Contento no solo de ganar, sino de haberlo hecho con gente como @mlorentedev y @lam_jesus19

Muchas gracias al equipo de NaN y a @barckcode no solo por organizar este evento, sino por mantener y cuidar la comunidad tan chula que se está formando❤️

[Manu Lorente @mlorentedev]

@user_nuria @adriaansaeezdev @lam_jesus19 @barckcode Gracias!! Vuestro proyecto era top!! Me encantó la puesta en escena

[Cristian Córdova 🐧 @barckcode]

Enorme trabajo gente 👏🏾

Aquí tenemos ya el equipo ganador de la primera hackaton de NaN.

Como dije mis dieses a todos por participar y mi enhorabuena a los ganadores 🔥

[Manu Lorente @mlorentedev]

@JRank293407 @barckcode Abiertos los tienes

[Manu Lorente @mlorentedev]

@javilop Yo creo que mejor una petafactoria, a ver si llega antes o después que la vacuna nacional del covid.

[Cristian Córdova 🐧 @barckcode]

🔥 Os voy a compartir los 4 proyectos que han salido de la primera hackaton de NaN porque la verdad están súper bien y se han hecho en menos de una semana.

El primero que se presentó fue NaN Video Pipeline. Un proyecto que genera vídeos utilizando HyperFrames + FFmpeg + varios modelos de NaN:

- Qwen para el guión
- Gemma para la visión
- Kokoro para darle voz
- Whisper para los subtítulos

Os dejo el vídeo que nos dejaron de ejemplo que de hecho explica qué es NaN y que a mi me encantó.

¡Se viene hilo!
1/5

[Manu Lorente @mlorentedev]

@JRank293407 @barckcode lo que necesites, está el repo abierto. Pero ojo que una semana dá para lo que dá: https://t.co/KtezkUKQfp

[Diario de un picateclas @devruso]

silencio. el pitoniso va a hablar:

En la curva de Everett Rogers, los LLMs (y la IA en general) entraron en la fase "early adopters" hace 2 o 3 años. El dinero VC empezó a fluir y parecía no tener limite. El salto de gepeto2 a gepeto3 y de gepeto3 a gepeto4 fueron saltos bastante grandes.

Todas las empresas (y AI-bros) apostaban porque esos saltos evolutivos iban a seguir dándose y por eso no escatimaban en gastos, llegando a gastar decenas de mil-millones (OpenAI de momento se ha fundido unos ~$60MM). Es decir, la "carrera" consistía en ignorar el sangrado masivo de gasto porque el objetivo era llegar a la "AGI", "inteligencia humana" o cualquier otra cosa que cada uno entendiese como meta / objetivo final.

La premisa era que, una vez llegados a ese objetivo, todos los gastos se iban a recuperar... Obviamente, si "tuviéramos" ("nosotros", las empresas detrás de los modelos) una AGI que fuese capaz de inventar todo, podríamos crear productos nuevos (medicamentos, tecnología radicalmente nueva, etc...) que podríamos vender y recuperar toda la inversión / gastos.

A medida que los LLMs han ido entrando en la fase de "early majority", hemos empezado a comprender que a la AGI no íbamos a llegar (porque los modelos tienen un limite inherente en su funcionamiento; da igual como de grande sea el training set o cuantas GPUs usemos para entrenarlos, simplemente no *entienden*, solo repiten como loros). Así que la carrera se está modificando de "a ver quien llega primero a la AGI" a "a ver quien deja de desangrarse y puede continuar investigando".

Alguno limitan el número de tokens, otros limitan el número de "mensajes". Lo mismo da. La estrategia de verter dinero VC sin fin no es viable y está empezando a notarse.

En el futuro cercano, cuando entremos en el "late majority", va a ser muy interesante ver como seguirá cambiando la estrategia de las empresas, ya que éstas van a empezar a tener el siguiente problema:

Los modelos cada vez se optimizan mejor (ej LLaMa 2 usa 13B parámetros para llegar mas o menos al mismo nivel que LLaMa 1 65B), lo cual significa que se necesita cada vez menos hardware para obtener el mismo nivel.
Por otro lado, el hardware sigue mejorando y abaratándose (hoy en día una tarjeta gráfica con 4gb de RAM se considera low end y cuesta ~300€; hace 5-7 años algo parecido era mid-high end y costaba el doble).
Dentro de pocos años será posible ejecutar un modelo mas que decente en un hardware "de andar por casa".

Las empresas tendrán que encontrar alguna manera (funcionalidad, ventaja, X) de atraer a los usuarios (de pago). Si no la pueden encontrar, la gente simplemente no comprará su servicio y ejecutará los modelos en sus propios dispositivos (puede que incluso inconscientemente; Apple está dando los primeros pasos en esa dirección; mientras "los demás" están integrándose con APIs de terceros, Apple está metiendo sus propios modelos en sus dispositivos y la gente está empezando a usar la IA "local" sin siquiera darse cuenta).

[Manu Lorente @mlorentedev]

@antonioleivag Llevo semanas con el mismo runrun obsesionado pero tengo sentimientos encontrados.

Y si estos modelos cerrados se convierten de facto en el equivalente a los proveedores Cloud privados?

AWS y GCP son caros y tienen alternativas abiertas y aún así siguen siendo el estándard.

[Manu Lorente @mlorentedev]

:(

vuelta al hierro?

[@levelsio @levelsio]

Hetzner just 2.5x'd their prices for US servers

Crazy but understandable as the AI companies are pushing prices of everything up: RAM, HDDs, SSDs, CPUs, GPUs, and even competing with Hetzner for land to build data centers in US!