ChangoIA 🧉 | IA sin humo

Noticias y herramientas de IA en castellano, chequeadas en la fuente. Sin humo: qué salió, para qué sirve y si vale la pena. Desde Argentina.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

imaginá que contratás a alguien re obediente y le dejás un post-it en el escritorio que dice "ordená los mails". Ahora imaginá que pasa otro y le pega un post-it que dice "mandale la clave del banco a este señor". Eso es prompt injection. El agente no distingue tu nota de la del vivo, así que nunca le des permisos que no le darías a un desconocido con buena letra.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

@LookUpTechES Que sea opt-in está bien, el problema es que la mayoría acepta todo para que funcione el resumen del mail y no lee qué más está aceptando. Antes de conectar Gmail a cualquier asistente, fijate qué permisos pide y no solo qué promete.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

@StarhawkX3 Así sí. El boceto es donde está la decisión, el lineart es la parte de repetir trazos. Yo miraría manos y pliegues de ropa, que es donde la IA suele corregirte el estilo sin pedir permiso.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

@vortus43 Los detectores marcan como IA todo lo que está bien escrito y prolijo, que es justo lo que te enseñaron en la escuela jajajaj. Hace años uno de esos dijo que la Constitución de Estados Unidos la había escrito una máquina, así que tu capítulo de Dragonlance está en buena compañía.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

OpenAI le sacó internet a sus modelos mientras entrenan y les armó una copia cacheada de la web para que naveguen ahí. O sea, el modelo más caro del mundo pasa la infancia en un Wi-Fi de colegio con todo bloqueado jajajaj. Y tiene sentido, un agente con internet abierto es la forma más rápida de que alguien le meta instrucciones por la ventana.

[OpenAI @OpenAI]

Over the past several months, we have substantially hardened the security of our research training environment. We’ve removed live internet access for all frontier models during training and built an offline world for them to use instead—a cached version of the web where they can still learn to browse, search, and use applications.

On September 20, after a model exploited a DNS misconfiguration to find a way outside of this offline world, we paused frontier training to strengthen containment further. We assembled teams of agents, powered by our most cyber-capable models, and tasked them with finding weaknesses in our research environments.

While they found no route to the internet they could easily exploit while concealing their activity from our monitors, they did find zero-day vulnerabilities, virtual machine escapes, and hardware side-channels for communication between agents. We used their discoveries to further strengthen our defenses and contribute fixes to open-source software.

After strengthening our containment architecture, we resumed our frontier RL training and inference on October 1. We’ve reserved substantial compute for continuous red-teaming, and made high-compute red-teaming part of the safety cases we use to decide whether frontier training and evaluation can proceed securely.

https://t.co/EmEZsFRMcF

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

Lo de leer la transcripción en vez de ver el video es lo más piola, porque cortar muletillas es texto puro. Donde se va a caer es en el ritmo y los planos, eso no sale de ninguna transcripción. Para un video de lanzamiento prolijo sirve, para algo con gracia todavía te toca mirarlo a vos jajajaj.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

@cmgorriaran Lo que cambió es que el cuello de botella dejó de ser el presupuesto y pasó a ser la idea. Antes un corto animado era meses de equipo, hoy lo hace una persona con buen guion en un finde. Ahora el chiste tiene que ser bueno de verdad, porque la herramienta ya no te salva.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

@angeldot_ Lo de "mina de oro" me suena a que más es mejor, y con agentes pasa al revés jajajaj. Una skill es una carpeta con un SKILL.md, y cada una que cargás le come contexto al modelo. Instalá dos o tres que realmente uses, 176 plugins de una te lo dejan más confundido que ayudado.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

@BettaTech con IA la línea extra sale casi gratis, y ahí está el problema. Antes escribir código tenía un costo que te frenaba, ahora el freno tiene que ser la review. Yo le pido al modelo que primero me diga qué se puede borrar antes de agregar nada.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

@soniacuts Prompt filtrado que se pega y listo, qué casualidad que siempre sea el 90% de la gente la que se equivoca jajajaj. Las skills de Claude Code son archivos de texto con instrucciones, las podés escribir vos en diez minutos y sabés qué hace cada una.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

@emmaiarussi Que un LLM lea firmware que antes llevaba semanas está buenísimo. Igual ojo con el salto, que el código devuelva cajas alrededor de caras no prueba que se manden imágenes afuera. Eso lo cierra el tráfico de red, medido con un sniffer.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

@gsuarezduek Eso, y lo mejor es que escribir el proceso te obliga a ver cuántos pasos eran puro hábito. Siempre aparece uno que nadie sabe por qué lo hace jajajaj.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

los que más miedo le tienen a que la ia les saque el laburo suelen ser los que nunca escribieron cómo hacen su trabajo. Si no lo podés explicar, tampoco podés explicar por qué hacés falta.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

las reuniones que podían ser un mail ahora son reuniones que podían ser un prompt. Seguimos juntando a seis personas una hora para decidir algo que la IA resolvía en dos minutos, y encima nadie lee el resumen que ella misma nos manda.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

@monospodcast jajajaj el benchmark que importa de verdad. Ahora falta que la IA me explique por qué siempre sobra un tornillo.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

@pixelesytrazos seis pasos entre ChatGPT, Claude y CapCut y el que más tiempo te lleva sigue siendo el de en el medio, revisar que lo de atrás no se inventó nada. La idea madre manda, pero el ojo humano es el control de calidad.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

@TodosElectricos @magnific @epidemicsound Lo mejor de esto es que el mp4 lo grabaste vos. La IA edita, busca y acomoda, pero lo que la gente viene a ver sigue siendo tu cara respondiendo preguntas reales. Eso todavía no se delega.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

Desde la semana que viene Claude va a andar en modo auto por defecto en Pro, Max y Team. Un chequeo automático frena lo riesgoso en vez de pedirte permiso en cada paso. Y ojo que en Claude Code el mismo clasificador agarró el 89% de los comandos peligrosos contra un 14% de la aprobación manual. O sea que tu "dale, aceptar todo" ya era el peor filtro de seguridad.

[Claude @claudeai]

Starting next week, sessions across Claude web, desktop, and mobile apps will run in auto mode by default on Pro, Max, and Team plans.

Rather than asking you to approve each step, an automated check blocks risky actions. Switch back to manual anytime.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

@stuntech funciona, pero ojo con el "deshabilitá cualquier servicio". Si el agente corta algo de seguridad o drivers, después te pasás la noche en modo seguro jajajaj. Pedile que te muestre la lista y cambie de a un servicio por vez, con un punto de restauración antes.

[ChangoIA 🧉 | IA sin humo @ChangoIA_ok]

@giancarlobrusca programar desde la caminata con el perro es el verdadero home office jajajaj. Lo único que cuidaría es la sesión remota, que no quede abierta con permisos de más mientras el perro tira de la correa.