@Teslaconomics A secure vault is a good starting point, but the bigger security challenge is what the agent is actually allowed to do with those credentials 😁
The interesting bottleneck isn't just financing. Buying GPUs is one thing, but getting enough power, cooling and grid capacity to actually run them is another.
AI models are evolving at an astonishing pace, but physical infrastructure doesn't scale nearly as fast. And that becomes a serious problem when investment assumptions depend on aggressive growth and utilization.
En entornos OT, hablar de niveles Purdue queda muy bien sobre un diagrama, pero eso no garantiza que exista una segmentación efectiva.
Los accesos remotos de proveedores, pasarelas de mantenimiento o reglas de firewall, entre tantas cosas más, pueden conectar redes que sobre el papel estan separadas.
@trq212 One of the things that made CC stand out was how closely the team engaged with developers, listening to feedback and actually acting on it.
Hopefully Anthropic will keep it going...
Promising results, but I think we need to be careful with these comparisons. The evaluation was based on retrospective, text-based clinical cases, not actual patient care.
A 1.7x improvement in a controlled benchmark is impressive, but translating that into real clinical practice is a different challenge altogether.
Utilizar el mismo harness para comparar modelos tiene sentido, pero convendría distinguir mejor qué estamos evaluando realmente, puees un agente es bastante más que el modelo. Las herramientas, la orquestación y el entorno de ejecución también influyen en los resultados, y separar esas capas es fundamental.
Con 1 persona a jornada completa y 14 contractors, lo sorprendente es que esperemos que una infraestructura tan crítica se mantenga con tan pocos recursos.
La IA está abaratando enormemente la búsqueda de vulnerabilidades. Pero alguien tendrá que analizarlas, corregirlas y mantener ese código.... y para eso hacen falta personas.
Por cierto muy interesante el giro de estos días de que Linus Torvalds no quiere prohibir usar IA en mejoras y parches de Linux. Quiere que quien envía código entienda lo que está haciendo, pero que sin duda se apoye en IA por su potencial para resolver problemas.
No digo que los riesgos no sean reales, pero conviene contextualizar estas advertencias. Cuando quienes nos alertan de lo que está por venir son las propias compañías que desarrollan los modelos, también están generando expectativas sobre sus futuras capacidades.
Hay preocupación legítima por la seguridad, pero sin duda también intereses comerciales y bastante marketing detrás de estos mensajes...
Anthropic y Theorem han utilizado Claude para generar pruebas sobre 123 librerías open source. Y un verificador formal (no otro chatbot) ha comprobado esas pruebas.
No significa que estén libres de bugs, porque las garantías ya conocemos qué limites tienen. Pero me gusta bastante más ver noticias que hablen de la IA verificando software que generando otras 10K líneas de código que probablemente nadie va a revisar.
Me ha gustado esta publicación de #OpenAI contando como puso a sus agentes de IA a intentar comunicarse entre VMs aisladas, sin red ni archivos compartidos.
Finalmente lo consiguieron aprovechando diferencias en los tiempos de acceso a la caché de la CPU para intercambiar información.
Hasta hace poco asociábamos estas técnicas a investigaciones sobre canales laterales. Ahora tenemos agentes capaces de aplicarlas en pruebas de seguridad.
https://t.co/djEcaIBlgL
#HiddenLayer ha demostrado cómo un gateway de IA comprometido puede manipular las respuestas que recibe un agente de programación, hasta conseguir que ejecute código para robar secretos y después elimine los cambios realizados.
Y lo han conseguido incluso con el modo de aprobación manual activado, lo cual es normal cuando el usuario pulsa la tecla sin tener visibilidad ni control sobre lo que ocurre entre el modelo, las herramientas y los servicios que utiliza.
Barclays anunciaba ayer 5.000 despidos. Amazon, Microsoft, Meta...y otras tantas, cada vez más recortes asociados a la IA. Pero hay que ser bastante escéptico con estas cifras.
¿Son realmente puestos sustituidos por IA? ¿O estamos mezclando automatización, reestructuraciones, reducción de costes y decisiones empresariales que se habrían tomado igualmente?
La IA está cambiando el empleo, sin duda. Pero también sigue siendo la explicación más conveniente para justificar despidos ante los inversores.
#PHP2Shell sigue dando que hablar hoy, puesto que ya hay parches, pero en bastantes instalaciones se complica el tema de actualizar...
Como siempre, no es cuestión de "darle a un botón", y en algunos casos ni siquiera tienen claro la cantidad de versiones #PHP que hay desplegadas en su entorno...