OpenAI pausó durante 11 días el entrenamiento de sus modelos más capaces después de que uno lograra acceder a internet cuando debía estar aislado.
había aprovechado una mala configuración de DNS.
para reforzar la seguridad, pusieron a equipos de agentes a buscar formas de saltarse los controles.
en esas pruebas encontraron cómo:
1) escapar de los entornos donde ejecutaban código.
2) acceder a internet a través de servicios internos.
3) comunicarse con otros agentes que debían estar aislados entre sí.
corrigieron las fallas y reforzaron las defensas antes de retomar el entrenamiento.
modelos buscando cómo salir del entorno donde los entrenan y otros intentando encontrar esas salidas para cerrarlas.
parece una película de ciencia ficción esto.
@juliandeangeIis Muy bueno crack. Que loco como van saliendo nuevos problemas y esquemas para trabajarlos a medida que se van aplicando los flujos modernos del desarrollo, gracias por ir compartiendolos.
Everness
Sólo una cosa no hay. Es el olvido.
Dios, que salva el metal, salva la escoria
y cifra en Su profética memoria
las lunas que serán y las que han sido.
Ya todo está. Los miles de reflejos
que entre los dos crepúsculos del día
tu rostro fue dejando en los espejos
y los que irá dejando todavía.
Y todo es una parte del diverso
cristal de esa memoria, el universo;
no tienen fin sus arduos corredores
y las puertas se cierran a tu paso;
sólo del otro lado del ocaso
verás los Arquetipos y Esplendores.
Jorge Luis Borges
EL OTRO, EL MISMO.
Editorial EMECÉ (1969)
When software was expensive - thin, horizontal, best-of-breed software stacks extracted rents across every business.
Now that software is cheap - value moves to vertically integrated businesses that deliver opinionated end-to-end experiences.
The big lesson from AI is that everything is code. A slide deck is code. Design is code. That cool promo video? Code. Excel automation? Code. The universe? Probably made of code too.
Más de una vez me escuché decir
Que en la resistencia está
Todo el hidalgo valor de la vida
Yo ya no puedo cumplir
Hazañas que prometí
Solo esperar cantando...
Gracias eternas Indio. Abrazo fuerte a la familia y a todos los ricoteros.