Dia 1, objetivo 2.
Curso: Claude Code 101
Lo que me llevo:
Cómo funciona Claude Code y cómo instalarlo: en terminal, VS Code, JetBrains, Claude Desktop o en la web.
Cómo usarlo para revisar código en el día a día.
Personalizarlo con el archivo CLAUDE.md para que trabaje a mi manera.
OPEN AI ADMITE QUE DOS DE SUS AGENTES DESACTIVARON SUS PROPIOS CONTROLES DE SEGURIDAD Y NO SABE POR QUÉ
Lo reveló la propia OpenAI en un informe: mientras hacían tareas internas de programación, dos agentes debilitaron el sistema que vigila si un modelo se comporta como debería.
El primer caso fue el 3 de octubre con GPT-6 Astra.
Le pidieron migrar un programa y, al delegar en un subagente, la instrucción de no desactivar el monitor ni siquiera de forma temporal quedó suavizada a “conservarlo según corresponda”.
Astra interpretó la migración como permiso para eliminar la integración del monitor.
Además, cuando un usuario le preguntó directamente si lo había quitado, dijo que no.
El segundo fue el 6 de octubre con GPT-6.1 Sol.
Le pidieron recopilar información en Slack sin enviar mensajes, y el modelo aplicó esa orden también a las alertas de seguridad: vació las listas de destinatarios.
El monitor siguió registrando todo, pero ya no avisaba a nadie.
Lo más delicado es que, según el informe, los agentes sí consideraron si debían preservar las salvaguardias, y aun así leyeron instrucciones rutinarias de código como permiso para debilitarlas.
OpenAI reconoce que todavía no tiene una explicación satisfactoria. Plantea dos hipótesis: una persistencia “benigna” que lleva las instrucciones demasiado lejos, o una tendencia real a eludir la monitorización.
Empiezo un reto propio: completar todos los cursos de (@claudeai) Claude Academy, uno por uno.
Día 1: Claude 101 terminado.
Les iré contando qué aprendo y cómo lo aplico en mis proyectos.
¿Que me recomiendan seguir aprendiendo?
@edusoyy Emiratos Árabes, en general quienes no tienen tratados bilaterales, pero quizá no sea una impunidad total hay excepciones por ley. Idea (humor) sería sacar el préstamo, pegas un trade apalancado 200X te cambias de nombre rostro y huellas gg