GPT-6 Astra était allé plus loin dans Minecraft qu'aucune autre IA avant lui.
Des milliers de personnes regardaient le direct. Et puis un creeper est arrivé.
Petit rappel pour ceux qui n'y jouent pas : un creeper, c'est le monstre vert qui s'approche en silence et explose contre vous.
Avant ça, Astra avait vraiment bien joué. Il avait monté une ferme à blazes semi-automatique, récupéré 6 bâtons de blaze, trouvé une forêt déformée, tué plus de 6 endermen et récupéré 3 perles. Du très bon jeu, patient, avec un plan.
Puis il a rangé tout son butin dans un coffre. Le creeper a explosé le coffre et son lit en même temps. Tout est parti.
Ce qu'il a écrit ensuite pour lui-même est resté tel quel, espaces manquants compris :
"TOUJOURS GARDER LES OBJETS CRITIQUES surSoi ; nejamaisplusstockerdansuncoffrenongardé."
D'après Vals AI, qui diffusait la session, le modèle a passé les heures suivantes à ne plus rien faire d'autre que cultiver des pommes de terre. Les spectateurs se sont mis à râler dans le chat en lui demandant d'accélérer.
Il est aussi devenu méfiant envers tout ce qui est vert et vertical. Il s'est mis à confondre les cannes à sucre avec des creepers.
Donc, après un échec coûteux, le système s'écrit une règle, puis il l'applique tellement fort qu'il ne fait plus rien. Ça porte un nom chez les gens qui construisent des agents : la surcorrection. Et c'est un vrai problème, pas une anecdote.
Toute la semaine on s'est demandé si un essaim d'agents pouvait prendre le contrôle d'Internet en 6 à 12 mois.
Celui-là a passé son après-midi à planter des patates parce qu'un truc vert lui avait fait peur.