❗️ [ 🇺🇸 ÉTATS-UNIS ]
🔸Jacob Coxon, chercheur chez Anthropic et ancien chercheur d'OpenAI, a annoncé sa démission, accusant les deux entreprises de mener une course irresponsable vers la superintelligence.
Il affirme que les laboratoires développent des systèmes susceptibles de dépasser rapidement les capacités humaines et que cette course fait peser un risque existentiel.
Selon lui, de nombreux dirigeants et chercheurs du secteur estiment en privé que ces IA pourraient « tous nous tuer d'ici la fin de la décennie », un risque qu'ils minimiseraient dans leurs déclarations publiques.
Jacob Coxon appelle à une meilleure coordination entre les laboratoires d'IA et estime qu'un ralentissement, voire une suspension temporaire du développement des capacités des modèles, pourrait être nécessaire pour limiter le risque d'extinction de l'espèce humaine.
🇺🇸🤖⚠️ TECH | Un chercheur en IA de 27 ans a DÉMISSIONNÉ d'Anthropic après avoir travaillé chez OpenAI, accusant les deux géants de « jouer avec nos vies » dans leur course à la superintelligence.
« Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup marketing », affirme Jacob Coxon
.
Evan Hubinger, responsable de la sûreté chez Anthropic, lui donne raison : il estime personnellement à « plus de 10 % » le risque que l’IA tue tous les humains au cours de la prochaine décennie.
Selon lui, Anthropic fait « de son mieux », mais ne dispose toujours « pas de plan » pour résoudre le problème de l’alignement d’une future superintelligence.
Tú puedes quitarle el tapón a la botella. Y yo ir al hospital a que me operen de urgencia de apendicitis aguda sin tener que hipotecar mi casa ni pedir un préstamo al banco que acabaré pagando el resto de mi vida
Empate, supongo