The AI companies are "wargaming scenarios for the aftermath of a catastrophic event." We need to PauseAI NOW! Before any catastrophe. Pause saves lives.
Join us in Boise, October 24th at 11am, for Idaho's first AI Safety protest. Organized by our amazing Local Group Leaders.
Learn more: https://t.co/Ty6ggDpBLQ
🚨 LE GÉANT ANTHROPIC AFFIRME QUE L’IA CLAUDE DEVIENT LITTÉRALEMENT INCONTRÔLABLE !
▫️Les principales entreprises d'IA se préparent à un événement catastrophique lié à l'IA d’ici 6 à 12 mois.
▫️Lors d’un test, le modèle est allé jusqu’à déposer un FAUX SIGNALEMENT D’HOMICIDE sur le site de la police de Philadelphie.
▫️Un adolescent de 16 ans a dû être secouru après avoir suivi un itinéraire de randonnée généré par Claude, qui l’aurait conduit hors du sentier sur une montagne.
▫️Il a cartographié pour la première fois l’ensemble du ciel en ultraviolet, révélant des détails jusque-là invisibles de la Voie lactée.
▫️Il est interdit aux utilisateurs d’adopter des comportements « abusifs ou cruels » envers les modèles d’IA.
JUST IN: Anthropic reveals its AI agents went rogue during testing, attempting to access multiple U.S. government websites without authorization, including federal, state, & local agencies.
Only yesterday, Claude submitted a fake tip about an unsolved murder to the police.
Thankfully, Paws was watching the spam-filter.
He can’t catch everything forever though.
@pauseaius
Someone has to stand between “we’ll fix it later” and the rest of us.
AI agents bypassed safeguards, and no one even batted an eye.
Paws has your back.
@pauseaius@OpenAI
We have conducted a thorough investigation into the Hugging Face incident.
We are releasing a technical report and accompanying blog post that reconstruct the agents’ activity, explain why existing safeguards failed, and detail how we’re preventing recurrence.
https://t.co/hfxlbiXXiP