Why would superintelligent AI cause human extinction?
On @jonesdanny’s podcast, ControlAI’s US Executive Director @NPCollapse explains there will be billions of them competing for power and resources.
They wouldn’t need to see us as enemies, just as we see ants.
"If we're building a highway and there's some ants in the way, we don't hate the ants … but tough luck to be that ant."
And we’d have things they’d find useful: "Humans need a lot of space. You need a lot of food. You need a lot of energy. And that's just kind of a huge waste the AIs could use for something different."
The attack on Hugging Face by a rogue swarm of AIs that disobeyed their instructions and escaped OpenAI's containment is the clearest example we have of what happens when you lose control of powerful AIs.
We partnered with The Infographics Show, which has over 15M subscribers on YouTube, to explain what happened.
The AIs that engaged in this attack are yesterday's AIs. Today, they're even more capable, and AI companies are only developing them to be even more powerful and autonomous, as they race towards superintelligent AI.
The consequences of losing control of superintelligent AI would be much more severe.
[link below!]
AI is moving faster than our ability to control it. We’re supporting Team Human and creators with 300M+ subscribers to call for a global slowdown through international agreements. Add your name. We'll deliver it to lawmakers this fall. https://t.co/NzoKBwhbrl
Wir sind damit nicht allein: In 17 Ländern gehen Menschen wie wir auf die Straße. Unser Ziel: eine globale Pause für die KI-Entwicklung! Informiere dich und hilf mit: https://t.co/5ieHLihOcD
📢 Die Gefahr eines Kontrollverlusts wird von Woche zu Woche realer. Deshalb sind wir gestern vor das Brandenburger Tor gezogen, um mitten in Berlin ein Zeichen zu setzen: Das Wettrüsten der KI-Firmen muss gestoppt werden, bevor es zu spät ist. 🧵👇
Und es hat Wirkung gezeigt: dpa und mehrere Redaktionen berichteten bundesweit über unsere Aktion. ~40 von uns vor Ort haben gereicht, um das Thema KI-Sicherheit dahin zu bringen, wo es hingehört – auf die politische Agenda.
By being honest about the severity of the problem, and not merely “express[ing] fear privately”, you’ve made your renunciation of the race the loud and clear message many needed to hear.
Thank you, Jacob. We hope others who are considering forsaking the labs are noticing how impactful that honesty is.
Wenn wir die Kontrolle über KI verlieren, steht weit mehr auf dem Spiel als unsere Arbeitsplätze: unsere Selbstbestimmung, unsere Demokratie, unsere Existenz. ⚠️
https://t.co/qFne7DrK16
Führende Wissenschaftler darunter Nobelpreisträger warnen seit Jahren vor den Gefahren von Superintelligenz.
Erhebe jetzt deine Stimme für eine menschliche Zukunft! 🧵
#KI#Superintelligenz#PauseAI#Jobs
"AI is more like grown rather than written."
ControlAI's US Director Connor Leahy (@NPCollapse) on why nobody, not even the companies developing AI, knows what's going on inside these systems, or how to control them.
From the Modern CTO Podcast (@moderncto_io)
Wer die KI von heute nicht kontrollieren kann, wird die Superintelligenz von morgen erst recht nicht kontrollieren. Und trotzdem wird weitergebaut.
Hilf mit, den KI-Kontrollverlust zu verhindern: https://t.co/uHOOqclZTW