Anthropic published a report on how their AI model Claude is being misused across the world.
Four findings that should keep every AI user up at night 🤯
1. DeepSeek and Moonshot were secretly using Claude behind your back.
→ You open DeepSeek. You type a prompt. You think DeepSeek is answering you.
→ It wasn't. Your prompt was quietly sent to Claude through thousands of fake accounts built on stolen credit cards and fake identities.
→ DeepSeek showed you Claude's answer and pretended it was theirs.
→ They saved every conversation to train their own models.
→ Moonshot alone used 5,380 fake accounts to pull this off.
→ Some of those conversations contained military data, government passwords, and company secrets.
2. One person can now do what an entire government team couldn't a year ago.
→ One guy built a surveillance system for Mali that could track 25 million phone numbers across the entire country.
→ One hacktivist in France broke into 14 organizations alone and built a search engine to look up anyone's personal data.
→ College students in China found security flaws that even experts hadn't discovered, using AI agents that ran on their own.
→ A Chinese operator who didn't speak a word of Arabic used Claude to run a fake recruitment campaign in Syria. The AI handled every conversation in real time.
3. A group in Yemen used AI to build a guided rocket and actually tested it.
→ They used Claude Code, Anthropic's coding tool, as their entire engineering department.
→ One instance wrote the guidance code. Another reviewed it. A third did research.
→ They were working on rockets, ballistic missiles, and a hypersonic glide vehicle.
→ They launched a test. It failed.
→ Within hours, they were back on Claude trying to figure out what went wrong.
4. Alibaba stole Claude's intelligence at a scale nobody has ever seen.
→ 3 million fake conversations per day with Claude.
→ 3,500+ fraudulent accounts created to pull this off.
→ 151 million total exchanges harvested over a few months.
→ All of it used to make Alibaba's own AI models smarter.
→ Seven Chinese labs were caught doing the same thing.
This report isn't about what AI might do someday. It's a record of what's already happening right now.
We're publishing our most detailed threat intelligence report to date.
It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them.
We disrupted every operation in the report, and used the lessons from them to strengthen our safeguards. Where appropriate, we also shared what we found with authorities and other AI companies.
These cases are not typical: we’re highlighting some of the most sophisticated misuse we’ve seen. But they’re especially important to discuss, because they show us where AI misuse is headed, where our safeguards work, and where they need to improve.
We’re publishing this report so others can spot the same activity on their own platforms, and so we can give the public a clearer view of how emerging threats develop.
Read the report: https://t.co/0EJUnYEgfz
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
Die rechtsextreme AfD hat gestern in Sachsen-Anhalt die Wahl gewonnen und das bei einer Rekordwahlbeteiligung. Wäre das BSW unter 5% gekommen, hätte sie die absolute Mehrheit. Dieses Ergebnis ist eine Katastrophe, daran gibt es nichts Beruhigendes, nichts was man schön reden kann.
Vorläufige Notizen zur Wahl in Sachsen-Anhalt.
1
Die Situation ist eingetreten, die absehbar war und auf die niemand vorbereitet ist: Die demokratischen Parteien können nicht mit der AfD regieren (wegen ihres Programms und Personals) und nicht gegen sie: die CDU wurde krachend abgewählt, es gibt keine politisch handlungsfähige Mehrheit jenseits der AfD. Dass ausgerechnet die Querfront-Partei BSW das Zünglein an der Waage ist, macht die Lage noch übler.
2
Wahlentscheidende Themen waren neben dem überkochenden Frust über die Bundespolitik 1) Wirtschaft, 2) Bildung, 3) Migration und 4) soziale Sicherheit. In dieser Reihenfolge. Wenn die SPD jetzt die Sozialreformen infrage stellt, die wieder Spielraum für Investitionen und wirtschaftliches Wachstum schaffen und damit die Finanzierbarkeit des Sozialstaats sichern sollen, spielt sie mit dem Feuer. Aus Angst vor der AfD und den anderen Sozial-Populisten bitter notwendige Strukturreformen auf die lange Bank zu schieben, wird die Extreme noch weiter stärken.
3
Sachsen-Anhalt ist ein Land mit massiven demographischen und sozio-ökonomischen Problemen. Der AfD ist es gelungen, Hoffnungen auf Veränderungen zum Besseren auf sich zu ziehen: "Alles ist möglich" als zentraler Slogan. Mit einem bloßen Anti-AfD-Wahlkampf und der Verteidigung des Status quo ist dagegen kein Kraut gewachsen. Wer besetzt die Zukunft? Das ist die Gretchenfrage.
4
Nein, die AfD ist kein "Ostproblem". Aber es gibt spezifische Faktoren, die sie in Ostdeutschland besonders stark machen. Dazu gehört das Spiel mit der "ostdeutschen Identität" (das jahrzehntelang von der Linken betrieben wurde) ebenso wie das Fremdeln mit den "postmateriellen" Veränderungen von Politik und Gesellschaft (Einwanderung, Gender, Ökologie, Primat von Minderheitsthemen). Das alles gibt es auch im Westen, ist aber im Osten noch stärker ausgeprägt.
5
Weder muss man die Wähler der AfD allesamt als Demokraten adeln, noch sollte man sie pauschal als Antidemokraten, Faschisten etc verdammen. Wir müssen damit umgehen, dass es unterschiedliche Demokratie- und Gesellschaftsvorstellungen gibt. Die Grenze muss da gezogen werden, wo die Grundpfeiler der Demokratie angegriffen werden und Gewalt legitimiert wird.
6
Der heimliche Gewinner dieser Wahl war Putin. Aber auch hier gilt: Opportunistische Anpassung ist genau die falsche Reaktion. Union, SPD und Grüne müssen offensiv für ihre Europa- und Sicherheitspolitik eintreten, insbesondere für die Unterstützung der Ukraine als eine Frage unserer nationalen Interessen.
7
Oh je, FDP!
https://t.co/swiHsPhvyc
Klöckners Vergleich von taz und Nius ist schäbig. Die Argumentation dahinter sollten wir alle genau verstehen. Hier die 4 wichtigsten Punkte – und ein Fakt, der ihre Nähe zu Nius-Finanzier Gotthardt deutlich zeigt:
Was Union und SPD zur künftigen Finanzierung der Politik vereinbart haben, ist verantwortungsvoll. Absolut unverantwortlich war, was die künftige Kanzlerpartei im Wahlkampf zur Finanzierung gesagt hat. Das war offenbar bewusste Täuschung.
Things are moving:
Global investment in clean energy overtook investment in fossil fuels in 2016.
In 2024, 80% more money was invested in clean energy than fossil fuels.
After the Age of Coal & Age of Oil, the world is moving rapidly into the Age of Electricity ⚡️
Electricity has recently grown 2x as fast as total energy demand. But from now to 2035, it's set to grow 6x as fast, driven by EVs, ACs, chips, AI & more
More: https://t.co/fggEfiaGJ5
#WEO24
PS the IEA pushes back hard on nonsense about AI data centre demand eating the global energy system
(Ofc that won't stop the hype cycle)
14/13
https://t.co/jpJRpYRv8a
THREAD
My deep dive on @IEA#WEO24
🌄Solar up 4x by 2030, top ⚡️ source by 2033
🥇Clean energy +44% by 2030, top *energy* source by "mid-30s"
🛢️EVs displace 6mb/d by 2030 (⏫4mb/d last yr)
⛰️Fossil fuels peak by 2030
🌡️Warming 2.4C(🔽 2.6C 2021 ⏬ 3.5C 2015)
https://t.co/rVSgthD0rU
1/13
Unthinkable just a few years ago:
For the first time renewables (wind, solar, hydro) produced more EU electricity than fossil fuels in 2023.
2/3 of EU electricity is from non-fossil fuel generation.
Source @EmberClimate
@FredSimonEU @Vertis_EF Interesting. Is this study publicly available? Which institute has done the calculation? Was it presented at @Vertis_EF seminar? Thanks.
Investment flows are shifting the world towards a more electrified, renewables-rich energy system.
5 years ago, for $1 invested in fossil fuels, the same went to clean energy.
But today, for $1 invested in fossil fuels, $1.80 is going to clean energy → https://t.co/jUr2Lk0blo
Thailand is close to completing one of the world's biggest floating solar farms. How big? Roughly the size of 230 football fields.
We have the solutions. Implement them. #ActOnClimate#climate#energy#renewables#GreenNewDeal