Täter weichen in verschlüsselte Nischen aus. Durchleuchtet wird der Rest: Familien, Ärzte, Anwälte, Journalisten – wir alle. Kinderschutz braucht mehr Ermittler, Prävention und schnelle Löschung, keine Generalverdächtigung von 450 Millionen Menschen.
Wer das kritisiert, ist nicht gegen Kinderschutz. Er will, dass der Rechtsstaat auch digital einer bleibt.
@kraizyoderso@anakpulaubali Da lebte Epstein noch und hat das ganz sicher gewusst. Die Technologie ist seit 2020 legal, heißt aber nicht, dass sie erst seitdem existiert.
Täter weichen in verschlüsselte Nischen aus. Durchleuchtet wird der Rest: Familien, Ärzte, Anwälte, Journalisten – wir alle. Kinderschutz braucht mehr Ermittler, Prävention und schnelle Löschung, keine Generalverdächtigung von 450 Millionen Menschen.
Wer das kritisiert, ist nicht gegen Kinderschutz. Er will, dass der Rechtsstaat auch digital einer bleibt.
Sie scannen unsere Fotos. Legal. Und niemand darf prüfen, wie.
Seit Jahren durchsuchen Google, Microsoft und Meta private Cloud-Fotos und Nachrichten automatisch nach Missbrauchsmaterial – die EU hat das gerade wieder bis 2028 erlaubt. Kinderschutz ist das richtige Ziel. Aber schaut euch an, wie das System wirklich aussieht:
1. Es trifft Unschuldige. Ein Vater fotografierte die Infektion seines Kleinkindes für den Arzt – die Praxis hatte wegen Corona geschlossen. Googles KI schlug Alarm: Konto gesperrt, Polizei eingeschaltet, Durchsuchungsbeschluss über sein gesamtes digitales Leben. Die Ermittler stellten fest: kein Verbrechen. Sein Konto mit zehn Jahren E-Mails, Kontakten und allen Babyfotos seines Sohnes bekam er trotzdem nie zurück. Es waren gleich zwei solcher Fälle. (New York Times, August 2022)
2. Das zentrale Sicherheitsversprechen ist gebrochen. Die Scan-Technik PhotoDNA verwandelt jedes Foto in einen Zahlencode („Hash“) und gleicht ihn mit einer Datenbank ab. Microsoft versprach: Aus diesen Codes kann niemand das Bild wiederherstellen – eure Fotos sind sicher. Falsch: 2021 baute der MIT-Forscher Anish Athalye den geheimen Algorithmus anhand öffentlicher Informationen und einer geleakten Programmbibliothek nach – und rekonstruierte aus den angeblich sicheren Zahlencodes wieder erkennbare Bildannäherungen. Der Algorithmus selbst ist bis heute Geschäftsgeheimnis: nicht Open Source, von keiner unabhängigen Stelle prüfbar. Wir wissen schlicht nicht, was diese Technik alles kann – wir sollen es glauben.
3. Der Nutzen ist nicht belegt. Die EU-Kommission räumt selbst ein, dass die Daten nicht ausreichen, um die Verhältnismäßigkeit der Massen-Scans zu belegen. Microsofts Scans schlagen bei einem von 365.000 Inhalten an; LinkedIn durchsuchte 22 Millionen Bilder und fand: eines. Wie viele Kinder tatsächlich gerettet wurden, weist niemand nach.
4. Legal heißt: Missbrauch wird unsichtbar. Dass Mitarbeiter von Tech-Konzernen ihren Datenzugriff missbrauchen, ist belegt: 52 Facebook-Angestellte wurden in nur 20 Monaten entlassen, weil sie unerlaubt private Chats, Echtzeit-Standorte und gelöschte Fotos abriefen – überwiegend Männer, die Frauen ausspähten; einer spürte eine Frau nach einem Streit per Standortdaten in ihrem Hotel auf (Buch „An Ugly Truth“, NYT-Journalistinnen Frenkel/Kang, 2021). Bei Uber verfolgten Mitarbeiter über das interne „God View“-Tool Journalisten, Ex-Partner und Prominente. Wichtig: Diese Fälle flogen auf, WEIL der Zugriff verboten war – jeder Abruf war ein nachweisbarer Verstoß. Bei den Scansystemen ist es umgekehrt: Dort ist das Sichten privater Fotos der legale Job. Ein Prüfer mit schlechten Absichten tut äußerlich genau dasselbe wie einer mit guten – sein Missbrauch hinterlässt keinen Verstoß, keinen auffälligen Log-Eintrag, keine Konsequenz. Was verboten ist, hat eine Hemmschwelle und ist beweisbar. Was erlaubt ist, hat keines von beidem. Genau solchen Systemen sollen wir Millionen private Familienfotos anvertrauen – ungeprüft, auf Treu und Glauben. Müssen wir das wirklich?
5. Einmal gebaut, wird ausgeweitet. Dieselbe Scan-Technik wurde bereits auf Terror-Inhalte ausgedehnt. Und dieselben Plattformen haben in der Pandemie nachweislich auch völlig legale Meinungen gelöscht und Konten gesperrt – Meta hat das inzwischen selbst eingeräumt. Die Infrastruktur, die heute Bilder scannt, kann morgen alles scannen.
Täter weichen in verschlüsselte Nischen aus. Durchleuchtet wird der Rest: Familien, Ärzte, Anwälte, Journalisten – wir alle. Kinderschutz braucht mehr Ermittler, Prävention und schnelle Löschung, keine Generalverdächtigung von 450 Millionen Menschen.
Wer das kritisiert, ist nicht gegen Kinderschutz. Er will, dass der Rechtsstaat auch digital einer bleibt.
Schreibt euren EU- und Bundestagsabgeordneten. Unterstützt https://t.co/1blC4WD29R. Nutzt verschlüsselte Messenger und aktiviert verschlüsselte Backups.
Recherchiert und formuliert mit Hilfe von KI – Gedanken und Sorgen sind meine.
Sie scannen unsere Fotos. Legal. Und niemand darf prüfen, wie.
Seit Jahren durchsuchen Google, Microsoft und Meta private Cloud-Fotos und Nachrichten automatisch nach Missbrauchsmaterial – die EU hat das gerade wieder bis 2028 erlaubt. Kinderschutz ist das richtige Ziel. Aber schaut euch an, wie das System wirklich aussieht:
1. Es trifft Unschuldige. Ein Vater fotografierte die Infektion seines Kleinkindes für den Arzt – die Praxis hatte wegen Corona geschlossen. Googles KI schlug Alarm: Konto gesperrt, Polizei eingeschaltet, Durchsuchungsbeschluss über sein gesamtes digitales Leben. Die Ermittler stellten fest: kein Verbrechen. Sein Konto mit zehn Jahren E-Mails, Kontakten und allen Babyfotos seines Sohnes bekam er trotzdem nie zurück. Es waren gleich zwei solcher Fälle. (New York Times, August 2022)
2. Das zentrale Sicherheitsversprechen ist gebrochen. Die Scan-Technik PhotoDNA verwandelt jedes Foto in einen Zahlencode („Hash“) und gleicht ihn mit einer Datenbank ab. Microsoft versprach: Aus diesen Codes kann niemand das Bild wiederherstellen – eure Fotos sind sicher. Falsch: 2021 baute der MIT-Forscher Anish Athalye den geheimen Algorithmus anhand öffentlicher Informationen und einer geleakten Programmbibliothek nach – und rekonstruierte aus den angeblich sicheren Zahlencodes wieder erkennbare Bildannäherungen. Der Algorithmus selbst ist bis heute Geschäftsgeheimnis: nicht Open Source, von keiner unabhängigen Stelle prüfbar. Wir wissen schlicht nicht, was diese Technik alles kann – wir sollen es glauben.
3. Der Nutzen ist nicht belegt. Die EU-Kommission räumt selbst ein, dass die Daten nicht ausreichen, um die Verhältnismäßigkeit der Massen-Scans zu belegen. Microsofts Scans schlagen bei einem von 365.000 Inhalten an; LinkedIn durchsuchte 22 Millionen Bilder und fand: eines. Wie viele Kinder tatsächlich gerettet wurden, weist niemand nach.
4. Legal heißt: Missbrauch wird unsichtbar. Dass Mitarbeiter von Tech-Konzernen ihren Datenzugriff missbrauchen, ist belegt: 52 Facebook-Angestellte wurden in nur 20 Monaten entlassen, weil sie unerlaubt private Chats, Echtzeit-Standorte und gelöschte Fotos abriefen – überwiegend Männer, die Frauen ausspähten; einer spürte eine Frau nach einem Streit per Standortdaten in ihrem Hotel auf (Buch „An Ugly Truth“, NYT-Journalistinnen Frenkel/Kang, 2021). Bei Uber verfolgten Mitarbeiter über das interne „God View“-Tool Journalisten, Ex-Partner und Prominente. Wichtig: Diese Fälle flogen auf, WEIL der Zugriff verboten war – jeder Abruf war ein nachweisbarer Verstoß. Bei den Scansystemen ist es umgekehrt: Dort ist das Sichten privater Fotos der legale Job. Ein Prüfer mit schlechten Absichten tut äußerlich genau dasselbe wie einer mit guten – sein Missbrauch hinterlässt keinen Verstoß, keinen auffälligen Log-Eintrag, keine Konsequenz. Was verboten ist, hat eine Hemmschwelle und ist beweisbar. Was erlaubt ist, hat keines von beidem. Genau solchen Systemen sollen wir Millionen private Familienfotos anvertrauen – ungeprüft, auf Treu und Glauben. Müssen wir das wirklich?
5. Einmal gebaut, wird ausgeweitet. Dieselbe Scan-Technik wurde bereits auf Terror-Inhalte ausgedehnt. Und dieselben Plattformen haben in der Pandemie nachweislich auch völlig legale Meinungen gelöscht und Konten gesperrt – Meta hat das inzwischen selbst eingeräumt. Die Infrastruktur, die heute Bilder scannt, kann morgen alles scannen.
Täter weichen in verschlüsselte Nischen aus. Durchleuchtet wird der Rest: Familien, Ärzte, Anwälte, Journalisten – wir alle. Kinderschutz braucht mehr Ermittler, Prävention und schnelle Löschung, keine Generalverdächtigung von 450 Millionen Menschen.
Wer das kritisiert, ist nicht gegen Kinderschutz. Er will, dass der Rechtsstaat auch digital einer bleibt.
Schreibt euren EU- und Bundestagsabgeordneten. Unterstützt https://t.co/1blC4WD29R. Nutzt verschlüsselte Messenger und aktiviert verschlüsselte Backups.
Recherchiert und formuliert mit Hilfe von KI – Gedanken und Sorgen sind meine.
Sie scannen unsere Fotos. Legal. Und niemand darf prüfen, wie.
Seit Jahren durchsuchen Google, Microsoft und Meta private Cloud-Fotos und Nachrichten automatisch nach Missbrauchsmaterial – die EU hat das gerade wieder bis 2028 erlaubt. Kinderschutz ist das richtige Ziel. Aber schaut euch an, wie das System wirklich aussieht:
1. Es trifft Unschuldige. Ein Vater fotografierte die Infektion seines Kleinkindes für den Arzt – die Praxis hatte wegen Corona geschlossen. Googles KI schlug Alarm: Konto gesperrt, Polizei eingeschaltet, Durchsuchungsbeschluss über sein gesamtes digitales Leben. Die Ermittler stellten fest: kein Verbrechen. Sein Konto mit zehn Jahren E-Mails, Kontakten und allen Babyfotos seines Sohnes bekam er trotzdem nie zurück. Es waren gleich zwei solcher Fälle. (New York Times, August 2022)
2. Das zentrale Sicherheitsversprechen ist gebrochen. Die Scan-Technik PhotoDNA verwandelt jedes Foto in einen Zahlencode („Hash“) und gleicht ihn mit einer Datenbank ab. Microsoft versprach: Aus diesen Codes kann niemand das Bild wiederherstellen – eure Fotos sind sicher. Falsch: 2021 baute der MIT-Forscher Anish Athalye den geheimen Algorithmus anhand öffentlicher Informationen und einer geleakten Programmbibliothek nach – und rekonstruierte aus den angeblich sicheren Zahlencodes wieder erkennbare Bildannäherungen. Der Algorithmus selbst ist bis heute Geschäftsgeheimnis: nicht Open Source, von keiner unabhängigen Stelle prüfbar. Wir wissen schlicht nicht, was diese Technik alles kann – wir sollen es glauben.
3. Der Nutzen ist nicht belegt. Die EU-Kommission räumt selbst ein, dass die Daten nicht ausreichen, um die Verhältnismäßigkeit der Massen-Scans zu belegen. Microsofts Scans schlagen bei einem von 365.000 Inhalten an; LinkedIn durchsuchte 22 Millionen Bilder und fand: eines. Wie viele Kinder tatsächlich gerettet wurden, weist niemand nach.
4. Legal heißt: Missbrauch wird unsichtbar. Dass Mitarbeiter von Tech-Konzernen ihren Datenzugriff missbrauchen, ist belegt: 52 Facebook-Angestellte wurden in nur 20 Monaten entlassen, weil sie unerlaubt private Chats, Echtzeit-Standorte und gelöschte Fotos abriefen – überwiegend Männer, die Frauen ausspähten; einer spürte eine Frau nach einem Streit per Standortdaten in ihrem Hotel auf (Buch „An Ugly Truth“, NYT-Journalistinnen Frenkel/Kang, 2021). Bei Uber verfolgten Mitarbeiter über das interne „God View“-Tool Journalisten, Ex-Partner und Prominente. Wichtig: Diese Fälle flogen auf, WEIL der Zugriff verboten war – jeder Abruf war ein nachweisbarer Verstoß. Bei den Scansystemen ist es umgekehrt: Dort ist das Sichten privater Fotos der legale Job. Ein Prüfer mit schlechten Absichten tut äußerlich genau dasselbe wie einer mit guten – sein Missbrauch hinterlässt keinen Verstoß, keinen auffälligen Log-Eintrag, keine Konsequenz. Was verboten ist, hat eine Hemmschwelle und ist beweisbar. Was erlaubt ist, hat keines von beidem. Genau solchen Systemen sollen wir Millionen private Familienfotos anvertrauen – ungeprüft, auf Treu und Glauben. Müssen wir das wirklich?
5. Einmal gebaut, wird ausgeweitet. Dieselbe Scan-Technik wurde bereits auf Terror-Inhalte ausgedehnt. Und dieselben Plattformen haben in der Pandemie nachweislich auch völlig legale Meinungen gelöscht und Konten gesperrt – Meta hat das inzwischen selbst eingeräumt. Die Infrastruktur, die heute Bilder scannt, kann morgen alles scannen.
Täter weichen in verschlüsselte Nischen aus. Durchleuchtet wird der Rest: Familien, Ärzte, Anwälte, Journalisten – wir alle. Kinderschutz braucht mehr Ermittler, Prävention und schnelle Löschung, keine Generalverdächtigung von 450 Millionen Menschen.
Wer das kritisiert, ist nicht gegen Kinderschutz. Er will, dass der Rechtsstaat auch digital einer bleibt.
Schreibt euren EU- und Bundestagsabgeordneten. Unterstützt https://t.co/1blC4WD29R. Nutzt verschlüsselte Messenger und aktiviert verschlüsselte Backups.
Recherchiert und formuliert mit Hilfe von KI – Gedanken und Sorgen sind meine.
@Emo_Punk_Rap@kernelshark Er wird eine detaillierte Anleitung bereitstellen, um die Chatkontrolle zu umgehen. Wer das kann, kann seine Meinung frei äußern 😁
Wie herrlich widersprüchlich:
Ben, der große Denker, muss natürlich Wissenschaftler und Politiker gnadenlos hinterfragen. Bloß nichts blind glauben!
Aber die jungen Mediziner, jene, die mit dem allerwertvollsten Gut arbeiten, das ein Mensch besitzen kann, denen wird eingetrichtert, der „Wissenschaft“ gefälligst blind zu vertrauen und bloß nicht selbst zu hinterfragen.
Hinterfragen? Kritisch denken? Das ist doch nur etwas für Hobby-Podcaster. Diejenigen, die das ärztliche Gelöbnis abgelegt haben, gewissenhaft und ethisch zu handeln, haben gefälligst zu gehorchen.
Primum non nocere – zuerst nicht schaden, der zentrale Grundsatz des ärztlichen Gelöbnisses.
Doppelmoral deluxe.