IngWIo H-Punkt 💙💛 💚

Naturliebender ITler|Zaunreiter|Seelenflüsterer|Katalysator,💜🦄@dark_fir_e,♊Aszendent WAS⁉Bär,mag APPwechslung, WirrtuElles & RL,#HSP,#MBSR,#1800ES,#TeamHabeck

[Smartino 🤔📯 @ScherhagThomas]

KI und Training: Warum KI nicht aus jedem Unsinn lernen darf. Nicht jeder Input ist Training: Die Lektion von Microsoft Tay

Viele glauben, KI lerne ständig mit. Lerne durch die Interaktion mit Millionen Menschen ständig dazu, entwickle sich dadurch.

Also: Ihr stellt eine Frage, die KI antwortet falsch, ihr korrigiert sie und ab morgen macht sie diesen Fehler nie mehr. Auch nicht bei anderen Nutzern.

Schöne Vorstellung. Nur: Das ist falsch - So funktioniert es nicht. 🤫

Wenn ihr eine KI korrigiert, kann sie das zwar im aktuellen Gespräch berücksichtigen. Je nach System kann sie sich auch bestimmte Dinge für euch persönlich merken: Vorlieben, Kontext, Arbeitsweise, Tonalität. Aber sie ändert dadurch nicht sofort ihr allgemeines Modell für alle Nutzer. Die KI wird bei einem anderen Benutzer genau den selben Fehler wieder machen.

Und das ist kein Versehen. Das ist Absicht. Warum?

Ein historisch ziemlich lehrreiches Beispiel dafür ist Microsofts Chatbot Tay. 🤖
Tay wurde 2016 auf Twitter veröffentlicht und sollte locker, jung und dialogfähig wirken. Die Idee war: Der Bot interagiert mit Menschen, lernt aus Gesprächen und wird dadurch schnell natürlicher.

Die Dynamiken in SocialMedia wurden unterschätzt, denn es lief völlig anders.
Innerhalb weniger Stunden wurde Tay von Nutzern gezielt mit rassistischen, sexistischen und rechtsextremistischen Inhalten gefüttert. Der Bot begann, solche Muster zu übernehmen und selbst problematische Inhalte zu veröffentlichen. Microsoft war gezwungen, Tay sehr schnell wieder vom Netz zu nehmen und entschuldigte sich öffentlich für die „offensive and hurtful tweets“. Microsoft schrieb damals auch, man habe nicht ausreichend vorhergesehen, wie gezielt Nutzer böswillige Absichten ausnutzen würden.

Kommt euch diese Dynamic von Rechtsextremen bekannt vor? 😉

Das war eine dieser wichtigen Lektionen, die in der KI-Geschichte hängen bleiben.
Nicht weil Tay der einzige Grund wäre, warum heutige KI-Systeme anders gebaut sind. Das wäre zu einfach. Aber Tay zeigte sehr plastisch, was passiert, wenn man ein System zu unmittelbar aus ungefilterten Nutzerinteraktionen lernen lässt.

Denn dann lernt KI nicht nur aus Korrekturen.
➡️ Es lernt auch aus Trollerei.
➡️ Aus Manipulation.
➡️ Aus koordinierten Angriffen.
➡️ Aus Unsinn, der überzeugend formuliert ist.
➡️ Von Menschen, die testen wollen, wie schnell man eine Maschine kaputt bekommt.

Darum gibt es heute eine viel stärkere Trennung:
Eine KI kann innerhalb eines Gesprächs Kontext verwenden. Sie kann gegebenenfalls persönliche Präferenzen eines Nutzers berücksichtigen. Aber einzelne Nutzer verändern nicht einfach live das Grundmodell für alle anderen.
Das schützt nicht nur vor versehentlichem Unsinn, sondern auch vor gezielter Kompromittierung.

Stellen wir uns kurz das Gegenteil vor:
Jeder Nutzer könnte einer KI dauerhaft „beibringen“, dass falsche Behauptungen stimmen. Das bestimmte Gruppen minderwertig seien. Dass unsichere technische Empfehlungen korrekt seien. Das Propaganda Wahrheit sei. Das Betrug nur „kreative Buchhaltung“ ist.

Das wäre kein lernendes System. Das wäre ein System, was nicht mehr nützlich wäre.

Wie lernen KIs dann tatsächlich?
Grob gesagt: durch Training auf großen Datenmengen, durch Nachtraining, durch menschliches Feedback, durch Tests, Sicherheitsprüfungen und neue Modellversionen. Fehler, die Nutzer melden, können in solche Verbesserungsprozesse einfließen aber nicht so, dass ein einzelnes Gespräch sofort das Modell für alle verändert.

Das ist weniger magisch, deutlich langsamer, aber auch deutlich robuster.

KI ist also nicht wie ein Mensch, der aus einem einzelnen Gespräch dauerhaft für sein ganzes Leben lernt. KI ist eher wie ein sehr leistungsfähiges System mit getrennten Schichten:
Gesprächskontext: sofort.
Personalisierung: begrenzt und nutzerbezogen.
Modelltraining: kontrolliert, geprüft, verzögert.

Diese wichtige Trennung ist einer der Gründe, warum moderne KI überhaupt halbwegs zuverlässig betrieben werden kann.

Tay war damals kein lustiger Betriebsunfall. Tay war eine wichtige Warnung:
Wenn du eine Maschine ungefiltert vom offenen Internet "erziehen" lässt, darfst du dich nicht wundern, wenn sie nach ein paar Stunden klingt wie ein rechtsextremes Güllebecken. 😎

[Nico Lange @nicolange_]

Wieder ein Morgen, an dem Kyjiw brennt - Putin führt Krieg mit ballistischen Raketen gegen Wohnhäuser, gegen Zivilisten, gegen die europäische Art zu leben. Europa träumt sich etwas von Verhandlungen zurecht und lässt unterdessen Putins Terror geschehen.

[Earth @earthcurated]

In the end, nature will win. 🌿

[Rainer Herda  @Jabba0718]

Hallo #DFB falls ihr einen neuen Bundestrainer sucht, nehmt mich. Ich kanns auch nicht. 😉

[Curiosity @CuriosityonX]

Germany has more castles than the United States has McDonald’s. 

This Eltz Castle. Owned by the same family for 33 generations.

[IngWIo H-Punkt 💙💛 💚 @IngWio_H]

@MisstheMoon11 Werrrie nice! 🥰

[Cruiser @DeichCruiser]

🎵 Ich möchte ein Eisbär sein, im kalten Polar. 🎤🎶

[Popupanna @popupanna]

Ich kann selbst bei diesen Temperaturen nicht ohne Decke schlafen. Kein Bock, dass mich nachts die Monster holen. Hitze hin oder her Sicherheit geht vor.

[Ed vom Knopf  @Ed_vom_Knopf]

Ich kann noch nicht duschen. Die 72h meines Deos sind noch nicht um.

[Rev. Justin Berkobien @JustinBerkobien]

If you owe a woman 5 million dollars for sexual assault you also owe the country your resignation.

[Jo @JoJoFromJerz]

The sitting president of the United States had to pay $5 million to a woman he raped and defamed, and not one person in his entire cult of a party is calling for his resignation.

Not one.

[IngWIo H-Punkt 💙💛 💚 @IngWio_H]

@onlygipsy Das ist ja auch absolut verständlich - es fehlt plötzlich jemand aus der Familie, quasi ohne Vorwarnung, so etwas ist für mich persönlich noch schlimmer, weil ich ich ja überhaupt nicht damit gerechnet habe.

Ich hoffe, Ihr könnt einander Verständnis & Trost in der Trauer geben.

[IngWIo H-Punkt 💙💛 💚 @IngWio_H]

Außerdem haben die Zuschauer & mündigen Bürger somit ihre Köpfe frei, um der #Bundesregierung wieder aufmerksam bei der Vielzahl ihrer bahnbrechenden, das Volk entlastenden Reformen zu folgen!!!

(Nein, das meine ich nicht ironisch, das meine ich mindestens bitter sarkastisch!😖)

[Lupine @lupus_woelfin]

Ich finde es super, dass die Deutsche Nationalmannschaft nun doch noch die WM in den USA boykottiert.

Besser spät als nie.

[🖤 🅘🅢🅐🅑🅔🅛🦋🇺🇦🇪🇺❤️🇩🇪 @isabelMon09]

Wer #Afd wählt, wird sein blaues Wunder erleben!! Ganz sicher!

#Prüf

[Kristin😶 @iLsepupiLse]

neuer Monat, die Forderung bleibt die alte, berechtigt. #SpahnRücktritt #SpahnUntersuchungsausschus

[IngWIo H-Punkt 💙💛 💚 @IngWio_H]

@knochenhort > ein Paradies hier auf Erden geschaffen gehabt. 🫶🏼

(Ich bewundere Dich sehr dafür, was Du für Deine Fellchenbande alles tust!!! 🥰)

[IngWIo H-Punkt 💙💛 💚 @IngWio_H]

@knochenhort So schwer & schmerzlich es für uns 'hier unten' ist 🖤 - dort oben haben sie keine Schmerzen mehr, keine Tierarztbesuche, keine Ängste - stattdessen Frieden, alte Freunde, beste Landschaften und einen bottomless Napf of beste Leckerchen! 🌈

Und Du hattest ihnen bis dahin schon >

[Marion @Mutterdrachen_B]

Guten Morgen aus Nusshausen 🐿
Nach einer gemütlichen Frühstücksnuss muss ich nur noch die Verpackung loswerden.
Also einfach fallen lassen und dabei unschuldig in eine andere Richtung gucken. Wird bestimmt keiner sehen 😇

[Albert Dros @albertdrosphoto]

Learn how to photograph storms with my new article: https://t.co/Bd6mj8zFga