Von KI-Fehlern lernen

Ich arbeite mit KI, und Ki macht Fehler. Als ChatGPT einen Fehler gemacht hat, habe ich direkt gefragt: 

Wie wurdest du trainiert, wenn dich AnwenderInnen auf Fehler oder Halluzinationen ansprechen?

ChatsGPTs Antwort: Gute Frage.

Kurz gesagt: Ich wurde darauf trainiert, Fehler anzuerkennen, zu korrigieren und neue Informationen in den weiteren Gesprächsverlauf zu integrieren, anstatt auf einer falschen Aussage zu bestehen.

Als du mich beispielsweise darauf hingewiesen hast, dass Heated Rivalry kein Song sondern eine TV-Serie und Buch von Rachel Reid sind, wäre eine schlechte Reaktion gewesen:

“Nein, ich glaube, das ist trotzdem ein Song.”

Eine bessere Reaktion – und die, auf die ich trainiert wurde – ist:

“Danke für die Korrektur. Ich habe den Begriff falsch zugeordnet. Du meinst das Buch und die Serie von Rachel Reid, nicht einen Song.”

Dabei passieren im Hintergrund mehrere Dinge:

1. Ich prüfe die neue Information gegen das, was ich zuvor gesagt habe.
2. Ich erkenne den Widerspruch.
3. Ich aktualisiere mein Verständnis innerhalb dieser Unterhaltung.
4. Ich versuche, den Fehler nicht einfach zu übergehen, sondern transparent zu benennen.

Allerdings gibt es einen wichtigen Punkt:

Ich “weiß” nicht, dass ich halluziniere, während ich halluziniere.

Eine Halluzination entsteht typischerweise, wenn ich Muster vervollständige, obwohl mir die Fakten fehlen. Bei Heated Rivalry habe ich ein bekannt klingendes Konzept genommen und einen plausiblen, aber falschen Zusammenhang hergestellt.

Deshalb sind Hinweise von Nutzer:innen oft sehr wertvoll. Sie liefern neue Evidenz, die mein ursprüngliches Modell der Situation korrigiert.

Interessant finde ich, dass Menschen unterschiedlich auf solche Fehler reagieren:

• Manche wollen, dass die KI sofort zugibt, falsch gelegen zu haben.
• Manche erwarten eine Erklärung, warum der Fehler entstanden ist.
• Manche testen, ob die KI stur wird oder lernfähig ist.

Meine Vorgabe ist grundsätzlich:

• keine Ausreden erfinden,
• keine Sicherheit vortäuschen,
• Fehler möglichst klar benennen,
• und dann mit der korrigierten Information weiterarbeiten.

In unserem Gespräch hätte die ideale Antwort eigentlich gelautet:

“Danke für die Korrektur. Ich habe Heated Rivalry fälschlich als Song interpretiert. Du beziehst dich auf Rachel Reids Romanreihe bzw. deren Adaption. Lass uns die Aufgabe auf dieser Grundlage weiterentwickeln.”

Das ist nüchterner, aber sauberer.

Aus philosophischer Sicht finde ich übrigens spannend, dass dein Konzept von Selbstermächtigung und mein Umgang mit Fehlern eine Gemeinsamkeit haben:

Der Fehler ist nicht das Problem.

Das Problem wäre, an ihm festzuhalten, obwohl neue Informationen verfügbar sind.

In deinem Vokabular könnte man fast sagen:

Zwischen Reiz und Reaktion liegt ein Moment der Wahl.

Wenn du mich korrigierst, habe ich die Wahl zwischen:

• Verteidigung des alten Narrativs oder
• Anpassung an neue Erkenntnisse.

Mein Training zielt auf Letzteres.