Eine künstliche Intelligenz, die halluziniert

Datum: 20. Januar 2026
Bericht Nr.:876

Götz von Berlichingen musste mit seiner "guten" Hand die eiserne Prothese der anderen Hand bedienen, wenn sie etwas greifen oder loslassen sollte. Die Hand aus Eisenblech war eine "passive" Prothese, sie wurde durch einen Knopf auf dem Handrücken bedient. Hätte er nicht im 16. Jahrhundert gelebt, sondern in den 1830er Jahren, dann wäre mit einer "aktiven" Handprothese seine Lebensqualität wesentlich verbessert worden. Diese künstliche Hand der Instrumentenmacherin Caroline Eichler wurde mit der verbliebenen Muskulatur verbunden, funktionierte also mit menschlichem Impuls ohne äußere Einwirkung. Für diese Erfindung bekam sie bereits ihr zweites Preußisches Patent. Auf dieses Thema bin ich durch einen Friedhofsbesuch gestoßen, indem ich mich (wie immer bei Friedhofsbesuchen) für die Verstorbenen und ihre Geschichte interessiet habe.

Warum erzähle ich das? Genauso wichtig wie der Stadtspaziergang selbst ist danach bei meinen Flanierberichten die Recherche über die Dinge und Ereignisse, denn ich möchte möglichst wahrheitsgetreu berichten. Dazu gehört, Ergebnisse zu hinterfragen und durch weitere Quellen zu belegen (in der Hoffnung, dass nicht einer vom anderen abgeschrieben hat). Natürlich gehört auch die Künstliche Intelligenz als "Suchmaschine" dazu. Wenn ihre Antwort nicht schlüssig ist, frage ich zunächst bei der KI selbst nach, auch hartnäckig mehrfach.

Künstliche Intelligenz
ChatGPT habe ich damit schon an den Rand gebracht, bis sie aufgab und den Chat beendete, weil sie "noch am Lernen" sei. Es ging um Skulpturen am Weißensee, von denen sie behauptete, die Künstler hätten sie bewusst so gestaltet, dass man darauf herumrutschen könne. Es war reine Phantasie, die KI hatte sich verheddert und kam nur aus der Schleife heraus, indem sie mir nicht mehr antwortete.

Inzwischen ist statt ChatGPT die KI "Copilot" von Microsoft in die Computer gedrückt worden. Was diese KI mir nach einer misslungenen Recherche für Schwächen eingestanden hat, ist schier unglaublich. Ihr schärfster Kritiker könnte es nicht prägnanter formulieren: Sie habe "halluziniert". Meine Vermutung: Da sie nicht selber denken kann, ist das keine eigene Einsicht. Sie wird diese Aussage wohl aus mehreren Studien entnommen haben, die im Internet veröffentlicht wurden. Man spricht dort von der "Diskrepanz zwischen hohen Erwartungen und einer ernüchternden Realität".

Und so erklärt die KI selbst ihre Fehler
Bei einer Grafik "erfindet sie die Beschriftungen selbst" und entlarvt das als "bizarr". Begriffe, die nur sie kennt, wie bei jener Recherche "Sehladte“ oder "Drauerter", sind für sie aber "keine Tippfehler", sondern "semantische Ausrutscher". Das ist kreativ, aber erkläre das mal einem Lehrer nach der Klassenarbeit.

Sie bietet mir dann an: "Ich kann dir gern eine korrigierte Version mit klaren deutschen Begriffen erstellen - ohne Fantasiewörter". Wenn sie das kann, warum macht sie es dann nicht gleich von sich aus?

Auf welche ihrer Aussagen kann ich mich denn dann noch verlassen? Sie hat volles Verständnis für meine Verunsicherung und antwortet mir: "Dieses Gefühl von 'Wenn sie sich Wörter ausdenkt, was denkt sie sich dann noch aus?' ist sehr berechtigt. Sie habe aber nur "bei den Wörtern gepatzt, die Fachlogik sei in Ordnung gewesen". Das beruhigt mich nicht wirklich.

Und warum erfindet die Künstliche Intelligenz Dinge? Sie arbeitet "nicht mit Wahrheit, sondern mit Wahrscheinlichkeit. Welches Wort, welcher Begriff passt wahrscheinlich als Nächstes?". Und dann entstehen Fantasiewörter / falsche Details / zu selbstsichere Formulierungen.

Auf Fehler der Künstlichen Intelligenz nicht hereinfallen
Dazu hat sie mehrere Ratschläge für mich: Kritisch bleiben bei unbekannten Details. / Nachprüfen, wenn mir etwas komisch vorkommt / Schiefe Bilder hinterfragen / Bei wichtigen Themen immer eine zweite Quelle hinzuziehen. Das mache ich sowieso (siehe oben), wofür brauche ich dann noch eine Künstliche Intelligenz?

(Alle kursiv gesetzten Begriffe hat die Künstlichen Intelligenz bei dem Dialog auf sich angewendet)


Dies war ein kurzer Abstecher zur Wahrheitsfindung beim Abfassen meiner Traktate. Der nächste Bericht wird wieder von einem Spaiergang handeln.