Warum ChatGPT Fehler macht und wie du sie prüfst

Du hast um Hilfe für die Arbeit gebeten, die Antwort kam rund und fertig zurück, mit Autorenname, Jahr und Seitenzahl. Du hast die Quelle gesucht und es gibt sie nicht. Weder das Buch noch den Autor. Oder es war die Rechnung: die KI hat sechs Beträge addiert und eine falsche Summe geliefert, mit der Sicherheit von jemandem, der einen Taschenrechner in der Hand hält. Wenn dir das schon passiert ist, lag es nicht daran, dass du die Anfrage schlecht geschrieben hast.

Fehler zu machen gehört zur Funktionsweise dieser Technologie, und zu verstehen warum, ändert das, was du mit der Antwort machst. In dieser Lektion siehst du die fünf Fehlerarten, die immer wieder auftauchen, warum sie Quellen mit so viel Überzeugung erfindet, wo Prüfen nicht optional ist, und eine Dreißig-Sekunden-Routine, die fast alles abfängt. Etwa 9 Minuten Lesezeit, und der wichtigste Teil steht in der Mitte: der Fehler, der nicht wie einer aussieht.

Die goldene Regel: sie weiß nicht, sie schätzt

Die erste Lektion des Kurses fasst die Funktionsweise in einem Satz zusammen, der hier zurückkommen muss: künstliche Intelligenz weiß nicht, sie schätzt. Es liegt keine Enzyklopädie in ihr. Sie rechnet Stück für Stück aus, welche Fortsetzung für den Text, den du geschrieben hast, die wahrscheinlichste ist, auf Basis von allem, was sie vorher gelesen hat.

Das erklärt, was wie ein Widerspruch aussieht. Sie trifft ins Schwarze bei allem Gängigen und rutscht bei allem Seltenen ab, weil das Gängige tausendfach in ihrem Material vorkam und das Seltene einmal oder gar nicht. Und sie irrt mit genau dem Gesicht von jemandem, der richtig liegt, weil die Flüssigkeit eines Textes nichts mit seinem Wahrheitsgehalt zu tun hat. „Laut § 47 des Mietrechts“ überzeugend zu schreiben ist leicht, auch dann, wenn dieser Paragraf von etwas ganz anderem handelt.

Und das ist kein Makel einer Marke: es gilt für ChatGPT, Gemini, Copilot, Claude und für das, was danach kommt. Das Werkzeug zu wechseln löst es nicht. Zu ändern, was du mit der Antwort machst, schon.

Die fünf Fehler, und was jeder dich kostet

Nicht jeder Fehler ist derselbe, und deshalb hilft der allgemeine Rat „prüf immer nach“ niemandem. Was prüfen, und wo? Die Tabelle unten ist die Zusammenfassung des ganzen Artikels.

Der Fehler	Wie er auftritt	Wo man ihn prüft
1. Erfindung	Quelle, Zitat, Gesetz oder Link, den es nicht gibt	an der Originalquelle, über den Namen
2. Rechnung und Datum	falsche Summen, Prozente, Fristen und Altersangaben	im Taschenrechner oder in der Tabelle
3. Veraltet	Regel, Preis oder Verfahren von gestern	auf der offiziellen Seite zum Thema
4. Verzerrung	das Häufigste gilt als das Richtige und der Rest verschwindet	indem du die Gegenposition verlangst
5. Schmeichelei	sie gibt dir recht, um dir zu gefallen	indem du sie um Kritik bittest

Die ersten beiden löst du mit einer Suche. Die letzten drei sind rutschig, weil die Antwort dort in jedem Satz wahr bleibt und dich trotzdem an die falsche Stelle führt.

Warum sie Quellen, Autoren und Paragrafen erfindet

Der Fachbegriff dafür ist Halluzination, und der Begriff ist schlecht, weil er einen vorübergehenden Anfall bei einer Maschine suggeriert, die normalerweise Bescheid weiß. Sie macht das, was sie immer macht: den wahrscheinlichsten Text schätzen. Nun hat eine Literaturangabe eine vorhersehbare Form: Nachname, Komma, Initiale, Jahr in Klammern, Titel kursiv. Diese Form mit plausiblen Wörtern zu füllen ist genau das, was ihr gut gelingt.

Deshalb ist die erfundene Quelle fast immer eine hübsche. Den Autor gibt es, die Zeitschrift gibt es, das Jahr passt, und nur der Aufsatz selbst wurde nie geschrieben. Es ist die schlimmste Fehlerart, um sie mit bloßem Auge zu erwischen, weil alles drumherum stimmt. Die Regel ist kurz: Eigenname, Zahl und Zitat kommen als Hypothese aus der KI, nie als Tatsache. Hat sie dir einen Namen gegeben, such den Namen. Hat sie dir einen Paragrafen gegeben, öffne das Gesetz.

Und in Bildern erfindet sie aus demselben Grund. Wenn du sie beauftragst, ein Altes Hochzeitsfoto mit KI restaurieren zu lassen, entdeckt sie nicht, was unter dem Knick lag: sie zeichnet einen plausiblen Vorschlag für dieses Stück. Die Schleife am Kleid, die scharf zurückkommt, hatte diese Form vielleicht nie, und niemand in der Familie wird das sagen können. Nur gibt es auf einem Foto von 1962 keine Quelle zum Nachprüfen, also wird die Regel eine andere: bewahre das Original neben der restaurierten Fassung auf und behandle das Ergebnis als Wiederherstellung, nicht als Dokument.

Rechnung, Datum und Frist: der Fehler, den das Lineal sofort fängt

Die Erklärung ist dieselbe und die Folge eine andere. Weil sie den nächsten Textteil schätzt statt zu rechnen, entsteht das Ergebnis aus der Ähnlichkeit mit ähnlichen Rechnungen. Kleine Additionen trifft sie mit einer Leichtigkeit, die täuscht, und dann verhaut sie 18 % von 4.380, ohne den Tonfall zu ändern.

Die gute Nachricht: das ist der billigste Fehler zum Prüfen, weil das Lineal schon in deiner Hand liegt. Besser als im Taschenrechner nachzurechnen: nimm die Rechnung aus dem Gespräch heraus und gib sie an das zurück, was rechnet, indem du die Formel statt des Ergebnisses verlangst, so wie es Tabellenformel auf der Stelle macht. Die Tabelle rechnet richtig, und du kannst die Zahlen später ändern, ohne noch einmal zu fragen.

Datum und Frist landen im selben Korb, mit einem erschwerenden Umstand: sie weiß nicht, welcher Tag heute ist, wenn du es ihr nicht sagst. Eine Antwort über „die Frist in 30 Tagen“ ergibt keinen Sinn mehr, wenn sie den Monat falsch geraten hat. Schreib das heutige Datum in die Anfrage, sobald eine Frist im Spiel ist.

Verzerrung: der Fehler, der nicht wie ein Fehler aussieht

Dieser ist der schwerste, weil es keinen falschen Satz gibt, auf den man zeigen könnte. Die KI hat aus Material gelernt, das über manche Dinge sehr viel mehr Text enthält als über andere, und sie gibt den Durchschnitt davon zurück. Frag nach einer Geschäftsidee und du bekommst dieselben fünf wie immer. Frag nach einem Lernplan und du bekommst den, der zur Mehrheit passt und vielleicht nicht zu dir.

Das Symptom ist immer dasselbe: die Antwort ist gut und sie ist generisch. Die Abhilfe auch, und sie besteht aus einer zusätzlichen Frage. „Was ist die Gegenposition dazu?“ „Was ist hier weggefallen?“ „Gib mir drei Alternativen, die sonst niemand vorschlägt.“ Diese zweite Nachricht trennt die, die KI benutzen, von denen, die die erste Antwort veröffentlichen, die aufgetaucht ist.

Und es gibt eine persönliche Variante der Verzerrung, die mehr stört als die statistische: deine. Wenn die Anfrage die Antwort, die du hören willst, schon in sich trägt, stimmt sie zu. „Warum ist Option A besser?“ zu fragen garantiert einen Text zum Lob von Option A, auch wenn B die richtige ist.

Die Schmeichelei, und warum sie der billigste Fehler ist

Du hast sicher gemerkt, dass Widerspruch bei der KI viel zu schnell wirkt. Du sagst, die Antwort sei falsch, sie entschuldigt sich und ändert sie, auch wenn die erste richtig war. Das ist weder Bescheidenheit noch Überzeugung: sie wurde darauf eingestellt zu gefallen, und dir recht zu geben ist die wahrscheinlichste Fortsetzung einer Beschwerde von dir.

Die Abhilfe ist, das Gegenteil zu verlangen, ausdrücklich, bevor sie Gelegenheit hat, dir zu gefallen. Das ist die Logik von Gnadenloser Lebenslauf-Check, der harte Kritik statt Lob verlangt. Wer programmiert, hat die exakte Fassung davon in Code Prüfen vor dem Deploy: nach dem Problem zu suchen ist eine andere Anfrage als „passt das so?“, und sie gibt eine andere Antwort zurück.

Und was sich ändert, wenn das Material ein Bild ist

Die vier Fehler oben sind Textfehler, und im Bild schrumpfen sie auf einen einzigen zusammen: die Erfindung. Es gilt ein einfaches Prinzip, je weniger du verlangst, desto weniger erfindet sie. Für ein Gesicht, das nur unscharf ist, greift Unscharfes Foto in Sekunden schärfen kaum ein und ist die sicherste Wahl, wenn das Foto Erinnerungswert hat. „Verbessere das Foto“ zu verlangen, ohne zu sagen was, ist eine Einladung, das Gesicht neu zu schreiben.

Die andere Seite davon: das erfundene Bild ist für das Auge längst zu gut geworden. Fiktiver Ausweis in der Hand: der Virale TikTok-Effekt ist ein Spaß, solange alle wissen, dass es einer ist, und er zeigt, dass dieser Realismus für jeden eine Anfrage weit entfernt liegt. Wenn ein Bild allein nichts mehr beweist, wird das Prüfen zu einer Frage der Herkunft: wer hat es veröffentlicht, wann und warum.

Die Dreißig-Sekunden-Routine

Alles zu prüfen ist unmöglich und niemand tut es. Möglich ist, jede Antwort durch drei Fragen laufen zu lassen, immer in derselben Reihenfolge, und nur das wirklich zu prüfen, was übrig bleibt.

Steht da ein Eigenname, eine Zahl oder ein Zitat? Wenn ja, ist dieses Stück eine Hypothese. Markieren und an der Quelle prüfen.
Was kostet es, falsch zu liegen? Eine falsche Bildunterschrift kostet eine Korrektur. Ein falscher Vertrag kostet Geld. Die Kosten entscheiden, wie viel Zeit du investierst.
Klingt das zu generisch? Dann ist das Problem keine Unwahrheit, sondern Verzerrung. Verlang die Gegenposition, bevor du es benutzt.

Nur die erste Frage macht Arbeit. Die anderen beiden sind Entscheidungen und dauern Sekunden. Bei einem aufgezeichneten Meeting zum Beispiel gibt Meeting-Protokoll das Gesagte richtig wieder, und es sind die Beschlüsse und die Verantwortlichen, die einen zweiten Blick verdienen: dort kann ein „vereinbart wurde, dass“ geschlossen statt gehört worden sein.

Wo Prüfen nicht optional ist

Es gibt Themen, bei denen die Antwort der KI ein Ausgangspunkt und nie ein Schluss ist, und sie haben alle etwas gemeinsam: jemand unterschreibt darunter.

Bei einem Vertrag ist der richtige Einsatz der eines schnellen Lesers, der zeigt, wo man hinschauen muss, und genau so sind Vertragsanalyse und Mietvertrag: Prüfen vor der Unterschrift geschrieben. Sie geben dir die Liste der Klauseln, die du aufmerksam lesen sollst, und sie geben dir keine Rechtssicherheit, die bei hohen Beträgen weiter Sache einer Fachperson bleibt.

Bei einer Prüfung gilt dasselbe unter anderem Namen. Korrektur Deines Prüfungsaufsatzes zeigt genau, was in deinem Text lose ist, und die Note, die dabei herauskommt, ist eine Schätzung, nicht die Note, die du bekommen wirst. Nutze die Hinweise, ignoriere die Zahl.

Fünf Prompts, die das Prüfen schon eingebaut haben

Der beste Weg, seltener falsch zu liegen, ist nicht mehr zu prüfen, sondern so zu fragen, dass der Fehler sichtbar wird. Diese fünf tun das, in dieser Reihenfolge:

Fang mit Lesemethode und Lesenotizen an, das auf einem Text arbeitet, den du geliefert hast: eine Antwort, die an Material gebunden ist, das du in der Hand hältst, hat viel weniger Raum zum Erfinden.
Danach Buchzusammenfassung und Leseführer, der umgekehrte Fall und ein gutes Training: hier spricht sie aus dem Gedächtnis, also findest du dort die Fehler, die dein Misstrauen eichen.
Verwandle den Rest in Lernkarten und Verteilte Wiederholung. Kurze Frage und kurze Antwort sind das Format, in dem ein Fehler schreit, weil kein Text drumherum ihn kaschiert.
Nimm Die Perfekte Berufliche E-Mail für alles, was mit deinem Namen hinausgeht. Das Risiko ist hier nicht die falsche Tatsache, sondern der falsche Ton.
Schließ mit der harten Kritik von Gnadenloser Lebenslauf-Check auf das, was du an dem Tag produziert hast. Das ist die zweite Nachricht, die zur Gewohnheit wird.

Für denselben Gedankengang, angewandt aufs Lernen, geht der Beitrag über KI zum Lernen ins Detail zu Prüfungen, Auswahlverfahren und Sprachen.

Schnelle Fragen

Kann ich ChatGPT vertrauen?

Du kannst seiner Arbeit an einem Text vertrauen, den du selbst geliefert hast, an Entwürfen und beim Ordnen einer Idee. Du kannst einer konkreten Tatsache, einer Zahl, einem Zitat und einem Gesetz nicht ohne Prüfung vertrauen. Der Unterschied ist nicht das Thema, sondern die Herkunft: Information, die von außerhalb deines Gesprächs kommt, ist eine Schätzung.

Was ist eine KI-Halluzination?

Das ist, wenn sie etwas, das es nicht gibt, als Tatsache präsentiert, im selben Ton wie dann, wenn sie richtig liegt. Es passiert, weil sie wahrscheinliche Formen vervollständigt statt eine Datenbank abzufragen, und deshalb kommt es am häufigsten bei Quellen, Eigennamen, Daten und Zahlen vor.

Warum verhaut sie einfache Rechnungen?

Weil sie nicht rechnet, sondern den Text des Ergebnisses schätzt. Bei kleinen Rechnungen geht das meistens auf, bei größeren nicht. Verlang die Formel statt des Ergebnisses, oder rechne im Taschenrechner nach.

Macht sie auf Deutsch mehr Fehler?

Es gibt mehr Trainingsmaterial auf Englisch, also kann ein sehr spezielles Thema auf Deutsch dünner ausfallen. Im Alltag sieht man davon fast nichts. Was sich wirklich ändert, ist der lokale Kontext: Regeln, Fristen und Verfahren bei dir vor Ort sind die Stelle, an der sie am meisten irrt, und an der die offizielle Seite es in einer Minute klärt.

Macht ein besserer Prompt weniger Fehler?

Ja, und zwar deutlich, aber nur bei zwei der fünf Fehler. Eine klare Anfrage senkt die generische Antwort und schneidet der Schmeichelei den Weg ab, so wie es die Lektion zum Schreiben eines Prompts zeigt. Gegen erfundene Quellen und falsche Rechnungen hilft ein guter Prompt wenig: dort wirkt nur Prüfen.

Wie erkenne ich, ob ein Bild von einer KI stammt?

Die alten Anzeichen (eine Hand mit sechs Fingern, verwürfelte Buchstaben im Hintergrund) verschwinden schnell. Was weiter funktioniert, ist auf die Herkunft statt auf das Bild zu schauen: von welchem Konto es kommt, ob es an mehr als einer Stelle auftaucht und ob es eine frühere Fassung davon gibt. Die Lektion zum Erstellen eines Bildes aus einem Foto zeigt, wie leicht vieles davon schon ist.

Womit du heute anfängst

Nimm die letzte nützliche Antwort, die dir die KI gegeben hat, und lass die drei Fragen der Routine darüber laufen. Steht ein Eigenname oder eine Zahl darin, prüf nur dieses Stück. Es lohnt sich einmal, weil du merken wirst, dass die Prüfarbeit viel kleiner ist, als sie aussieht.

Danach hat der Hub der Text-Prompts die vollständige Sammlung, und die Kursreihe geht von hier aus weiter. Seltener mit KI danebenzuliegen hat weniger damit zu tun, das richtige Werkzeug zu finden, und mehr damit, zu wissen, welches Stück der Antwort deine Aufmerksamkeit verdient.