KI-Antworten prüfen: Fehler schnell erkennen

Der schnellste brauchbare Ablauf ist:

1. Markiere Zahlen, Namen, Daten, Zitate, Regeln und konkrete Produkteigenschaften.
2. Öffne die angegebene Quelle selbst.
3. Prüfe, ob die Quelle genau diese Aussage stützt – nicht nur ein ähnliches Thema.
4. Vergleiche wichtige Aussagen mit einer unabhängigen oder zuständigen Quelle.
5. Halte das Ergebnis als bestätigt, unklar oder falsch fest.

Das ist wichtig, weil Sprachmodelle falsche Fakten und sogar erfundene Quellen überzeugend formulieren können. Darauf weisen sowohl OpenAI zur Zuverlässigkeit von ChatGPT als auch das NIST-Risikoprofil für generative KI hin.

Für wen dieser Leitfaden gedacht ist

Der Ablauf passt zu Menschen, die KI für E-Mails, Recherche, Zusammenfassungen, Produktvergleiche, Präsentationen oder erste Analysen nutzen. Er hilft besonders kleinen Teams, die keine eigene Faktencheck-Abteilung haben.

Für harmlose Formulierungen reicht eine kurze Plausibilitätskontrolle. Bei Verträgen, Gesundheit, Steuern, Personalentscheidungen, IT-Sicherheit oder hohen Ausgaben reicht dieser Leitfaden allein nicht. Dort muss eine fachkundige Person die Originalunterlagen prüfen und entscheiden.

Warum wir glatten Antworten zu leicht glauben

Gute Grammatik ist kein Gütesiegel. Das NIST beschreibt sogenannte Konfabulationen als selbstsicher vorgetragene, aber falsche oder widersprüchliche Inhalte. Das BSI warnt ebenfalls, dass generative Modelle keine ausreichende Garantie für die Qualität ihrer Ausgaben geben und Referenzen frei erfunden sein können.

Hinzu kommt ein menschlicher Effekt: In einer 2025 veröffentlichten Befragung von 319 Wissensarbeitenden mit 936 Praxisbeispielen war höheres Vertrauen in generative KI mit weniger selbst berichteter kritischer Prüfung verbunden. Die Studie beweist nicht, dass KI jeden Menschen unkritisch macht. Sie zeigt aber, warum ein fester Prüfablauf sinnvoller ist als das Gefühl „Das klingt richtig“. Eine vertiefende Einordnung bietet unser Beitrag warum KI-Antworten überzeugender, aber nicht automatisch richtiger werden.

Das Saaspective-Prüfmodell: 2, 5 oder 15 Minuten

Die Zeiten sind eine praktische Priorisierung, kein wissenschaftlich gemessener Grenzwert. Ich halte sie für nützlich, weil sie eine einfache Frage erzwingen: Wie viel Prüfung ist der möglichen Folge angemessen?

KI-Antworten in fünf Schritten prüfen

1. Zuerst das Risiko bestimmen

Frage nicht zuerst „Ist der Text schön?“, sondern „Was passiert, wenn diese Aussage falsch ist?“

• Niedriges Risiko: Ideen, Überschriften, interne Formulierungen. Stichprobe genügt meist.
• Mittleres Risiko: Produktvergleich, Marktzahl, Kundenmail, öffentliche Präsentation. Zentrale Aussagen brauchen Belege.
• Hohes Risiko: Recht, Medizin, Sicherheit, Finanzen oder eine schwer rückgängig zu machende Entscheidung. Originalquellen und Fachprüfung sind Pflicht.

Mein Rat: Wenn du über die Risikostufe diskutieren musst, nimm die höhere. Eine zusätzliche Prüfung ist meist günstiger als eine falsche Entscheidung.

2. Die Antwort in prüfbare Behauptungen zerlegen

Lange Absätze verstecken Fehler. Teile sie in kleine Aussagen. Markiere besonders:

• konkrete Zahlen, Preise, Prozente und Zeiträume,
• Namen, Funktionen, Termine und Versionsnummern,
• direkte und indirekte Zitate,
• Wörter wie „immer“, „nie“, „führend“ oder „gesetzlich vorgeschrieben“,
• Ursachen und Folgen,
• Empfehlungen, die Bedingungen verschweigen.

Google nutzt bei seiner technischen Grounding-Prüfung ebenfalls eine Zuordnung einzelner Behauptungen zu stützenden Fakten. Das ist auch für Menschen eine gute Arbeitsweise: Ein teilweise richtiger Satz ist nicht als Ganzes belegt.

3. Nicht den Link, sondern den Beleg prüfen

Eine Quellenangabe kann echt und trotzdem ungeeignet sein. Prüfe vier Dinge:

1. Existenz: Lässt sich die Seite, Studie oder Norm wirklich öffnen?
2. Absender: Ist die Stelle für diese Aussage zuständig? Für Produktfunktionen ist die Herstellerdokumentation näher dran als ein beliebiger Blog.
3. Stand: Gibt es Datum, Version, Region und Geltungsbereich?
4. Passung: Steht die konkrete Behauptung wirklich in der Quelle?

Beispiel: Die KI schreibt, ein Anbieter speichere „alle Kundendaten ausschließlich in der EU“, und verlinkt eine allgemeine Datenschutzseite. Die Seite kann echt sein, ohne diesen Satz zu belegen. Suche auf der Seite nach „Speicherort“, „Subprozessoren“, „Region“ und Ausnahmen. Fehlt die Aussage, ist sie nicht bestätigt.

Genau hier scheitert ein oberflächlicher Faktencheck: Ein Link sieht nach Beleg aus, wird aber nur als Dekoration benutzt.

4. Seitlich statt nur auf einer Seite lesen

Bei unbekannten Quellen solltest du nicht lange auf derselben Website bleiben. Öffne neue Tabs und prüfe, wer hinter der Quelle steht und was andere verlässliche Stellen über sie sagen. Forschende, die professionelle Faktenchecker beobachteten, beschreiben diese Methode als „lateral reading“.

Für wichtige Aussagen gilt:

• Nutze möglichst die Originalquelle: Gesetzestext, Behördenseite, Studie, Preisseite oder technische Dokumentation.
• Ergänze bei strittigen oder kommerziellen Aussagen eine unabhängige Quelle.
• Prüfe, ob zwei Artikel nur dieselbe Pressemitteilung abschreiben. Zwei Kopien sind keine zwei unabhängigen Belege.
• Suche auch nach Gegenbeispielen und Einschränkungen.

Wenn du Markt- oder Anbieterangaben vergleichst, hilft zusätzlich unser ehrlicher Vergleich von KI-Tools für Markt- und Wettbewerbsrecherche.

5. Zahlen, Code und Zusammenfassungen passend testen

Nicht jede Antwort wird gleich geprüft:

• Zahlen: Schreibe Eingaben, Formel, Einheit und Rundung separat auf. Rechne mit einem Taschenrechner oder Tabellenblatt nach.
• Code: Führe ihn nur in einer sicheren Testumgebung aus. Prüfe Fehlermeldungen, Randfälle, Abhängigkeiten und die offizielle Dokumentation.
• PDF-Zusammenfassung: Gehe zu den genannten Seiten und vergleiche Aussage, Tabelle, Fußnote und Zeitraum mit dem Original. Unser Guide lange PDFs schnell zu verstehen zeigt dafür einen eigenen Ablauf.
• Empfehlung: Frage, für wen sie gilt, welche Annahmen dahinterstehen und was gegen sie spricht.
• Aktuelle Information: Prüfe Veröffentlichungsdatum und letztes Änderungsdatum. Eine korrekte alte Antwort kann heute falsch sein.

Acht Warnzeichen, die du zuerst prüfen solltest

Diese Signale beweisen noch keinen Fehler. Sie zeigen, wo sich die Prüfung lohnt:

1. eine sehr genaue Zahl ohne Datum, Einheit oder Quelle,
2. ein Zitat ohne Seitenzahl, Abschnitt oder Originaldokument,
3. „Studien zeigen“, ohne eine benannte Studie,
4. ein Link, dessen Überschrift nur ungefähr zum Satz passt,
5. eine Rechts- oder Preisangabe ohne Land, Tarif oder Stand,
6. eine Rangliste ohne Kriterien,
7. eine Empfehlung ohne Nachteile oder Voraussetzungen,
8. mehrere Quellen, die alle auf denselben Ursprung zurückgehen.

Kann eine zweite KI die erste kontrollieren?

Ja, aber nur als Fehlersucher. Nein, nicht als unabhängiger Beweis.

Diese Fragen sind nützlich:

• „Liste jede überprüfbare Tatsachenbehauptung einzeln auf.“
• „Welche Aussage ist nur teilweise belegt oder zu allgemein formuliert?“
• „Nenne zu jeder Quelle den genauen Abschnitt, der die Aussage stützt.“
• „Welches Gegenbeispiel würde die Empfehlung kippen?“
• „Welche Information könnte seit dem genannten Datum veraltet sein?“
• „Trenne Fakten, Schlussfolgerungen und Meinungen.“

Öffne danach die Quellen selbst. Zwei Modelle können denselben Fehler wiederholen. Auch eine selbstsichere Korrektur bleibt eine neue KI-Ausgabe.

Welche Prüfung passt zu welcher Aufgabe?

Die Tabelle ist eine Entscheidungshilfe, keine Garantie. Entscheidend bleibt der mögliche Schaden.

Wann ist die Prüfung abgeschlossen?

Eine Antwort ist bestätigt, wenn die entscheidenden Behauptungen durch passende, aktuelle Quellen oder reproduzierbare Tests gestützt werden. Sie ist unklar, wenn Belege fehlen, zu alt sind oder einander widersprechen. Sie ist falsch, wenn ein belastbarer Gegenbeleg vorliegt.

Nutze für wichtige Entscheidungen ein kleines Protokoll:

• Behauptung: Was genau soll stimmen?
• Status: bestätigt, unklar oder falsch
• Beleg: URL, Dokumentversion, Seite oder Testergebnis
• Stand: Datum der Prüfung
• Folge: übernehmen, umformulieren, weglassen oder eskalieren
• Verantwortlich: Wer entscheidet am Ende?

Der Nutzen liegt nicht in Bürokratie. Das Protokoll verhindert, dass eine offene Annahme später wie eine bestätigte Tatsache behandelt wird.

Wann du stoppen und einen Menschen einschalten solltest

Stoppe die Übernahme der KI-Antwort, wenn:

• eine zentrale Primärquelle nicht auffindbar ist,
• aktuelle Quellen einander widersprechen,
• die Aussage personenbezogene oder vertrauliche Daten betrifft,
• eine Entscheidung rechtliche, medizinische, finanzielle oder sicherheitskritische Folgen hat,
• Code produktive Daten verändern oder Systeme öffnen würde,
• du das Fachgebiet nicht gut genug kennst, um einen Fehler zu erkennen.

Das Bundesdigitalministerium beschreibt für eigene KI-unterstützte Texte denselben Kern: Quellen müssen gesondert durch Menschen geprüft werden; Inhalt und Verantwortung bleiben beim Menschen. Das ist auch für kleine Unternehmen ein vernünftiger Standard.

Häufige Fragen

Muss ich wirklich jede KI-Antwort prüfen?

Nein. Prüfe nach Risiko. Eine neue Überschrift braucht weniger Kontrolle als eine Vertragsklausel oder eine Investitionsentscheidung. Fakten, die du veröffentlichst oder als Entscheidungsgrundlage nutzt, verdienen immer eine nachvollziehbare Prüfung.

Sind Antworten mit Quellen automatisch zuverlässig?

Nein. Der Link kann erfunden, veraltet oder thematisch passend, aber für die konkrete Behauptung ungeeignet sein. Öffne die Quelle und suche die stützende Passage. Das NIST empfiehlt ausdrücklich, Quellen und Zitate aus generativen Systemen zu überprüfen.

Reicht es, dieselbe Frage noch einmal zu stellen?

Nein. Eine zweite Antwort zeigt höchstens Widersprüche. Gleiche Antworten sind kein Wahrheitsbeweis, weil sie aus denselben Mustern oder Quellen entstehen können.

Welche Quelle ist am besten?

Das hängt von der Frage ab. Für Produktfunktionen ist die aktuelle Herstellerdokumentation oft die beste Ausgangsbasis. Für Gesetze zählt der offizielle Text. Für Forschung zählt die Originalstudie. Bei Bewertungen und Folgen brauchst du zusätzlich unabhängige Perspektiven.

Was mache ich, wenn Quellen widersprechen?

Prüfe Datum, Version, Land, Definition und Interessen der Herausgeber. Formuliere den Stand der Unsicherheit offen. Triff keine folgenschwere Entscheidung, bis eine zuständige Person den Konflikt geklärt hat.

Fazit

KI-Antworten lassen sich schnell prüfen, wenn du nicht den ganzen Text auf einmal bewertest. Beginne bei den folgenreichen Behauptungen, zerlege sie, öffne die Originalquellen und prüfe die genaue Passung. Ich würde lieber eine Aussage sichtbar als „unklar“ markieren, als sie mit einem dekorativen Link künstlich sicher wirken zu lassen.