KI macht uns selbstsicherer – und oft gefaehrlich falsch

KI macht Antworten sicherer wirken – nicht unbedingt richtiger

Die eigentliche Pointe dieser Meldung ist nicht, dass KI Fehler macht. Das ist laengst bekannt. Neu und fuer Unternehmen deutlich unangenehmer ist etwas anderes: Menschen scheinen mit KI-Hinweisen seltener zu sagen, dass sie etwas nicht wissen, obwohl ihre Antworten dabei schlechter werden koennen.

Genau darauf zielt der aktuelle Bericht von The Register vom 19. Juli 2026. Er verweist auf eine Studie von Forschern aus Frankreich und Italien, deren zentrale These schon im Titel steckt: KI-Rat unterdrueckt die Bereitschaft, mit "Ich weiss es nicht" zu reagieren – selbst dann, wenn der Rat falsch ist und richtige Antworten sogar belohnt werden. Im berichteten Experiment fiel die Bereitschaft, Unsicherheit einzugestehen, drastisch; zugleich sank die Genauigkeit und das subjektive Vertrauen in die eigene Antwort stieg. Fuer Unternehmen ist das kein kurioser Laboreffekt, sondern ein Warnsignal fuer reale Workflows. Wer mit KI recherchiert, Support gibt, Bewerber bewertet oder Sicherheitsvorfaelle einordnet, produziert nicht nur Antworten. Er produziert auch den Eindruck von Sicherheit.

Genau deshalb ist das Thema strategisch. Das Risiko sitzt oft nicht allein im Modell, sondern in der Kombination aus maschineller Plausibilitaet und menschlicher Uebernahme. Anders gesagt: Eine falsche Antwort ist schaedlich. Eine falsche Antwort, die mit neuem Selbstvertrauen vorgetragen wird, ist deutlich teurer.

Das passt zu einem breiteren Forschungsbild. Andere Arbeiten zeigen, dass LLMs nicht nur halluzinieren koennen, sondern auch Kalibrierungsprobleme haben – also schlecht darin sein koennen, Sicherheit und Korrektheit sauber zusammenzubringen. Wenn solche Systeme dann als alltaegliche Denkstuetze dienen, verschiebt sich nicht nur die Informationsqualitaet, sondern auch das Verhalten der Nutzer.

Warum KI Unsicherheit oft ueberdeckt

Damit Menschen offen Unsicherheit eingestehen, muessen zwei Dinge gleichzeitig passieren: Erstens muessen sie merken, dass ihr Wissen lueckenhaft ist. Zweitens muessen sie den Mut haben, diese Luecke nicht sofort mit etwas Plausiblem zu fuellen. Genau hier veraendert KI den Ablauf.

Ein Chatbot liefert fast immer eine fluessige, schnelle und sprachlich glatte Antwort. Diese Form wirkt wie Kompetenz, auch wenn der Inhalt schwach ist. Das ist kein reiner UX-Effekt. Forschung aus Nature zeigt, dass die Fokussierung auf Genauigkeit LLMs paradoxerweise dazu bringen kann, eher zu raten statt Unsicherheit offenzulegen. Eine weitere Arbeit in Nature Machine Intelligence beschreibt Overconfidence und Underconfidence in LLMs als Kalibrierungsproblem. Vereinfacht gesagt: Das System klingt oft entschiedener, als es begruendet sein sollte.

Sobald Menschen mit so einem System arbeiten, entsteht daraus ein zweiter Effekt: Reliance. Nutzer orientieren sich an der gelieferten Antwort, selbst wenn sie sie eigentlich pruefen sollten. Eine Arbeit in Scientific Reports ordnet genau diese menschliche Reliance als relevantes Entscheidungsthema ein. Das ist fuer den Alltag entscheidend. Wer allein recherchiert, zweifelt eher sichtbar. Wer erst eine glatte KI-Antwort sieht, geht leichter vom Zweifel in die Uebernahme.

Hinzu kommt ein kultureller Faktor. In vielen Teams gilt Schnelligkeit als Kompetenzsignal. Wer schnell antwortet, wirkt vorbereitet. KI verstaerkt genau diese Dynamik: Sie senkt die Kosten des Sofort-Antwortens, aber nicht automatisch die Kosten des Irrtums. Deshalb wird aus einem Wissenswerkzeug schnell ein Verstaerker fuer ueberzogenes Selbstvertrauen.

Besonders heikel wird das bei agentischen Systemen. Wenn KI nicht nur Formulierungshilfe ist, sondern Aufgaben anstoesst, Tools nutzt oder Schritte selbst ausfuehrt, wird Unsicherheit operativ. Dann ist Ueberkonfidenz nicht mehr nur eine falsche Behauptung im Chatfenster, sondern moeglicherweise ein falscher Prozessschritt. Genau in diese Richtung zeigt auch die Debatte ueber Warum KI-Agenten nicht am Modell scheitern, sondern am Kontext: Die Risiken entstehen oft im Zusammenspiel aus Modell, Kontext, Rechten und Workflow.

Wo KI-gestuetzte Workflows besonders heikel sind

Nicht jeder KI-Einsatz ist gleich riskant. Wenn jemand einen Betreff umformulieren oder eine interne Notiz glatter schreiben laesst, ist falsche Sicherheit meist beherrschbar. Kritisch wird es dort, wo Menschen aus der KI-Antwort auf Wahrheit, Vollstaendigkeit oder Handlungsreife schliessen.

Recherche und Wissensarbeit: Wer mit KI vorrecherchiert, spart Zeit. Aber genau dort kann der Schaden frueh entstehen. Wenn eine Quelle nur plausibel klingt, aber nicht belegt ist, kippt aus Vorarbeit schnell Scheinsicherheit.

Support und Customer Success: Ein Mitarbeiter, der eine KI-Antwort direkt in Kundensprache uebernimmt, vermittelt Sicherheit nach aussen. Ist die Aussage falsch, wird aus internem Reliance-Problem ein externer Vertrauensschaden.

HR, Legal und Compliance: In diesen Bereichen sind halbrichtige Antworten besonders gefaehrlich, weil sie Entscheidungen, Rechte oder Pflichten beruehren. KI sollte dort selten final antworten, sondern eher als strukturierende Vorstufe dienen.

Security und Incident Response: Im Ernstfall ist sichtbare Unsicherheit oft gesuender als eine schnelle, falsche Einordnung. Wer eine KI-Antwort mit zu viel Vertrauen uebernimmt, kann Eskalationen verpassen oder Massnahmen falsch priorisieren.

Produkt- und Managemententscheidungen: Sobald KI Analysen, Marktuebersichten oder Risikoargumente zuliefert, besteht die Gefahr, dass Fuehrungskraefte den Tonfall mit Belastbarkeit verwechseln. Genau deshalb ist Warum verantwortliche KI am Ende kein Modell-, sondern ein Fuehrungsproblem ist mehr als eine Ethikformel: Es geht um Prozessdesign und Verantwortung.

Der rote Faden ist immer derselbe: KI wird besonders dann problematisch, wenn sie den Schritt von "hilft beim Denken" zu "ersetzt das Sichtbarmachen von Unsicherheit" macht.

Wo das Unternehmen ins Risiko laeuft

Das betriebliche Problem ist nicht, dass Menschen mit KI hin und wieder danebenliegen. Das passiert auch ohne KI. Das eigentliche Risiko ist, dass sich Fehlerkultur und Eskalationsverhalten veraendern.

Wenn Mitarbeiter seltener sagen "Ich bin mir nicht sicher", gehen wichtige Warnsignale verloren. Ein Teamlead hoert dann nicht mehr, wo Recherche duenn ist. Ein Kunde merkt nicht, dass eine Aussage nur vorlaeufig war. Eine Compliance-Funktion erkennt zu spaet, dass eine Antwort eher generiert als geprueft wurde. Aus Sicht der Governance ist das gefaehrlicher als der einzelne Halluzinationsfall, weil der Prozess seine eigenen Unsicherheitsmarker verliert.

Daraus folgen drei praktische Verschiebungen:

1. Qualitaet wird schwerer sichtbar. Ein glatt formulierter Fehler sieht oft wertiger aus als eine ehrliche Unsicherheit.
2. Verantwortung verschwimmt. Wenn Menschen KI-Antworten uebernehmen, aber subjektiv als eigene Einschaetzung erleben, wird Nachvollziehbarkeit schwieriger.
3. Kontrollen greifen spaeter. Viele Reviews springen erst an, wenn jemand Zweifel anmeldet. Wenn Zweifel seltener ausgesprochen werden, rutschen falsche Inhalte leichter durch.

Deshalb reicht klassische KI-Governance nicht aus, wenn sie nur Datenabfluss, Modellwahl und Prompt-Regeln betrachtet. Unternehmen brauchen auch Regeln fuer sichtbare Unsicherheit: Wann muessen Quellen genannt werden? Wann ist "nicht sicher" die richtige, ja gewuenschte Antwort? Wann darf KI nur vorrecherchieren, aber nicht zusammenfassend urteilen?

Besonders bei agentischen oder sicherheitsnahen Systemen lohnt sich zusaetzlich ein Blick auf OpenAI laesst KI gegen KI testen: Was GPT-Red fuer Unternehmen bedeutet. Der gemeinsame Punkt ist nicht die einzelne Technik, sondern die Betriebsfrage: Wie frueh testet ein Unternehmen, ob ein KI-System zu selbstsicher reagiert, zu viel tut oder zu wenig stoppt?

Welche Regeln Teams jetzt pruefen sollten

Die naechste sinnvolle Reaktion ist nicht KI-Abstinenz, sondern Kalibrierung. Unternehmen sollten gezielt dort nachschaerfen, wo KI menschliche Unsicherheit ueberdeckt.

Quellenpflicht statt Antwortpflicht. In faktennahen Workflows sollte nicht die schnelle Antwort zaehlen, sondern die belegte Antwort. Wer keine Quelle hat, darf nicht nur wegen fluessiger Formulierung als fertig gelten.

Unsicherheit explizit erlauben. Viele Teams belohnen unbewusst Geschwindigkeit. Besser ist eine Norm, in der "unvollstaendig" oder "muss geprueft werden" nicht als Schwaeche gilt, sondern als Teil sauberer Arbeit.

Review nach Risikoklasse staffeln. Nicht jede KI-Ausgabe braucht denselben Aufwand. Aber je naeher eine Antwort an Recht, Sicherheit, Personal, Geld oder Aussenkommunikation liegt, desto weniger sollte sie ohne Fachpruefung passieren.

Agenten klein anfangen lassen. Wenn Systeme handeln duerfen, sollten sie mit engen Rechten, klaren Stopps und nachvollziehbaren Logs starten. Ueberkonfidenz ist in agentischen Prozessen teurer als im Chat.

Schulungen gegen falsche Sicherheit bauen. Viele KI-Trainings erklaeren Prompts, aber nicht Reliance. Wer produktiv mit KI arbeitet, muss lernen, dass ein plausibler Tonfall kein Wahrheitsbeleg ist.

Der Kern der Governance-Frage lautet also nicht: "Nutzen wir KI ja oder nein?" Sondern: Wo in unserem Prozess darf Sicherheit nur dann entstehen, wenn auch die Pruefung mitgewachsen ist?

Was offen bleibt und wo Vorsicht noetig ist

So stark der Befund klingt, er sollte nicht ueberzogen gelesen werden. Erstens basiert der aktuelle Anlass auf einer konkreten Studie mit spezifischem Setup. Dass sich daraus jedes Unternehmensszenario eins zu eins ableiten laesst, waere zu viel behauptet.

Zweitens ist wichtig, zwischen drei Ebenen zu unterscheiden: dem Medienbericht, der offenen Originalarbeit auf OSF und der breiteren Forschung zu Halluzination, Kalibrierung und Reliance. Zusammen zeichnen sie ein plausibles Muster. Sie beweisen aber nicht, dass jeder KI-Einsatz automatisch zu schlechteren Entscheidungen fuehrt.

Drittens ist der Effekt wahrscheinlich stark vom Einsatzfall abhaengig. KI kann sehr wohl nuetzlich sein, gerade bei Vorstrukturierung, Entwuerfen, Ideenraeumen oder schneller Erstorientierung. Problematisch wird sie dort, wo Nutzer aus Hilfestellung unbemerkt Gewissheit machen.

Genau deshalb ist die nuetzlichste Lesart dieser Studie keine Kulturkritik an KI, sondern eine Prozessfrage fuer Unternehmen: Wo brauchen wir weiterhin Menschen, die offen sagen duerfen, dass sie etwas nicht wissen?

Wenn diese Frage im Betrieb keinen klaren Platz mehr hat, wird KI nicht nur schneller machen. Sie wird Fehler selbstsicherer aussehen lassen.