Zusammenfassung
KI-Halluzinationen – Fälle, in denen Modelle falsche oder erfundene Informationen mit voller Überzeugung generieren – stellen eines der kritischsten und dennoch am meisten unterschätzten Risiken in der heutigen KI-gestützten Geschäftswelt dar. Die nachfolgenden Daten verdeutlichen das Ausmaß. Sie zeigen auch, dass kein Modell immun ist, weshalb Halluzinationsminderung durch Multi-Modell-Verifizierung zu einer strukturellen Anforderung wird, nicht zu einer optionalen Schutzmaßnahme.
Dieser Bericht kompiliert statistische Rohdaten aus mehreren maßgeblichen Benchmarks, Branchenstudien und Echtzeitvorfallverfolgung als inhaltliche Grundlage.
Die Kernzahlen sind erschütternd:
- Unternehmen mit KI-Vorfällen berichten einen durchschnittlichen Verlust von 4,4 Millionen US-Dollar pro Organisation (EY Responsible AI Pulse, Oktober 2025)
- 51 % der Organisationen berichteten über negative Folgen durch generative KI (McKinsey State of AI, November 2025, n=1.993)
- Selbst die besten KI-Modelle halluzinieren bei einfachen Zusammenfassungsaufgaben noch mindestens 0,7 % der Zeit– und speziell entwickelte juristische KI-Tools liegen bei mehr als 17 % der Anfragen falsch (Stanford RegLab, 2025)
- Bei schwierigen Wissensfragen halluzinieren alle bis auf drei von 40 getesteten Modellen häufiger, als sie eine korrekte Antwort geben[5][6]
Was ist eine KI-Halluzination? (Technische Definition + Verständliche Erklärung)
Verständliche Erklärung
Eine KI-Halluzination entsteht, wenn ein KI-Modell sich etwas ausdenkt und dabei sehr überzeugend wirkt. Es sagt nicht „Ich weiß es nicht“ – stattdessen präsentiert es erfundene Fakten, ausgedachte Statistiken, falsche Gerichtsfälle oder nicht existierende medizinische Studien, als wären sie real. Die Antwort klingt autoritativ und liest sich perfekt. Genau das macht sie gefährlich.[7]
Technische Definition
In technischer Hinsicht bezeichnet Halluzination generierte Ausgaben, die nicht in den bereitgestellten Eingabedaten oder der faktischen Realität verankert sind. Es gibt zwei Haupttypen:
- Intrinsische Halluzination (auch „Faithfulness-Halluzination“ genannt): Das Modell widerspricht Informationen, die in seinem Ausgangsmaterial ausdrücklich enthalten sind. Zum Beispiel fügt es beim Zusammenfassen Fakten hinzu, die im Originaldokument nicht vorkommen.[8]
- Extrinsische Halluzination (auch „Factuality-Halluzination“ genannt): Das Modell erzeugt Informationen, die sich anhand keiner bekannten Quelle verifizieren lassen – es erfindet Fakten, Zitate, Statistiken oder Ereignisse aus dem Nichts.[9]
Eine zentrale Erkenntnis aus Carnegie-Mellon-Forschung (Cash und Oppenheimer, Memory & Cognition, 2025): Modelle können nicht erkennen, wie schlecht sie abgeschnitten haben. Nach einem missglückten 20-Punkte-Test gab ein führendes Modell rückblickend ein Ergebnis an, das fünfzehnmal über dem tatsächlichen lag.
Quellenübersicht
Wichtigste referenzierte Benchmarks und Studien:
- Vectara HHEM Leaderboard (ursprüngliche und aktualisierte Datensätze, 2023–2026)[10][12][13]
- AA-Omniscience Benchmark von Artificial Analysis (November 2025)[5][6]
- AllAboutAI Hallucination Report 2026 (umfassende Branchenanalyse)[4]
- Columbia Journalism Review-Studie zur Zitiergenauigkeit (März 2025)[20][17]
- Stanford RegLab/HAI-Studie zu juristischen Halluzinationen[25][9]
- MedRxiv 2025-Studie zu Halluzinationen medizinischer Fälle[23]
- International Journal of Data Science and Analytics zu finanziellen KI-Halluzinationen[17]
- ECRI 2025-Report zu Gefahren in der Gesundheitstechnologie[24]
- Reuters-Berichterstattung zu juristischen KI-Vorfällen[31]
- Business Insider-Datenbank zu Gerichtsverfahren mit KI-Halluzinationen[30]
- VinciWorks-Analyse der Krise um juristische Zitate im Juli 2025[29]
