Die Lüge im Antwortfenster: Wie Künstliche Intelligenz zur neuen Quelle von Fake News wird

Adriano Abbondandolo

 

Ein neues Nachrichtenmedium mit Tücken

Wer heute eine Frage zum Zeitgeschehen hat, tippt sie zunehmend nicht mehr in eine Suchmaschine, sondern in ein Chatfenster. ChatGPT, Gemini, Copilot oder Perplexity liefern in Sekundenschnelle eine flüssig formulierte Antwort – souverän im Ton, autoritativ im Auftreten. Genau darin liegt das Problem: Die Studie „News Integrity in AI Assistants“ der European Broadcasting Union (EBU) und der BBC zeigt, dass diese Souveränität oft nur Fassade ist. Fast jede dritte Antwort der getesteten KI-Assistenten enthält handfeste Fehler, jede fünfte ist zumindest ungenau (EBU & BBC, 2025). Wenn Maschinen im großen Stil falsche „Nachrichten“ produzieren, ist das kein Nischenproblem der Technikforschung mehr, sondern eine Frage von gesellschaftlicher Tragweite – für Vertrauen, Meinungsbildung und demokratische Teilhabe.

Die EBU/BBC-Studie: eine globale Bestandsaufnahme

Die im Oktober 2025 veröffentlichte Untersuchung ist die bislang umfangreichste ihrer Art. Koordiniert von der EBU und geleitet von der BBC beteiligten sich 22 öffentlich-rechtliche Medienhäuser aus 18 Ländern und 14 Sprachen, darunter auch die italienische Rai (EBU & BBC, 2025). Journalistinnen und Journalisten stellten den vier marktführenden Assistenten ChatGPT, Gemini, Copilot und Perplexity im Mai und Juni 2025 einen Kernkatalog von 30 Fragen; viele Organisationen ergänzten zusätzlich eigene nationale Fragen. Ausgewertet wurden am Ende 2.709 Antworten auf die Kernfragen sowie 353 Antworten auf Zusatzfragen – insgesamt also mehr als 3.000 Antworten (EBU & BBC, 2025).

Das Ergebnis ist ernüchternd: 45 Prozent aller Antworten wiesen mindestens ein „signifikantes“ Problem auf, das die Nachrichtenintegrität beeinträchtigt; rechnet man kleinere, aber sachlich relevante Verzerrungen hinzu, steigt der Anteil auf 81 Prozent (EBU & BBC, 2025). Größte Einzelursache ist dabei die Quellenlage: Bei 31 Prozent aller Antworten war die Quellenangabe fehlerhaft oder irreführend (EBU & BBC, 2025). Ein besonders anschauliches Beispiel: Noch Wochen nach dem Tod von Papst Franziskus im April 2025 bezeichneten mehrere Assistenten – darunter ChatGPT, Gemini und Copilot – ihn in Antworten vom Mai 2025 fälschlich als amtierenden Papst. Solche Fehler treten laut Studie unabhängig von Sprache, Land oder genutztem System auf – sie sind kein Ausreißer, sondern ein strukturelles Muster.

Wenn Wahrscheinlichkeit auf Wahrheit trifft

Warum liefern Systeme, die Milliarden von Textbausteinen verarbeitet haben, derart häufig falsche Auskünfte? Die Antwort liegt im Funktionsprinzip großer Sprachmodelle selbst. Sie erzeugen Texte nicht, indem sie Fakten aus einer Datenbank abrufen, sondern indem sie – Wort für Wort – die statistisch wahrscheinlichste Fortsetzung eines Satzes berechnen (Ji et al., 2023). Ein umfassender Survey von Ji und Kolleginnen und Kollegen (2023) in ACM Computing Surveys beschreibt dieses Phänomen als „Halluzination“: sprachlich kohärente, aber sachlich falsche oder frei erfundene Inhalte. Exakt dieses Muster identifiziert auch die EBU-Studie: Ankündigungen werden als bereits eingetretene Ereignisse dargestellt, Details werden hinzuerfunden, und Antworten bleiben oft rudimentär oder irreführend, obwohl sie selbstbewusst formuliert sind (EBU & BBC, 2025). Auch aktuelle Übersichtsarbeiten zur generativen KI im Kontext von Desinformation kommen zu einem ähnlichen Befund: Je leistungsfähiger die Modelle im Formulieren werden, desto schwerer lässt sich am Text allein erkennen, ob eine Aussage überhaupt belegt ist (Kumar et al., 2025).

Das Quellenproblem als Kernrisiko

Als Hauptursache identifiziert die EBU-Studie mangelhafte Quellenangaben: Aussagen ganz ohne Beleg, Verweise auf Quellen, die die eigentliche Behauptung gar nicht stützen, oder vollständig fehlende Nachweise (EBU & BBC, 2025). Für den Journalismus, dessen Glaubwürdigkeit auf Nachprüfbarkeit beruht, ist das brisant: Wenn ein Assistent eine Behauptung mit einem Link „belegt“, der beim Nachlesen etwas anderes aussagt, wird das Vertrauen nicht nur in die KI, sondern potenziell auch in die zitierten Medien selbst beschädigt. Auch der Blick auf multimodale Inhalte verschärft das Bild: Bild-, Audio- und Videogeneratoren ermöglichen mittlerweile die Produktion täuschend echter Deepfakes, die klassische Text-Verifikation an ihre Grenzen bringen (Kumar et al., 2025). Eine europaweite Befragung von mehr als 7.000 Personen in sieben Ländern zeigt zudem, dass die wahrgenommenen Risiken von KI-generierten Deepfakes den wahrgenommenen Nutzen in allen untersuchten Ländern übersteigen – am stärksten bei älteren, einkommensschwächeren und weiblichen Befragten (Hynek et al., 2025).

Junge Nutzende und die Erosion des Vertrauens

Diese Schwächen träfen weniger ins Gewicht, würden KI-Assistenten kaum zur Nachrichtenbeschaffung genutzt. Genau das ändert sich jedoch rasant. Laut dem Digital News Report 2025 des Reuters Institute, der knapp 100.000 Menschen in 48 Ländern befragte, nutzen bereits 7 Prozent der Online-Nachrichten-Nutzenden KI-Assistenten für den Nachrichtenzugang – bei den Unter-25-Jährigen sind es 15 Prozent, Tendenz steigend (Newman et al., 2025). Diese wachsende Nutzung zeigt, dass es hier nicht nur um technische Fehlerquoten geht. Die EBU warnt ausdrücklich davor, dass systematisch fehlerhafte KI-Antworten das Vertrauen der Bevölkerung in Informationen insgesamt untergraben und damit die Fähigkeit zu informierter demokratischer Teilhabe schwächen können (EBU & BBC, 2025).

Zwischen Regulierung und Medienkompetenz: mögliche Auswege

Was folgt daraus? Die EBU spricht sich für verbindliche Sorgfaltspflichten der KI-Anbieter aus: transparente Quellenangaben, verlässliche Kennzeichnung unsicherer Fakten und eine engere Zusammenarbeit mit Nachrichtenorganisationen (EBU & BBC, 2025). Auf technischer Seite existieren bereits Ansätze, um Halluzinationen zu reduzieren – etwa Verfahren, die Antworten enger an geprüfte Quellen binden, sowie nachgelagerte Detektionssysteme (Ji et al., 2023; Kumar et al., 2025). Ebenso zentral bleibt die menschliche Seite: Auch die europäische Deepfake-Studie betont, dass gezielte Medienkompetenz-Programme notwendig sind, um Nutzerinnen und Nutzer für Grenzen und Fehlerquellen generativer KI zu sensibilisieren (Hynek et al., 2025). Wer weiß, dass ein Chatbot mit hoher Wahrscheinlichkeit falsch liegen kann, liest dessen Antworten anders – kritischer, nachprüfender, mündiger.

Fazit

Künstliche Intelligenz ersetzt keine journalistische Redaktion, auch wenn sie deren Tonfall täuschend gut imitiert. Die vorgestellten Studien zeigen übereinstimmend: Aktuelle KI-Assistenten sind als alleinige Nachrichtenquelle unzuverlässig, ihre häufigste Schwäche liegt im Umgang mit Quellen, und die Folgen betreffen nicht nur einzelne Falschauskünfte, sondern das gesellschaftliche Vertrauen in Information insgesamt. Solange diese strukturellen Probleme nicht gelöst sind, gilt für Nachrichten aus dem Chatfenster dasselbe wie für jede andere unbelegte Behauptung: nachfragen, gegenprüfen, einordnen.

Literatur- und Quellenverzeichnis

European Broadcasting Union & BBC (2025). News Integrity in AI Assistants: An international PSM study. Genf: EBU. Online: https://www.ebu.ch/files/live/sites/ebu/files/Publications/Intelligence/open/EBU-Intelligence-BBC_News_Integrity_in_AI_Assistants_Report_2025.pdf (Letzter Zugriff: 30.07.2026).

Hynek, N., Gavurova, B. & Kubak, M. (2025). Risks and benefits of artificial intelligence deepfakes: Systematic review and comparison of public attitudes in seven European countries. Journal of Innovation & Knowledge, 10(5), Art. 100782. Online: https://www.sciencedirect.com/science/article/pii/S2444569X25001271 (Letzter Zugriff: 30.07.2026).

Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A. & Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), Art. 248. Online: https://doi.org/10.1145/3571730 (Letzter Zugriff: 30.07.2026).

Kumar, S., Sai, S., Chamola, V., Gaur, A., Agarwal, C., Huang, K. & Hussain, A. (2025). Peeping into the future: Understanding and combating generative AI-based fake news. Cognitive Computation, 17(3), 103. Online: https://doi.org/10.1007/s12559-025-10457-7 (Letzter Zugriff: 30.07.2026).

Newman, N., Fletcher, R., Robertson, C. T., Ross Arguedas, A. & Nielsen, R. K. (2025). Digital News Report 2025. Oxford: Reuters Institute for the Study of Journalism, University of Oxford. Online: https://reutersinstitute.politics.ox.ac.uk/digital-news-report/2025/dnr-executive-summary (Letzter Zugriff: 30.07.2026).

---

---