Als Halluzination bezeichnet man im Bereich der Künstlichen Intelligenz eine Situation, in der ein KI-System Informationen erzeugt, die überzeugend und plausibel erscheinen, tatsächlich aber falsch, ungenau oder vollständig erfunden sind. Obwohl der Begriff „Halluzination" ursprünglich aus der Medizin stammt, beschreibt er bei KI nicht das Wahrnehmen von Dingen, sondern das Erzeugen von Antworten, die keine verlässliche Grundlage haben.
Halluzinationen entstehen, weil moderne Sprachmodelle wie GPT Antworten auf Basis statistischer Wahrscheinlichkeiten generieren. Die KI berechnet, welche Wörter oder Sätze am besten zu einer Anfrage passen. Sie überprüft dabei jedoch nicht automatisch, ob jede Aussage tatsächlich richtig oder aktuell ist. Deshalb kann es vorkommen, dass Namen, Zahlen, Quellen, Zitate oder Ereignisse erfunden oder falsch dargestellt werden.
Besonders problematisch können Halluzinationen in Bereichen wie Medizin, Recht, Finanzen oder Wissenschaft sein. Beispielsweise könnte eine KI eine nicht existierende Gerichtsentscheidung zitieren, falsche medizinische Empfehlungen geben oder eine Quelle nennen, die es überhaupt nicht gibt. Aus diesem Grund sollten wichtige Informationen immer anhand vertrauenswürdiger Quellen überprüft werden.
Die Wahrscheinlichkeit von Halluzinationen lässt sich durch präzise Eingaben reduzieren. Je genauer eine Frage formuliert wird und je mehr Kontext die KI erhält, desto höher ist die Wahrscheinlichkeit einer hilfreichen und korrekten Antwort. Zusätzlich können aktuelle Datenquellen oder menschliche Kontrollen die Qualität der Ergebnisse verbessern.
Moderne KI-Systeme werden kontinuierlich weiterentwickelt, um Halluzinationen zu reduzieren. Dennoch können sie nicht vollständig ausgeschlossen werden. Deshalb sollte Künstliche Intelligenz als Unterstützung und nicht als alleinige Entscheidungsgrundlage genutzt werden.
Zusammenfassend sind Halluzinationen ein bekanntes Phänomen moderner KI-Systeme. Sie zeigen, dass künstliche Intelligenz leistungsfähig ist, ihre Antworten jedoch stets kritisch bewertet werden sollten – insbesondere bei wichtigen oder sicherheitsrelevanten Themen.