Zum Inhalt springen
Seit 2014 IT im Mittelstand|DSGVO-bewusst|Region Starnberg · Fürstenfeldbruck · München-West
Home › Blog › Wie verhindere ich, dass eine KI fehlende Informationen einfach erfindet?

Wie verhindere ich, dass eine KI fehlende Informationen einfach erfindet?

· Ben Kübrich · aktualisiert

Veröffentlicht: 09.10.2026 · Fachlich geprüft: 09.10.2026 · Autor: Ben Kübrich

Grundlage dieser Antwort: Die Aussagen zur Ursache erfundener Angaben stützen sich auf die Forschungsarbeit „Why Language Models Hallucinate“ (Kalai, Nachum, Vempala, Zhang, arXiv, September 2025). Die Gegenmaßnahmen stützen sich auf belegte Anbieterangaben: die Anleitung „Reduce hallucinations“ in der Entwicklerdokumentation von Anthropic und die NotebookLM-Hilfe von Google zum Chat in Gemini Notebook (alle am 07.10.2026 abgerufen). Die „Quelle-Lücke-Zitat-Regel“ ist eine eigene LIBUCO®-Methode aus der Beratung, keine erhobene Statistik. Das Praxisbeispiel ist konstruiert.

Direkte Antwort

Ganz verhindern lässt sich nicht, dass eine KI fehlende Informationen erfindet, aber Sie können es deutlich erschweren. Drei Maßnahmen wirken zusammen: Geben Sie der KI die Unterlagen, aus denen sie antworten soll, statt sie aus ihrem allgemeinen Wissen schöpfen zu lassen. Erlauben Sie ihr ausdrücklich, „Das steht nicht in den Unterlagen“ zu antworten. Und verlangen Sie zu jeder Aussage ein wörtliches Zitat aus der Quelle, das Sie nachprüfen können. Wichtigste Einschränkung: Auch mit allen drei Maßnahmen bleibt eine Prüfung durch einen Menschen nötig, sobald eine Angabe Geld, Recht oder Sicherheit berührt.

Belege für diese Antwort

Für wen gilt das? Und für wen nicht?

Die Antwort richtet sich an Inhaber und Mitarbeitende kleiner und mittlerer Betriebe, die KI-Assistenten wie ChatGPT, Gemini, Claude oder Gemini Notebook im Alltag nutzen – für Zusammenfassungen, Antworten auf Kundenfragen, Auskünfte aus Handbüchern oder Entwürfe. Sie gilt nicht für selbst entwickelte KI-Systeme mit eigener Programmierung; dort gibt es weitere technische Stellschrauben. Sie gilt auch nicht als Freibrief für Entscheidungen in Recht, Medizin, Statik oder Steuern: Dort bleibt die KI-Antwort Vorarbeit, die eine Fachperson verantwortet.

Warum erfindet eine KI überhaupt Angaben?

Sprachmodelle raten bei Unsicherheit, weil Training und gängige Bewertungsverfahren Raten belohnen; die Autoren der Arbeit „Why Language Models Hallucinate“ vergleichen das mit Schülern, die bei schweren Prüfungsfragen raten, statt eine Lücke zuzugeben (arXiv:2509.04664). Eine flüssig formulierte Antwort ist deshalb kein Hinweis auf eine richtige Antwort.

Wie Sie eine fertige Antwort nachträglich prüfen, steht im Beitrag Wie erkenne ich, ob eine KI-Antwort stimmt? Hier geht es um den Schritt davor: die Frage so zu stellen, dass Raten gar nicht erst nötig wird.

Schritt 1: Geben Sie der KI die Unterlagen mit

Die grundlegende Maßnahme ist, die KI auf Ihre eigenen Unterlagen festzulegen. Fragen Sie nicht ins Blaue „Welche Leistungen sind in unserem Wartungsvertrag enthalten?“, sondern laden Sie den Wartungsvertrag hoch und fragen Sie, was darin steht. Anthropic nennt das ausdrücklich als Technik: das Modell anweisen, nur Informationen aus den bereitgestellten Dokumenten zu verwenden und nicht sein allgemeines Wissen (Anthropic, „Reduce hallucinations“).

Manche Werkzeuge sind weitgehend so gebaut. Für Chatantworten greift Gemini Notebook laut Google-Hilfe nur auf die Quellen zurück, die Sie hochgeladen haben, und belegt seine Antworten mit Zitaten aus deren Wortlaut (NotebookLM-Hilfe); agentische Zusatzfunktionen wie die Websuche gehen laut derselben Hilfeseite über die eigenen Quellen hinaus. Bei allgemeinen Chat-Assistenten müssen Sie diese Beschränkung selbst in die Anweisung schreiben. Wie Sie KI mit eigenen Firmendokumenten arbeiten lassen und welche Dokumente hineindürfen, steht im Beitrag Kann ich eine KI mit meinen eigenen Firmendokumenten arbeiten lassen?

Schritt 2: Erlauben Sie ausdrücklich eine Lücke

Schreiben Sie in jede Anweisung, was die KI tun soll, wenn die Information fehlt. Anthropic empfiehlt, dem Modell ausdrücklich zu erlauben, Unsicherheit zuzugeben, und bezeichnet das als einfache Technik gegen falsche Angaben (Anthropic, „Reduce hallucinations“). Ein Satz genügt, zum Beispiel:

„Beantworten Sie die Frage nur aus den beigefügten Unterlagen. Wenn die Antwort dort nicht steht, schreiben Sie wörtlich: Das steht nicht in den Unterlagen.“

Diese feste Formulierung hat einen praktischen Vorteil: Sie erkennen eine Lücke sofort, statt sie aus einer ausweichenden Antwort herauslesen zu müssen. Eine Lücke ist dann kein Fehler der KI, sondern ein Hinweis auf eine Lücke in Ihren Unterlagen.

Schritt 3: Verlangen Sie zu jeder Aussage ein Zitat

Lassen Sie die KI jede Aussage mit einer wörtlichen Stelle aus der Quelle belegen. Anthropic beschreibt dafür zwei Techniken. Bei langen Dokumenten (Anthropic nennt mehr als 20.000 Token) zieht das Modell zuerst die passenden Zitate heraus und antwortet erst dann. Bei der zweiten Technik sucht es nach dem Entwurf zu jeder Aussage ein stützendes Zitat und nimmt Aussagen ohne Zitat zurück (Anthropic, „Reduce hallucinations“). Eine Anweisung dafür kann so lauten:

„Nennen Sie zu jeder Aussage die wörtliche Stelle aus den Unterlagen. Streichen Sie jede Aussage, für die Sie keine Stelle finden, und markieren Sie die gestrichene Stelle mit [ ].“

Das Zitat macht die Antwort prüfbar: Sie müssen nicht das ganze Dokument lesen, sondern nur nachsehen, ob die zitierte Stelle existiert und das sagt, was die KI daraus macht.

Eine KI erfindet seltener, wenn sie nur aus vorgegebenen Unterlagen antworten darf, eine Lücke ausdrücklich zugeben darf und jede Aussage mit einem wörtlichen Zitat belegen muss – ganz ausschließen lässt sich Erfinden damit nicht.

Die LIBUCO®-Quelle-Lücke-Zitat-Regel

In der Beratung fassen wir die drei Schritte zu einer Regel zusammen, die vor jeder KI-Anweisung mit Faktenbezug geprüft wird. Sie ist eine eigene Methode von LIBUCO®, keine Norm und keine Statistik:

Fehlt einer der drei Punkte, ergänzen Sie ihn, bevor Sie das Ergebnis weitergeben. Fehlt die Quelle ganz – etwa bei einer Frage zu aktuellen Preisen oder Gesetzesständen –, ist die KI-Antwort höchstens ein Hinweis, wo Sie selbst nachsehen sollten.

Ein konstruiertes Beispiel aus dem Handwerk

Das folgende Beispiel ist konstruiert und dient nur der Veranschaulichung. Ein Heizungsbaubetrieb möchte, dass eine Mitarbeiterin im Büro Kundenfragen zu Wartungsintervallen schneller beantworten kann. Zuerst fragt sie einen Chat-Assistenten ohne Unterlagen nach dem Wartungsintervall eines bestimmten Gerätetyps und erhält eine sicher klingende Zahl ohne Herkunft. Im zweiten Anlauf lädt sie die Herstelleranleitung hoch, schreibt die Lücken-Anweisung und verlangt Zitate. Die Antwort nennt nun die Stelle aus der Anleitung – und bei einer Zusatzfrage zum Austausch eines Bauteils antwortet die KI „Das steht nicht in den Unterlagen“. Genau diese Frage geht dann an den Meister. Offen bleibt in dem Beispiel, ob die hochgeladene Anleitung die aktuelle Fassung ist; das kann keine KI prüfen.

Grenzen und typische Fehler

Wann diese Empfehlung nicht passt

Checkliste: Bevor Sie eine KI-Antwort mit Fakten weitergeben

Quellen

Über den Autor

Ben Kübrich berät mit LIBUCO® in Gilching inhabergeführte kleine und mittlere Betriebe dazu, wo KI im Arbeitsalltag hilft und wo nicht. Der Schwerpunkt liegt auf Betrieben ohne eigene IT-Abteilung im Landkreis Starnberg, in Fürstenfeldbruck und im westlichen Münchner Umland. Ein wiederkehrendes Thema in seiner Arbeit ist, KI-Ergebnisse so aufzubauen, dass ein Mensch sie mit wenig Aufwand prüfen kann.

Nächster Schritt

Wenn in Ihrem Betrieb regelmäßig dieselben Fragen aus denselben Unterlagen beantwortet werden, lässt sich die Quelle-Lücke-Zitat-Regel an genau diesem Ablauf ausprobieren. Bringen Sie eine typische Kundenfrage und die Unterlage mit, aus der die Antwort kommen müsste; wir bauen gemeinsam eine Anweisung, die Sie danach selbst weiterverwenden können. Das kostenlose Kennenlerngespräch dauert 30 Minuten, findet per Video oder Telefon statt und ist unverbindlich.