Fak-Fakten

Halluzination

Als Halluzination bezeichnet man bei generativen KI-Systemen eine Ausgabe, die plausibel klingt, aber nicht zuverlässig durch die zugrunde liegenden Fakten oder Quellen gedeckt ist. Der Begriff ist bildhaft – er beschreibt kein menschliches Erleben.

Beispiel: Ein Modell nennt eine Studie mit überzeugendem Titel und Autor, obwohl diese Studie so nicht existiert.

Grounding

Grounding bedeutet, eine Antwort stärker an konkreten Informationen, Daten oder Quellen auszurichten. Das kann zum Beispiel durch bereitgestellte Dokumente oder einen Retrieval-Schritt geschehen.

Beispiel: Statt eine Kündigungsfrist frei zu beantworten, soll das System zuerst die aktuelle Vertragsklausel abrufen und darauf Bezug nehmen.

Grounding kann Fehler reduzieren, beseitigt sie aber nicht automatisch.

Quelle

Eine Quelle ist der Ort oder das Dokument, aus dem eine Information stammt oder stammen soll: etwa ein Gesetzestext, eine Datenbank, ein Bericht oder eine Website.

Beispiel: „Laut § X in Dokument Y gilt …“ benennt eine Quelle. Ob die Auslegung richtig ist, ist eine zweite Frage.

Provenance

Provenance meint die Herkunft und Entstehungslinie einer Information: Wo kam sie her, in welcher Version, über welchen Weg und unter welchen Bedingungen?

Beispiel: Zwei Dateien tragen denselben Titel. Eine ist die aktuelle Fassung, die andere ein alter Entwurf. Provenance hilft zu unterscheiden, mit welcher Fassung tatsächlich gearbeitet wurde.

Evidence

Evidence ist Material, das eine Aussage stützen oder widerlegen kann. Ein Dokument ist nicht automatisch ausreichende Evidence für jede Behauptung.

Beispiel: Ein Screenshot kann zeigen, dass eine bestimmte Anzeige sichtbar war. Er beweist dadurch nicht automatisch, warum das System sie erzeugt hat.

Claim

Ein Claim ist eine Behauptung, die geprüft werden kann.

Beispiel: „Das System verhindert jede unberechtigte Aktion.“ Das ist ein starker Claim und braucht entsprechend starke Unterstützung.

Inference

Eine Inference ist eine Schlussfolgerung aus vorhandenen Beobachtungen oder Daten. Sie kann vernünftig sein, bleibt aber eine Schlussfolgerung.

Beispiel: Wir beobachten, dass ein System eine Aktion nicht ausgeführt hat. Daraus zu schließen, dass eine technische Sperre existiert, wäre eine Inference – sofern der Mechanismus nicht separat belegt ist.

Unknown

Unknown bedeutet: Wir haben derzeit keine ausreichende Grundlage für eine belastbare Aussage. Das ist keine Schwäche, sondern manchmal die sauberste Antwort.

Diese vier Begriffe sind keine universelle technische Norm. Sie sind eine einfache Denkstütze, um Beobachtung, Behauptung und Schlussfolgerung nicht unbemerkt zu vermischen.

Was wird häufig verwechselt?

• Flüssige Sprache ≠ Wahrheit: Ein Modell kann sehr sicher klingen und trotzdem falsch liegen.
• Grounding ≠ Garantie: Eine Quelle im Kontext macht die Antwort nicht automatisch richtig.
• Quelle ≠ Evidence für jeden Claim: Entscheidend ist, was genau die Quelle tatsächlich stützt.
• Observed ≠ Mechanismus bewiesen: Sichtbares Verhalten sagt nicht automatisch, wie es technisch zustande kam.

Kurz gesagt

Merksatz: Gute Quellen sind wichtig. Noch wichtiger ist die Frage, welche Aussage sie wirklich tragen.