Sauberes Grounding I: Warum die KI so überzeugend rät

Vor ein paar Wochen saß ich in einem Review über generiertem Code. Der Assistent hatte eine Retry-Logik für unseren internen HTTP-Client vorgeschlagen – einen Client, den es nur bei uns gibt, eine dünne TypeScript-Schicht über fetch mit ein paar hauseigenen Konventionen. Der Vorschlag: client.withRetry({ backoff: "exponential", maxAttempts: 3 }). Sauber benannt, im Stil unserer Codebasis, mit einem Kommentar, warum exponentielles Backoff hier die richtige Wahl sei. Dazu eine kurze Erklärung im Chat, wie sich die Methode zu unserem Timeout-Handling verhält.

Die Methode existiert nicht. Sie hat nie existiert. Unser Client konfiguriert Retries an einer ganz anderen Stelle, beim Erzeugen der Instanz, nicht am Aufruf. Aber das Erschreckende war nicht der Fehler. Fehler mache ich auch. Das Erschreckende war die Qualität der Erfindung: Der Name passte perfekt zu unseren Konventionen, die Signatur sah aus wie von uns, die Begründung war fachlich einwandfrei. Wäre die Methode von einem Menschen vorgeschlagen worden, hätte ich gesagt: Der kennt unseren Code richtig gut. Nur dass der Vorschlag komplett geraten war – und mit derselben Souveränität vorgetragen wurde wie die zwanzig korrekten Vorschläge davor.

Teil 7 der Serie „Von der Session zum System“ – hier geht es zum Auftakt.

Jeder, der ernsthaft mit Copilot, Claude Code oder Cursor arbeitet, kennt diese Szene. Und die meisten behandeln sie wie einen Bug, der irgendwann verschwindet: nächstes Modell, nächste Version, dann stimmt es schon. Ich habe das anfangs auch so gesehen. Inzwischen glaube ich, dass genau diese Erwartung das Problem ist. Halluzination ist kein Defekt, den jemand noch wegpatcht. Sie ist eine Folge der Architektur – und seit mir das klar geworden ist, arbeite ich anders mit diesen Systemen.

Es gibt kein „ich weiß nicht“ im Modell

Um zu verstehen, warum die Erfindung so überzeugend klang, musste ich mir klarmachen, was ein Sprachmodell eigentlich tut. Es setzt Text fort. Aus Milliarden von Beispielen hat es gelernt, welche Fortsetzung nach einem gegebenen Anfang wahrscheinlich ist. Das ist keine abwertende Vereinfachung, sondern der Mechanismus – und er ist erstaunlich mächtig, wie ich in Folge 2 dieser Serie beschrieben habe. Aber er hat eine Eigenschaft, die man nicht wegdiskutieren kann: Der Prozess, der eine wahre Aussage erzeugt, ist exakt derselbe wie der, der eine falsche erzeugt. Beide sind wahrscheinliche Fortsetzungen. Das Modell rechnet in beiden Fällen dasselbe.

Ein menschlicher Entwickler hat – bei aller Fehlbarkeit – ein Gefühl dafür, ob er etwas weiß oder vermutet. Wenn ich einen Kollegen nach einer Methode unserer internen Bibliothek frage, antwortet er entweder „die heißt so“ oder „ich müsste nachschauen“. Dieses Nachschauen-Müssen ist Metakognition: Wissen über das eigene Wissen, ein Gespür für die eigene Unsicherheit. Genau diese Instanz fehlt dem Modell. Es hat keinen inneren Zustand, der zwischen „das stand tausendfach im Trainingskorpus“ und „das klingt so, wie es klingen müsste“ unterscheidet. Beides fühlt sich für das Modell gleich an – weil sich für das Modell gar nichts anfühlt. Es gibt nur Wahrscheinlichkeiten über das nächste Token.

Deshalb ist die Souveränität, die uns so irritiert, keine Anmaßung, sondern ein Artefakt. Der Ton eines Textes ist Teil der Fortsetzung. Technische Dokumentation, Stack-Overflow-Antworten, Code-Kommentare – das Material, aus dem das Modell gelernt hat, ist überwiegend im Ton der Gewissheit geschrieben. Niemand dokumentiert eine API mit „ich glaube, diese Methode gibt es“. Also klingt auch die erfundene Methode nach Dokumentation. Die Überzeugtheit ist kein Signal für Korrektheit. Sie war es nie.

Die Forschung stützt diese Sicht inzwischen ziemlich breit. Ziwei Xu und Kollegen haben 2024 formal gezeigt, dass Halluzination für diese Modellklasse prinzipiell nicht eliminierbar ist – kein Sprachmodell kann alle berechenbaren Funktionen lernen, es wird also immer Eingaben geben, bei denen es plausibel statt korrekt antwortet. Und ein OpenAI-Paper vom Herbst 2025 hat einen zweiten Mechanismus sauber herausgearbeitet: Training und Benchmarks belohnen das Raten. Ein Modell, das bei Unsicherheit „weiß ich nicht“ sagt, schneidet in fast allen Bewertungen schlechter ab als eines, das selbstbewusst tippt. Wir haben diesen Systemen das souveräne Raten regelrecht antrainiert – so wie ein Multiple-Choice-Test Studenten beibringt, bei Unwissen zu tippen statt das Feld leer zu lassen.

Symbole, die auf Symbole verweisen

Es gibt noch eine tiefere Ebene, und sie ist älter als die aktuellen Modelle. 1990 – lange bevor jemand von LLMs sprach – hat der Kognitionswissenschaftler Stevan Harnad das Symbol Grounding Problem formuliert. Seine Frage: Wie kommt Bedeutung in ein System, das nur Symbole nach formalen Regeln manipuliert? Sein berühmtes Bild: Man versuche, Chinesisch ausschließlich aus einem Chinesisch-Chinesisch-Wörterbuch zu lernen. Jedes Zeichen wird durch andere Zeichen erklärt, diese wiederum durch weitere Zeichen – man dreht sich im Kreis, ohne je bei der Sache selbst anzukommen. Symbole verweisen auf Symbole, nirgends berührt das System die Welt.

Ich zögere normalerweise, Paper aus der Kognitionswissenschaft in Alltagsdebatten zu ziehen, weil dabei oft mehr Nebel als Klarheit entsteht. Aber hier passt die Analogie unangenehm gut. Ein Sprachmodell kennt Text über die Welt, nicht die Welt. Es hat gelesen, was Menschen über HTTP-Clients, über Retries, über exponentielles Backoff geschrieben haben – und daraus ein außerordentlich feines Gewebe von Zusammenhängen zwischen Wörtern gelernt. Was es nie hatte, ist der Kontakt zur Sache: kein Compiler, der den Aufruf ablehnt, kein Test, der rot wird, keine Produktion, die um drei Uhr nachts alarmiert. Wo ich als Entwickler meine Begriffe an Erfahrung geeicht habe, hat das Modell seine Begriffe an anderen Begriffen geeicht. Das Wörterbuch erklärt sich selbst, und es erklärt sich flüssig.

Man muss Harnads Problem nicht in voller philosophischer Schärfe übernehmen, um den praktischen Kern zu sehen: Ein System, dessen gesamtes „Wissen“ aus Textstatistik besteht, kann eine plausible Erfindung nicht von einer Tatsache unterscheiden, weil beide aus demselben Stoff sind. withRetry war für das Modell genauso real wie jede Methode, die es wirklich gibt – ein wahrscheinliches Symbol im Gewebe der anderen Symbole.

Warum größere Modelle das Problem mildern, aber nicht lösen

Der Einwand liegt nahe, und er ist berechtigt: Die Modelle sind doch messbar besser geworden. Stimmt. Die Halluzinationsraten sind über die Modellgenerationen deutlich gefallen, und im öffentlichen, gut dokumentierten Wissen erwische ich aktuelle Modelle nur noch selten bei freien Erfindungen. Mehr Trainingsdaten bedeuten mehr abgedeckte Fälle; bessere Nachtrainings-Verfahren bringen den Modellen bei, öfter zu zögern und Quellen zu verlangen.

Aber „seltener“ ist eine Gradaussage, keine Strukturaussage. Der Mechanismus bleibt derselbe: Ein größeres Modell hat ein feineres Gewebe von Symbolen – es rät seltener, weil es mehr gesehen hat, nicht weil es aufgehört hätte zu raten. An der Stelle, wo sein Material endet, produziert es weiterhin die wahrscheinlichste Fortsetzung, im selben souveränen Ton. Die Grenzlinie zwischen Wissen und Vermutung verschiebt sich nach außen, aber sie verschwindet nicht, und das Modell zeigt sie mir nach wie vor nicht an. Genau das macht die restlichen Fälle so tückisch: Je seltener der Fehler, desto weniger rechne ich mit ihm – und desto ungeprüfter geht der Vorschlag durch.

In der Fachdomäne ist alles Vermutung

Und damit zu dem Punkt, der mich in meiner täglichen Arbeit am meisten beschäftigt. Alles bisher Gesagte gilt für öffentliches Wissen – React, PostgreSQL, die AWS-APIs. Dort rät das Modell selten, weil das Material riesig ist. In dem Moment aber, in dem ich die Tür zu einer konkreten Organisation aufmache, kippt das Verhältnis vollständig. Denn was dort zählt, stand in keinem Trainingskorpus:

• die internen Bibliotheken und Services mit ihren tatsächlichen Signaturen und Eigenheiten
• die hauseigenen Konventionen – wie Fehler behandelt werden, wie Module geschnitten sind, was ein Deployment durchlaufen muss
• die Begriffe der Fachdomäne, die im Unternehmen etwas Präzises bedeuten und außerhalb etwas anderes oder gar nichts

Für dieses Wissen gibt es keine „Grenzregion“, in der das Modell manchmal danebenliegt. Dort ist schlicht alles Vermutung. Das Modell hat unseren HTTP-Client nie gesehen, also erfindet es ihn – und zwar so, wie ein solcher Client typischerweise aussieht. Deshalb war der Vorschlag aus meiner Eingangsszene so gut: Er war die Idealform eines internen HTTP-Clients, destilliert aus tausend öffentlichen. Nur eben nicht unserer. Die Erfindung ist in der Fachdomäne nicht die Ausnahme, sie ist der Normalfall, und sie sieht dem echten Wissen zum Verwechseln ähnlich, weil das Modell so gut darin ist, den Stil einer Codebasis fortzusetzen.

Das erklärt im Nachhinein auch, warum meine Versuche mit Instruktionsdateien so ernüchternd verliefen – ich habe das in der letzten Folge ausführlich erzählt. Damals dachte ich noch, das Problem sei die Verbindlichkeit: Die KI hält sich nicht an unsere Regeln, also müssen die Regeln klarer, strenger, prominenter formuliert werden. Aber selbst wenn eine AGENTS.md perfekt befolgt würde – sie beantwortet die falsche Frage. Eine Instruktion sagt dem System, wie es sich verhalten soll. Sie kann ihm nicht geben, was es tatsächlich nicht hat: die Fakten. „Erfinde keine Methoden“ ist eine hilflose Anweisung an ein System, das nicht merkt, wann es erfindet. Dem Modell fehlt nicht der Wille, es fehlt das Material. Ich habe an der Motivation eines Systems gearbeitet, das kein Motivationsproblem hat, sondern ein Wissensproblem.

Grounding: der KI die eigene Realität dazugeben

Für die Antwort auf dieses Wissensproblem hat sich ein Begriff etabliert, der nicht zufällig an Harnad erinnert: Grounding – das Erden von Antworten in überprüfbaren Fakten. Die Idee ist im Kern einfach. Wenn das Modell meine Realität nicht aus dem Training kennen kann, dann muss ich sie ihm zum Zeitpunkt der Arbeit mitgeben: die echte Signatur statt der wahrscheinlichen, das tatsächliche Schema statt des typischen, unsere Konvention statt der branchenüblichen. Nicht als Verhaltensregel, sondern als Material. Das Modell soll nachschlagen können statt raten zu müssen – ungefähr so, wie mich eine gute IDE mit Typinformationen davon abhält, Methodennamen aus dem Gedächtnis zu tippen.

Mir ist wichtig, den Begriff nüchtern einzuführen, denn er ist auf dem besten Weg, zum Buzzword zu werden, das auf jeder zweiten Folie steht und nichts mehr bedeutet. Grounding ist kein Produkt und kein Feature, das man einschaltet. Es ist zunächst eine Einsicht über die Arbeitsteilung: Das Modell liefert Sprachverständnis, Mustererkennung, Syntheseleistung – die Fakten über meine Welt muss meine Welt selbst liefern. Und es ist, ehrlich gesagt, auch keine vollständige Lösung. Ein geerdetes Modell kann die mitgegebenen Fakten immer noch falsch verknüpfen, und wer schon einmal versucht hat, „einfach alle Dokumente“ in den Kontext zu kippen, weiß, dass man damit neue Probleme einkauft. Der Unterschied ist ein anderer: Bei einem geerdeten System streite ich über die Qualität meiner Quellen. Bei einem ungeerdeten streite ich mit einem Wörterbuch, das sich selbst erklärt.

Damit steht die Konsequenz dieser Folge fest, auch wenn sie niemandem Arbeit erspart: Die überzeugende Falschantwort verschwindet nicht durch bessere Modelle und nicht durch strengere Anweisungen. Sie verschwindet dort, wo das System nicht mehr raten muss. Womit die eigentliche Arbeit beginnt – denn „die eigene Realität mitgeben“ ist schnell gesagt. Welche Realität eigentlich, in welcher Form, an welcher Stelle des Arbeitsflusses? Das ist keine rhetorische Frage, sondern die nächste Folge.

Weiterführende Quellen

• Stevan Harnad: The Symbol Grounding Problem (Physica D, 1990) – das Original-Paper mit dem Wörterbuch-Argument
• Ziwei Xu et al.: Hallucination is Inevitable – An Innate Limitation of Large Language Models (2024) – der formale Beweis, dass Halluzination für diese Modellklasse nicht eliminierbar ist
• Kalai et al.: Why Language Models Hallucinate (OpenAI, 2025) – warum Training und Benchmarks das souveräne Raten belohnen
• Lilian Weng: Extrinsic Hallucinations in LLMs (2024) – ausführlicher Überblick über Ursachen, Messung und Gegenmaßnahmen

Kommentare