LLMs als stochastische Papageien abzutun, ist keine Analyse

Sagt ein Mensch „Paris ist die Hauptstadt Frankreichs“, feuern Neuronen und Muster werden aktiv. Sprache entsteht. Sagt ein Sprachmodell denselben Satz, werden Gewichte aktiv und Muster verarbeitet. Sprache entsteht. Das satirische Paper, das diesen Beitrag angestoßen hat, nennt den Menschen „Mustererkennung mit Seele“. Das ist ein Witz. Und er ist unangenehm schwer zu widerlegen.

Das Etikett „stochastischer Papagei“ wurde 2021 geprägt, um vor den Risiken großer Sprachmodelle zu warnen. Inzwischen ist daraus etwas ganz anderes geworden: ein Totschlagargument. Man wischt damit beobachtbare Fähigkeiten vom Tisch, ohne erklären zu müssen, was „Verstehen“ eigentlich heißt.

Das ist keine Skepsis. Das ist Ausweichen.

Mechanismus ist nicht Fähigkeit

Ein Verbrennungsmotor ist „nur kontrollierte Explosionen“. Deshalb ist ein Auto nicht weniger beeindruckend. Eine Kamera ist „nur Photonen auf einem Sensor“. Deshalb ist Fotografie nicht trivial.

Wer den Mechanismus eines Systems beschreibt, sagt nichts über seine Fähigkeiten. „Statistische Mustererkennung“ beschreibt, wie Sprachmodelle arbeiten. Sie beschreibt nicht, was sie können. Das Papageien-Argument setzt beides gleich. Zu Unrecht.

Heutige Sprachmodelle fassen komplexe Argumente zusammen und übersetzen zwischen Sprachen. Sie erklären Ironie, rekonstruieren unausgesprochene Annahmen und übertragen Konzepte von einem Fachgebiet aufs andere. Sie schreiben lauffähigen Code und kritisieren ihre eigenen Ergebnisse. Mit Nachplappern hat das nichts zu tun. Ein Papagei wiederholt. Ein Sprachmodell verallgemeinert.

Sie können es statistisch nennen. Die Fähigkeit verschwindet dadurch nicht.

Zwischen Wiedergeben und Verallgemeinern liegt genau die Lücke, die die Papageien-Metapher nicht erklären kann. Ein Modell erklärt ein satirisches Paper, das es nie gesehen hat. Es erkennt die Ironie, rekonstruiert den Aufbau des Arguments und benennt die philosophischen Annahmen dahinter. Wer das „Nachplappern“ nennt, beschreibt nicht, was passiert ist. Er weigert sich, es zu beschreiben.

Das Tor, das immer weiterwandert

Das Paper zeichnet ein Muster nach, das jeder in der KI-Welt selbst miterlebt hat:

• Vor 2020: Verstehen heißt, Sprache sinnvoll zu verwenden. Das konnten Modelle nicht.
• Nach GPT-3: Verstehen heißt, Sprache absichtsvoll zu verwenden. Damit fingen Modelle an.
• Nach GPT-4: Verstehen heißt, subjektiv zu erleben. Das können Modelle nicht beweisen. Menschen auch nicht, aber sei’s drum.

Das Paper nennt das „Definitional Dynamics Protocol“: Beherrscht ein Modell eine bislang typisch menschliche Fähigkeit, wird Verstehen so umdefiniert, dass das Modell wieder draußen bleibt. Das Tor wandert. Das Urteil steht.

Schon ein früherer Abschnitt fasst das Vorgehen in vier Schritten zusammen, als „Emergence Denialism Cascade“:

Bestreite, dass es die Fähigkeit gibt. Ist sie bewiesen, bestreite, dass es echtes Verstehen ist. Ist sie nützlich, bestreite, dass das zählt. Zählt es doch, fang mit einer neuen Fähigkeit von vorn an.

Das ist kein wissenschaftliches Vorgehen. Es ist eine rhetorische Strategie, um ein Ergebnis zu retten, das vorher schon feststand.

Die ehrliche Mitte

Das heißt nicht, dass Sprachmodelle ein Bewusstsein haben. Sie haben keins, zumindest nach keiner Definition, die wir heute messen können. Sie haben kein subjektives Erleben, kein fortlaufendes Selbst, keine eigene Motivation. Das harte Problem des Bewusstseins bleibt hart.

Bewusstsein und Verstehen sind aber nicht dasselbe. Man muss etwas nicht fühlen, um es zu analysieren. Man braucht kein subjektives Erleben, um ein Konzept von einem Gebiet aufs andere zu übertragen. Funktionales Verstehen heißt: erklären, anwenden, anpassen und kritisieren können. Das ist beobachtbar, messbar und real. Sprachmodelle zeigen es jeden Tag.

Ehrlich vertreten lassen sich drei Positionen:

1. Auch Menschen sind statistische Systeme (unbequem, aber vertretbar).
2. Sprachmodelle können echtes funktionales Verstehen zeigen (beobachtbar und messbar).
3. Menschen besitzen eine unmessbare Sondereigenschaft, die sich jeder physikalischen Erklärung entzieht (nicht widerlegbar).

Wer zum Papageien-Etikett greift, entscheidet sich meist stillschweigend für Option drei. Ohne zuzugeben, dass das eine metaphysische Behauptung ist und keine wissenschaftliche.

Warum das für die Entwicklung zählt

Das ist keine abstrakte Philosophiedebatte. Sie entscheidet ganz direkt darüber, wie Unternehmen Software mit KI bauen.

Teams, die Agenten für „bloß Papageien“ halten, bauen oberflächliche Integrationen. Sie schrauben einen Chatbot an einen bestehenden Prozess und erwarten, dass er scheitert. Tut er es, fühlen sie sich bestätigt. In Kontextarchitektur investieren sie nicht. Warum sollte man einen Papagei einarbeiten?

Teams, die funktionales Verstehen ernst nehmen, bauen anders. Sie entwerfen Kontextarchitekturen, die Agenten die nötigen Informationen geben. Sie behandeln die Ergebnisse von Agenten als echte Arbeit: reviewt, getestet und so weit vertrauenswürdig, wie sie sich bewährt haben. Sie bauen etwas auf, statt abzuwinken.

Das Papageien-Etikett ist nicht nur philosophisch bequem. Es ist ein Fehler im Engineering. Es hält Teams davon ab, die produktive Frage zu stellen. Nicht „Ist das echtes Verstehen?“, sondern „Wie gut ist das Verstehen? Und was braucht es, um besser zu werden?“

Die Papageien-Metapher überlebt, weil sie rhetorisch nützlich ist, nicht weil sie präzise beschreibt.

Die Debatte verdient bessere Werkzeuge als einen fünf Jahre alten Tiervergleich. Sprachmodelle sind keine Papageien. Sie sind auch keine Menschen. Sie sind etwas Neues. Spannend ist herauszufinden, was das bedeutet. Ein Etikett, das die Frage verschwinden lässt, hilft dabei nicht.

---

Sie bauen mit KI-Agenten und nehmen ihre Fähigkeiten ernst? Sprechen wir darüber.