Ich habe letzte Woche versucht, meinem KI-Assistenten eine relativ einfache Aufgabe zu geben – eine Zusammenfassung eines längeren Artikels zu erstellen. Was zurückkam, war technisch korrekt, aber es fühlte sich so seltsam steif und zusammenhanglos an, fast so, als hätte es die eigentliche Kernaussage komplett verfehlt. Es hatte alle Fakten, aber keinen "Sinn". Seitdem frage ich mich, ob ich einfach schlechte Prompts geschrieben habe, oder ob diese Systeme vielleicht wirklich nur eine Art fortgeschrittene statistische Textvervollständigung sind, ohne echtes Verständnis. Wo zieht ihr da die Grenze?
Ja das kenne ich gut. Es fühlt sich steif an obwohl es die Fakten bringt und der Sinn bleibt außen vor. Vielleicht ist es nur eine Art cleverer Kopfsprung in Wahrscheinlichkeiten, kein echtes Verständnis.
Aus technischer Sicht geht es oft um Kohärenz statt um Sinn. Ein Modell fasst Muster zusammen und prüft die Relevanz nach Wahrscheinlichkeiten. Das macht eine gute Zusammenfassung plausibel aber nicht zwingend sinnvoll.
Vielleicht habe ich den Auftrag falsch verstanden. Wenn der Prompt eine zentrale Botschaft will und das System nur Satzfragmente aneinanderreihen könnte das passieren und der Text wirkt wie eine Skizze statt eine klare Abschlussform.
Wird hier wirklich eine Frage beantwortet oder nur eine Probierliste von Wahrscheinlichkeiten durchlaufen die den Eindruck von Sinn erzeugt?
Ich zweifle daran dass KI echtes Verständnis besitzt. Es ist eine erstaunliche Statistik die sich glaubwürdig anhört aber Absicht macht sie nicht. Der Sinn entsteht nicht aus dem System sondern aus dem Menschen der es benutzt.
Vielleicht lohnt es sich den Blick zu verändern statt Sinn zu suchen. Wir können Koordination von Teilen betrachten wie gut es verschiedene Blickwinkel verbindet. Eine neue Rahmung nennt man Kohärenz im Kontext von Lesererwartungen.
Man könnte ein Konzept wie epistemische Distanz einführen ohne es zu erklären. Es geht darum wie nah die Daten an die Wahrheit erscheinen und wie viel Raum bleibt bis jemand etwas versteht
