Häkeln mit Wahrscheinlichkeiten

KI hat unser Leben verändert und wird es weiterhin tun, weil es sich um neuartige Methoden handelt, Computer Dinge machen zu lassen, die sie bisher nicht konnten. Aber lassen Sie uns differenzieren: Ihnen geht es doch sicher um Sprachmodelle? Diese beeindrucken, weil sie Texte erzeugen, die so wirken, als stünde menschliches Denken dahinter. Doch genau das ist nicht der Fall: Sie berechnen lediglich die Wahrscheinlichkeit, welches Wort als Nächstes passen könnte. Wir sollten uns nicht blenden lassen, nur weil die Ergebnisse intelligent klingen.

Ich erkläre das gern am Beispiel meiner Tochter: Sie hat gestern für eine Geschichtsklausur gelernt. Früher hätte man in einer Wissensdatenbank nachgesehen und dort Informationen gefunden, die zuvor von Menschen dort abgelegt worden waren. Sprachmodelle dagegen „häkeln“ Texte, indem sie Wahrscheinlichkeiten berechnen. Wenn sie zu einem Thema viele richtige Sätze gelesen haben, liefern sie auch oft korrekte Antworten. Aber je spezieller ein Thema ist, je kontroverser es diskutiert wird oder je stärker eine Seite der Argumentation im Internet präsent ist, desto eher liegen sie daneben. Wissen bedeutet: Zusammenhänge zu verstehen. Das können Sprachmodelle nicht. Meine Tochter hat das Sprachmodell deshalb auch nicht genutzt, um Informationen zu beschaffen, sondern um sich Fragen stellen zu lassen und so ihren Wissensstand zu überprüfen. 

Genau. Damit ein Student in einer Prüfung sagen kann: „Das kann ich jetzt nicht erklären“, muss er darüber nachdenken, was er überhaupt weiß. Das kann die Maschine nicht. Die Unterscheidung zwischen einer richtigen und einer falschen Antwort gehört einfach nicht zu ihrer Funktionsweise. Sie setzt ihre Texte lediglich Wort für Wort nach Wahrscheinlichkeiten zusammen. Halluzinationen lassen sich deshalb auch nicht „abstellen“. Sie sind eine direkte Folge des Mechanismus. 

Aber natürlich. Die Maschine träumt vor sich hin, sie assoziiert. Deswegen können wir sie für alles gut verwenden, wo wir kreativ sein wollen, wo wir einen Echoraum haben wollen, um uns selbst zum Nachdenken anzuregen. 

Die Maschine weiß nicht, was ein Wort bedeutet. Sie hat keine Ahnung, wie sich eine Heidelbeere im Mund anfühlt oder wie sie schmeckt. Keine der sensorischen Qualitäten, die ein Objekt in der echten Welt hat, kann die Maschine nachvollziehen. KI hat keinen Bezug zur Welt – das ist das Grounding-Problem.

Sprachmodelle können Texte sehr gut umformulieren – zum Beispiel komplexe Fachtexte in einfache Sprache übersetzen. Wer schon einmal selbst Texte in einfacher Sprache verfasst hat, weiß, dass dies sehr aufwendig ist. Mit KI geht es deutlich schneller. Das Ergebnis sollte allerdings noch einmal von einem Menschen überprüft werden. Wir können die Maschinen also dort gut einsetzen, wo wir die Ergebnisse überprüfen können – die Erstellung von Programmiercode ist ein weiteres Beispiel. Generell sollten wir die Technologie dort einsetzen, wo sie uns tatsächlich Arbeit abnimmt – etwa bei Routineaufgaben, die wenig Freude bereiten. 

Das Grundproblem ist, dass die Maschine unglaubliche Mengen von Inhalten benötigt, um zu lernen, wann welches Wort in welchem Zusammenhang wahrscheinlich ist. Hinzu kommt ein kulturelles Problem: Was in einer Kultur als Vorurteil gilt, wird in einer anderen Kultur vielleicht ganz anders bewertet. Global gesehen klaffen die Ansichten da teils stark auseinander. Der Aushandlungsprozess wäre sicher spannend, müsste aber ständig an aktuelle Veränderungen angepasst werden. Wahrscheinlich würden dabei zu wenige unstrittige Texte übrigbleiben, um die KI-Modelle zu trainieren.  

An der RPTU in Kaiserslautern bieten wir dafür zum Beispiel den deutschlandweit einzigartigen Studiengang Sozioinformatik an. Bisher haben wir meist nur auf die Qualität der Technik geschaut. Doch entscheidend ist das Zusammenspiel von Mensch und Maschine. Deshalb versuchen wir neue Modelle zu entwickeln, die diese gemeinsame Interaktion möglichst gut beschreiben, sodass man sie analysieren und auf dieser Basis bessere Software entwickeln kann. Ich glaube, wir müssen unsere sozialen Prozesse unter Maßgabe dieser neuen Technologie noch einmal daraufhin untersuchen, wo sie uns wirklich unterstützen kann, und sollten uns nicht von verführerischen Abkürzungen verleiten lassen. Zu diesen sozialen Prozessen gehören insbesondere alle Verwaltungsprozesse, von Gerichtsentscheidungen über Stadtorganisation bis hin zu Notengebungen an Universität und Schule.

Ich wünsche mir, dass wir das Thema Inklusion bei der KI-Entwicklung wirklich in den Mittelpunkt stellen. Bis heute beschäftigt mich ein Erlebnis: Am Münchner Hauptbahnhof sprach ich einmal mit einem Mann, der spastisch gelähmt war und in einem riesigen elektrischen Rollstuhl saß. Er sagte zu mir: „Weißt du, manchmal wünsche ich mir einfach, der Maschine sagen zu können: Ich bin müd, fahr mich heim.“ Da frage ich mich: Warum fokussieren wir uns so stark auf hochkomplexe Herausforderungen wie selbstfahrende Autos, anstatt damit zu beginnen, Systeme zu entwickeln, die den Alltag von Menschen mit Einschränkungen erheblich erleichtern könnten? 
Mit den neuen Technologien, insbesondere mit Umwandlungen von Text zu gesprochenem Wort oder von Video in Text, eröffnet sich ein enormes Potenzial. Schon heute sehe ich, wie hilfreich KI sein kann. So können Studierende mit Lese- und Rechtschreibschwäche ihre eigenen Texte im Nachhinein mithilfe von Sprachmodellen überarbeiten – mit hervorragenden Ergebnissen. 
Ein Freund von mir erblindet – ich wünsche mir, dass der technologische Fortschritt mit ihm mithält, so dass er sein Leben weiterhin so leben kann wie jetzt. Dann können wir auch alle beruhigter ins Alter sehen, wo viele mit Einschränkungen leben müssen.