»Dient die Maschine dem Menschen, oder dient der Mensch der Maschine?«

Prof. Dr. Jana Koehler › Wir alle nutzen KI mehrmals am Tag und sind uns dessen oft gar nicht bewusst. Die Navigation im Auto, die Spracherkennung bei Geräten wie etwa Smartphones oder bei Alexa, das Fotografieren mit der Handykamera, die Empfehlungen im Online-Shop bei Amazon – all das sind Beispiele, bei denen KI-Algorithmen zum Einsatz kommen. Doch trotz dieses breiten Anwendungsgebietes sind viele Fragen zu den Eigenschaften bestimmter Algorithmen noch offen und müssen von der Forschung geklärt werden.

Koehler › Die Spezialsysteme, die wir heute verwenden, können meist eine Aufgabe sehr gut lösen, aber wir können sie nicht auf andere Anwendungsbereiche übertragen ohne einen sehr hohen Entwicklungsaufwand, der durch menschliche Spezialisten erbracht werden muss. Jedes Unternehmen fängt also quasi wieder bei null an – dabei wiederholen sich gewisse Bausteine, Aufgaben und auch Anforderungen an die Qualität der Systeme. Es sollte uns also in Zukunft gelingen, Standardlösungen zu entwickeln, die mit geringem Aufwand angepasst werden können. Zum Beispiel arbeiten wir an einer Bibliothek von Musterlösungen, die bei Systemen zur Entscheidungsunterstützung zum Einsatz kommen und nur noch konfiguriert werden müssen. Dabei werden Prozessdaten automatisch nach dem Auftreten der Muster untersucht und diese aus der Bibliothek ausgewählt, um eine neue Anwendungslösung zu konfigurieren. Typische Anwendungen sind Entscheidungen zur Auswahl von Transportwegen oder die Verteilung von Produktionsaufträgen auf Maschinen.

Außerdem beschäftigt mich und mein Team auf dem Gebiet der Suchalgorithmen ein ganz aktuelles Thema: Wir arbeiten mit Kolleginnen und Kollegen aus der Bioinformatik zusammen und versuchen, bestimmte genetische Vorgänge in Zellen besser zu verstehen. Gerade jetzt im Zusammenhang mit der Corona-Pandemie sind diese Fragestellungen brisanter denn je: Wie funktionieren Ablesevorgänge in Zellen? Welche Gene sind aktiv, welche nicht? Was passiert da genau? Da kann KI sehr viel beitragen, um entsprechende Antworten zu finden.

Koehler › Das Veränderungspotential sehe ich eigentlich in allen Branchen. Wir werden in unserer Arbeit durch den weiteren technologischen Fortschritt große Veränderungen erleben. Die Corona-Pandemie hat die Digitalisierung noch einmal beschleunigt und verdeutlicht, dass gerade die Länder, die digital sehr gut aufgestellt sind, auch anderen Herausforderungen wie zum Beispiel Pandemien oder der Klimaveränderung besser gewachsen sein werden. Denn diese Länder erbringen einen Großteil ihrer Arbeit digital, Unternehmen konnten ihren Mitarbeiterinnen und Mitarbeitern schnell das nötige IT-Equipment für den Übergang ins Homeoffice zur Verfügung stellen und sind somit besser in der Lage, den Kontakt zu ihren Kunden zu halten und Umsatz zu generieren.

Koehler › Das lässt sich schwer abschätzen. Ich glaube vielmehr, dass man sich fragen muss, welche Auswirkungen die Digitalisierung auf Inklusion und den gesellschaftlichen Zusammenhalt hat – und nicht so sehr KI im Speziellen. Derzeit hat man fast den Eindruck, dass die Auswirkungen der Digitalisierung eher negativ als positiv empfunden werden, obwohl das nicht so sein müsste. Dank der fortschreitenden Digitalisierung sind viele Dinge möglich geworden, die vor noch nicht allzu langer Zeit undenkbar waren. Der Zugriff auf Informationen aller Art ist schier unendlich, die tägliche Zusammenarbeit mit Kolleginnen und Kollegen auf der ganzen Welt ist selbstverständlich geworden. Dadurch, dass Menschen flexibel, einfach und schnell zusammengebracht werden und sich organisieren können, entstehen mehr Freiräume und Kreativität.

Koehler › Ja, das ist leider so. Viele Menschen spüren die Veränderungen durch die Digitalisierung, aber nur wenige haben den Eindruck, dass sie diese mitgestalten können. Die Digitalisierung ermöglicht, dass Arbeitsabläufe immer weiter zerlegt und fremdgesteuert werden können und so die Eigenverantwortung von Arbeitnehmenden weiter abnimmt. Beispiele sehen wir unter anderem in der Logistik, in der ganz unterschiedliche Dienstleister spezialisierte Teilaufgaben in der Logistikkette übernehmen. Der KI-Algorithmus steuert, wann welcher Fahrer mit welchem Fahrzeug wo sein muss in sehr kurzen Zeitfenstern. Eine eigenständige Gestaltung des Arbeitstages gibt es hier nicht mehr. Die Folge: Mitarbeiterinnen und Mitarbeiter verlieren die Identifikation mit ihrer Tätigkeit, die sie als fremdbestimmt empfinden. Die Arbeit ist für diese Menschen von der Berufung zum Job verkommen. Und in ihrer Freizeit setzen sich viele einem Konsum „sozialer“ Netzwerke aus, bei dem man sich fragen muss, ob ihnen das wirklich guttut.

Koehler › Definitiv! Da Maschinen immer näher an uns heranrücken und zum Beispiel heutzutage sprachlich mit uns interagieren können, müssen wir uns Gedanken um das künftige Zusammenspiel machen. Dabei ist für mich eine Frage essentiell: Dient die Maschine dem Menschen, oder dient der Mensch der Maschine?

Koehler › Schon heute treffen Maschinen viele Entscheidungen für uns, die wir gar nicht so wahrnehmen. Und wir machen es uns natürlich auch gerne bequem und folgen diesen Entscheidungen – zum Beispiel dem Navigationssystem im Auto, wenn wir in unbekannten Gegenden unterwegs sind. Hier wissen wir, dass diese automatisch geplanten Routen uns in der Regel sicher an ein Ziel führen und die ganze Fahrt dadurch wesentlich stressfreier und einfacher wird. Kritisch sind Entscheidungen, die andere Menschen betreffen. Hier müssen wir aufpassen, dass nicht aufgrund von fehlerhaften Daten oder unpassenden Algorithmen Entscheidungen getroffen werden, die im Einzelfall falsch sind und gravierende negative Auswirkungen auf Menschen haben.

Koehler › Ich denke etwa an medizinische Diagnosen. Dank Künstlicher Intelligenz können wir schon heute Ärztinnen und Ärzten gute Tools an die Hand geben, damit sie bessere Diagnosen stellen. Aber der KI die alleinige Diagnosehoheit überlassen? Bitte nicht! Oder nehmen wir das Beispiel eines großen Online-Händlers, der mithilfe von KI vor einiger Zeit Bewerbungen automatisch vorsortieren wollte – dabei wurden Frauen benachteiligt. Das Problem lag bei den Trainingsdaten, anhand derer die KI lernen sollte, welche Bewerber das Unternehmen gerne einstellen würde. In den zehn Jahren vor Projektbeginn waren vor allem Bewerbungen von Männern bei diesem Unternehmen erfolgreich – daraufhin schlussfolgerte die KI, dass Männer vorzuziehen seien, und stufte Lebensläufe von Frauen in der Eignung herab, da sie oft von für Männer typischen Karriereverläufen abweichen. Versuche der Entwickler, das System entsprechend anzupassen, scheiterten, und das Projekt wurde schließlich erfolglos beendet. Beispiele wie dieses zeigen deutlich: Vorurteile in historischen Daten zu beheben ist eine schwierige Aufgabenstellung.

Koehler › Die digitale Bildung ist ganz entscheidend. Natürlich müssen wir Grundfertigkeiten wie Lesen und Schreiben erhalten, und insbesondere auch der Mathematikunterricht muss so gut sein, dass jeder Schüler oder jede Schülerin die Schule mathematikkundig und lese- und rechtschreibfähig verlässt. In einigen Ländern aber gehört das Erlernen einer Programmiersprache ganz selbstverständlich zum Sprachenlernen dazu. Das finde ich grandios und nachahmenswert!
Darüber hinaus ist die selbstbestimmte Nutzung der Technologien besonders wichtig, die weit über das Herumwischen auf dem Handy hinausgehen muss. Hier braucht es ein grundlegendes Verständnis dessen, was passiert, wie es passiert und was ich tun kann, um meine Probleme zu lösen. Menschen müssen auch in der Lage sein, Daten einzuschätzen und zu wissen, wie man mit Daten umgeht. Man spricht ja nicht umsonst von digital literacy und dass wir diese unbedingt brauchen.

Koehler › Wenn wir auf die Ergebnisse schauen, dann fällt die Bilanz wohl eher gemischt aus. Die Frage ist auch, was verstehen wir unter Deutschland? Zu oft scheint mir dies mit dem Ruf nach dem Staat verbunden zu sein. Aus meiner Sicht muss die Eigenverantwortung jedes Einzelnen gestärkt werden. Leistung muss sich lohnen und anerkannt sein. Es braucht Menschen, die über den eigenen Tellerrand hinausschauen und Dinge wirklich anpacken und verändern wollen. Wirtschaftlicher Erfolg und Innovationen brauchen privates Unternehmertum und werden mit öffentlichen Subventionen nie wirklich erfolgreich und nachhaltig sein.

Koehler › Hier ist Deutschland immer noch sehr gut dabei. Einzelne Gruppen sind international renommiert und leisten herausragende Beiträge zum wissenschaftlichen Fortschritt. Was das Vorantreiben der technologischen Innovationen angeht, schauen wir aber eher zu, was im Ausland passiert, und versuchen, diese Innovationen dann in unseren eigenen Industrien umzusetzen. Es genügt nicht, wenn als Ziel formuliert wird, den Industriestandort Deutschland erhalten zu wollen. Es muss vielmehr das Ziel sein, den Digitalstandort Deutschland zu den Weltbesten zu entwickeln. Dabei kommt es insbesondere in der Innovationsförderung darauf an, im Blick zu behalten, dass Innovationserfolg den Markterfolg eines Produktes im nationalen und internationalen Markt bedeutet und wir noch lange nicht am Ziel sind, wenn ein Prototyp oder Demonstrator vorliegt. Die letzte Meile des Weges vom Prototypen zu einer marktfähigen und erfolgreichen Lösung ist die härteste, und andere Unternehmen und Länder scheinen ihn gerade in Bezug auf KI im Moment besser zu beherrschen. Hier ist noch mehr Unternehmergeist und Risikobereitschaft vor allem privater Investoren gefragt, um die in Deutschland zahlreich vorhandenen Talente und guten Ideen zu fördern und zu skalieren.