Wie Shawn und ein Ampelsystem unser Vertrauen in KI fördern können

Dr. Christoph Peylo › Aus meiner Sicht hat das vor allem damit zu tun, dass KI ein durchaus kontroverses Thema ist und bei manchen Menschen Ängste hervorrufen kann. Denken Sie an eine Künstliche Intelligenz wie HAL aus Stanley Kubricks Film „2001 – Odyssee im Weltraum“ – dem ist ja nicht über den Weg zu trauen. Deswegen sind Roboter oft an das Kindchenschema angelehnt. Auch Siri fördert mit ihrer angenehmen Stimme ein eher positives Erlebnis.

Peylo › (Lacht.) Ja, der ist ja auch ein ganz Sympathischer. Und wenn ich dem Feedback meiner Kinder und deren Freunde vertraue, hat mein Coolnessfaktor als jemand, der bei Bosch arbeitet, durch Shawn deutlich zugenommen.

Peylo › Wir beschäftigen uns beim Bosch Center for Artificial Intelligence (BCAI) vor allem damit, wie wir KI durch gute Algorithmen und entsprechende Software auf möglichst viele Geräte bringen können. Wir haben rund zehn Millionen vernetzbare Geräte bereits verkauft und sind deshalb optimistisch, unser Ziel zu erreichen. Im Consumer-Bereich reicht das von Staubsaugern und Kühlschränken über Heizsysteme bis hin zu Waschmaschinen. Letztere könnten mit Hilfe von Sensoren zum Beispiel erkennen, mit welcher Wäsche sie beladen werden und dann gleich das richtige Waschprogramm vorschlagen. Aber wir entwickeln nicht nur Produkte mit KI für den Endverbraucher. Wir stellen unsere Produkte auch mit KI her. So können wir Störungen im Fertigungsprozess verhindern – und Fabriken damit effizienter, produktiver und umweltfreundlicher machen. Wie das funktioniert, zeigen wir unter anderem auf der virtuellen Konferenz AI CON, die führende Köpfe aus der akademischen Welt und der Unternehmensforschung zusammenbringt.

Peylo › Wenn ich da die ganz große Vision aufmachen darf, über 2025 hinaus, könnte Handwerkerwissen wie die Auswahl des geeigneten Sägeblatts oder des passenden Bohrers in die Werkzeuge integriert werden. Mit diesem Wissen kann ein Werkzeug Sie dann bei Ihrer Arbeit beraten

Peylo › Ja, gerade dann. Was habe ich mich schon über einen falschen Schnitt und verhunzte Werkstücke geärgert. Aber auch für Handwerker ist so etwas ein erheblicher Mehrwert.

Peylo › Da schauen wir natürlich schon genauer hin. Bei datengetriebenen lernenden Algorithmen kommt es sehr darauf an, wie repräsentativ die Daten wirklich sind für den Ausschnitt der Welt, den sie darstellen sollen. Wir achten dabei auch ganz besonders darauf, ob die Daten einen „hidden bias“ enthalten und das System dann Dinge lernt, die nicht repräsentativ sind. Denn dann besteht die Gefahr, dass es falsch entscheidet und gegebenenfalls Menschen diskriminiert.

Peylo › Bei einem Bohrer oder in der industriellen Fertigung ist Diskriminierung sicher nicht das drängendste Problem, da haben Sie völlig Recht. Aber bei Kamerasystemen, die im Straßenverkehr oder bei der Raumüberwachung eingesetzt werden, sieht das anders aus. Robuste Sensoren sind hier besonders wichtig, vor allem, wenn sie mit KI gekoppelt werden.

Peylo › Ich habe schon den Eindruck, dass die Diskussion um eine Vorherrschaft der Maschinen in Deutschland ganz vernünftig geführt wird. Aber ich gebe Ihnen völlig recht, die Gefahr der Überregulierung ist groß. Klar ist jedoch auch: KI wird sich nur durchsetzen, wenn der Mensch ihr vertraut. Deshalb sind wir bei Bosch der Meinung, dass die KI-Entwicklung regulatorisch, gerade wenn es um Leben und Gesundheit geht, und ethisch vorbereitet werden muss. Bosch hat sich zum Beispiel einen Kodex gegeben, der festlegt, das Künstliche Intelligenz unsere Unternehmenswerte fördert. Für uns ist wichtig, dass der Mensch die letzte Entscheidungsinstanz ist. Das System darf also nicht durch eine schlechte Nutzerführung den Menschen gängeln oder in seiner Entscheidungsfindung beeinträchtigen. Wenn dem so ist, muss ein solches System aber auch nicht weiter reguliert werden, denn der Mensch hat ja das letzte Wort.

Peylo › Wenn der Hersteller die Funktionsweise und Entscheidungen des Systems transparent macht, ist das aus meiner Sicht in beiden Fällen in Ordnung. Es sollte aber möglich sein, dass fahrtüchtige Beifahrer problemlos übernehmen können.

Peylo › Das stimmt. Dabei müssen wir aus meiner Sicht auf verschiedenen Ebenen denken. Nach einem Verkehrsunfall sollten Experten zum Beispiel in der Lage sein, nachzuvollziehen, auf welcher Grundlage ein System entschieden hat. Dazu brauchen sie bestimmte stochastische Werkzeuge, aber die gibt es. Für den Verbraucher ist aus meiner Sicht ein Label-System sinnvoll, wie es beim Energieverbrauch von Waschmaschinen bereits besteht. So wird nachvollziehbar, nach welchen Mechanismen und Werten eine KI arbeitet. Und die Entscheidung, welches System man einsetzen will, liegt dann wieder beim Menschen.

Peylo › Wieder durch Transparenz. Wir sollten erklären, was man davon hat, wenn diese Daten ermittelt und ausgewertet werden. Bei Bosch gehen wir gezielt sehr datensparsam vor, denn viele Wirkzusammenhänge unserer Geräte und Produkte verstehen wir bereits sehr gut. Wir versuchen also, dieses uns bekannte Wissen zusammen mit datengetriebenen Modellen zu nutzen, um dann mit weniger Daten auszukommen. Durch diese hybriden Modelle sind wir außerdem energiefreundlicher, weil das Training der Algorithmen weniger umfangreich ist.

Peylo › Das sagen natürlich gerne Firmen, die ihr Geld mit Datenspeicherung verdienen. Alle anderen Unternehmen tun gut daran, eine Datenstrategie aufzusetzen, also zu überlegen, welche Daten brauche ich wirklich und was tue ich, wenn ich noch mehr und präzisere Daten haben will. Denn dann speichert man nicht alles, sondern nur das Richtige und Wichtige.

Peylo › Ich würde noch die Verbindung dazunehmen, die für Echtzeitfähigkeit und die Vernetzung von Cloud-Systemen bedeutender wird. Diese vier Bestandteile werden aus meiner Sicht KI auf absehbare Zeit bestimmen.