So wollen Forscher die Black Box KI durchleuchten

Künstliche Intelligenz (KI) kommt in immer mehr Lebensbereichen zum Einsatz. Und je stärker Algorithmen Einfluss auf Wirtschaft, Politik und Alltag nehmen, desto drängender stellt sich die Frage, wie Ihre Entscheidungen eigentlich zustande kommen und ob sie schädliche Auswirkungen haben. Nicht nur KI-Forscher wüssten das gerne, sie stehen aber vor einem Problem: Die Algorithmen erweisen sich immer häufiger als Black Boxes. Kaum noch zu durchschauen, über alle Massen komplex und für den Menschen unverständlich.

Eine Gruppe von Wissenschaftlern schlägt im Magazin "Nature" nun einen neuen Ansatz zu Erforschung von KI vor, wie das "MIT Technology Review" berichtet. Um die Systeme zu verstehen - und so auch zu kontrollieren - müsse der Mensch gar nicht erst versuchen, die Black Box zu erhellen. Stattdessen brauche es Methoden, um das Verhalten der Maschinen zu studieren und so Rückschlüsse auf ihre Mechanismen zu ziehen.

Auch Maschinen haben ein Verhalten

Die Forscher wolllen dies mit einer neuen Forschungsrichtung namens "Machine Behavior" (Maschinenverhalten) in die Tat umsetzen. Sie soll an Maschinen genauso herangehen, wie die Wissenschaft seit Jahrhunderten Menschen und Tiere untersucht: mittels empirischer Beobachtung und Experimenten.

Der "Machine Behaviorist" verhält sich laut Bericht so zum Computerwissenschaftler wie der Soziologe zum Neurowissenschaftler. Der Erstere versuche zu verstehen, wie sich ein Akteur in freier Wildbahn und in Interaktion mit anderen Akteuren verhält. Der Letztere analysiere die Mechanismen der Entscheidungsfindung hinter dem Verhalten - die Black Box.

"Wir sind heute Zeugen, wie Maschinen zu Akteuren werden, die Entscheidungen fällen und selbständig aktiv sind", zitiert MIT Technology Review Iyad Rahwan, einen der Autoren des Papers. Wir müssten diese Maschinen also auch wie eine neue Klasse von Akteuren untersuchen. Damit wollten die Forscher nicht suggerieren, dass KI einen freien Willen entwickelt habe. Aber die Technologie könne ihre Umwelt und die Menschen um sie herum verändern und beeinflussen.

Alles lässt sich automatisieren – auch Rassismus. Wie die chinesische Regierung auf moderne Gesichtserkennung und KI setzt, um Kommen und Gehen der uigurischen Minderheit festzuhalten, lesen Sie hier.

Mensch und Maschine als System

Ein Maschinen-Verhaltensforscher könne beispielsweise den Einfluss von Sprachassistenten auf die Entwicklung eines Kindes untersuchen. Oder er könne analysieren, wie Online-Dating-Algorithmen verändert haben, wie sich Menschen kennenlernen und verlieben. Den Autoren schwebt also eine Art Maschinen-Soziologie vor.

"Wir sind alle ein riesiges Mensch-Maschine-System", wird MIT-Forscher Nick Obradovich im Bericht zitiert. "Wir müssen das anerkennen und anfangen, dieses System zu erforschen." Damit das gelinge, sei es wichtig, dass Computerwissenschaftlicher, Soziologen und die neuen Maschinen-Verhaltensforscher eng zusammenarbeiten. So werde es für die Software-Entwickler auch möglich, die KI-Algorithmen zu verbessern.

"Wir brauchen die Expertise von Wissenschaftlern aus allen Disziplinen", so Obradovich weiter. "Herauszufinden, wie man mit Maschinen zusammenlebt, ist ein Problem, das eine Disziplin nicht alleine lösen kann." Je mehr die Forschungsrichtungen die Erkenntisse der anderen nutzten, desto eher könne die Menschheit sicherstellen, dass KI ihr zugute komme und ihr keinen Schaden zufüge.