Facebook-KI verwechselt schwarze Menschen mit Affen
Facebook gibt ein weiteres Beispiel dafür ab, wie KI-Algorithmen zu Diskriminierung führen können. Nach dem Anschauen eines Clips mit schwarzen Männern fragte das Empfehlungstool der Plattform, ob die Nutzenden "weiterhin Videos über Primaten sehen möchten".
Gesichtserkennungs-Algorithmen sind noch lange nicht perfekt, insbesondere wenn es um ethnische Kategorien geht. Das zeigt die US-amerikanische Social-Media-Plattform Facebook mit ihrem Empfehlungstool. In einem Video über schwarze Männer schlug das Tool im Anschluss Videos zu Affen und Primaten vor. Der Inhalt hatte allerdings keinerlei Bezug zu Affen, wie die "New York Times" berichtet.
Auf Nachfrage US-amerikanischer Medien räumt ein Sprecher von Facebook ein, die künstliche Intelligenz (KI) "müsse noch einige Fortschritte machen". Facebook hat sich für diesen "inakzeptablen Fehler" entschuldigt. Man arbeite daran, das Problem zu beheben.
Nicht nur Facebook ist davon betroffen. Immer wieder wird auf den Rassismus und Sexismus von KIs hingewiesen. Ein ETH-Student hat beispielsweise einen Twitter-Algorithmus entdeckt, der junge, hellhäutige Gesichter mit stereotypisch femininen Gesichtszügen anderen Gesichtern vorzieht.
Um Algorithmen zu entwickeln, die unabhängig von ethnischen oder geschlechtsspezifischen Merkmalen wirksam sind, müssen sie auf einer Datenbank mit repräsentativen Bildern trainiert werden. Damit befassen sich die Forscher des Idiap-Instituts in Martigny. Hier können Sie mehr darüber lesen.
Eine Zeitreise mit Harry Potter
Update: Staatsanwaltschaft untersucht Datenleck in Zürcher Justizbehörde nicht weiter
Bund verlängert Verträge für "Public Clouds Bund"
Axians über Chancen und Grenzen von Everything-as-a-Service
Itesys beruft neuen Head of Service Operations
Boll Engineering verstärkt Vertrieb mit neuer Channel-Account-Managerin
Kanton Neuenburg präsentiert seine E-Health-Strategie
Kritisches Denken wappnet uns gegen die Tücken der KI
Empa-Roboter liefert grössten offenen Datensatz für Batterieforschung
