Swico fordert Transparenz im Umgang mit KI

Der Swico stellt ein neues Merkblatt "Nachvollziehbarkeit von Algorithmen" (pdf) vor. Darin hält der Branchenverband eine Reihe von Handlungsempfehlungen für Unternehmen im Umgang mit KI fest. 

Generell sei sich die internationale Gemeinschaft einig, dass KI reguliert werden solle, es herrsche jedoch weitgehend Orientierungslosigkeit über sinnvolle Regulierungsansätze – auch in der Schweiz.

Vertrauen statt Angst 

Aktuell arbeite die Europäische Union an einem "AI Act" zur Regulierung von KI. Dieser verfolge jedoch einen "technologiespezifischen und risikobasierten" Lösungsansatz und ist gemäss SWICO "schwerfällig und könnte am Ziel vorbeischiessen". Auch das von Italien kurzfristig umgesetzte ChatGPT-Verbot oder das von KI-Experten und Elon Musk geforderte "KI-Moratorium" führe in eine falsche Richtung.

Statt Angstmacherei brauche es Vertrauen in die KI-Algorithmen. Dieses Vertrauen könne nur entstehen, wenn Unternehmen transparent im Umgang mit KI sind. Das Merkblatt des Swico enthält daher konkrete, umsetzbare und eigenverantwortliche Handlungsempfehlungen für Unternehmen in der Schweiz. 

Demnach setze der transparente Umgang mit KI-Algorithmen sechs Elemente voraus:

• Adressaten
• Deklaration
• Begründung
• Funktionsweise
• Korrekturmöglichkeit
• Ethische Grundsätze

Beispiel: KI als Personalvermittler

In seinem Merkblatt führt der Swico das Beispiel einer Personalabteilung an, welche KI nutzt, um online eingegangene Bewerbungen zu prüfen und eine Vorselektion zu treffen. Um einen transparenten Umgang mit diesem Algorithmus zu schaffen, müssten dann die folgenden Schritte umgesetzt werden:

• Adressaten definieren: Wer ist von einem Algorithmus betroffen? Beim Beispiel aus der Personalsuche wären das nicht nur die Bewerbenden, sondern auch Technikerinnen und Personalsucher.
• Deklarieren: Bereits beim Absenden der Bewerbung sollten Bewerbende wissen, dass im Prozess eine KI zum Einsatz kommt, beziehungsweise dass ein Entscheid auf einem Algorithmus beruht.
• Begründen: Es braucht eine Erklärung, weshalb der Algorithmus eingesetzt wird, wozu er dient und worin sein Nutzen besteht.
• Funktionsweise erklären: Auf welcher Grundlage fällt der Algorithmus Entscheidungen und wie funktioniert er?
• Korrektur ermöglichen: Eine Bewerberin sollte die Möglichkeit haben, die Firma etwa auf einen diskriminierenden Entscheid des Algorithmus hinzuweisen. Es braucht Massnahmen, um fehlerhafte Entscheide zu korrigieren.
• Ethische Grundsätze: Offenlegen, an welchen Werten sich der KI-Einsatz orientiert.

Kritik am Bundesrat

Während der Swico den Schweizer Unternehmen einen eigenverantwortlichen Umgang mit KI-Algorithmen empfiehlt, kritisiert die Geschäftsführerin des Verbands, Judith Bellaiche, im Interview mit den Zeitungen von CH Media (Paywall), dass der Bundesrat keine eigene Regulierung implementieren will.

Während die EU an ihrem Gesetz arbeitet, sehe der Bundesrat aktuell "keinen unmittelbaren Handlungsbedarf" in Bezug auf den "AI Act", da der Legislativ-Prozess noch nicht abgeschlossen ist und viele Änderungen noch hängig sind, wie aus einer aktuellen Analyse des Bundes hervorgeht.

Laut Bellaiche führe dies jedoch zu einer "totale[n] Rechtsunsicherheit". Da sich Schweizer Digitalfirmen, die in der EU tätig sind, konform zu den EU-Gesetzen verhalten müssen, zugleich aber auch dem Schweizer Recht unterstehen. "Doch der Bundesrat weigert sich, dies anzuerkennen", meint Bellaiche. Sich abzeichnende Rechtskonflikte müssten nun dringend angeschaut und bereinigt werden, fordert die GLP-Nationalrätin, "sonst läuft es auf ein Desaster heraus".