Wie Genf den Einsatz von KI regeln will

(Source: Samuel B. / stock.adobe.com)

(Source: Samuel B. / stock.adobe.com)

Die Genfer Verwaltung will ihre KI-Aktivitäten auf wissenschaftliche Empfehlungen ausrichten. Ein interdisziplinäres Team der Universität Genf erarbeitete insgesamt 22 Empfehlungen, die es dem Kanton nun vorlegte. Für den Bericht untersuchte es im Auftrag des Departements für Institutionen und Digitales (DIN) die Zusammenhänge zwischen KI und digitaler Souveränität aus politökonomischer, rechtlicher und datenwissenschaftlicher Sicht. Die Ergebnisse sollen insbesondere in die Ausarbeitung einer kantonalen KI-Strategie einfliessen.

Immer wieder Vertrauen

Die von Cédric Durand, Yaniv Benhamou, Diego Kuonen und Gaia Valenti verfasste Studie deckt ein breites Spektrum ab: Infrastrukturen, Daten, Software, Kompetenzen, Veränderungen der Arbeitswelt und Umweltauswirkungen. Ihre Empfehlungen folgen drei Stossrichtungen: den Einsatz von KI in der Verwaltung steuern, Entscheidungsspielräume angesichts technologischer Abhängigkeiten bewahren sowie Menschen und Umwelt schützen. In den Analysen taucht immer wieder eine Frage auf: Welche Garantien ermöglichen es, den von den Behörden eingesetzten Systemen zu vertrauen?

Die Autoren raten der Verwaltung zunächst, bei der Wahl ihrer KI-Anwendungen von den Aufgaben und Bedürfnissen der Fachbereiche auszugehen. Sie empfehlen, das Tempo der Einführung zu steuern, Anwendungen vor einem breiten Einsatz zu erproben und die Kompetenzen zu erhalten, die Verwaltungsmitarbeitende brauchen, um die Ergebnisse der Werkzeuge beurteilen zu können. Besonders wichtig ist dies, wenn ein System bei der Erteilung einer Bewilligung, der Vergabe eines Förderbeitrags oder der Priorisierung von Dossiers zum Einsatz kommt. Im Anschluss müssten Zuständigkeiten, Grenzen der Nutzung und Aufsichtsmechanismen festgelegt werden, heisst es im Bericht.

Risiken vor dem Einsatz bewerten

Bei der Analyse möglicher Regulierungsansätze in der Schweiz zeigen die Autoren der Studie einen Rahmen für das Risikomanagement auf. Dazu gehören die menschliche Kontrolle automatisierter Entscheidungen, eine technische Dokumentation der Systeme und Folgenabschätzungen für Anwendungen mit hohem Risiko. Sie betonen zudem die Qualität, Integrität und den Schutz der Daten. Diese Ansätze werden als mögliche Garantien erörtert, nicht als Pflichten, die der Kanton bereits eingeführt hat.

Sind die Tools einmal in Betrieb, müssen die Kontrollen weitergehen. Validierung, Tests, laufende Überwachung und Qualitätssicherung seien wesentliche Bestandteile der Steuerung von Modellen, heisst es im Bericht. Die Autoren erinnern daran, dass generative Systeme weiterhin falsche Antworten mit grosser Sicherheit präsentieren können. Mit KI-Agenten, die Aufgaben aneinanderreihen und mit weniger menschlichem Eingreifen handeln können, würden die Fragen nach Zuverlässigkeit und Aufsicht dringlicher.

Ein weiteres Risiko sind Verzerrungen. Die Studie hält fest, dass KI-Systeme direkte oder indirekte Diskriminierung bewirken können, so etwa bei der Rekrutierung oder der Gewährung öffentlicher Leistungen. Die Verwaltung muss derartiges vermeiden, um sowohl die Gleichbehandlung als auch die Qualität ihrer Entscheidungen zu gewährleisten. Die Autoren untersuchen ausserdem verschiedene Formen der Transparenz. Dazu gehört insbesondere, Personen darüber zu informieren, wenn sie mit einer KI interagieren oder wenn eine automatisierte Verarbeitung eine Entscheidung stark beeinflusst.

Sichtbare Anwendungen, anfechtbare Entscheidungen

Drei Themen empfehlen die Autoren dem Kanton Genf für weitere Untersuchungen. Konkret sollte er prüfen, ob das kantonale Recht die Grundrechte im Zusammenhang mit KI ausreichend schützt, ein Register der KI-gestützten Entscheidungssysteme einzurichten und alle zwei Jahre eine Selbstbewertung der Risiken durch die Verwaltung zu veröffentlichen. Schliesslich fordern sie wirksame Beschwerdeverfahren für betroffene Personen, die es ermöglichen, Opfer zu entschädigen und Verantwortliche zu sanktionieren.

Der Kanton Genf verabschiedete im Sommer 2026 eine Strategie für digitale Souveränität und arbeitet daran, seine Richtlinien für den Einsatz von KI in der Verwaltung zu aktualisieren. Laut dem DIN decken sich einige Vorschläge des Berichts mit diesen Arbeiten; andere müssen noch unter rechtlichen und finanziellen Gesichtspunkten sowie mit Blick auf die Kompetenzverteilung zwischen den Gemeinwesen geprüft werden. Das Register und die Beschwerdeverfahren bleiben somit Empfehlungen. Ihr Ziel ist klar: Die Systeme sollen identifizierbar, ihre Auswirkungen kontrollierbar und Entscheidungen, die Menschen betreffen, anfechtbar sein.

Lesen Sie auch: Routineaufgaben, Textarbeit und Wissensmanagement gelten als besonders geeignete Einsatz­felder für KI in Verwaltungen. Clemens Ammann, Dozent an der Berner Fachhochschule, erläutert im Interview, wie Behörden GenAI einführen, Mitarbeitende entlasten und Mehrwert schaffen können.