Zertifizierungsschema der ZHAW ermöglicht Risikoprüfungen von KI-Systemen

News

Forschende der ZHAW haben ein System zur Prüfung und Bewertung von KI-Systemen entwickelt. Das Zertifizierungsschema "CertAInty" dient dazu, die Sicherheit von KI-Systemen zu messen. Der AI-Act der EU fordert entsprechende Prüfungen.

Das CertAInty-Forschungsteam der ZHAW School of Engineering wurde an der Swiss Conference on Data Science 2024 mit dem Best Paper Award ausgezeichnet. (Source: zVg)

Das Centre for Artificial Intelligence (CAI) und das Institut für Angewandte Mathematik und Physik (IAMP) der ZHAW School of Engineering haben gemeinsam ein Zertifizierungsschema für KI-Systeme entwickelt. Laut einer Mitteilung bietet das Schema namens "CertAInty" einen strukturierten Rahmen und Methoden für die Begutachtung von KI-Technologien. Das Entwicklungsteam wurde an der Swiss Conference on Data Science 2024 mit dem Best Paper Award für das Projekt ausgezeichnet.

Vier Kernaspekte

Da KI zunehmend in sicherheitskritischen Bereichen eingesetzt wird, sei das Sicherstellen ihrer Vertrauenswürdigkeit wichtig. Wie die ZHAW weiter schreibt, müssen KI-Systeme künftig evaluiert werden, um gesellschaftliche Schäden wie Diskriminierung, physische Sicherheitsrisiken oder medizinische Fehldiagnosen zu vermeiden. Das Bewertungsschema "CertAInty" umfasst vier Kernaspekte:

Zuverlässigkeit: Verlässliche Systemleistung unter verschiedenen Bedingungen
Transparenz: Nachvollziehbarkeit von KI-Entscheidungsprozessen
Autonomie und Kontrolle: Definition des Grads menschlicher Aufsicht

Sicherheit: Vermeidung unerwünschter Folgen in kritischen Anwendungsbereichen

Reaktion auf den AI Act der EU

Zudem spiele "CertAInty" im Rahmen des AI Acts der EU eine wichtige Rolle. Da die Regulierung künftig obligatorische Zertifizierungen für Hochrisiko-KI-Systeme einführen wird, gehe das System genau auf diese Entwicklungen ein. Ricardo Chavarriaga von der ZHAW School of Engineering, der das Projekt zusammen mit Joanna Weng leitet, erklärt: "Die Zertifizierung von KI-Systemen durch eine akkreditierte Stelle erhöht das Vertrauen, beschleunigt die Akzeptanz und ermöglicht ihren Einsatz in sicherheitskritischen Anwendungen." Weng fügt hinzu: "Das CertAInty-Schema überbrückt die Lücke zwischen den abstrakten regulatorischen Vorgaben des EU AI Acts und konkreten technischen Methoden für die Bewertung von KI-Systemen."

Eine weitere Schweizer Entwicklung im Bereich KI kommt von Manukai. Das als Spin-off der ETH Zürich gegründete Start-up sammelte nun 3 Millionen US-Dollar ein, um seine Technologie zur Marktreife zu bringen. Lesen Sie hier mehr dazu.