Open-Source-Initiative will sicheren KI-Einsatz in Unternehmen automatisieren

Frau mit Headset sitzt vor einem Computermonitor, der das Wort Protection abbildet

Frau mit Headset sitzt vor einem Computermonitor, der das Wort Protection abbildet

Wenn Unternehmen KI einsetzen wollen, stehen sie vor einer besonderen Herausforderung. Sie wollen es schnell tun und zugleich sollte es sicher sein. Sicherheitsstandards zu ignorieren zu Gunsten der Schnelligkeit, kann fatal sein. Sicherheitsstandards händisch gemäss der Unternehmens-Governance anzupassen, kann lange dauern.

Dieses Dilemma will eine neue Open-Source-Initiative durch Automatisierung lösen. "AI Safety And Governance Orchestration Community" (Asago) bündelt die Kompetenz von Branchenführern und Bildungsinstitutionen, wie Red Hat mitteilt. Der auf quelloffene Software spezialisierte Konzern bezeichnet sich selbst als Initiator des Projekts. Zu den weiteren Mitgliedern gehören Unternehmen wie Nvidia und Microsoft, sowie Bildungseinrichtungen wie das MIT Lincoln Laboratory und das Alan Turing Institut. Der Projektwebsite kann man entnehmen, dass auch Einzelpersonen mitmachen dürfen.

Von mehreren Monaten zu wenigen Tagen

Laut Website benötigt das manuelle Überführen unternehmensspezifischer Richtlinien in sichere KI-Systeme mehrere Monate. Die dafür nötigen Schritte illustrieren die Initianten anhand eines Diagramms: Demnach liest ein Mensch zunächst die als PDF- oder Docx-Files hinterlegten Unternehmens-Policies. Daraus leitet er die kategorisierten Risiken ab. Darauf aufbauend, prüft ein Team aus Sicherheitsexperten (Red-Team) mögliche Schwachstellen. Gegen allfällige Sicherheitslücken müssen Massnahmen erarbeitet, getestet und konfiguriert werden. Zum Schluss wird die abgesicherte Lösung bereitgestellt.

Mithilfe der Asago-Plattform sollen diese Schritte (von der Risikokartierung bis zur Bereitstellung) automatisiert und der Prozess auf wenige Tage verkürzt werden, wie das Projektteam schreibt. Man wolle sowohl nicht-technische Anwender als auch Ingenieure befähigen.

Entwickelt wird die Asago-Plattform als Open Source unter Apache 2.0 Lizenz. Somit können alle den Quelltext betrachten, ändern und frei nutzen.

Strengere Gesetze

"Organisationen können es sich nicht leisten, Innovationen durch monatelange manuelle Überprüfungen zu verzögern oder unüberwachte Schatten-KI-Implementierungen zu schaffen, denen geeignete Sicherheitsvorkehrungen fehlen", schreibt Red Hat. namentlich verweist das Unternehmen auf den AI Act der EU, der unter anderem Regeln zum sicheren einsatz von KI enthält. Der AI Act gilt seit August 2024, wobei einige Bestimmungen erst mit Übergangsfristen in Kraft treten. Eine dieser Fristen lief im August 2026 aus.

Das könnte Sie ebenfalls interessieren: Viele Schweizer Unternehmen missachten ganz bewusst Sicherheitsrisiken im Umgang mit KI. Eine Umfrage benennt die Gründe.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.