Latticeflow will KI-Risiken für SAP-User steuerbar machen

(Source : FAMILY STOCK / stock.adobe.com)

(Source : FAMILY STOCK / stock.adobe.com)

Das Zürcher Jungunternehmen Latticeflow geht eine Partnerschaft mit SAP ein. Die Zusammenarbeit zielt darauf ab, die Kontrolle von KI-Risiken in Unternehmen zu stärken, wie das Unternehmen mitteilt. Im Zentrum stehen kontinuierliche und nachprüfbare technische Bewertungen der eingesetzten KI-Systeme.

Angesichts des Aufstiegs von agentenbasierter KI stossen Governance-Ansätze, die lediglich auf allgemeinen Richtlinien basieren, zunehmend an ihre Grenzen. Unternehmen benötigen technische Indikatoren, die das tatsächliche Verhalten der Systeme im produktiven Einsatz widerspiegeln. "Das Management von KI-Sicherheit und -Risiken erfordert einen tiefen technischen Einblick in das tatsächliche Verhalten von KI-Systemen, nicht nur Checklisten oder Dashboards", sagt Petar Tsankov, CEO und Mitgründer von Latticeflow.

Latticeflow bietet seine Plattform neu im SAP Store an. Mit ihr können Unternehmen die Anforderungen von Normen wie der ISO/IEC-4200x-Reihe in technische Bewertungen übersetzen und diese konsequent auf KI-Systeme anwenden, die sie im SAP-Ökosystem entwickeln oder betreiben. Die Analysen sollen auch die Einhaltung des EU AI Acts unterstützen, indem sie überprüfbare Nachweise für das Risikomanagement liefern.

Die Bewertungen umfassen verschiedene Systemtypen, darunter Basismodelle, autonome Agenten sowie Anwendungen wie Chatbots. Sie verfolgen die Entwicklung der Leistung, Sicherheit und Zuverlässigkeit der Modelle, während Unternehmen diese anpassen oder in Geschäftsprozesse integrieren. Sean Kask, Chief AI Strategy Officer bei SAP, ergänzt: "Da Unternehmen zunehmend eigene KI-Anwendungsfälle für kritische Arbeitsabläufe erstellen, benötigen sie technische Nachweise, um die Entwicklung von Risiken in der Praxis zu verstehen und zu steuern."

Latticeflow ist ein Spin-off der ETH Zürich. Die 2020 gegründete Firma ist auf die Entwicklung von vertrauenswürdigen KI-Anwendungen spezialisiert und lancierte eine Anwendung, die gefälschte Tonspuren zuverlässig erkennen und somit einen Beitrag im Kampf gegen Deepfakes leisten soll - mehr dazu lesen Sie hier.