Massgeschneiderte KI-Anwendungen fordern die Cyberabwehr heraus

(Source: timitinej / Adobestock)

(Source: timitinej / Adobestock)

Bis 2028 könnten massgeschneiderte KI-Anwendungen bis zu 50 Prozent der Massnahmen zur Reaktion auf Cybersicherheitsvorfälle in Unternehmen ausmachen. 2024 lag dieser Wert noch bei unter 5 Prozent, wie Gartner in der Mitteilung zu seiner jüngsten Prognose schreibt. Den drastischen Anstieg begründet das Marktforschungsunternehmen damit, dass unternehmenseigene KI-Anwendungen oft ohne ausreichende Sicherheitstests eingesetzt würden und auf Dauer schwieriger zu sichern seien.

"KI entwickelt sich rasant weiter, doch viele Tools - insbesondere massgeschneiderte Anwendungen - kommen zum Einsatz, bevor sie vollständig getestet wurden", sagt Gartner-Analyst Christopher Mixter.

Dem Beratungsunternehmen zufolge verfügen die meisten Sicherheitsteams noch nicht über geeignete Prozesse zur Bewältigung von Cybervorfällen in Zusammenhang mit massgeschneiderten KI-Tools, was die Lösungszeit verlängern und den Aufwand erhöhen kann. Gartner rechnet zudem in den kommenden Jahren mit einer zunehmenden Verbreitung von KI-spezifischen Sicherheitsplattformen, um neuen Risiken wie Prompt-Injection oder Datenmissbrauch zu begegnen.

Angesichts dieser Entwicklungen empfiehlt das Beratungsunternehmen den CISOs, sich bereits in der Konzeptionsphase dieser Projekte einzubringen, um den Ressourcenbedarf zu antizipieren und geeignete Kontrollen einzurichten.

Über die operativen Herausforderungen hinaus bringt dieser Wandel auch zunehmende Compliance-Risiken mit sich. Bis 2027 könnten 75 Prozent der regulierten Unternehmen aufgrund von noch weitgehend manuellen KI-Governanceprozessen mit Geldstrafen von mehr als 5 Prozent ihres Umsatzes konfrontiert sein, sagt Gartner voraus.

Langfristig warnt Gartner vor der "Datenschuld", die mit schlecht strukturierten oder unzureichend gesicherten Daten zusammenhängt. Bis 2030 dürfte ein Drittel der IT-Arbeit darauf entfallen, diese Probleme zu beheben.

Übrigens prognostizierte Gartner unlängst auch, dass bis 2028 eine fehlkonfigurierte KI in einem G20-Land zum Ausfall kritischer nationaler Infrastruktur führen wird. Ursache werden laut Analyse keine Hackerangriffe sein, sondern operative Fehler. Ein Kill-Switch soll die menschliche Kontrolle gewährleisten.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.