G Data sagt, wie viel KI die Cyberabwehr braucht

Wie viel KI braucht die Cyberabwehr?

Cornelia Lehle: Es ist weniger eine Frage der Quantität als vielmehr eine Frage der Qualität. Denn der Einsatz von Large Language Models, kurz LLM, hat Vor- und Nachteile. Den Effizienzgewinnen stehen häufig ungenaue, unzuverlässige oder fehlerhafte Ergebnisse entgegen. Und noch immer haben die Trainingsdaten einen entscheidenden Einfluss auf die Ergebnisse. Wer also sein Modell mit minderwertigen Daten füttert, erhält am Ende falsche oder ungenaue Ergebnisse. Das hilft bei der IT-Sicherheit keinem weiter.

Bei welchen Aufgaben bietet KI den grössten Nutzen?

Die grosse Stärke von KI-basierten Systemen ist die schnelle Verarbeitung grosser Datenmengen. Es gibt in der Malware-Analyse viele sinnvolle und hilfreiche Einsatzgebiete für KI. Der Einsatz als Filter, der auf grossen Datenmengen basiert, oder die Priorisierung von Aufgaben erleichtert Malware-Fachleuten die Arbeit. Dem steht aber entgegen, dass KI Fehler macht. Die mangelnde Präzision erschwert den Einsatz von KI in Bereichen, wo akkurate Ergebnisse erforderlich sind, wie etwa bei der Analyse des Codes. Die abschliessende Entscheidungs- und Interpretationshoheit sollte daher immer beim Menschen liegen.

Wo sind die blinden Flecken der KI?

KI, die den Code erklärt, zum Beispiel bei Virustotal für Powershell-Skripte, finde ich nicht hilfreich. In der Regel kennt KI den Kontext nicht, in dem diese Skripte aufgerufen und verwendet werden. So können legitime Skripte ohne Kontext tatsächlich bösartig aussehen, weil die Aktionen, die Administratoren durchführen, mitunter den Aktionen von Eindringlingen sehr ähnlich sind. Es kommt immer darauf an, wer etwas benutzt und warum. Eine LLM-basierte Erklärung, die nun ein Verstehen dieser Skripte besser zugänglich machen soll, erreicht dabei eher das Gegenteil. Diese Erklärungsansätze erzeugen für Malware-Analysten unnötige Arbeit, da mehr vermeintliche False-Positive- und False-Negative-Meldungen auflaufen, die ein Mensch dann erst einmal ansehen und widerlegen muss.

Die Gegenseite setzt ebenfalls auf KI. Wem nützt sie mehr – den Cyberkriminellen oder der Cyberabwehr?

Beide Seiten profitieren gleichermassen von KI. Aus Angreifersicht haben KI-basierte Angriffe den Vorteil, dass kaum Kosten mit ihnen verbunden sind. Es lassen sich in kürzester Zeit nahezu unbegrenzt viele Angriffe durchführen; gerade das Erstellen von Phishing-Kampagnen kann so wesentlich schneller vonstattengehen, als es bis jetzt der Fall war. Und in der Cybersicherheit profitieren wir von der schnellen und automatisierten Analyse grosser Datenmengen. Der alte Kampf zwischen Gut und Böse findet auch mit KI-Tools seine Fortsetzung.

Übernimmt die KI nun die komplette Cybersecurity? Wie viele Mitarbeitende braucht es jetzt noch in der Abwehr?

Ich gehe nicht davon aus, dass künstliche Intelligenz in naher Zukunft unsere gesamte Cybersecurity übernehmen kann und wird. Denn die Anzahl der Angriffsversuche wird nicht nur steigen, sondern auch weiterhin an Komplexität gewinnen. Deswegen braucht es weiterhin einen prüfenden Blick von menschlichen Experten, um Fehler zweifelsfrei auszuschliessen. Es bleibt noch viel zu tun, bis Maschinen die Aufgabe der Menschen übernehmen können. Ein ganzheitlicher Ersatz für menschliche Analysten und Analystinnen wird KI meiner Meinung nach nicht werden.

Die Antworten der weiteren Teilnehmenden des Podiums:

• Michael Born, PXL ­Vision: "Eine rein KI-gesteuerte Abwehr wäre fahrlässig, da Maschinen ohne menschliches Urteil weder Kontext noch Prioritäten verlässlich bewerten."
• Elier Cruz, Check Point: "Der anhaltende Fachkräftemangel in der Cybersecurity besteht fort; KI mildert ihn, beseitigt ihn aber nicht."
• Sebastian Schmerl, Arctic Wolf: "Ohne Schulung, klare Prozesse und menschliche Kontrolle bleibt jedes Modell anfällig für Fehlinterpretationen."
• Michael Schröder, Eset: "KI soll immer nur einen Baustein in einer vielschichtigen Strategie darstellen."
• Christian Thiel, OST: "Die grösste Schwachstelle ist, dass die Logik der KI selbst zum Angriffsziel wird."
• Andy Weiss, Palo Alto Networks: "Der Erfolg KI-basierter Sicherheitslösungen steht und fällt mit der Datenqualität."
• Richard Werner, Trend Micro: "Neue Attacken, sogenannte Zero Days, sind auch für eine KI nur schwer identifizierbar."
• Stefan Züger, Fortinet: "Ohne geschultes Personal vergrössern KI-Lösungen sogar Schwachstellen."
• Benjamin Zulliger, FHNW: "Wer jetzt nicht mit der Integration von KI beginnt, wird bald einem exponentiellen Aufholbedarf gegenüberstehen."