Wie KI die Demokratie gefährdet

Wahlen in Indien und Grossbritannien, Präsidentschaftswahl in den USA und die Europawahl: 2024 ist ein globales Superwahljahr. Dazu kommen zahlreiche kleinere regionale Wahlen. Auch in der Schweiz wählen dieses Jahr 8 Kantone ihre Parlamente und Regierungen neu. 

Anlässlich der vielen bevorstehenden Urnengänge befassten sich Sicherheitsforscher von Check Point mit den unterschiedlichen digitalen Bedrohungen. Das Potenzial für Wahlbetrug durch den Einsatz von künstlicher Intelligenz und Deepfake-Technologien, beispielsweise durch gefälschte Videos und Stimmen, sei hoch, heisst es in einem Bericht des israelischen Cybersecurity-Anbieters.

Demnach gebe es auf offenen Plattformen wie GitHub über 3000 Repositories im Zusammenhang mit Deepfake-Technologien. Telegram beherbergt Hunderte von Kanälen (ca. 400 bis 500) und Gruppen, die Deepfake-Dienste anbieten. Dabei handelt es sich um automatisierte Bots, die Nutzer durch den Prozess führen, bis hin zu personalisierten Diensten, die direkt von Einzelpersonen angeboten werden.

Wahlmanipulation für 2 US-Dollar

Die Preise für diese Dienste variieren laut Check Point stark und beginnen bei 2 US-Dollar pro Video und reichen bis zu 100 Dollar für mehrere Videos. 

Die Preise für das Stimmenklonen starten bei etwa 10 Dollar pro Monat und reichen bis zu mehreren Hundert US-Dollar. Sie variieren je nach den angebotenen Funktionen, wie Sprache-zu-Sprache in Echtzeit, geringere Latenzzeit oder API-Zugang für nur 0,006 Dollar pro Sekunde der erzeugten Stimme. Mit den Angeboten liessen sich realistisch wirkende audiovisuelle Inhalte zu Manipulationszwecken erstellen, teilt das Unternehmen mit. 

Gezielte Kampagnen

Die Verfügbarkeit von Deepfake-Diensten im Darknet und bei Kanälen wie Telegram habe stark zugenommen. Check Point vermutet dahinter koordinierte Aktionen. Die Angreifer "weben ein komplexes Netz aus Fehlinformationen und Manipulationen", das die Bemühungen um den Schutz der Integrität der staatlichen Wahlen und das Vertrauen der Öffentlichkeit in den demokratischen Prozess beeinträchtige.

Die kontinuierliche Weiterentwicklung von Deepfake-Technologien werde diesen Effekt nur noch verstärken. Neben legislativen Massnahmen brauche es daher auch vermehrte Kooperation zwischen Technologie-Unternehmen, Strafverfolgungsbehörden und IT-Sicherheitsexperten bei der Entwicklung von Methoden zur Erkennung und Abwehr solcher Bedrohungen.

Check Point liefert eine Reihe von Tipps, die Bürgerinnen und Bürgern dabei helfen sollen, sich im Vorfeld von Wahlen oder Abstimmungen vor Desinformation und Manipulation zu schützen:

• Bürgerinnen und Bürger sollten die Inhalte, die sie konsumieren, stets kritisch hinterfragen.
• Alarmierende Zeichen bestehen zumeist in der direkten Aufforderung der Weiterverbreitung im gleichen Medium.
• Nutzende sollten sich fragen, ob zu Spenden oder aber zu anderen Aktivitäten aufgerufen wird, die verdächtig erscheinen.
• Links und URLs sollten möglichst vor dem Aufruf geprüft werden. Empfehlenswert für generell unsichere User ist es, mehr zur Webseite über Suchmaschinen herauszufinden, bevor diese besucht wird.
• Nur seriöse Quellen und Informationen offizieller Stellen zu Wahlinformationen sind vertrauenswürdig.
• Das Datum von digitalen Inhalten spielt eine grosse Rolle, um nicht auf veraltete oder irrelevante Nachrichten hereinzufallen.
• Das Öffnen und Aufrufen von E-Mails oder Anhängen von unbekannten Quellen oder Personen sollte vermieden werden. Dies gilt besonders auch für Beantwortungen von Nachrichten, die dem Angreifer wertvolle Informationen in die Hände spielen würden.

Check Point selber arbeitet auch mit KI um Cybersecurity zu fördern. So stellte der Konzern unlängst seinen "Infinity AI Copilot" vor. Mehr dazu lesen Sie hier.