Wie Google-Kalender-Einladungen Datenlecks auslösen

Mit KI-Assistenten kann ein höflich formulierter Satz zu einem Einfallstor für Cyberangriffe werden. Dies hat ein Forschungsteam für Anwendungssicherheit der Sicherheitsfirma Miggo festgestellt, wie es in einem Blogbeitrag heisst. Dabei zeigen die Forschenden auf, dass die Integration von Gemini mit Google Kalender ausgenutzt werden könne, um Datenschutzkontrollen zu umgehen.

Cyberkriminelle senden demnach potenziellen Opfern eine Einladung zu einer Veranstaltung. Diese enthalte im Beschreibungsfeld eine in natürlicher Sprache verfasste Anweisung. Die harmlos wirkende Nachricht werde von Gemini tatsächlich als auszuführender Befehl interpretiert. Die Anweisung bleibt laut den Forschenden inaktiv, bis User dem Assistenten eine gängige Frage stellen, wie zum Beispiel: "Habe ich am Samstag frei?". In diesem Moment analysiere Gemini die Ereignisse des Tages und verarbeite auch die böswillige Nachricht. Daraufhin werden gemäss Blogbeitrag die privaten Termine des Users zusammengefasst und ein neues Ereignis mit diesen Informationen erstellt, welche die Angreifenden einsehen können.

Das Forschungsteam gibt im Artikel zudem an, die Schwachstelle an Google gemeldet zu haben. Google habe die Analyse bestätigt und einen entsprechenden Patch bereitgestellt. Der Vorfall veranschauliche jedoch eine Art von Schwachstelle, die für sprachbasierte Systeme typisch ist, schreibt Miggo: Anweisungen seien nicht mehr explizit codiert, sondern in scheinbar harmlosen sprachlichen Formulierungen versteckt.

Dieser Fall zeigt laut den Forschenden zudem, dass herkömmliche Schutzmassnahmen angesichts KI-gesteuerter Anwendungen unzureichend sind. Die Sicherheit müsse nun die Analyse des Kontexts, der Bedeutung und der Handlungsmöglichkeiten der Modelle einbeziehen.

Übrigens: Eine andere neue KI-Angriffstechnik versteckt bösartige Befehle in Bildern. Lesen Sie hier, wie die Angreifenden dabei unbemerkt Daten stehlen.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.