Google setzt Kopfgelder auf KI-Sicherheitslücken aus

News

Im Rahmen eines neuen "AI Vulnerability Reward Programs" belohnt Google Forschende, die Sicherheitslücken in seinen KI-Anwendungen feststellen. Wer Probleme in Googles Vorzeigeprodukten entdeckt, erhält Prämien von bis zu 30'000 US-Dollar.

(Source: Mohamed_hassan / Pixabay.com)

Google stellt sein AI Vulnerability Reward Program (VRP) vor. Es konzentriere sich auf schwerwiegende Missbrauchs- und Sicherheitslücken in KI-gestützten Anwendungen, schreibt Google in einem Blogbeitrag. Erfolgreichen Teilnehmenden winken Belohnungen für gefundene Probleme oder Schwachstellen. Inhaltsbasierte Probleme wie Jailbreaks oder Prompt Injections sind allerdings davon ausgeschlossen und sollten direkt über die betroffenen Kanäle gemeldet werden.

Neue Regeln des Bug-Bounty-Programms

Zu den sehr schwerwiegenden Sicherheitsproblemen (S-Tier) gehören laut Google Angriffe, die das Konto oder die Daten eines Opfers verändern und dessen Sicherheit gefährden. Dazu gehören auch Angriffe, bei denen persönliche oder andere vertrauliche Daten eines Opfers ohne dessen Zustimmung sichtbar werden. Weitere schwerwiegende Probleme, die als A-Tier eingestuft werden, umfassen unter anderem Phishing, Model Theft oder Context Manipulation.

Das Unternehmen führt auch neue Produktstufen ein, um den Fokus auf schwerwiegende KI-Sicherheitslücken bekannter Anwendungen zu lenken. Diese umfassen:

Flagship: Google Search, Gemini Apps und Google Workspace
Standard: AI Studio, Jules und Nebenanwendungen von Google Workspace
Others: Weitere Akquisitionen oder Applikationen von Google

Bis zu 30'000 US-Dollar als Preisgeld

Google zahlt bis zu 20'000 US-Dollar für Meldungen eines sehr schwerwiegenden Sicherheitsproblems in einem KI-Flagship-Programm aus. Durch einen bestehenden Bonus-Multiplikator, der die Qualität und Neuartigkeit der Entdeckung miteinbezieht, kann dieser Betrag sogar auf bis zu 30'000 US-Dollar steigen, wie es weiter heisst. Für weniger schwerwiegende Probleme ausserhalb des Flagship-Bereichs fallen die Belohnungen jedoch geringer aus.

Übrigens hat im Juli ein Bug-Bounty-Manager eine Sicherheitslücke in Google Gemini entdeckt. Diese ermöglichte es Phishern, die KI-generierten Zusammenfassungen von E-Mails zu manipulieren. Lesen Sie hier mehr dazu.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.