Proton gerät mit aggressivem KI-Kurs in die Kritik

Andy Yen, CEO und Mitgründer von Proton. (Source: Web Summit/CC BY 2.0)

Andy Yen, CEO und Mitgründer von Proton. (Source: Web Summit/CC BY 2.0)

Alles auf KI - so lässt sich Protons Vision zusammenfassen. Das Genfer Unternehmen, das insbesondere für seinen sicheren E-Mail-Dienst bekannt ist, veröffentlichte in seinem Blog unlängst das "AI manifesto for software engineering". Darin macht CTO Bart Butler klar, dass dieser Kurs insbesondere für die Softwareentwicklung gelten soll.

Drei Veränderungen für den KI-Erfolg

Zwar bestehe die "KI-Revolution", die sich ausserhalb seines Unternehmens abspiele, zum Teil aus heisser Luft. "Doch vieles davon ist durchaus real", schreibt Butler und betont die Wichtigkeit von Investitionen für eine gesicherte Zukunft. "Es geht hier nicht darum, jedem Trend hinterherzujagen. Vielmehr drohen wir den Anschluss zu verlieren. Das stellt eine existenzielle Bedrohung für den Erfolg unserer Mission dar."

Damit KI auch bei Proton selbst ihr volles Potenzial entfalten kann, braucht es gemäss Butler drei Veränderungen:

• Ein neues Selbstverständnis von Softwareentwicklern: Das Schreiben von Programmcode sei nicht länger ihr Job. "Eure Aufgabe besteht vielmehr darin, dem LLM dabei zu helfen, schneller besseren Code zu schreiben", erklärt der CTO. Entwickler würden zu Teamleitern von Teams aus KI-Agenten. Idealerweise sollten diese in der Lage sein, autonom Code zu schreiben. Menschen sollten "Probleme erkennen, die das LLM nicht selbstständig lösen kann, und ihm dabei helfen, diese nicht nur beim aktuellen Mal zu bewältigen, sondern sie künftig besser lösen zu können". Während LLMs mit Geschwindigkeit punkten, verfügen Menschen über "einen Erfahrungsschatz aus einem ganzen Berufsleben, über Urteilsvermögen und Verständnis. Ausserdem seid ihr - hoffentlich - deutlich weniger anfällig für Halluzinationen und dafür, euch durch fehlerhafte oder böswillige Eingaben in die Irre führen zu lassen", schreibt Butler.

• KI entlang der gesamten Entwicklungskette: Bislang, so der CTO, habe Proton mit LLMs einzelne Aufgaben innerhalb bestehender Arbeitsabläufe schneller erledigt. "Das Schreiben von Code ist nur ein Teil des Softwareentwicklungsprozesses", erklärt Butler und mahnt: "Wenn wir nicht sämtliche Prozesse ganzheitlich betrachten und Engpässe konsequent beseitigen, werden wir unser volles Potenzial nicht ausschöpfen." Explizit weist der CTO darauf hin, dass im Zuge dieser ganzheitlichen Betrachtung einige Prozesse grundlegend umgebaut und neu gedacht werden müssten.

• Gemeinsame Neuausrichtung: Zwar hätten einige Proton-Mitarbeitende mithilfe von KI bereits Veränderungen bewirkt, die über ihren eigenen Arbeitsplatz hinausgingen, räumt Butler ein. "Doch um das Unternehmen als Ganzes neu aufzustellen, braucht es ein Mass an Organisation und Ressourcen, in das wir bisher schlicht noch nicht investiert haben." Einen ganzen Prozess oder ein Unternehmen auf KI auszurichten, ist laut Butler nicht nur ein Kraftakt, sondern auch "mit Opportunitätskosten und Zielkonflikten verbunden".

Rauer Ton hinter den Kulissen

"Programmieren ist tot, Engineering nicht, und Expertise ebenfalls nicht", schreibt der CTO zum Schluss des KI-Manifests. An die Entwickler gewandt fügt er hinzu: "Eure neue Aufgabe als Builder eröffnet euch die Möglichkeit, mehr zu leisten und mehr zu bewirken als je zuvor - vorausgesetzt, ihr ergreift diese Chance".

Ursprünglich verteilte Butler das Manifest lediglich innerhalb seines Unternehmens. Im Blog machte Proton das Dokument am 1. November 2026 für alle zugänglich. Zu dieser Zeit war Proton jedoch bereits wegen seines aggressiven KI-Kurses in den Schlagzeilen, angetrieben durch Recherchen von "404 Media". Das Portal berichtete zuerst (Paywall), Proton habe einige Angestellte zu "neuen Bewerbungsgesprächen" eingeladen. Diese könnten "zu Änderungen hinsichtlich der Aufgaben, Zuständigkeiten und weiteren Beschäftigung" führen. Bei den Gesprächen sollte es insbesondere um den KI-Einsatz gehen.

In einem weiteren Artikel beruft sich das Fachmagazin auf Gespräche mit anonymen aktuellen und ehemaligen Mitarbeitenden sowie auf interne Chatverläufe. Bei Proton herrsche "eine von Angst geprägte Unternehmenskultur", schreibt das Magazin. Namentlich kritisieren die Autoren des Artikels Proton-CEO Andy Yen. Viele Mitarbeitende scheuten sich offenbar davor, dessen Ansichten "auch nur in geringem Masse zu kritisieren oder technische Probleme anzusprechen". Mitarbeitende hätten etwa Bedenken, dass sie Sicherheitsprodukte mithilfe von KI entwickeln sollten. "Sie fühlen sich jedoch nicht in der Lage, diese Bedenken offen zu äussern - aus Angst, Yen könnte sie vor versammelter Belegschaft zurechtweisen oder ihnen mit dem Verlust ihres Arbeitsplatzes drohen."

Dass entsprechende Bedenken nicht aus der Luft gegriffen sind, belegt "404 Media" mit Chat-Zitaten. Einem Angestellten, der ausführliche Sicherheitstests vor dem Go-live eines neuen Produkts anregte, soll Yen entgegnet haben: "Das ist Bullshit und eine Verlierermentalität. Natürlich ist es möglich, schnell und sicher zu sein".

Ein Sorry vom CEO

Gegenüber "404 Media" bestreitet Proton die Echtheit der zitierten Chats nicht. "Es ist offensichtlich, dass einige Mitarbeitende bei Proton mit unserer Ausrichtung unzufrieden sind oder diese missverstehen. Zudem sind viele verunsichert", schreibt das Genfer Unternehmen. "In unserem Bestreben, schnell voranzukommen, waren wir manchmal zu unverblümt oder haben zu lange gebraucht, um unseren Mitarbeitenden unsere Beweggründe zu erklären. Daran werden wir arbeiten, denn es sind ihre Fragen, auf die wir am dringendsten Antworten finden müssen."

Auf der Community-Plattform Reddit meldete sich auch Proton-CEO Yen zu Wort: Er übernehme die Verantwortung "für die mangelhafte Kommunikation, die zu so viel Verunsicherung, Verwirrung und Verletzung innerhalb der Belegschaft geführt hat", schreibt Yen. Damit sich solches nicht wiederhole, werde sein Unternehmen eine Person für die interne Kommunikation berufen. "Ganz persönlich möchte ich sagen, dass ich einige der Dinge, die ich zu den Menschen gesagt habe, die beim Aufbau dieses Unternehmens geholfen haben, nicht hätte sagen dürfen. Meine Worte waren verletzend. Das tut mir leid, und ich bin fest entschlossen, mich zu bessern."

Man werde die angekündigten "erneuten Bewerbungsgespräche" nicht durchführen, erklärt der Proton-CEO weiter. "Niemand wird ihretwegen den Arbeitsplatz verlieren."

Zudem betont er, der KI-Einsatz in seinem Unternehmen werde niemals auf Kosten der Sicherheit gehen. Tatsächlich habe Proton zusätzliche Sicherheitsebenen eingeführt, neuen Bedrohungen durch "feindlich gesinnte KI-Systeme" zu begegnen. "Schnelligkeit und Sicherheit müssen sich nicht gegenseitig ausschliessen", schreibt Yen. Proton setze zudem KI ein, um Schwachstellen im eigenen Code aufzuspüren. "Unser Code ist Open Source, und seine Sicherheit kann weiterhin von allen überprüft werden", ergänzt der CEO. Der Nutzergemeinschaft verspricht er mehr Transparenz hinsichtlich des internen Umgangs mit KI - die Veröffentlichung des Manifests dürfte ein erster Schritt gewesen sein. Längerfristig werde Proton auch den Quellcode einiger interner Test-Tools sowie seine Richtlinien veröffentlichen, wo KI erlaubt ist und wo nicht.

"Proton wird seinen Weg nicht mit einer Armee von KI-Agenten gehen, sondern mit einer Armee kluger, besonnener Menschen, denen unsere Mission, unsere Nutzerinnen und Nutzer sowie diese Community wirklich am Herzen liegen", endet der CEO seinen Reddit-Beitrag.

Lesen Sie auch: Anfang 2026 wurde bekannt, dass Proton auf Anordnung von Schweizer Behörden Zahlungsdaten weitergegeben hat. Mit diesen Daten konnte das FBI den Inhaber eines angeblich anonymen E-Mail-Kontos identifizieren. Möglich macht dies ein Rechtshilfeabkommen zwischen der Schweiz und den USA.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.