Proton nennt Wachstum wichtiger als Sicherheit — und ich habe ein Problem damit

Bei Proton schreibt laut einem Audio-Mitschnitt aus einem Meeting Ende Oktober rund 90 Prozent des Codes KI. Zeitgleich soll der CEO Sicherheitsbedenken intern mit „Denkweise von Versagern“ quittiert haben. Ich habe zwei Dinge darüber: Ich finde den Trend richtig, und ich finde, dass Proton mit diesem Trend ein Risiko für alle ist, die ihre einzige Hoffnung auf Datenschutz bei ihnen sehen.

Der Leak ist nicht der eigentliche Skandal — die Kultur ist es

Die eigentliche Geschichte steckt nicht in den Nachrichten selbst, sondern in der Reaktion darauf. 404 Media hat acht aktuelle und einen ehemaligen Mitarbeiter befragt, Slack-Verläufe und Meeting-Mitschnitte ausgewertet. Ein Entwickler warb im Security-Kanal dafür, den Code vor dem Livegang ein paar Tage auf Sicherheit zu testen. Antwort von Andy Yen: „Das ist Quatsch und die Denkweise von Versagern. Natürlich kann man schnell und sicher sein.“

Das ist der Satz, der hängen bleibt. Nicht weil er grob ist — CEO-der-Weg ist ja ein eigenes Genre — sondern weil er ein Verhalten beschreibt, das man in Security-Kreisen fast nie hört: dass die Prüfung selbst als Verzögerung behandelt wird, die man wegräumen muss, statt als das, was den Wert ausmacht.

Und genau das zeigt der Umgang mit den Bedenken. Ein Mitarbeiter bat darum, konkret zu benennen, wie sichergestellt werden könne, dass KI-generierter Code frei von Sicherheitsproblemen ist. Die Antwort: gar nicht. Stattdessen wurde der Mitarbeiter persönlich beleidigt. „Erzählt wieder seinen üblichen Quatsch“ — das war laut Leak die Reaktion, wenn jemand nachfragte, ob KI-Code geprüft wird.

Diese Kombination ist das eigentliche Risiko: KI-Code, der zu schnell live geht, plus eine Organisation, in der die Frage „ist das sicher?“ als Angriff auf die Geschwindigkeit gewertet wird. Das ist kein Einzelfall-Drama, das ist ein System, das Fehler findet statt Fehler zu verhindern.

90 Prozent KI-Code sind eine Zahl mit Folgen

Ich beschäftige mich mit lokalen Modellen und selbst gehosteten Diensten seit Jahren, also ist KI-generierter Code für mich kein Schock. Ich habe Code von Modellen geschrieben bekommen, der funktioniert hat, und Code, der subtil falsch war — und die subtilen Fehler sind das Problem.

Der Unterschied zwischen „funktioniert“ und „ist sicher“ ist genau die Sorte Problem, die ein Encoder- oder LLM-Klassifikator nie zuverlässig findet. Ein Path Traversal in einem PDF-Parser, der erst bei exakt diesem einen Dateinamen greift. Eine Race Condition im Token-Refresh. Ein Timing-Leak im Passwortvergleich. Das sind keine Bugs, die man beim Ausprobieren bemerkt, und sie sind auch nicht zufällig — sie folgen Mustern, die man kennen muss, um sie zu suchen.

Die interesting Frage ist also nicht, ob 90 Prozent KI-Code gefährlich sind. 90 Prozent KI-Code sind ein guter Trade-off, wenn man den Rest sauber prüft. 90 Prozent KI-Code sind ein Desaster, wenn die Prüfung entfällt, weil sie als Behinderung behandelt wird.

Und hier wird es für Proton besonders relevant: Das Unternehmen, das Proton-Kunden verspricht, kümmert sich um Dinge, die niemandem nützen, wenn sie kaputt sind. Mein Passwortmanager ist nicht wichtig, weil Passwortmanager cool sind, sondern weil das Leck einer Bank nachts um drei dein Leben verändert. Der Kalender weniger — aber der VPN-Zugang umso mehr, wenn dein ISP oder ein Angreifer ihn sieht.

Die Meta-Frage: Wofür ist KI-Code überhaupt gut?

Ich glaube, der CEO hat in einem Punkt recht, auch wenn der Ton danebenliegt: KI-Code ist in Many-Shot-Aufgaben, in Boilerplate, in Tests, in Migrationen und in der Erschließung von Legacy-Kram, den kein Mensch mehr angucken will, tatsächlich schneller. Mein eigener Homelab-Kram ist das beste Beispiel. Da gibt es ein Python-Skript, das seit Monaten einwandfrei läuft, und für das ich die letzte Anpassungshilfe von einem Modell bekommen habe. Hätte ich das selbst geschrieben, hätte ich einen Nachmittag gebraucht und am Ende vermutlich drei Fehler gemacht.

Aber: Der Unterschied zwischen „das Skript läuft" und „die Anwendung darf man nicht anfassen" ist der Unterschied zwischen einem Werkzeug im Werkzeugkasten und dem Werkzeug, mit dem man die Tür öffnet. Proton ist Tür.

Und da liegt meine eigentliche Sorge an der Stelle, an der der Leak unbequem wird: Das Sicherheitsproblem bei Proton ist nicht ein einzelner Fehler. Es ist die Frage, ob ein Anbieter, dessen Marketing komplett auf Vertrauen basiert, sein Vertrauen noch verdient, wenn er öffentlich sagt, dass Wachstum wichtiger ist als Sicherheit. Das ist kein Leak-Detail mehr, das ist eine strategische Aussage über die Reihenfolge der Prioritäten.

Meine eigene Antwort darauf ist unangenehm, aber ehrlich: Ich nutze Proton weiterhin. Für Passwörter und 2FA, ja. Für die tägliche Mail mit Leuten, die ich kenne, ja. Aber die Frage „wo liegen meine Daten" hat für mich inzwischen ein Gewicht bekommen, das sie 2023 nicht hatte. Ich habe inzwischen eine eigene kleine Instanz mit einem echten Mailserver und einem eigenen Webmail-Frontend, weil mir ein Anbieter, dessen Geschäftsmodell darin besteht, „Wachstum durch KI" über meine Identität zu legen, nicht mehr die Sorte Vertrauen entgegenbringt, die ich für das Auge und das Ohr brauche.

Das ist aufwendig. Es ist ein Bastelserver mit Reverse Proxy, SPF, DKIM, DMARC und dem ganzen Kleinkram, den niemandem mehr Spaß macht. Aber es hat eine Eigenschaft, die kein Proton-Tarif kaufen kann: Ich weiß, wer den Server betreibt. Das ist per Definition eine Person, die ich kenne, und nicht ein Unternehmen, dessen Prioritäten sich quartalsweise ändern.

Wenn du jetzt eine Entscheidung treffen musst

Ich sage nicht, du solltest Proton morgen kündigen. Ein Sicherheits-Vorfall bei Proton, wenn einer kommt, wäre kein Grund für Panik — die Verschlüsselung ist nach wie vor solide, und die Härtung gegen Massenüberwachung ist echt, das ist nicht die marketing-getriebene Hälfte des Produkts.

Ich sage aber: Wähle deine Vertrauenswürdigkeit nicht nach dem Feature-Set, sondern nach dem, was das Unternehmen unter Druck priorisiert. Und das ist bei Proton gerade öffentlich dokumentiert worden. In Zeiten, in denen Verschlüsselung als Zubehör verkauft wird, ist das die Frage, die zählt.

Und falls du den Schritt in Richtung Eigenbetrieb gehst: Fang klein an. Ein eigener Server, ein paar Subdomains, ein separater Mailserver, und dann schau, wie viel Aufwand dich der Rest wirklich kostet. Bei mir war es deutlich weniger schlimm als befürchtet — und deutlich mehr Spaß als jeder Proton-Premium-Tarif.

Fazit

Proton hat ein echtes Problem. 90 Prozent KI-Code sind ohne Prüfung ein Risiko, und der CEO hat in den geleakten Nachrichten ziemlich klar kommuniziert, dass er das anders sieht. Was ich daran am meisten störe, ist nicht das KI-Denken — das halte ich für unausweichlich und teils richtig. Es ist die Kombination aus Tempo als Selbstzweck und der Erwartung, dass Sorgfalt von Developern kompensiert wird, die man nicht mehr einstellen will.

Der Satz „der Zug kommt, steig ein oder du wirst überrollt" ist ein Zeichen einer Branche, die sich für unanfechtbar hält. Das ist die gefährlichste Überzeugung, die man haben kann. Technologie, die sich für unanfechtbar hält, wird nicht besser — sie wird nur schneller in die falsche Richtung.

Ich bleibe bei Proton für das, was es gut macht, und ich nutze parallel mein eigenes Setup für das, was zu wichtig ist, um es einer Wachstumsstrategie zu überlassen. Beides ist verantwortbar. Die Kombination ist es, die mich nachts ruhig schlafen lässt.