OpenAI lässt ChatGPT-Prompts von Menschen lesen — warum genau das mein Argument für lokale KI ist

Diese Woche wurde bekannt, was viele schon vermutet haben: OpenAI beschäftigt hunderte Auftragnehmer, die unter dem Codenamen “Project Lily” echte ChatGPT-Gespräche lesen, bewerten und für das Training der nächsten Modelle verwenden. ChatGPT hat nach eigenen Angaben mehr als 900 Millionen wöchentliche Nutzer — jeder einzelne Prompt, der nicht explizit abgelehnt wird, landet potentiell bei einem Menschen in einem Outsourcing-Büro. Das ist nicht überraschend, aber es ist der erste Leak, der die Mechanik offenlegt. Und es ist genau der Grund, warum ich seit ein paar Monaten ein lokales Modell auf meinem eigenen Rechner betreibe.

Was Project Lily tatsächlich macht

Laut der 404 Media-Recherche, die diese Woche durchsickerte, läuft das Programm in drei Stufen. Externe Dienstleister — nicht OpenAI-Mitarbeiter — bekommen echte Konversationen aus dem ChatGPT-Backend zu sehen. Sie bewerten Antworten, klassifizieren Edge-Cases und markieren sensible Inhalte. Die Bezahlung liegt Berichten zufolge bei über 50 Dollar pro Stunde. Das klingt erstmal nach Premium-Arbeit, ist aber ein klares Signal: das Geschäftsmodell hinter “kostenloser” KI braucht Menschen, die eure Worte lesen, damit das nächste Modell etwas zum Lernen hat.

OpenAI sagt, sie würden versuchen, persönliche Identifikatoren vor dem Review zu strippen. Aber das Unternehmen hat in derselben Stellungnahme eingeräumt, dass sensible Details den Filter passieren können. Wer also medizinische Fragen, juristische Bedenken oder persönliche Probleme in den Chat getippt hat: davon darf man ausgehen, dass jemand das gelesen hat. Nicht automatisch, nicht in Echtzeit, aber im großen Stil.

Was Cloud-KI strukturell von lokaler KI unterscheidet

Der Leak zeigt etwas, das viele aus den Marketing-Seiten der Anbieter herauslesen wollen, aber selten so klar gesagt bekommen: Cloud-KI ist ein Trainings-Daten-Geschäft. Wenn ihr ein Modell nutzt, das auf einem fremden Server läuft, ist euer Input potentieller Trainingsbestandteil — solange ihr nicht aktiv widersprecht (und selbst dann ist die rechtliche Lage in der EU und den USA unterschiedlich verhandelbar). Bei OpenAI lässt sich das in den Datenschutz-Einstellungen deaktivieren, bei Anthropic ähnlich, bei Google Gemini ebenfalls. Aber die Defaults stehen fast überall auf “Training erlaubt”.

Lokale Modelle, die ich via Ollama auf meinem Haupt-PC laufen lasse, haben diese Eigenschaft per Definition nicht. Der Prompt geht über das Netzwerk zur Hardware, die Antwort kommt zurück, keine Festplatte auf einem fremden Server sieht jemals den Inhalt. Das ist kein Vertrauen, das ist Architektur. Und genau das ist der Punkt, an dem die Cloud-Diskussion für mich persönlich uninteressant wird.

Was ich konkret auf meinem Setup laufen lasse

Mein Haupt-PC hat eine RX 7900 XTX mit 24 GB VRAM. Darauf laufen über Ollama meist kleinere Modelle — qwen3:8b oder vergleichbare 7B-Klasse-Vertreter für Alltagsaufgaben, gelegentlich ein 32B-Modell wenn die Aufgabe es rechtfertigt und ich Zeit für langsamere Token-Raten mitbringe. Die 24 GB sind der Sweet Spot: genug für Modelle die wirklich etwas können, klein genug dass ich nicht dauerhaft den Gaming-Stuhl räumen muss.

Was ich damit mache: Coding-Hilfe, das Formulieren längerer Texte, das Zusammenfassen von Recherche-Material, gelegentlich Datenanalyse. Was ich damit nicht mache: alles, wo echte persönliche Daten im Spiel sind. Wenn ich über Gesundheit, Finanzen oder private Situationen schreiben will, läuft das nicht durch ein Cloud-Modell — und der Leak dieser Woche ist eine gute Erinnerung daran, warum diese Disziplin sinnvoll ist.

Die Realität der “Cloud-Privacy”

Es gibt drei Annahmen, die Leute häufig über Cloud-KI haben, die alle nur teilweise stimmen:

“Die Daten werden schon anonymisiert.” Werden sie — meistens. Aber “meistens” ist nicht “immer”, und sensible Details rutschen durch. Der 404-Media-Leak zeigt genau das.

“Ich kann das Opt-out einfach setzen.” Stimmt formal. Aber wenn ihr das in den letzten drei Monaten nicht aktiv gemacht habt, ist eure Historie potentiell Trainingsmaterial. Und die Opt-out-Pfade werden regelmäßig umgebaut — was letzte Woche noch funktionierte, kann morgen anders sein.

“Ist doch nicht so schlimm, das ist halt KI.” Für Wetterfragen stimmt das. Für alles, was auch nur entfernt etwas mit eurer Person, eurem Unternehmen oder eurem Privatleben zu tun hat, ist es eine Gewissensfrage die jeder für sich beantworten muss.

Was lokale KI kostet — ehrlich gesagt

Ich will das nicht als kostenlose Lösung verkaufen. Mein Setup hat einen Ryzen 9 5950X, 32 GB RAM und eben jene GPU gekostet — zusammengenommen deutlich über 1000 Euro. Das ist nicht jedermanns Budget. Aber: für Standardaufgaben reicht auch ein Mac mit M-Chip oder ein älterer Rechner mit ausreichend RAM. Ollama läuft auf einem Raspberry Pi 5 mit 8 GB für kleinere Modelle. Für den Preis eines Jahres ChatGPT-Plus bekommt man die Hardware, die danach jahrelang ohne Abo-Kosten läuft.

Was die lokale Variante nicht kann: die größten Modelle der Welt laufen lassen. GPT-5, Claude 4.5 oder Gemini Ultra haben Fähigkeiten, die kein lokales Modell aktuell repliziert. Wer die Spitzenklasse braucht, kommt um die Cloud nicht herum. Aber die Frage ist: braucht ihr die wirklich für alles? In meinem Alltag sind 80% der Anfragen mit einem 8B-Modell genauso gut bedient wie mit dem Flaggschiff — und die restlichen 20% nutze ich tatsächlich Cloud-Dienste, aber mit bewusstem Daten-Bewusstsein.

Was der Leak diese Woche praktisch bedeutet

Wenn ihr Cloud-KI nutzt und das bisher nicht weiter problematisch fanden: nichts zwingt euch zum Handeln. Die Anbieter sind legal unterwegs (in den meisten Jurisdiktionen), die Daten werden verschlüsselt übertragen, und viele Reviews sind technisch notwendig. Aber falls euch die Vorstellung stört, dass ein anonymer Auftragnehmer in Manila oder Nairobi eure Bewerbung, eure Steuerfragen oder eure Beziehungsprobleme liest — dann ist das ein handfestes Argument für ein lokales Setup.

Was ich diese Woche geändert habe: eigentlich nichts. Mein Setup läuft seit Monaten lokal-first für alles Persönliche, und Project Lily ist für mich eher eine Bestätigung als ein Weckruf. Was sich vielleicht ändert: ich werde in den nächsten Wochen einen zweiten Rechner mit kleinerem Modell als Fallback aufsetzen, falls der Haupt-PC ausfällt. Redundanz bei der eigenen KI ist ein Luxus, den Cloud-Nutzer nie hatten.

Fazit

Project Lily ist kein Skandal im klassischen Sinne — OpenAI hat nie behauptet, dass keine Menschen die Prompts sehen. Es ist eine Erinnerung daran, dass “KI” im Cloud-Modell ein Geschäftsbetrieb ist, der Daten braucht, um zu funktionieren. Wer das verstanden hat, trifft bewusstere Entscheidungen darüber, was in die Cloud darf und was nicht. Lokale KI ist kein Allheilmittel, aber sie ist die einzige Architektur, bei der Datenschutz keine Einstellung ist, sondern eine Eigenschaft.