New York wirft TikTok vor, Jugendlichen ein Placebo als Sicherheitstool gegeben zu haben

Eine Klage aus New York wirft TikTok vor, Tausenden Jugendlichen und Kindern eine Version seiner Sicherheitsfunktion „Algo Refresh“ gegeben zu haben, die nichts bewirkte. TechCrunch berichtete am 8. Oktober 2026, die Nutzer hätten geglaubt, ihre Empfehlungen zurückgesetzt zu haben, doch ihre Feeds hätten sich nicht verändert. Das sind Vorwürfe in einer Gerichtsakte, keine Feststellungen, und TikTok bestreitet sie. Der Fall stellt die Frage, ob ein Sicherheitswerkzeug, das nur zu funktionieren scheint, als funktionierend gilt.

Was die Klage vorwirft

Mit Algo Refresh kann ein Nutzer die Videos zurücksetzen, die TikTok empfiehlt. So sollen unerwünschte oder schädliche Inhalte nicht mehr erscheinen. Laut The Next Web heißt es in der freigegebenen Akte, 2023 hätten einige Nutzer ein Placebo erhalten. Ein Placebo ist hier ein Button, der echt aussieht, aber nichts ändert.

Die Vorwürfe, wie berichtet:

• Tausende Nutzer, darunter Jugendliche und Kinder, nahmen an dem Experiment teil
• Die Nutzer glaubten, die Funktion eingeschaltet zu haben, doch ihre Feeds blieben gleich
• Andere Nutzer im Test bekamen eine funktionierende Version
• Die Tests untersuchten auch die Auswirkungen auf die Zeit in der App und auf die Werbeumsätze
• Die Klageschrift behauptet, das Zurücksetzen habe nicht angehalten

The Next Web fügt hinzu, ein interner Chat zeige, wie ein Produktmanager aus TikToks Well-being-Team widerspricht. Der Manager sagte, eine Placebo-Gruppe widerspreche dem Zweck der Funktion, Nutzern Transparenz und Kontrolle zu geben. Die Quellen sind sich nicht einig, ob die Worte des Managers wörtlich zitiert sind. Dieser Artikel gibt sie daher sinngemäß wieder.

Wie die Vorwürfe öffentlich wurden

Die Generalstaatsanwältin von New York, Letitia James, reichte die Klage ein. Laut The Next Web wurde die geänderte Klageschrift mit diesen Vorwürfen Ende August unter Siegel eingereicht. Ein Richter ordnete später die Freigabe der Unterlagen an. Reuters berichtete am 7. Oktober 2026 über die Vorwürfe, und Bloomberg hatte zuvor über damit zusammenhängende vertrauliche Tests berichtet.

The Next Web schreibt, James und 14 weitere Generalstaatsanwälte hätten TikTok im Oktober 2024 verklagt und dem Unternehmen vorgeworfen, die Öffentlichkeit über die Sicherheit seiner Werkzeuge getäuscht zu haben. Es bestätigt nicht, dass die Funktion „Refresh“ in dieser Klage dieselbe ist wie Algo Refresh. Laut TechCrunch ist dies einer von mehr als zwei Dutzend Bundesstaatsverfahren wegen der Behauptung, TikTok sei so gestaltet worden, dass es Kinder zu süchtiger Nutzung anrege.

Ein separates Experiment

Beide Medien beschreiben auch einen anderen Test, über den zuerst Bloomberg berichtete. Dabei sei ein Sicherheitsupdate angeblich rund 10 % der US-Nutzer vorenthalten worden, etwa 15 Millionen Menschen. The Next Web schreibt, die freigegebenen Dokumente enthielten beide Tests, und die Seiten sagten nicht, dass sie zusammenhängen. Sie sind als getrennte Vorwürfe zu lesen.

TikToks Reaktion

TikTok sagte Reuters, es teste regelmäßig neue Produkte, berichtet TechCrunch. The Next Web schreibt, ein TikTok-Sprecher habe die Klage als falsches Bild davon bezeichnet, wie Algo Refresh funktioniert. TikTok bestreitet die Vorwürfe. Keines der beiden Medien nennt die vollständige Stellungnahme.

Was das für Entwickler bedeutet

Für Teams, die Sicherheits-, Datenschutz- oder Empfehlungskontrollen bauen, geht es in diesem Fall darum, wie man sie testet.

• Liefern Sie keine Placebo-Kontrollgruppe für eine Sicherheitsfunktion aus. Wenn eine Kontrolle Nutzer schützen soll, ist eine gefälschte Version für einen Teil der Nutzer genau die Praxis, die die Akte kritisiert. Testen Sie mit echten Versionen und messen Sie die Ergebnisse.
• Protokollieren Sie, wer welche Variante gesehen hat. Aufsichtsbehörden und Gerichte fragen, was jeder Nutzergruppe gezeigt wurde. Führen Sie Experimentprotokolle, die Zweck und Prüfung erklären.
• Nehmen Sie eine Ethikprüfung in das Experimentdesign auf. Ein interner Einwand eines Produktmanagers ist genau das, was ein formelles Prüfverfahren vor dem Start auffangen sollte.
• Machen Sie Kontrollen überprüfbar. Wenn ein „Zurücksetzen“-Button funktioniert, sollten Nutzer die Wirkung sehen können. Zeigen Sie, was sich geändert hat.
• Rechnen Sie damit, dass Akten öffentlich werden. Versiegelte Dokumente können freigegeben werden. Schreiben Sie interne Notizen daher so, als könnte ein Richter sie lesen.

Als Nächstes ist TikToks förmliche Antwort vor Gericht zu beobachten. Bis dahin bleibt alles oben Genannte ein Vorwurf.