TikTok gehört mit weltweit über einer Milliarde Nutzern zu den einflussreichsten Videoplattformen, deren Erfolg maßgeblich auf einem hochgradig personalisierten Empfehlungsalgorithmus basiert. Nun steht die Online-Plattform in den USA unter starkem politischen Druck: Die US-Senatoren Marsha Blackburn und Richard Blumenthal haben sich in einem Brief an die Unternehmensführung gewandt. Sie werfen dem Konzern vor, bei einem Experiment eine wichtige Sicherheitsfunktion für etwa 15 Millionen US-Nutzer gezielt deaktiviert zu haben, um Auswirkungen auf die Nutzungsdauer zu testen. Zu dieser Testgruppe gehörte auch ein 16-jähriger Jugendliche, der kurz darauf Suizid beging.
- US-Senatoren werfen TikTok vor, Algorithmus-Schutzfilter für rund 15 Millionen Nutzer in den USA deaktiviert zu haben.
- Ein 16-Jähriger erhielt dadurch massenhaft depressive Inhalte und nahm sich wenig später das Leben.
- Die Politiker fordern von der Unternehmensleitung Antworten auf 13 Fragen bis zum 1. September.
Ein Experiment zur Messung von Interaktionsraten
Aus vertraulichen Unternehmensdokumenten, die im Rahmen von Gerichtsverfahren an die Öffentlichkeit gelangten und über die Bloomberg Businessweek berichtete, geht hervor, dass TikTok ab Ende 2021 zehn Prozent der US-Nutzer als Kontrollgruppe auswählte. Bei dieser Gruppe schaltete die Plattform eine Funktion ab, die eigentlich verhindern sollte, dass Nutzer in sogenannte Filterblasen geraten und fortlaufend mit gleichartigen, potenziell schädlichen Inhalten versorgt werden.
Laut den internen Unterlagen diente die Deaktivierung des Schutzfilters dazu, den Einfluss der Sicherheitsmaßnahme auf die täglichen Nutzerzahlen und die Verweildauer auf der Plattform zu testen.
Zu den per Zufall ausgewählten Personen gehörte ab dem 25. Januar 2022 der 16-jährige Chase Nasca aus dem US-Bundesstaat New York. Sein Account wurde in der Folge mit tausenden Videos zu den Themen Traurigkeit, Einsamkeit und Suizid überschwemmt. Innerhalb eines Monats nahm sich der Jugendliche das Leben.
US-Politiker setzen der Konzernspitze eine Frist
In ihrem Schreiben an TikTok-Chef Shou Chew sowie den Leiter der US-Sparte, Adam Presser, bezeichneten die Senatoren Marsha Blackburn und Richard Blumenthal das Vorgehen als abscheulich. Die Erkenntnisse stünden im Widerspruch zu den wiederholten Zusicherungen des Unternehmens gegenüber dem US-Kongress und Eltern, die Sicherheit junger Menschen über den Profit zu stellen.
Die beiden Senatoren legten dem Konzern einen Katalog mit 13 konkreten Fragen vor. Unter anderem verlangen sie die Offenlegung aller beteiligten Mitarbeiter, die Einsicht in das ungeschwärzte Dokument sowie Auskunft darüber, warum Minderjährige in das Experiment einbezogen wurden. TikTok hat bis zum 1. September Zeit, zu den Vorwürfen Stellung zu beziehen.
Der politische Druck auf Social-Media-Konzerne nimmt zu
Empfehlungsalgorithmen von Social-Media-Plattformen sind in der Praxis so konzipiert, dass sie Nutzungsströme analysieren und Inhalte mit hoher Bindungswirkung bevorzugen. Fällt ein Sicherheitsnetz weg, das depressive Gedankenschleifen durchbrechen soll, steigt für gefährdete Jugendliche das Risiko erheblich.
Für den US-Gesetzgeber bringt der Fall neue Dynamik in die Debatte um strenge Vorgaben wie den Kids Online Safety Act, mit dem Plattformen gesetzlich verpflichtet werden sollen, den Schutz Minderjähriger vor finanziellen Interessen zu priorisieren.
TikTok erklärte auf Anfrage von Bloomberg, man fühle mit den betroffenen Familien und investiere fortlaufend in Sicherheitssysteme und ein engagiertes Prüfteam. Zum aktuellen Brief der US-Senatoren lag zunächst keine direkte Stellungnahme des Unternehmens vor.
