Als Stephanie Mistre ihre Tochter Marie vor drei Jahren leblos im Schlafzimmer fand, brach für sie die Welt zusammen. Die 15-Jährige hatte sich das Leben genommen. «Im Bruchteil einer Sekunde wurde es für mich dunkel», sagt die Französin. An jenem Tag im September 2021 begann ihr Kampf gegen Tiktok. Mistre macht das von einem chinesischen Unternehmen betriebene Videoportal dafür verantwortlich, dass ihre Tochter in die Verzweiflung getrieben wurde.

Als Mistre nach dem Tod ihrer Tochter deren Mobiltelefon durchforschte, entdeckte sie Videos, die für Suizidmethoden warben, Anleitungen und Kommentare, die die Nutzer ermutigten, über «blosse Suizidversuche» hinauszugehen. Der Algorithmus von Tiktok habe ihrer Tochter wiederholt solche Inhalte angezeigt. «Es war Gehirnwäsche», sagt Mistre, die in Cassis in der Nähe von Marseille in Südfrankreich lebt. «Sie haben Depressionen und Selbstverletzungen normalisiert und in ein pervertiertes Gefühl der Zugehörigkeit verwandelt.»

Nun verklagen Mistre und sechs weitere Familien Tiktok Frankreich. Sie werfen der Plattform vor, schädliche Inhalte nicht zu moderieren und Kinder lebensbedrohlichen Inhalten auszusetzen. Zwei der sieben Familien haben ein Kind verloren.

Schikaniert und drangsaliert

Auf Nachfrage erklärt Tiktok, seine Richtlinien verböten jegliche Förderung von Suizid. Das Portal beschäftige weltweit 40.000 Sicherheitsexperten – unter ihnen Hunderte französischsprachige Moderatoren -, um gefährliche Beiträge zu entfernen. Nutzer, die nach Videos mit Suizidbezug suchen, würden an psychologische Dienste verwiesen.

Bevor sie sich das Leben nahm, drehte Marie mehrere Videos, um ihre Entscheidung zu erklären. Sie führte verschiedene Schwierigkeiten in ihrem Leben an und zitierte einen Song der auf Tiktok sehr beliebten Emo-Rap-Gruppe Suicideboys.2

Ihre Mutter erklärt, ihre Tochter sei in der Schule und im Internet wiederholt schikaniert und drangsaliert worden. Zusätzlich zu der Klage haben die 51-jährige Mutter und ihr Ehemann eine Beschwerde gegen fünf von Maries Klassenkameraden und ihre frühere Oberschule eingereicht.

Tiktok nicht schädlicher als andere Apps?

Doch Mistre gibt vor allem Tiktok die Schuld. Die App «in die Hände einer einfühlsamen und sensiblen Jugendlichen zu geben, die nicht weiss, was real ist und was nicht, ist wie eine tickende Bombe». «Ihre Strategie ist heimtückisch», sagt Mistre. «Sie locken Kinder mit depressiven Inhalten, um sie auf der Plattform zu halten.»

Wissenschaftler hätten keine eindeutige Verbindung zwischen sozialen Medien und psychischen Problemen oder seelischen Schäden hergestellt, sagt Grégoire Borst, Professor für Psychologie und kognitive Neurowissenschaften an der Universität Paris-Cité. «Es ist sehr schwierig, in diesem Bereich eine eindeutige Ursache und Wirkung nachzuweisen», erklärt Borst. Zudem deuten ihm zufolge keine aktuellen Studien darauf hin, dass Tiktok schädlicher ist als konkurrierende Apps wie Snapchat, X, Facebook oder Instagram.

Borst sagt, die meisten Teenager nutzten die sozialen Medien ohne nennenswerten Schaden. Die wirklichen Risiken liegen laut Borst bei denjenigen, die schon mit Herausforderungen wie Mobbing oder instabilen Familien konfrontiert sind. «Wenn Jugendliche sich bereits schlecht fühlen und Zeit mit verzerrten Bildern oder schädlichen sozialen Vergleichen verbringen, kann sich ihr psychischer Zustand verschlechtern», sagt er.

Strengere Regeln in China als in Europa

Die Anwältin Laure Boutron-Marmion vertritt die sieben Klägerfamilien und sagt, deren Fall beruhe auf «umfangreichen Beweisen». Das Unternehmen könne sich nicht länger «hinter der Behauptung verstecken, dass es nicht in seiner Verantwortung liegt, weil es die Inhalte nicht erstellt», erklärt Boutron-Marmion. In der Klage wird geltend gemacht, dass der Algorithmus von Tiktok darauf ausgelegt sei, gefährdete Nutzer aus Profitgründen in einen Kreislauf der Verzweiflung zu stürzen. Für die Familien wird eine Entschädigung gefordert.

Boutron-Marmion verweist darauf, dass die chinesische Version von Tiktok, Douyin, viel strengere Inhaltskontrollen für junge Nutzer vorsehe, als sie in Frankreich gelten. Es gebe einen «Jugendmodus», der für Nutzer unter 14 Jahren obligatorisch sei. Der beschränke die Bildschirmzeit auf 40 Minuten pro Tag und biete nur genehmigte Inhalte an. «Das beweist, dass sie Inhalte moderieren können, wenn sie es wollen.»

Ein Bericht mit dem Titel «Kinder und Bildschirme», den der französische Präsident Emmanuel Macron im April in Auftrag gab und zu dem Professor Borst beigetragen hat, kam zu dem Schluss, dass bestimmte algorithmische Funktionen als süchtig machend eingestuft und in Frankreich aus allen Apps verbannt werden sollten. Der Bericht forderte auch, den Zugang zu sozialen Medien für Minderjährige unter 15 Jahren in Frankreich zu beschränken. Beide Massnahmen wurden bislang nicht umgesetzt.

Auf Nachfrage der Nachrichtenagentur AP erklärte Tiktok, es sei bislang nicht über die französische Klage informiert worden, die im November eingereicht wurde. Anwältin Boutron-Marmion sagt, es könne Monate dauern, bis die französische Justiz die Klage bearbeite und die Behörden in Irland – wo sich der europäische Hauptsitz von Tiktok befindet – das Unternehmen formell benachrichtigten.

Kritiker argumentieren, dass die Angaben von Tiktok über eine robuste Moderation zu kurz griffen. Imran Ahmed, Chef der britisch-amerikanischen Nichtregierungsorganisation Center for Countering Digital Hate, weist die Beteuerung von Tiktok zurück, wonach zwischen April und Juni mehr als 98,8 Prozent der schädlichen Videos markiert und entfernt worden seien. Wenn man sie nach den blinden Flecken ihrer Moderation frage, behaupteten die Social-Media-Plattformen, dass die Nutzer in der Lage seien, eine Entdeckung zu umgehen, indem sie zweideutige Sprache oder Anspielungen verwendeten, die die Algorithmen nur schwer erkennen könnten, sagt Ahmed.

«Innerhalb von 2,5 Minuten wurden den Konten selbstverletzende Inhalte angezeigt»

So würden bestimmte Emojis verwendet, um auf Selbstverletzungen oder Suizid anzuspielen. Das sei allerdings nicht besonders raffiniert. Der einzige Grund, warum Tiktok solche Codes nicht finden könne, obwohl «unabhängige Forscher, Journalisten und andere es können, ist, dass sie nicht gründlich genug danach suchen», sagt Ahmed.

Seine Organisation führte im Jahr 2022 eine Studie durch, in der die Erfahrungen eines 13-jährigen Mädchens auf Tiktok simuliert wurden. «Innerhalb von 2,5 Minuten wurden den Konten selbstverletzende Inhalte angezeigt», sagt Ahmed. «Nach acht Minuten sahen sie Inhalte über Essstörungen. Im Durchschnitt hat der Algorithmus alle 39 Sekunden schädliche Inhalte angezeigt.» Der Algorithmus «weiss, dass Inhalte über Essstörungen und Selbstverletzungen junge Mädchen besonders süchtig machen», sagt Ahmed.

Mistre, die um ihre Tochter trauert, will weiterkämpfen und andere Eltern über die Gefahren informieren, die von sozialen Medien ausgehen. «Die Eltern müssen die Wahrheit erfahren. Wir müssen diese Plattformen konfrontieren und Rechenschaft fordern.»

DPA/aeg

Fehler gefunden?Jetzt melden.