PainTok – TikToks dunkle Seite

Wäre TikTok ein Snack, wäre er bunt, klebrig und süss, doch auch mit einem bitteren Nachgeschmack. Der Algorithmus, dem die bunte Welt des Diensts zugrunde liegt, kann genauso gut kippen und seine User in eine Negativspirale ziehen.

Durchschnittliche Lesezeit: ca. 3 Minuten

Die Netzwelt-Redaktion des Bayerischen Rundfunks (BR) kommt zu einem erschreckenden Ergebnis

Wie ein Spielautomat

So treffend beschreibt eine ehemalige TikTok-Nutzerin die süchtig machende Eigenschaft der TikTok-Kurzfilmchen und des TikTok-Algorithmus. Das ist so lange unproblematisch, als niedliche Katzen- oder Hundevideos konsumiert werden. Sobald jedoch Inhalte mit negativer Ausrichtung angesehen werden, beginnt der Algorithmus vermehrt Videos mit düsteren Themen vorzuschlagen.

TikTok-Feed verändert sich beängstigend schnell

Das Experiment von BR Data und PULS Reportage hat aufgedeckt, dass allein durch Interaktion mit Videos, die traurige Inhalte haben, eine Filterblase entsteht, durch die überwiegend beängstigende Inhalte angezeigt werden.

Für das Experiment wurde das Verhalten von Personen, die sich für Videos zu Depression, Selbstverletzung und Suizidgedanken interessieren, in Testaccounts simuliert. Bereits nach kurzer Zeit bestand der Feed fast nur noch aus solchen Inhalten.

Der Trend ist nicht neu, doch TikTok reagiert nur halbherzig

Social Media und die Algorithmen, die für die Plattformen entwickelt wurden, sind nicht oder nur mangelhaft für solche Situationen geschaffen. Das Hauptziel ist, Nutzerinnen und Nutzer so lange wie möglich an den aus Nachrichten und Videos bestehenden Feed zu binden. Social Media und vor allem TikTok sind endlose Medien. Die zumeist junge Anhängerschar ist von sich aus neugierig und besonders anfällig, wenn es sich um problematische Inhalte handelt. Bereits psychisch instabile Persönlichkeiten können durch den TikTok-Feed zu Handlungen, die ihr Leib und Leben schädigen, angetrieben werden.

Schon im Juli 2021 hatte das Wall Street Journal auf die Blase aus gefährdenden Inhalten hingewiesen, in die Nutzerinnen und Nutzer geraten können. TikTok gelobte daraufhin im Dezember 2021 Besserung und verweist auf die 85 Millionen Videos, die im letzten Quartal des Jahres 2021 entfernt wurden. Darunter sollen sich sechs Millionen Videos befinden, in denen selbstgefährdende Handlungen beschrieben oder ausgeübt werden.

Das Experiment des Bayerischen Rundfunks und mein anschliessendes Selbstexperiment haben aufgezeigt, dass das nicht reicht.

Der Selbstversuch: nichts für Hartgesottene

Als mental stabile Persönlichkeit, die den Sachen gerne auf den Grund geht, wollte ich dieses Experiment natürlich sofort selbst ausprobieren. Als jemand, der TikTok allein aus ethischen Gründen kategorisch ablehnt, verfügte ich bislang noch über kein Konto auf der Plattform – war sozusagen ein unbeschriebenes Blatt.

Und schon im Vorfeld muss ich sagen, ich rate von der Nachahmung ab! Das Erlebnis, das ich nach meiner kurzen Zeit mit TikTok hatte, kann einem die Stimmung komplett ruinieren.

Nach meiner Anmeldung betrachtete ich die Videos in meinem Feed und wischte sie weg. Ich hatte kein Dutzend hinter mir, da tauchte bereits ein trauriges Video auf, das ich ganz ablaufen liess und die Kommentare dazu öffnete. So verfuhr ich mit jedem depressiven Video, das in meinem Feed erschien, mit dem Ergebnis, dass mein Feed bereits innerhalb der ersten halben Stunde nur noch negative Videos anzeigte. Danach wurde es noch schlimmer, und was das bedeutet, können Sie sich selbst ausmalen. Es trifft mit Sicherheit zu. Deshalb, bitte nicht nachmachen!

Auch nach einem bewussten Themenwechsel schwenkte mein Feed nur noch sporadisch und sehr spät auf positive Inhalte zurück.

Kritik an sozialen Medien

Soziale Medien können hilfreich sein, aus Depressionen herauszufinden. Doch ein Algorithmus allein vermag das nicht. Das ist ein Problem, das allen sozialen Medien zugrunde liegt.

Bereits 2013 und 2014 zeigte sich dies besonders ausgeprägt auf der Plattform Tumblr. Dort entstand eine Gemeinschaft, die sich offen über Themen psychischer Erkrankungen austauschte. Das allein hätte durchaus positive Effekte haben können, doch dabei blieb es nicht. Durch eine besonders ästhetische Inszenierung der Themen Depression und Angststörungen wurden diese für die Userinnen und User auch begehrlich.

Als besonders lobenswertes Beispiel sei jedoch an dieser Stelle auf das Spiel und die Plattform Shadow’s Edge verwiesen (wir berichteten).

Eltern von betroffenen oder gefährdeten Kindern sollten ihren Nachwuchs unbedingt ernst nehmen und das Gespräch suchen.

Bei TikTok selbst bestehen Möglichkeiten, Einfluss auf die gezeigten Inhalte zu nehmen. Dazu gehören die Funktionen «Eingeschränkter Modus», der «Begleitete Modus», in dem die App mit einem weiteren Gerät gekoppelt werden kann, oder die «Nicht interessiert»-Funktion.

Diese Massnahmen ersetzen jedoch weder wichtige Pädagogik noch eine Therapie.

Weitere Informationen zum Umgang mit selbstverletzendem Verhalten und Social Media finden Sie im Internet bei der EU-Initiative Klicksafe.

Wenn Sie mehr Informationen zum TikTok-Algorithmus wünschen und warum er die Benutzerinnen und Benutzer so fesselt, können Sie dies hier nachlesen.

Netzwerk & IT-Sicherheit

Smart-IT – Antivirus, Firewall, moderne Netzwerkkomponenten und sichere WLAN-Lösungen

Weiterlesen >>