10/22/25

TikTok: Suicid Knocking (AI France)

TikTok erneut in der Kritik: Der Amnesty International-Bericht enthält sensible Inhalte, darunter Verweise auf Selbstverletzung und Selbstmord. (20.10.2025 von AI Frankreich)
Eine neue Untersuchung von Amnesty International hat ergeben, dass der „For You”-Feed von TikTok
französische Kinder und Jugendliche, die sich mit Inhalten zur psychischen Gesundheit beschäftigen,
in einen Kreislauf aus Depressionen, Selbstverletzung und Selbstmord treibt. Die Untersuchung mit dem Titel „Dragged into the Rabbit Hole“ (In den Kaninchenbau gezogen) zeigt, dass TikTok es weiterhin versäumt, seine systemischen Designrisiken anzugehen, die Kinder und Jugendliche betreffen.
„Unsere technische Untersuchung zeigt, wie schnell Teenager, die Interesse an Inhalten zum Thema psychische Gesundheit bekunden, in einen toxischen Kaninchenbau gezogen werden können. Innerhalb von nur drei bis vier Stunden nach der Nutzung des „For You”-Feeds von TikTok wurden die Testkonten von Teenagern Videos ausgesetzt, die Selbstmord romantisierten oder junge Menschen zeigten, die ihre Absicht zum Ausdruck brachten, sich das Leben zu nehmen, einschließlich Informationen über Selbstmordmethoden”, sagte Lisa Dittmer, Forscherin bei Amnesty International für die digitalen Rechte von Kindern und Jugendlichen.
Original bei AI Bericht als PDF erhältlich (39 S.)
Übersetzt mit DeepL.com (kostenlose Version)

France: Dragged into the rabbit hole: New evidence of TikTok’s risks to children’s mental health

Bringing together testimony from affected young people and parents in France as well as renewed technical research evidence, the briefing documents TikTok’s failure to address its systemic design risks for children and young people both under international business and human rights standards as well as under the company’s binding obligations under the EU’s Digital Services Act. It is an urgent appeal to the company itself, but also to EU and French regulators to take decisive action to force the company to respect children’s and human rights. (Bericht in englischer Sprache)

AI ist auf TikTok und gegen TikTok, Twitter/X etc. aktiv:

TikTok, X, Facebook & Co. – Bedrohung oder Chance für die Menschenrechte?

AI: „Die Tech-Konzernbesitzer Marc Zuckerberg und Elon Musk haben zu Beginn des Jahres die Spielregeln der digitalen Öffentlichkeit massiv verändert. So betrieb Musk wenige Wochen vor der Wahl des deutschen Bundestages Werbung für die AfD, bei einer nach eigenen Angaben weltweiten Reichweite von täglich rund 250 Millionen Nutzer*innen ein erheblicher Eingriff in die Meinungsbildung. Zuckerberg wiederum verkündete kurz vor dem Amtsantritt von Donald Trump als Präsident der USA für seinen Internetkonzern Meta das Ende von Faktenprüfungen und Beschränkungen bei politischen Äußerungen zu Migration und Geschlechterfragen. Betroffen sind davon, zunächst in den USA, die Plattformen Facebook, Instagram und Threads. So werden künftig menschenverachtende und diskriminierende Bezeichnungen etwa für Transpersonen nicht mehr gefiltert und gesperrt, sondern können ihren Weg durch die Algorithmen zu Milliarden Meta-Nutzer*innen weltweit finden. Das Recht auf freie Meinungsäußerung wird durch das Recht auf Hass und Hetze ersetzt.“ (von AI 2025)

AI wies schon 2023 auf Jugendgefährdung durch TikTok hin:

Das Geschäftsmodell und die Funktionsweise von TikTok stellen eine Gefahr für junge Nutzer*innen der Plattform dar, da ihnen aufgrund von Empfehlungen in ihrem Feed Inhalte über Depressionen und Suizid angezeigt werden, die bestehende psychische Probleme verschlimmern könnten. Dies geht aus zwei neuen Berichten von Amnesty International hervor. Die beiden Berichte Driven into the Darkness: How TikTok Encourages Self-harm and Suicidal Ideation und I Feel Exposed: Caught in TikTok’s Surveillance Web machen auf Menschenrechtsverstöße aufmerksam, denen minderjährige und jugendliche TikTok-Nutzer*innen ausgesetzt sind. Die Berichte zeigen auf, inwiefern diese Verstöße dem Geschäftsmodell und der Funktionsweise der Plattform geschuldet sind.

TikToks Geschäftsmodell als Gefahr für Kinder und Jugendliche

Zusammenfassung des AI-Berichts von 2023:

  • Fast die Hälfte aller Videos der Untersuchungstests enthielten potenziell schädliche Inhalte über geistige Gesundheit.
  • Weniger als eine Stunde nach der Einrichtung der Testkonten wurden Inhalte ausgespielt, die Suizid normalisierten oder romantisierten.
  • Das Geschäftsmodell von TikTok ist darauf ausgelegt, Nutzer*innen bei der Stange zu halten und immer mehr persönliche Daten zu sammeln.
04/22/24
CC - by - nc - nd Funky64 (www.lucarossato.com)

TikTok, AfD & Jugendschutz

TikTok ist derzeit im Fokus der Kritik -doch andere „Social Media“-Firmen sind nicht anders.

Thomas Barth

TikTok, die chinesische Kurzfilm-App mit sehr jungem Publikum, hat für Aufsehen und Kontroversen gesorgt. Wollten Marxisten einst „die Verhältnisse zum Tanzen bringen“, scheint dies TikTok zu gelingen: Immer mehr Politiker machen sich dort beim hilflosen Versuch einer Anbiederung bei der Jugend lächerlich -teils tatsächlich tanzend. ZDF-Politclown Oliver Welke amüsierte sich über SPD-Kanzler Scholz auf TikTok, wo dessen Aktentasche mehr Charisma habe als der Kanzler selbst. In Welkes Satire-TikTok (so nennt man auch die einzelnen Kurzvideos) spuckt Scholzens Tasche dabei plötzlich Cum-Ex-Akten aus und erinnert an des Kanzlers Verstrickung in diverse Finanzskandale um Warburg Bank, Bilderberger und den CumEx/CumCum-Steuerbetrug in Milliardenhöhe. Und damit hatte Welke die Medienästhetik von TikTok besser begriffen als das Social-Media-PR-Team im Kanzleramt: Es geht zentral um überraschende, manchmal schockierende visuelle Wendungen, Transformationen und Effekte (so Isabell Otto).

TikTok ist mit 120 Milliarden Dollar Umsatz und Milliarden Nutzern weltweit heute als einziger Global Player auf dem Social-Media-Markt kein Unternehmen aus den USA. Unter westlichen Strategen schwenkt man derzeit, auch unter dem Eindruck wachsender finanzieller Stärke Pekings, von Dominanz im Finanzsektor zurück zur klassischen Geopolitik. Doch die chinesische App hat selbst in den USA, im Mutterland der digitalen Plattformen, beachtliche 170 Millionen User, meist Teens und Twens. Ein beeindruckender Erfolg, aber über 90 Prozent der TikTok-Nutzer in den USA nutzen weiterhin YouTube (Google), 80 Prozent Instagram und 68 Prozent Facebook, beide von Zuckerbergs Meta-Konzern.

TikTok & Jugendschutz

TikTok hat für Kontroversen über den vernachlässigten Jugendschutz gesorgt und auch als jüngst Berichte über eine Dominanz rechtspopulistischer Inhalte der AfD die Runde machten. Man sieht darin eine Erklärung für den überraschenden Erfolg der AfD bei (vorwiegend männlichen) Jungwählern in Umfragen und Wahlen. In den USA gibt es Verbote und US-Behörden drängen den chinesische Mutterkonzern ByteDance zum Verkauf der App, die mit Milliarden Nutzern heute als einziger Global Player auf dem Social-Media-Markt keine US-Firma ist. Die auch bei uns laut gewordenen Anklagen reichen von Spionage bis zur Erzeugung von Abhängigkeit, Depression und Suizidneigung der jungen Nutzer -Probleme, die auch bei anderen Social Media Plattformen verzeichnet wurden. Facebook hatte diverse Skandale, habe die französischen Gelbwesten in eine Filterblase gelockt (Breljak/Mühlhoff 2019), spioniere seine Nutzer aus, manipuliere ihre Gefühle, Meinungen und sogar Wahlentscheidungen (O’Neil 2017). Auch bei Instagram sah man die Jugend in Gefahr, Suchteffekte und etwa das Triggern von Anorexie bei jungen Mädchen. Seit dem Start von Instagram sei in Miami z.B. die besonders gefährliche Schönheits-OP Butt-Lift um 200 Prozent häufiger geworden. Warum ist das so?

Die allgegenwärtigen Smartphones lassen Bilder schneller, variabler und professioneller entstehen und durch die Sozialen Medien sind sie fast beliebig zu verbreiten. Dies verändert unsere Kommunikation, weil Menschen sich dadurch mit Bildern genauso selbstverständlich austauschen können wie zuvor nur über Sprache. Der in den Kulturwissenschaften seit Jahren proklamierte „Iconic Turn“ ist gesellschaftliche Realität geworden.

Viel westliche Kritik konzentriert sich auf den Algorithmus von TikTok, der – angeblich im Gegensatz zu anderen Social-Media-Plattformen – die Verbraucher gezielt ansprechen und ihr Engagementverhalten beeinflussen würde (Smith 2021; Kosters/Gstrein 2024, p.125); Jorinde Schulz hat jedoch schon 2019 beschrieben, wie andere Plattformen, z.B. Facebook, LinkedIn, Airbnb, seit Langem genau dies ebenfalls tun. Instagram galt zeitweise als größte Jugendgefährdung: Die „Welt der Schönen und Reichen“, die Omi beim Friseur in Frauenmagazinen konsumiert, kommt mit Instagram für die Enkelin aufs Smartphone -als Mitmach-App. 2010 gegründet erreichte Instagram nach nur einem Jahr 10 Millionen User und wurde von Marc Zuckerberg für eine Milliarde Dollar zur Foto-App von Facebook gemacht. Schnell hatte „Insta“ mehr User als Facebook. Das iPhone mit seiner Kamera lieferte die Bildqualität, Instagram die schlanke Technik, um das Social Network-Prinzip Zuckerbergs vom Laptop aufs Handy zu bringen. Beide Plattformen ködern gezielt den Narzissmus ihrer User, insbesondere den Drang von Menschen „anderen zu zeigen, wer und wie sie sind“ und beide arbeiten wie TikTok mit suchtfördernden Psychotricks, Profiling und gezielter Werbung. Der Iconic Turn frisst seine Kinder digital.

Literatur

Barth, Thomas und Roland Alton-Scheidl: Wem gehören die Beziehungen im Netz? Über Individualisierung, Ökonomie und Herrschaft im Web2.0, in: Ries, M./H.Fraueneder/K.Mairitsch (Hg.): dating.21: Liebesorganisation und Verabredungskulturen, Transcript, Bielefeld 2007, S.225-242.

Carstensen, Tanja: Ringen um Handlungsfähigkeit im digitalen Kapitalismus, in: Carstensen, T./S.Schaupp/S.Sevignani (Hg.): Theorien des digitalen Kapitalismus. Arbeit, Ökonomie, Politik und Subjekt, Suhrkamp, Frankfurt/M., 2023, S.402-420.

Dean, Jodi: Neofeudalisierung: Die innere Logik des kommunikativen Kapitalismus, in: Carstensen, T./S.Schaupp/S.Sevignani (Hg.): Theorien des digitalen Kapitalismus. Arbeit, Ökonomie, Politik und Subjekt, Suhrkamp, Frankfurt/M., 2023, S.439-457.

Kosters, Lisa und Oskar J. Gstrein: TikTok and Transparency Obligations in the EU Digital Services Act (DSA) – A Scoping Review, Zeitschrift für Europarechtliche Studien – ZEuS 1/2024, p.110-145.

Löchel, Elfriede: Subjekt und Medium in der digitalen Welt, in: Grabska, K. u.a. (Hg.): Virtuelle Berührung – zersplitterte Realität. Zur Psychoanalyse von Digitalisierung und Internetkultur, Psychosozial-Verlag, Gießen 2023, S.39-64.

Mühlhoff, R./A.Breljak: Was ist Sozialtheorie der Digitalen Gesellschaft? in: Mühlhoff, R./A.Breljak/J.Slaby (Hg.): Affekt Macht Netz. Auf dem Weg zu einer Sozialtheorie der Digitalen Gesellschaft, Transcript, Bielefeld 2019, S.7-36.

O’Neil, Cathy: Angriff der Algorithmen. Wie sie Wahlen manipulieren, Berufschancen zerstören und unsere Gesundheit gefährden, Hanser, München 2017.

Otto, Isabell: TikTok. Ästhetik, Ökonomie und Mikropolitik überraschender Transformationen, Wagenbach, Berlin 2023.

Pletz, Hendrik: Diesseits der Bilder: Der Videorekorder und die Geschichte medialen Wissens um 1980, Neofelis, Berlin 2020.

Schmalz, Stefan: Varianten des digitalen Kapitalismus: China und USA im Vergleich, in: Carstensen, T./S.Schaupp/S.Sevignani (Hg.): Theorien des digitalen Kapitalismus. Arbeit, Ökonomie, Politik und Subjekt, Suhrkamp, Frankfurt/M., 2023, S.285-305.

Schulz, Jorinde: Klicklust und Verfügbarkeitszwang: Techno-affektive Gefüge einer neuen digitalen Hörigkeit, in: Mühlhoff, R./A.Breljak/J.Slaby (Hg.): Affekt Macht Netz. Auf dem Weg zu einer Sozialtheorie der Digitalen Gesellschaft, Transcript, Bielefeld 2019, S.131- 153.

Smith, Ben: How TikTok Reads Your Mind, New York Times 05.12.2021.

12/16/15

Das Dunkle Gen

Filmkritik von Thomas Barth

Wahnsinn, Depressionen und Existenzialismus: Wie die Philosophie von J.P.Sartre, die Neurowissenschaft und Bio-Hacking das Rätseln unserer Existenz ergründen wollen. Eine Dokumentation in bewusstseinserweiternden Bildern.

„In der Depression entwickelt man viele ‚fixe Ideen’“, sagt Frank Schauder, Hauptperson eines Films, der von seinem persönlichen Kampf gegen die seelische Erkrankung handelt. Seine ‚fixe Idee‘ ist die genetische Ursache seines Leidens: „Das dunkle Gen“. Der Film begleitet ihn bei der Erforschung dieser Idee, sucht dabei auch nach einer ästhetischen Darstellung seines wahnhaften Erlebens.

Die erste Einstellung zeigt Frank Schauder bei einer nachgestellten Erstbefragung in der psychiatrischen Notaufnahme. Die Ärztin erkundet anhand eines standardisierten Leitfadens seine geistige Klarheit, seine depressive Stimmung und die Suizidgefahr. Er berichtet Suizidgedanken und von Suizidversuchen in der Vergangenheit. Es ist eine unaufgeregte, realistische Darstellung, die jedoch pure Dokumentation überschreitet, indem sie uns von Anfang an in die Emotionen des Patienten hinein führt. Die so gezeigte empathische Haltung fern jeder Verkitschung behält der Film bei, wenn er in seinen biographischen Szenen dem Protagonisten in den Freundeskreis folgt, in Krankenhäuser, zu Gesprächen mit seinem Sohn. Die Kamera lässt uns ohne jeden Voyeurismus an seinem Leiden teilnehmen, an jahrelanger Depression mit zerbrechenden Beziehungen, sozialem Rückzug und psychiatrischen Behandlungen.

Frank Schauder ist Neurologe, was bedeutet, dass sein Fachgebiet sich zu etwa einem Drittel mit jenem der ihn behandelnden Psychiater überschneidet, und er ist fixiert auf die Genetik seiner Krankheit. Durch fast alle Gespräche, die wir ihn mit Familie, Freunden, behandelnden Ärzten und später Experten führen sehen, zieht sich die Suche nach den genetischen Wurzeln der Depression. Eine Suche, die biographisch in einem von ihm selbst finanzierten Gentest gipfelt: Eine US-Firma bietet die Analyse eingesandter DNA auf Krankheitsrisiken an. Möchte man solche Risiken kennen, auch wenn die Medizin keine Heilung für das betreffende Leiden hat? In Frank Schauders Freundeskreis sind die Meinungen geteilt.

Der Protagonist zeigt sich leicht enttäuscht, als ihm das Testergebnis nur ein durchschnittliches Erkrankungsrisiko bescheinigt. Taugt der Test nichts? Ist die Krankheit doch nicht im vermuteten Ausmaß erblich? Die übersteigerten Ängste und Schuldgefühle, seinem Sohn vielleicht die Neigung zur Depression vererbt zu haben, scheint das Ergebnis nicht zu mildern. ‚Fixe Ideen‘ und Wahnvorstellungen sind meist ziemlich resistent gegenüber ihnen widersprechenden Fakten.

Psychedelische Bilder

Miriam Jakobs und Gerhard Schick (Buch und Regie) begleiten in dieser ungewöhnlichen Dokumentation ihren Studienfreund Frank Schauder und machen ihn zum Ich-Erzähler. Doch die dokumentarische Handlung wird in künstlerisch stark bearbeiteter Form präsentiert. Immer wieder brechen hypnotisch-stille Bilder den Handlungsfluss: Die Hauptperson springt von einem Turm ins Wasser, wandert einsam im Schnee, Schneegestöber geht über in abstrakte Bilder von molekularen Vorgängen, von Genen bei der Arbeit, DNA wird abgelesen, gespalten und repliziert, Proteine entstehen, schwärmen herum, vielleicht auch chemische Botenstoffe.

Urheber dieser Bilder ist die Scivis Unit (Scientific Visualisation), die mit avancierter Software animierte 3D-Modelle von DNA, Proteinen und Molekülen, von Neurotransmittern und Rezeptoren gestaltet. Teilweise sind es Bilder wie aus einem biologischen Lehrfilm, aber ohne belehrende Texte, ausgedehnt, fast psychedelisch.  Der Film will mit den Computeranimationen nicht über wissenschaftliche Hintergründe der Biochemie aufklären, er zeigt vielmehr ihre -in diesem Kontext- unheilschwangere Ästhetik.

Existenz, Freiheit, Angst

Der Existenzialismus, von dem manche sagen, er sei das in eine philosophische Weltsicht gegossene Lebensgefühl des Depressiven, beschreibt die menschliche Existenz als subjektive Einsamkeit, als radikale Freiheit, aber auch als ausgeliefert sein an die eigene Endlichkeit, an den Tod und die Angst. Dem eigentlichen, authentischen, subjektiven Erleben der eigenen Existenz die uns, wie Sartre sagte, zur Freiheit verurteilt, steht die „objektive“ Außenseite gegenüber: Die Rollenspiele der Gesellschaft, mit Familie, Beruf, Kultur dessen was man eben tut, was man ist. In meine subjektive Existenz dringt diese Außenwelt durch den Blick der anderen, durch Manifestationen der Objektivität meiner Existenz, etwa im Röntgenbild meines Schädels -oder, abstrakter vielleicht, in Darstellungen meiner Gene.

An die Stelle der Freiheit zur Handlung tritt das Dasein als Objekt äußerer Umstände. Bieten sich hier ganz neue Möglichkeiten, der Verurteilung zur Freiheit bzw. dem subjektiven Leiden daran zu entkommen? Der Protagonist fragt an einer Stelle: „Lebe ich mein Leben, oder lebt es mich?“ Er fühlt sich als Produkt seiner DNA, deren verhängnisvoller Wirkung er ausgeliefert zu sein meint und die wir immer wieder als molekularen Bilderrausch wahrnehmen können.

Recherchen zum dunklen Gen

Der Film folgt Privatleben und Krankheitsverlauf auf diese Weise, zieht den Betrachter bis an die Grenze des Erträglichen hinein in eine Welt von Fremdheit und Verzweiflung. Dann gewinnt die Darstellung neuen Antrieb aus einer vom autobiographischen zum journalistischen übergehenden Aktivität des Protagonisten. Schauder reist herum und interviewt Experten zu seinem Thema: Mediziner, Biologen, Genforscher -bei ihnen sucht er die Wurzeln seines Leidens zu ergründen und zeigt dabei auch philosophische Aufgeschlossenheit.

Weitere Interviews führt Schauder, schon weit abseits seiner ursprünglichen Suche, mit einer Musikerin, die DNA vertonte und einem Bildhauer, der sich von der Biochemie zu surrealen Skulpturen inspirieren ließ. Diese Exkurse schließen optisch und akustisch an die abstrakten Animationen der molekularen Welt der Gene an, aber können sie nicht wirklich in die Erzählung einbinden. Eher gewinnen die hypnotisch wirbelnden Strukturen an Substanz, wenn Frank Schauder von seinen inneren Bildern der Depression erzählt, wie er seine kranken Gene bei ihrer Arbeit ahnt, wie er zu spüren meint, dass falsche Neurotransmitter sein Gehirn verwirren und zersetzen. Hier führen uns unheimliche Bildsequenzen direkter in die wahnhafte Erfahrungswelt der Depression als Interviews mit Künstlern es vermögen. Wir sind vielleicht nahe dran an halluzinatorischen Manifestationen von wahnhaften Vorstellungen, die einen depressiven Menschen quälen können. Nahe dran, am Erleben der Idee, hilflos in den Fängen eines dunklen Gens, einer verhängnisvollen DNA, zappeln zu müssen.

Wahnideen von Schuld und Verhängnis

Düstere Wahnideen von Schuld und Verhängnis begleiten viele schwere Depressionen, sie können sich zu Fehlwahrnehmungen und sogar Halluzinationen verdichten und den Erkrankten zu Selbstverletzungen, Suizid und in äußerst seltenen Fällen in den erweiterten Suizid treiben. Der Fall des Lufthansapiloten, der 150 Menschen mit in den Tod riss und aktuell der Depression viel Aufmerksamkeit verschaffte, ist jedoch eine schwer erklärbare Anomalie. Erweiterte Suizide betreffen in der Regel nahe Angehörige, die der Patient nach seiner Selbsttötung nicht alleine zurücklassen möchte -aus einem wahnhaft übersteigerten Schuldgefühl heraus.

Die erste wahnhafte Fehlwahrnehmung des Depressiven betrifft seine eigene Existenz, die er plötzlich als ausweglos gescheitert erlebt.Und dies auch dann, wenn seine Existenz eigentlich völlig normal verläuft oder sich -wie im Fall von Frank Schauder- sogar durch ein überdurchschnittlich gut gelungenes Leben auszeichnet. Jedes reale Scheitern erhöht natürlich das Risiko der Auslösung einer Depression und vertieft sie. Man kann dies an steigenden Suizidraten bei Anwendung zynischer Austeritätspolitik wie etwa in Griechenland sehen.

Am Ende versucht der Film immerhin noch ansatzweise eine kritische Reflexion der Gentechnologie, wenn der Protagonist bei jener Genfirma Antworten sucht, die ihm erstaunlich billig seine DNA analysierte. Inzwischen vom Datensammel-Moloch Google aufgekauft, versprechen sich Firmenvertreter lukrative Auswertungsmöglichkeiten der DNA-Big-Data in der Zukunft. Bedenklich scheinen auch die am Ende noch besuchten New Yorker Bio-Hacker in ihrem Low-Budget-Genlabor, die fröhlich mit Bakterien und Viren experimentieren und Sicherheitsfragen mit Gelächter quittieren. Doch diese Teile des Films wirken wie Fremdkörper, scheinen eher schon zu einer ganz anderen Doku zu gehören.

Das Ende gibt Hoffnung, zeigt einen Frank Schauder, der sich mit seinen Ängsten, seinem Sohn und sogar mit der äußeren Objektivation seiner Existenz, der DNA, versöhnen konnte. Der Kranke, der seine Depression überwunden hat, zeigt seinem Sohn, wie man in einem Sektglas die DNA einer Erdbeere sichtbar machen kann: Er hat sein Leben als Handelnder zurück gewonnen. Ein wirklich sehr gelungenes und bewegendes Bild.

Zuerst erschienen am 15.6.2015 auf Filmverliebt