10/22/25

TikTok: Suicid Knocking (AI France)

TikTok erneut in der Kritik: Der Amnesty International-Bericht enthält sensible Inhalte, darunter Verweise auf Selbstverletzung und Selbstmord. (20.10.2025 von AI Frankreich)
Eine neue Untersuchung von Amnesty International hat ergeben, dass der „For You”-Feed von TikTok
französische Kinder und Jugendliche, die sich mit Inhalten zur psychischen Gesundheit beschäftigen,
in einen Kreislauf aus Depressionen, Selbstverletzung und Selbstmord treibt. Die Untersuchung mit dem Titel „Dragged into the Rabbit Hole“ (In den Kaninchenbau gezogen) zeigt, dass TikTok es weiterhin versäumt, seine systemischen Designrisiken anzugehen, die Kinder und Jugendliche betreffen.
„Unsere technische Untersuchung zeigt, wie schnell Teenager, die Interesse an Inhalten zum Thema psychische Gesundheit bekunden, in einen toxischen Kaninchenbau gezogen werden können. Innerhalb von nur drei bis vier Stunden nach der Nutzung des „For You”-Feeds von TikTok wurden die Testkonten von Teenagern Videos ausgesetzt, die Selbstmord romantisierten oder junge Menschen zeigten, die ihre Absicht zum Ausdruck brachten, sich das Leben zu nehmen, einschließlich Informationen über Selbstmordmethoden”, sagte Lisa Dittmer, Forscherin bei Amnesty International für die digitalen Rechte von Kindern und Jugendlichen.
Original bei AI Bericht als PDF erhältlich (39 S.)
Übersetzt mit DeepL.com (kostenlose Version)

France: Dragged into the rabbit hole: New evidence of TikTok’s risks to children’s mental health

Bringing together testimony from affected young people and parents in France as well as renewed technical research evidence, the briefing documents TikTok’s failure to address its systemic design risks for children and young people both under international business and human rights standards as well as under the company’s binding obligations under the EU’s Digital Services Act. It is an urgent appeal to the company itself, but also to EU and French regulators to take decisive action to force the company to respect children’s and human rights. (Bericht in englischer Sprache)

AI ist auf TikTok und gegen TikTok, Twitter/X etc. aktiv:

TikTok, X, Facebook & Co. – Bedrohung oder Chance für die Menschenrechte?

AI: „Die Tech-Konzernbesitzer Marc Zuckerberg und Elon Musk haben zu Beginn des Jahres die Spielregeln der digitalen Öffentlichkeit massiv verändert. So betrieb Musk wenige Wochen vor der Wahl des deutschen Bundestages Werbung für die AfD, bei einer nach eigenen Angaben weltweiten Reichweite von täglich rund 250 Millionen Nutzer*innen ein erheblicher Eingriff in die Meinungsbildung. Zuckerberg wiederum verkündete kurz vor dem Amtsantritt von Donald Trump als Präsident der USA für seinen Internetkonzern Meta das Ende von Faktenprüfungen und Beschränkungen bei politischen Äußerungen zu Migration und Geschlechterfragen. Betroffen sind davon, zunächst in den USA, die Plattformen Facebook, Instagram und Threads. So werden künftig menschenverachtende und diskriminierende Bezeichnungen etwa für Transpersonen nicht mehr gefiltert und gesperrt, sondern können ihren Weg durch die Algorithmen zu Milliarden Meta-Nutzer*innen weltweit finden. Das Recht auf freie Meinungsäußerung wird durch das Recht auf Hass und Hetze ersetzt.“ (von AI 2025)

AI wies schon 2023 auf Jugendgefährdung durch TikTok hin:

Das Geschäftsmodell und die Funktionsweise von TikTok stellen eine Gefahr für junge Nutzer*innen der Plattform dar, da ihnen aufgrund von Empfehlungen in ihrem Feed Inhalte über Depressionen und Suizid angezeigt werden, die bestehende psychische Probleme verschlimmern könnten. Dies geht aus zwei neuen Berichten von Amnesty International hervor. Die beiden Berichte Driven into the Darkness: How TikTok Encourages Self-harm and Suicidal Ideation und I Feel Exposed: Caught in TikTok’s Surveillance Web machen auf Menschenrechtsverstöße aufmerksam, denen minderjährige und jugendliche TikTok-Nutzer*innen ausgesetzt sind. Die Berichte zeigen auf, inwiefern diese Verstöße dem Geschäftsmodell und der Funktionsweise der Plattform geschuldet sind.

TikToks Geschäftsmodell als Gefahr für Kinder und Jugendliche

Zusammenfassung des AI-Berichts von 2023:

  • Fast die Hälfte aller Videos der Untersuchungstests enthielten potenziell schädliche Inhalte über geistige Gesundheit.
  • Weniger als eine Stunde nach der Einrichtung der Testkonten wurden Inhalte ausgespielt, die Suizid normalisierten oder romantisierten.
  • Das Geschäftsmodell von TikTok ist darauf ausgelegt, Nutzer*innen bei der Stange zu halten und immer mehr persönliche Daten zu sammeln.
04/28/25
CC - by Cyzen

Big Tech Konzern-Zerschlagung

Warum es für Alphabet, Meta & Co. eng werden könnte

Lange Zeit konnten Tech-Unternehmen wie Google oder Facebook schalten und walten, wie sie wollten. Doch ihre Monopole kommen zunehmend in Bedrängnis – selbst in den USA, wo derzeit die traditionell wirtschaftsfreundlichen Republikaner an der Macht sind. Was steckt dahinter?

Tomas Rudl 28.04.2025 aus Netzpolitik

Es sind schwierige Wochen für Alphabet. Erst im Vorjahr hatte ein US-Bundesgericht in Washington, D.C., nach einem langen Verfahren festgestellt, dass der Konzern seine unrechtmäßig erlangte Marktmacht missbraucht. Vor wenigen Tagen folgte der nächste Paukenschlag: Eine Bundesrichterin in Virginia kam zu dem Schluss, dass Google, die bekannteste Tochter des Tech-Konzerns, ein illegales Monopol bei bestimmten Online-Werbetechnologien errichtet hat.

Was vor wenigen Jahren noch kaum denkbar war, scheint in den USA immer näher zu rücken: Als Antwort auf die Dominanz großer Tech-Konzerne steht zunehmend ihre Aufspaltung zur Debatte. Alphabet könnte dabei nur der Anfang sein.

Ob es soweit kommt, dürfte schon bald entschieden sein. Vor allem das Verfahren zum Missbrauch von Marktmacht, das aus dem Jahr 2020 stammt, neigt sich langsam dem Ende zu. Am vergangenen Montag begann eine für drei Wochen angesetzte Verhandlung in der US-Hauptstadt. Sie wird darüber befinden, ob Google beispielsweise seinen Chrome-Browser abspalten und aus dem Unternehmen lösen muss, wie es das US-Justizministerium verlangt.

Entflechtung als Ultima Ratio

Bald 30 Jahre ist es her, seit Google als einst kleines Start-up die Online-Suche revolutioniert hat. Dabei ist es nicht geblieben. Über die Jahre hat sich das Unternehmen in weiten Teilen des Internets breitgemacht und mit Hilfe von Firmenübernahmen das Geschäft mit Online-Werbeanzeigen unter seine Kontrolle gebracht – die mit Abstand wichtigste Cash-Cow des Unternehmens. Allein im letzten Quartal 2024 hat Alphabet insgesamt 96,5 Milliarden US-Dollar umgesetzt, rund 72 Milliarden davon stammten aus dem Werbegeschäft. Insgesamt fuhr der Konzern in dem Jahr einen gigantischen Gewinn von 100 Milliarden US-Dollar ein.

„Google hat eine umfassende, gestaffelte Monopolstellung und eine lange Geschichte des Machtmissbrauchs“, sagt Ulrich Müller von Rebalance Now. Die Nichtregierungsorganisation will die wachsende Monopolisierung der Wirtschaft zurückdrängen. Gerade Google sei ein Kandidat dafür, „entflechtet“ zu werden, wie eine Aufspaltung im Fachjargon heißt. Gepaart mit sogenannten Netzwerkeffekten, die bestehende Abhängigkeiten verstärken, habe die wettbewerbswidrige Unternehmensstrategie des kalifornischen Konzerns seine Monopolstellung gesichert, führte Müller im vergangenen Herbst in einem Gastbeitrag für netzpolitik.org aus.

Vor allem im Werbe-Bereich hielt Google bislang alle Fäden in der Hand, nun könnten sie nach und nach durchtrennt werden. Das Gericht in Washington hatte entschieden, dass Google ein Monopol in den Märkten für allgemeine Online-Suche sowie für allgemeine Text-Werbung neben Suchergebnissen habe. Diese Dominanz habe Google zudem mit unlauteren Mitteln gefestigt, indem es milliardenschwere Verträge mit Browser-Herstellern wie Apple und Mozilla, Smartphone-Herstellern wie Samsung und Motorola und großen US-Netzbetreibern abgeschlossen hat.

Für Google zahlt sich das aus: Einmal als Standard-Suchmaschine in praktisch allen führenden Browsern eingerichtet, rüttelt kaum jemand an der Einstellung und bleibt im Google-Ökosystem. Oder nutzt ohnehin Chrome, den Google-eigenen Browser, der im Laufe des vergangenen Jahrzehnts fast überall auf der Welt seine Konkurrenz hinter sich gelassen hat.

Online-Werbung fest im Griff

Ein anderes Standbein greift nun das jüngste Urteil aus Virginia an. Demnach besitze Google ein Monopol auf den Märkten für die Technologie, mit denen es täglich Abermilliarden an Werbeanzeigen vermittelt und ausliefert. Dahinter steckt eine gut geölte Maschine, die bei fast jedem Aufruf einer Website versucht, in Sekundenschnelle die richtige Werbeanzeige für das jeweilige Profil der Nutzer:in zu finden. Auch hier spiele Google unsauber, so das Gericht: Bei den Tools, mit denen beispielsweise Nachrichtenseiten freie Anzeigeplätze bereitstellen und umgekehrt Inserenten Werbeeinblendungen platzieren, habe Google seine Marktmacht missbraucht.

Verschont geblieben sind in diesem Verfahren lediglich die Übernahmen der AdTech-Unternehmen DoubleClick im Jahr 2007 und von Admeld vier Jahre später. Aus Sicht der Richterin hätten diese Zukäufe Google zwar dabei geholfen, eine Monopolstellung in zwei benachbarten Ad-Tech-Märkten zu erlangen. Isoliert betrachtet ließe sich jedoch nicht nachweisen, „dass Google diese Monopolstellung durch Verdrängungspraktiken erlangt oder aufrechterhalten hat“, heißt es im Urteil.

Ein Produkt des Neoliberalismus

Dass Google diese Übernahmen überhaupt durchführen konnte, ist dem neoliberalen Laissez-faire-Ansatz zu verdanken, der sich seit den 1970er-Jahren zunächst in den USA breitmachen konnte. Demnach sind Zusammenschlüsse selbst überragend großer Unternehmen unproblematisch, solange dies Verbraucher:innen nicht schädigt. Sogar grundsätzlich starke Gesetze und Richtlinien seien ab Mitte der 1980er-Jahre von Aufsichtsbehörden „größtenteils ignoriert“ worden, „weil sie davon ausgingen, dass staatliche Eingriffe die Dinge eher verschlimmern als verbessern würden“, so die ehemalige Chef-Juristin der Handelsbehörde FTC, Debra Valentine.

Entsprechend hat sich seitdem das Internet und seine Ökonomie entwickelt: Es ist von Zentralisierung und Monopolbildung bestimmt, von Kommerzialisierung und privatisierter Rechtsdurchsetzung, von durchleuchteten Verbraucher:innen, die mehr Produkt sind als Nutzer:innen auf Augenhöhe. Nicht von ungefähr lässt sich das derzeit dominierende Geschäftsmodell im Internet, von der Wirtschaftswissenschaftlerin Shoshana Zuboff „Überwachungskapitalismus“ getauft, auch ganz anders deuten: Genau die Werbemärkte, auf denen Google seine Dominanz ausspielt, seien „die Märkte, die ein offenes und freies Internet möglich machen“, argumentiert das US-Justizministerium.

Handlungsspielraum von Big Tech wird kleiner

Alphabet ist beileibe nicht der einzige Tech-Konzern, der zunehmend seine Grenzen aufgezeigt bekommt. US-Kartellverfahren laufen derzeit unter anderem gegen den iPhone-Hersteller Apple oder gegen den Online-Riesen Amazon. Beide sollen mit illegal aufgestellten Hürden den Wettbewerb behindert und somit den Markt geschädigt haben. Die juristischen Angriffe kommen hierbei von mehreren Seiten: Während in ersteren Fällen das Justizministerium Anklage erhoben hat, ist im Verfahren gegen Amazon die FTC federführend.

Angestrengt hatte die Regulierungsbehörde, gemeinsam mit fast allen Bundesstaaten, ein weiteres aufsehenerregendes Verfahren. Seit Mitte April muss sich der Werbekonzern Meta einem Prozess in Washington stellen. Demnach soll das Unternehmen vor rund einem Jahrzehnt die damals aufstrebenden Konkurrenten Instagram und WhatsApp aufgekauft haben – um laut FTC das eigene Platzhirschprodukt Facebook abzuschirmen. Trotz der berappten Milliardensummen habe man sich so vergleichsweise günstig die Vorherrschaft auf Zukunftsmärkten gesichert.

Bis zum letzten Moment war gar nicht klar, ob dieses Verfahren überhaupt durchgefochten wird. Zum einen hatte Meta eine Karte gezogen, die in der Vergangenheit meist funktioniert hat: Gegen Zahlung eines mehr oder weniger hohen Betrags, die Börsenlieblinge wie Meta oder Alphabet aus der Portokasse bezahlen, ließen sich solche Streitigkeiten außergerichtlich und ohne Schuldeingeständnis lösen. Medienberichten zufolge hatte Meta bis zu einer Milliarde US-Dollar angeboten, um einer Verhandlung zu entgehen.

Kniefall vor Trump

Zum anderen hatte wohl nicht nur Meta-Chef Mark Zuckerberg darauf vertraut, sich mit der Regierung von Donald Trump schon irgendwie einigen zu können. Wie viele andere Tech-Bosse, darunter Apple-Chef Tim Cook oder Google-Chef Sundar Pichai, hatte sich Zuckerberg bei den neuen Machthabern angedient: Moderationspraktiken wurden im Sinne der Republikaner umgebaut, mit Joel Kaplan ein in konservativen Kreisen bestens vernetzter Republikaner zum Politik-Chef bestellt und selbst unternehmensinterne Diversitätsinitiativen kurzerhand abgeschafft.

Dass der für Korruption sonst so anfällige Trump, von Zuckerberg wiederholt persönlich umgarnt, bislang nicht darauf eingestiegen ist, dürfte vor allem auf seine bis heute nicht verwundene Wahlniederlage im Jahr 2020 zurückzuführen sein. Ominöse Mächte hätten sich, so die Erzählung unter Trump-Getreuen, hinter den Kulissen zusammengerauft, um konservative Stimmen zum Verstummen zu bringen und den Demokraten zum Wahlsieg zu verhelfen.

Zu diesen Mächten sollen auch Big-Tech-Unternehmen zählen, so die MAGA-Fans. Deshalb werden sie derzeit auch von der neu besetzten FTC unter die Lupe genommen: Gleich nach seinem Amtsantritt hatte Behörden-Chef Andrew Ferguson, Nachfolger der progressiven Lina Khan, eine Untersuchung eingeleitet. Sie soll zutage fördern, „wie diese Firmen möglicherweise gegen das Gesetz verstoßen haben, indem sie Amerikaner zum Schweigen brachten und einschüchterten, weil sie ihre Meinung äußerten“, so Ferguson. Auch die nach dem Sturm des Kapitols zeitweise verhängten Accountsperren gegen Trump könnten auf geheime Absprachen innerhalb der Tech-Branche zurückzuführen sein, so Ferguson.

„Wir leben jetzt in anderen Zeiten“

Üblicherweise liegt der Fokus in Kartellrechtsverfahren auf wirtschaftlichen Aspekten. Offenkundig spielen die bei den aktuellen FTC-Untersuchungen eine nur untergeordnete Rolle. In dem Meta-Verfahren gehe es darum, die „Macht von Meta zu konfrontieren und sicherzustellen, dass die Situation, die wir im Jahr 2020 hatten, nie wieder auftreten kann“, ließ Ferguson unlängst durchblicken.

Ähnlich gelagert sind die Argumente des Vize-Präsidenten JD Vance, der seine politische Karriere nicht zuletzt dem libertären Monopol-Fan Peter Thiel zu verdanken hat. Vance scheint vor allem die vermeintliche Linkslastigkeit der Unternehmen zu stören: „Die monopolistische Kontrolle über Informationen in unserer Gesellschaft liegt bei einem explizit progressiven Tech-Unternehmen“, wetterte der sonst so wirtschaftsfreundliche Vance im Vorjahr gegen Google.

Liegen Monopole und Kontrolle jedoch in der Hand politischer Verbündeter, allen voran in jener des Trump-Vertrauten Elon Musk, scheinen die Bedenken nicht sonderlich stark ausgeprägt zu sein. So kündigte Anfang April die Sozialversicherungsbehörde an, lokale Büros zu schließen. Wie die meisten Bundesbehörden ist sie von einem beispiellosen Kahlschlag betroffen und wird deshalb auch keine Mitteilungen mehr auf ihrer Website veröffentlichen. Künftig soll die Öffentlichkeit stattdessen offenbar exklusiv über das soziale Netzwerk X von Musk informiert werden.

„Ich weiß, das klingt für Sie wahrscheinlich sehr fremd – mir ging es genauso – und nicht nach dem, was wir gewohnt sind, aber wir leben jetzt in anderen Zeiten“, sagte eine Sprecherin der Behörde.

Über die Autor:in tomas

Tomas ist in Wien aufgewachsen, hat dort für diverse Provider gearbeitet und daneben Politikwissenschaft studiert. Seine journalistische Ausbildung erhielt er im Heise-Verlag, wo er für die Mac & i, c’t und Heise Online schrieb.

Kontakt: E-Mail (OpenPGP), Bluesky

04/22/24
CC - by - nc - nd Funky64 (www.lucarossato.com)

TikTok, AfD & Jugendschutz

TikTok ist derzeit im Fokus der Kritik -doch andere „Social Media“-Firmen sind nicht anders.

Thomas Barth

TikTok, die chinesische Kurzfilm-App mit sehr jungem Publikum, hat für Aufsehen und Kontroversen gesorgt. Wollten Marxisten einst „die Verhältnisse zum Tanzen bringen“, scheint dies TikTok zu gelingen: Immer mehr Politiker machen sich dort beim hilflosen Versuch einer Anbiederung bei der Jugend lächerlich -teils tatsächlich tanzend. ZDF-Politclown Oliver Welke amüsierte sich über SPD-Kanzler Scholz auf TikTok, wo dessen Aktentasche mehr Charisma habe als der Kanzler selbst. In Welkes Satire-TikTok (so nennt man auch die einzelnen Kurzvideos) spuckt Scholzens Tasche dabei plötzlich Cum-Ex-Akten aus und erinnert an des Kanzlers Verstrickung in diverse Finanzskandale um Warburg Bank, Bilderberger und den CumEx/CumCum-Steuerbetrug in Milliardenhöhe. Und damit hatte Welke die Medienästhetik von TikTok besser begriffen als das Social-Media-PR-Team im Kanzleramt: Es geht zentral um überraschende, manchmal schockierende visuelle Wendungen, Transformationen und Effekte (so Isabell Otto).

TikTok ist mit 120 Milliarden Dollar Umsatz und Milliarden Nutzern weltweit heute als einziger Global Player auf dem Social-Media-Markt kein Unternehmen aus den USA. Unter westlichen Strategen schwenkt man derzeit, auch unter dem Eindruck wachsender finanzieller Stärke Pekings, von Dominanz im Finanzsektor zurück zur klassischen Geopolitik. Doch die chinesische App hat selbst in den USA, im Mutterland der digitalen Plattformen, beachtliche 170 Millionen User, meist Teens und Twens. Ein beeindruckender Erfolg, aber über 90 Prozent der TikTok-Nutzer in den USA nutzen weiterhin YouTube (Google), 80 Prozent Instagram und 68 Prozent Facebook, beide von Zuckerbergs Meta-Konzern.

TikTok & Jugendschutz

TikTok hat für Kontroversen über den vernachlässigten Jugendschutz gesorgt und auch als jüngst Berichte über eine Dominanz rechtspopulistischer Inhalte der AfD die Runde machten. Man sieht darin eine Erklärung für den überraschenden Erfolg der AfD bei (vorwiegend männlichen) Jungwählern in Umfragen und Wahlen. In den USA gibt es Verbote und US-Behörden drängen den chinesische Mutterkonzern ByteDance zum Verkauf der App, die mit Milliarden Nutzern heute als einziger Global Player auf dem Social-Media-Markt keine US-Firma ist. Die auch bei uns laut gewordenen Anklagen reichen von Spionage bis zur Erzeugung von Abhängigkeit, Depression und Suizidneigung der jungen Nutzer -Probleme, die auch bei anderen Social Media Plattformen verzeichnet wurden. Facebook hatte diverse Skandale, habe die französischen Gelbwesten in eine Filterblase gelockt (Breljak/Mühlhoff 2019), spioniere seine Nutzer aus, manipuliere ihre Gefühle, Meinungen und sogar Wahlentscheidungen (O’Neil 2017). Auch bei Instagram sah man die Jugend in Gefahr, Suchteffekte und etwa das Triggern von Anorexie bei jungen Mädchen. Seit dem Start von Instagram sei in Miami z.B. die besonders gefährliche Schönheits-OP Butt-Lift um 200 Prozent häufiger geworden. Warum ist das so?

Die allgegenwärtigen Smartphones lassen Bilder schneller, variabler und professioneller entstehen und durch die Sozialen Medien sind sie fast beliebig zu verbreiten. Dies verändert unsere Kommunikation, weil Menschen sich dadurch mit Bildern genauso selbstverständlich austauschen können wie zuvor nur über Sprache. Der in den Kulturwissenschaften seit Jahren proklamierte „Iconic Turn“ ist gesellschaftliche Realität geworden.

Viel westliche Kritik konzentriert sich auf den Algorithmus von TikTok, der – angeblich im Gegensatz zu anderen Social-Media-Plattformen – die Verbraucher gezielt ansprechen und ihr Engagementverhalten beeinflussen würde (Smith 2021; Kosters/Gstrein 2024, p.125); Jorinde Schulz hat jedoch schon 2019 beschrieben, wie andere Plattformen, z.B. Facebook, LinkedIn, Airbnb, seit Langem genau dies ebenfalls tun. Instagram galt zeitweise als größte Jugendgefährdung: Die „Welt der Schönen und Reichen“, die Omi beim Friseur in Frauenmagazinen konsumiert, kommt mit Instagram für die Enkelin aufs Smartphone -als Mitmach-App. 2010 gegründet erreichte Instagram nach nur einem Jahr 10 Millionen User und wurde von Marc Zuckerberg für eine Milliarde Dollar zur Foto-App von Facebook gemacht. Schnell hatte „Insta“ mehr User als Facebook. Das iPhone mit seiner Kamera lieferte die Bildqualität, Instagram die schlanke Technik, um das Social Network-Prinzip Zuckerbergs vom Laptop aufs Handy zu bringen. Beide Plattformen ködern gezielt den Narzissmus ihrer User, insbesondere den Drang von Menschen „anderen zu zeigen, wer und wie sie sind“ und beide arbeiten wie TikTok mit suchtfördernden Psychotricks, Profiling und gezielter Werbung. Der Iconic Turn frisst seine Kinder digital.

Literatur

Barth, Thomas und Roland Alton-Scheidl: Wem gehören die Beziehungen im Netz? Über Individualisierung, Ökonomie und Herrschaft im Web2.0, in: Ries, M./H.Fraueneder/K.Mairitsch (Hg.): dating.21: Liebesorganisation und Verabredungskulturen, Transcript, Bielefeld 2007, S.225-242.

Carstensen, Tanja: Ringen um Handlungsfähigkeit im digitalen Kapitalismus, in: Carstensen, T./S.Schaupp/S.Sevignani (Hg.): Theorien des digitalen Kapitalismus. Arbeit, Ökonomie, Politik und Subjekt, Suhrkamp, Frankfurt/M., 2023, S.402-420.

Dean, Jodi: Neofeudalisierung: Die innere Logik des kommunikativen Kapitalismus, in: Carstensen, T./S.Schaupp/S.Sevignani (Hg.): Theorien des digitalen Kapitalismus. Arbeit, Ökonomie, Politik und Subjekt, Suhrkamp, Frankfurt/M., 2023, S.439-457.

Kosters, Lisa und Oskar J. Gstrein: TikTok and Transparency Obligations in the EU Digital Services Act (DSA) – A Scoping Review, Zeitschrift für Europarechtliche Studien – ZEuS 1/2024, p.110-145.

Löchel, Elfriede: Subjekt und Medium in der digitalen Welt, in: Grabska, K. u.a. (Hg.): Virtuelle Berührung – zersplitterte Realität. Zur Psychoanalyse von Digitalisierung und Internetkultur, Psychosozial-Verlag, Gießen 2023, S.39-64.

Mühlhoff, R./A.Breljak: Was ist Sozialtheorie der Digitalen Gesellschaft? in: Mühlhoff, R./A.Breljak/J.Slaby (Hg.): Affekt Macht Netz. Auf dem Weg zu einer Sozialtheorie der Digitalen Gesellschaft, Transcript, Bielefeld 2019, S.7-36.

O’Neil, Cathy: Angriff der Algorithmen. Wie sie Wahlen manipulieren, Berufschancen zerstören und unsere Gesundheit gefährden, Hanser, München 2017.

Otto, Isabell: TikTok. Ästhetik, Ökonomie und Mikropolitik überraschender Transformationen, Wagenbach, Berlin 2023.

Pletz, Hendrik: Diesseits der Bilder: Der Videorekorder und die Geschichte medialen Wissens um 1980, Neofelis, Berlin 2020.

Schmalz, Stefan: Varianten des digitalen Kapitalismus: China und USA im Vergleich, in: Carstensen, T./S.Schaupp/S.Sevignani (Hg.): Theorien des digitalen Kapitalismus. Arbeit, Ökonomie, Politik und Subjekt, Suhrkamp, Frankfurt/M., 2023, S.285-305.

Schulz, Jorinde: Klicklust und Verfügbarkeitszwang: Techno-affektive Gefüge einer neuen digitalen Hörigkeit, in: Mühlhoff, R./A.Breljak/J.Slaby (Hg.): Affekt Macht Netz. Auf dem Weg zu einer Sozialtheorie der Digitalen Gesellschaft, Transcript, Bielefeld 2019, S.131- 153.

Smith, Ben: How TikTok Reads Your Mind, New York Times 05.12.2021.

09/1/22
CC-by-sa-Gnsin

Transhumanismus, Triefnase & Digitalisierung

Thomas Barth

Transhumanistische Aktivisten und Philosophen schwelgen in Visionen einer digitalen Zukunft. Das Paradies soll uns spätestens nach dem Upload in die Virtual Reality einer bewohnbaren Cloud erwarten, wenn unser Geist sich digitalisiert selbst simulierend im Himmelreich der Matrix wiederfindet. Doch hienieden warten einstweilen noch ein paar Hindernisse, besonders hierzulande, wo selbst das stinknormale Internet dem 16 bleierne Jahre währenden Merkel-Staat als „Neuland“ galt.

Das irdische Elend der Digitalisierung wie auch die Schwächen des cishumanen Mängelwesens Mensch zeigten sich am 4. Oktober 2019 im Tagungszentrum der Diözese Rottenburg-Stuttgart. Die Kirche wollte den Transhumanismus erörtern und hatte neben dem Theologen Hoff dafür den Religionsphilosophen Professor Göcke und den „bekanntesten deutschsprachigen Transhumanisten“ Professor Sorgner eingeladen. Pech war, Sorgner kam stark vergrippt, Göcke stark verspätet, weil mit der offenbar fehldigitalisierten Deutschen Bahn.

Was ist der Mensch?

Was ist der Mensch? Was soll er glauben, worauf soll er hoffen? Diese Fragen bewegen Denker und Philosophen, Theologen wie Transhumanisten: „Der Transhumanismus geht davon aus, dass sich der Mensch als ein Produkt der biologischen Evolution auch selbstständig technisch bis hin zu einem neuen Mensch-Maschine-Wesen oder einer Cyberspace-Entität weiterentwickeln kann und sollte.

Der durchaus transhuman geneigte Göcke beginnt so die Einleitung zu seinem Buch „Designobjekt Mensch: Die Agenda des Transhumanismus auf dem Prüfstand“. Da kommt digitale Technologie wie gerufen, etwa als Hirn-Chip, als Big-Gene-Data, KI oder in fernerer Zukunft als virtueller Lebensraum ganz entkörperlichter Menschen (brain uploading). Bedeutsamer Zankapfel der Digitalisierung ist der Datenschutz, der nach Meinung Prof.Sorgners leider auch transhumanem Streben nach kybernetischer wie genetischer Verbesserung des Menschen im Weg steht.

Big-Data-Firmen lieben die Transhumanisten, wie etwa die Super-KI-Forscher des Machine Intelligence Research Institute , mehr als Datenschützer. Google etwa hat mit Ray Kurzweil einen prominenten Transhumanisten zum Forschungsdirektor gemacht, Tesla-Milliardär Elon Musk will mit seiner neuen Firma Neuralink Hirnimplantate entwickeln. Bei Facebook treibt Mark Zuckerberg persönlich transhumane Projekte voran, etwa die Worterkennung per Hirnscan. Das dabei angestrebte Brain-Diktaphon würde nebenbei dem maschinellen Gedankenlesen etwas näher kommen, das der NSA bei ihrer Totalüberwachung noch schmerzlich fehlt. Auch deutsche Transhumane scheinen Belangen der IT-Wirtschaft nicht abgeneigt, wie die Diözese Rottenburg auf oben erwähnter Tagung feststellen konnte.

Prof. Sorgner ließ es sich dort nicht nehmen, die Debatte mit einem Bonmot der IT-Industrie zu bereichern: „Daten sind das neue Öl!“ Unter dieser Parole hatte die Industrielobby bekanntlich versucht, die neue EU-Datenschutzverordnung zu torpedieren, wie eine Polit-Dokumentation zeigte. Aus Angst davor, die EU könnte von China digital abgehängt werden, tritt Sorgner dafür ein, ein europäisches Social-Credit-System nach chinesischem Vorbild einzuführen, inklusive einer personalisierten Dauerüberwachung der kompletten EU-Bevölkerung:

Warum es für uns keine realistische Position ist, die Datenerfassung zu unterlassen: Der zentrale politische Grund für eine umfassende Datensammlung ist, dass wir in einer globalisierten Welt leben und das Daten das ‚Neue Öl‘ sind, wie viele Experten betonen: Öl bedeutet Macht und finanzielles Florieren. Angesichts dieser Erkenntnis ist es keine realistische Option, keine personalisierten Daten zu sammeln… In China wird ab 2020 ein Sozialkreditsystem flächendeckend angewendet werden. Die Menge an digitalen Daten, die auf diese Weise erhoben wird, ist kaum zu unterschätzen. Je mehr digitale Daten verfügbar sind, desto mehr Macht und Geld kann realisiert werden. Europa dagegen hat Datenschutzbestimmungen institutionalisiert, die einer hilfreichen Erfassung digitaler Daten entgegenstehen.“ Prof. Stefan Lorenz Sorgner 

Damit wäre Sorgner wohl ein transhumaner Extremist, sogar aus Sicht der 2015 gegründeten Transhumanistischen Partei Deutschlands (TPD). Die pocht in den Leitlinien ihres Parteiprogramms Version 2.0 gleich an erster Stelle auf die Grundrechte der Menschenwürde und der informationellen Selbstbestimmung. Sorgner übergeht dagegen in seinem Redebeitrag den möglichen Einwand, dass blinde Gier nach Macht und Geld geradewegs in einen digitalen Totalitarismus führen könnte. Auch an seinem Buch mit dem reißerischen Titel „Transhumanismus: ‚Die gefährlichste Idee der Welt‘!?“ (2016), fällt auf, dass kaum Bedenken, Zweifel oder Kritik an Technologien vorkommen. Dabei haben insbesondere Eingriffe in das menschliche Gehirn eine dunkle Geschichte -man denke an Militär- und Geheimdienst-Projekte wie das Zimbardo-Experiment, LSD-Forschung, Gehirnwäsche oder MKUltra. Der Transhumanismus muss sich außerdem angesichts lobbyistischer Verfilzungen und enormer Geldsummen, die auf dem Spiel stehen, auch fragen, wer und warum ihn finanziert.

Thomas Hobbes und Bioshock

Hinter Sorgners transhumanem Bejahen des technischen Fortschritts, das geradezu von einer Euphorie in die nächste taumelt, verbirgt sich jedoch ein zutiefst pessimistisches Menschenbild: Der „Mensch als des Menschen Wolf“ des Frühaufklärers Thomas Hobbes, wie man es im „Bioshock“-Computerspiel in einer transhumanen Welt der Gen-Mutanten nachspielen kann. Dort werden individuell gestaltete Menschen zu einander bekriegenden Monstren in einer Gesellschaft, die nach den darwinistisch-libertären Grundsätzen von Ayn Rand konzipiert ist (so Weber in Weber/Zoglauer 2015 S.55,69).

Als Begründer der modernen politischen Philosophie empfahl Hobbes zur Überwindung der angeblich menschlichen Gewaltnatur den frühtotalitären Absolutismus eines staatlichen Leviathans. Angesichts einer Welt voller psychopathischer Wolfsmenschen ist eine an Ethik orientierte Lebenshaltung natürlich nicht ratsam, meint offenbar Sorgner, wenn er sagt:

Moralischer zu sein hingegen, ist ggf. nicht der zentrale Wunsch vieler Menschen. Überspitzt formuliert liegt dies meiner Meinung nach darin begründet, dass Moralität in der Regel im Interesse der nicht-moralischen Menschen ist und moralische Menschen eher ausgenutzt, ausgebeutet und unterdrückt werden.“ Sorgner 2016, S.62

Kritisch sieht Sorgner daher eine von manchen Transhumanisten geforderte gesetzliche Verpflichtung zum „moralischen Enhancement“ (und das ist fast die einzige Technikkritik im ganzen Buch). Dabei ist hier nicht ethische Bildung und Erziehung gemeint, sondern Moral etwa per Hirnimplantat oder Einflößung von Drogen, die analog zur Impfpflicht verordnet werden könnte. Das lehnt Sorgner ab. Aber nicht, weil ein Herumpfuschen an den höchsten Funktionen des menschlichen Gehirns unsere Gesundheit, Freiheit und Würde beeinträchtigen könnte, sondern -ganz im Sinne eines Bioshock-Rechtslibertarismus nach Ayn Rand- wegen des „globalen Wettbewerbs“:

Eine solche Regelung mag zwar praktisch nicht ausgeschlossen sein, jedoch erscheint sie mir in keinem Fall im politischen Interesse des betroffenen Landes zu sein, da ein Land mit einer besonders moralischen Bevölkerung im Kontext des globalen Wettbewerbs sicherlich nicht lange bestehen kann.“ Sorgner 2016, S.63

Janina Loh, die Sorgners „Metahumanismus“ in ihrem Buch „Trans- und Posthumanismus zur Einführung“ in einem kurzen Kapitel analysiert, mag diesen letztlich nicht als eigenständigen Ansatz anerkennen (Loh 2018, S.175). Auch Sorgners duales Theoriesystem von Kohlenstoff- bzw. Siliziumbasiertem Transhumanismus (womit er Bio- von Digitaltechnik trennt) lehnt Loh als zu schematisch und daher nur bedingt brauchbar ab (S.78).Aber Loh schreibt Sorgner auch zu, die von Transhumanisten prognostizierte Unsterblichkeit nur als „rhetorisches Mittel“ zu sehen (S.173), hat dabei jedoch evtl. überlesen, dass Sorgner Unsterblichkeit zwar für unmöglich erklärte, aber nur wegen eines in Milliarden Jahren drohenden kosmologischen Kollaps des Universums (Sorgner 2016 S.11, 2018 S.157).

Bis dahin könnte Sorgners extrem langlebiger (wenn auch im haarspalterisch-philosophischen Sinne nicht völlig unsterblicher) Transhumaner noch eine ganze Menge Neutrinos die Galaxis runterfließen sehen -und evtl. auch eine Revision der schließlich nur auf läppischen 200 Jahren Forschung basierenden Big-Bang-Theorie. Der Kritik am transhumanen Unsterblichkeitsstreben entgeht Sorgner mit seiner kosmologischen Scholastik aber nicht, der Frage nach sozialer Verantwortung hier und heute ebenso wenig.

Unsoziale Weapons of Math Destruction

Die Mathematikerin Cathy O‘Neil, die wirklich etwas von der Technik und dem Code dahinter versteht, fordert etwas mehr „moralisches Vorstellungsvermögen“, denn „Big Data-Prozesse kodifizieren die Vergangenheit und können nicht die Zukunft erfinden“ (S.276). Cathy O‘Neil spricht von Weapons of Math Destruction, also Mathe-Vernichtungswaffen (analog zu Massenvernichtungswaffen), warnt mit Blick auf Google, Amazon und Facebook davor, dass „Daten privatisiert und privat genutzt werden, um Profite zu erzeugen und Macht zu gewinnen“. Man müsse die Digitalisierung und ihre Algorithmen bändigen, indem man sie öffentlicher Aufsicht und die sie betreibenden Firmen mit „verpflichtenden Standards der Rechenschaftslegung“ staatlicher Regulierung unterwirft (S.308). Sie weist darauf hin, dass der Trump-Nestor „Steve Bannon, selbst während er gezielt daran arbeitet, das öffentliche Vertrauen in Wissenschaft zu untergraben, im Verwaltungsrat von Cambridge Analytica sitzt -einer politischen Datenfirma, die behauptet, sie habe Trump zum Wahlsieg verholfen…“ (S.313).

Heiße PR-Luft einer schmuddeligen Dotcom-Firma? Oder die üblichen Wahlmanipulationen im digitalen Kapitalismus, nur leider diesmal aufgeflogen? Manche KI-Kritiker sehen etwa in „lernfähigen neuronalen Netzen“, die aktuell als KI gepriesen werden, eine aufgeblasene Hype. Diese „KI“ wären eher „spreadsheets on steroids“ -Tabellenkalkulation auf Steroiden. So zitiert Schnetker in seiner Kritik der „Transhumanistischen Mythologie“, den DARPA-KI-Experten John Launchbury (Schnetker S.75). Cathy O‘Neil kritisiert die unsozialen Folgen des Einsatzes solcher „KI“ als klassistisch, rassistisch und sexistisch:

„Sie versprechen Effizienz und Gerechtigkeit, manipulieren dabei jedoch die höhere Bildung, verursachen zusätzliche Schulden, fördern massenhaft Gefängnisstrafen, prügeln bei jeder Gelegenheit auf die Armen ein und untergraben die Demokratie.“ (O‘Neil S.270)

Literatur

Göcke, B.P.: Designobjekt Mensch?! Ein Diskursbeitrag über Probleme und Chancen transhumanistischer Menschenoptimierung.“ In: Benedikt Paul Göcke/ Frank Meier-Hamidi (Hg.): Designobjekt Mensch. Der Transhumanismus auf dem Prüfstand. Freiburg i.Br.: Herder 2018, 117-152

Loh, Janina: Trans- und Posthumanismus zur Einführung, Hamburg: Junius 2018

Loh, Janina: Transhumanismus: Den Menschen weiterentwickeln, um ihn besser kontrollieren zu können, Berliner Gazette 15.8.2017

O‘Neil, Cathy: Angriff der Algorithmen, München: Hanser 2017

Schnetker, M.F.J.: Transhumanistische Mythologie: Rechte Utopien einer technologischen Erlösung, Münster: Unrast 2019

Sorgner, S.L.: Transhumanismus: ‚Die gefährlichste Idee der Welt‘!?, Herder: Freiburg 2016

Sorgner, S.L.: Was wollen Transhumanisten? In: Göcke/ Meier-Hamidi (2018) 153-180

Weber, K. u. T. Zoglauer: Verbesserte Menschen: Ethische und technikwissenschaftliche Überlegungen, München: K.Alber 2015