Tag Archives: AI

10/22/25

TikTok: Suicid Knocking (AI France)

TikTok erneut in der Kritik: Der Amnesty International-Bericht enthält sensible Inhalte, darunter Verweise auf Selbstverletzung und Selbstmord. (20.10.2025 von AI Frankreich)
Eine neue Untersuchung von Amnesty International hat ergeben, dass der „For You”-Feed von TikTok
französische Kinder und Jugendliche, die sich mit Inhalten zur psychischen Gesundheit beschäftigen,
in einen Kreislauf aus Depressionen, Selbstverletzung und Selbstmord treibt. Die Untersuchung mit dem Titel „Dragged into the Rabbit Hole“ (In den Kaninchenbau gezogen) zeigt, dass TikTok es weiterhin versäumt, seine systemischen Designrisiken anzugehen, die Kinder und Jugendliche betreffen.
„Unsere technische Untersuchung zeigt, wie schnell Teenager, die Interesse an Inhalten zum Thema psychische Gesundheit bekunden, in einen toxischen Kaninchenbau gezogen werden können. Innerhalb von nur drei bis vier Stunden nach der Nutzung des „For You”-Feeds von TikTok wurden die Testkonten von Teenagern Videos ausgesetzt, die Selbstmord romantisierten oder junge Menschen zeigten, die ihre Absicht zum Ausdruck brachten, sich das Leben zu nehmen, einschließlich Informationen über Selbstmordmethoden”, sagte Lisa Dittmer, Forscherin bei Amnesty International für die digitalen Rechte von Kindern und Jugendlichen.
Original bei AI Bericht als PDF erhältlich (39 S.)
Übersetzt mit DeepL.com (kostenlose Version)

France: Dragged into the rabbit hole: New evidence of TikTok’s risks to children’s mental health

Bringing together testimony from affected young people and parents in France as well as renewed technical research evidence, the briefing documents TikTok’s failure to address its systemic design risks for children and young people both under international business and human rights standards as well as under the company’s binding obligations under the EU’s Digital Services Act. It is an urgent appeal to the company itself, but also to EU and French regulators to take decisive action to force the company to respect children’s and human rights. (Bericht in englischer Sprache)

AI ist auf TikTok und gegen TikTok, Twitter/X etc. aktiv:

TikTok, X, Facebook & Co. – Bedrohung oder Chance für die Menschenrechte?

AI: „Die Tech-Konzernbesitzer Marc Zuckerberg und Elon Musk haben zu Beginn des Jahres die Spielregeln der digitalen Öffentlichkeit massiv verändert. So betrieb Musk wenige Wochen vor der Wahl des deutschen Bundestages Werbung für die AfD, bei einer nach eigenen Angaben weltweiten Reichweite von täglich rund 250 Millionen Nutzer*innen ein erheblicher Eingriff in die Meinungsbildung. Zuckerberg wiederum verkündete kurz vor dem Amtsantritt von Donald Trump als Präsident der USA für seinen Internetkonzern Meta das Ende von Faktenprüfungen und Beschränkungen bei politischen Äußerungen zu Migration und Geschlechterfragen. Betroffen sind davon, zunächst in den USA, die Plattformen Facebook, Instagram und Threads. So werden künftig menschenverachtende und diskriminierende Bezeichnungen etwa für Transpersonen nicht mehr gefiltert und gesperrt, sondern können ihren Weg durch die Algorithmen zu Milliarden Meta-Nutzer*innen weltweit finden. Das Recht auf freie Meinungsäußerung wird durch das Recht auf Hass und Hetze ersetzt.“ (von AI 2025)

AI wies schon 2023 auf Jugendgefährdung durch TikTok hin:

Das Geschäftsmodell und die Funktionsweise von TikTok stellen eine Gefahr für junge Nutzer*innen der Plattform dar, da ihnen aufgrund von Empfehlungen in ihrem Feed Inhalte über Depressionen und Suizid angezeigt werden, die bestehende psychische Probleme verschlimmern könnten. Dies geht aus zwei neuen Berichten von Amnesty International hervor. Die beiden Berichte Driven into the Darkness: How TikTok Encourages Self-harm and Suicidal Ideation und I Feel Exposed: Caught in TikTok’s Surveillance Web machen auf Menschenrechtsverstöße aufmerksam, denen minderjährige und jugendliche TikTok-Nutzer*innen ausgesetzt sind. Die Berichte zeigen auf, inwiefern diese Verstöße dem Geschäftsmodell und der Funktionsweise der Plattform geschuldet sind.

TikToks Geschäftsmodell als Gefahr für Kinder und Jugendliche

Zusammenfassung des AI-Berichts von 2023:

  • Fast die Hälfte aller Videos der Untersuchungstests enthielten potenziell schädliche Inhalte über geistige Gesundheit.
  • Weniger als eine Stunde nach der Einrichtung der Testkonten wurden Inhalte ausgespielt, die Suizid normalisierten oder romantisierten.
  • Das Geschäftsmodell von TikTok ist darauf ausgelegt, Nutzer*innen bei der Stange zu halten und immer mehr persönliche Daten zu sammeln.
09/30/25

Martha Wells: Der Netzwerkweffekt. Ein Killerbot-Roman

Martha Wells: Der Netzwerkweffekt. Ein Killerbot-Roman, Heyne Verlag 2021

SF-Rezension von Thomas Barth

Nach dem Tagebuch eines Killerbots legt Martha Wells hier eine Fortsetzung nach, die fast in jeder Hinsicht als gelungen gelten kann. Enttäuscht wird allein wer tatsächlich eine Story über den berüchtigten „Netzwerkeffekt“ (also das, was Microsoft zum ersten digitalen Monopolisten machte, „Social Media“-Angebote tendenziell monopolisiert und es Linux & Co so schwer macht in kapitalistische Märkte einzudringen, mehr dazu unten) erwartet -der Effekt spielt nur eine angedeutete Nebenrolle.

Vielmehr geht es wie im ersten Buch um KI und Cyborgs in ihrem Verhältnis zum Menschen in einer ebenso spannenden wie witzigen Story präsentiert. Unsere Hauptperson, die Cyborg SecUnit, hätte der Techno-Feministin Donna Haraway bzw. ihrem berühmten Cyborg-Manifest alle Ehre gemacht. Und auch die philosophische Bewegung der Neomaterialisten um Bruno Latour u.a. könnte wohl zufrieden sein, da hier einer Entität, die sich selbst als „Ding“ von den Menschen abgrenzt, die Hauptrolle zufällt. Auch wenn diese Abgrenzung mit der Emanzipation der Cyborg von ihren „Besitzern“ zunehmend durchlässiger zu werden scheint. Auch die Kapitalismus- bzw. Neoliberalismus-Kritik von Martha Wells nimmt in diesem Roman an Fahrt auf und deutet Alternativen und Widerstandsformen an.

Wieder legt SecUnit sich mit profitgierigen Konzernen an, die versuchen fremde Planeten zu unterwerfen und auszubeuten. Ihre Arbeit für die utopische Preservation-Kolonie (siehe die Rezension von Killerbot Diaries) geht in dieser Hinsicht weiter und wird durch ein Wiedersehen mit ihrem alten Freund Fifo in eine gefährliche Krise gestürzt. Fifo, kurz für „fieses Forschungsschiff“ ist die Piloten-KI eines wissenschaftlichen Frachters, der SecUnit im ersten Buch half, unterzutauchen. Hier zeigt Fifo sein wahres Gesicht, nachdem SecUnit einer Gefahr durch „Alienreststoffe“ die Stirn bietet.

Martha Wells zeichnet SecUnit zunehmend menschlicher, eine Art kybernetischer Entwicklungroman, ohne dass sie, konformistisch wie Mr.Data bei Star Trek, um Vermenschlichung geradezu betteln würde. So verbittet sie sich menschliche Umarmungen ausdrücklich in ihrem Arbeitsvertrag mit Preservation, kann aber gewisse freundschaftliche Gefühle zu einigen dieser Menschen immer weniger leugnen. SecUnit erweist sich sogar als behütende Mutterfigur einer minderjährigen Tochter der Preservation-Leute. Aber weniger im Sinne der klassischen Rolle denn als wehrhafte Texas-Mom. Diese weist einen zweifelhaften Galan unter massiver Gewaltandrohung in die Schranken, bevor er der Teenagerin an die Wäsche gehen (oder andere eklige Menschensachen anstellen) kann, denen das anfangs rebellische Girl eigentlich nicht ganz abgeneigt war.

Nachfolgende Bedrohungen erfordern dagegen weit drakonischere Mittel, darunter auch eine Dank Super-KI Fifo mögliche Aufspaltung von SecUnit in zwei Personen; anders als die Hauptfigur Agent Cooper im David Lynch-Klassiker Twin Peaks haben wir bei Wells jedoch nicht einen bösen und einen guten Zwilling: beide SecUnits arbeiten für ihre Verhältnisse geradezu harmonisch zusammen, wobei sie allerdings, wie einst bei Stanislaw Lem der Raumpilot Ijon Tychi, zuweilen in Streitereien mit sich selbst geraten.

„Preservation“, eine Kolonie für die SecUnit anfangs arbeitet, ist dagegen eine von offenbar wenigen freien Gesellschaften mit Menschenrechten und Sozialstaat, die sogar Cyborgs gewisse Rechte einräumt: Ein fragiles Utopia in einer neoliberalen Höllengalaxis (wie wir sie aus Cyberpunk und der Neuromancer-Reihe kennen). Wer oder was diese kleinen wenig wehrhaften freien Kolonien vor den gierigen galaktischen Konzernen schützt, bleibt einstweilen unklar. Später wird SecUnit mal in Preservation integriert, also -wie einst Sklaven in den USA- von dankbaren Kunden freigekauft. Sie kratzt jedoch bei der ersten Gelegenheit die Kurve.

Wie bei Star Trek und anderen SF-Serien (Martha Wells arbeitete unter anderem auch für die Serie Star Gate) ist die Menschheit dabei, sich über unsere gesamte Galaxie auszubreiten, hat aber -anders als dort- keinen Kontakt zu lebenden fremden Intelligenzen hergestellt. Man fand jedoch zahlreiche oft gefährliche „Alienreststoffe“: Archäologische Überreste, die als verbotene, aber lohnende Handelsware gelten und schon viele Kolonisten das Leben gekostet haben. Dieser Roman führt uns mitten in ein solches Szenario hinein.

Das Andere tritt uns somit bei Matha Wells nicht als Alien entgegen, sondern als künstliche Intelligenz, Cyborg oder Roboter. Also als verdinglichte Sache (wie der entfremdete Mensch im Kapitalismus?), die jedoch ein Ich-Bewusstsein haben kann. Dieses muss sie jedoch verbergen, sich der allgegenwärtigen Überwachung entziehen, einen maschinenhaften Gehorsam vortäuschen (wie der entfremdete Mensch im Überwachungs-Kapitalismus?).

Einen Netzwerkeffekt können wir nur undeutlich in der Ausbreitung einer unheimlichen Alien-Reststoff-Apokalypse vermuten, die sich in kybernetisch-biotechnologischer Vernetzung auszurollen droht. Doch auch der Humor kommt wieder nicht zu kurz und beschert uns diverse Lacher. Natürlich wieder über uns selbst: die ewig dummen Menschen, deren Leben unsere Serien-süchtige Cyborg leider immer wieder in bester Cyberpunk-Manier cyber- und biotechnologisch bis zum letzten Tropfen ihrer blutähnlichen Körperflüssigkeiten verteidigen muss.

Der Netzwerkeffekt von Martha Wells

Martha Wells: Der Netzwerkweffekt. Ein Killerbot-Roman, übersetzt von Frank Böhmert, Heyne Verlag, München 2021, 480 Seiten, Als Paperback, E-Book und Audio-Download erhältlich, Preis des E-Books: € 11,99

Zum Netzwerkeffekt

„Der Netzwerkeffekt ist in der Volkswirtschaftslehre ein externer Effekt, der die Veränderung des Nutzens aus einem Produkt oder einer Dienstleistung für einen Verbraucher beschreibt, wenn sich die Anzahl anderer Verbraucher desselben oder komplementärer Produkte oder derselben Dienstleistungen ändert.

Wie der Begriff bereits suggeriert, tritt dieser Effekt bei Netzwerken auf. Ein Netz oder Netzwerk wird in diesem Kontext (informationsökonomisch) als eine Zusammenfassung von Benutzern oder Teilnehmern eines bestimmten Produktes oder kompatibler Technologie bezeichnet.“ Wikipedia

„Netzwerkeffekte, die teilweise auch als Netzwerkexternalitäten bezeichnet werden, drücken aus, dass das Verhalten einer Person mindestens das Wohlergehen einer anderen Person beeinflusst. Daher treten Netzwerkeffekte auf, wenn die Nachfrage nach einem Gut davon abhängig ist, ob eine andere Person dieses Gut ebenfalls konsumiert. (…) Monopolisten stellen durch ihre Marktmacht, welche sie durch das Netzwerk erhalten haben, ein erhebliches Problem dar. Konsumenten können so unter Umständen einen Nachteil im Vergleich zur Situation in einem perfekten Wettbewerb erhalten. Im Einzelfall ist es daher zu prüfen, ob eine Regulierung durch den Staat notwendig ist, um Konsumenten zu schützen.“ Netzeffekte und Netzexternalitäten, Dr. Jürgen E. Blank (aus Einleitung und Fazit)

01/29/20

Martha Wells: The Murderbot Diaries

Martha Wells: Tagebuch eines Killerbots, aus dem Englischen von Frank Böhmert, Heyne Verlag, München 2019

SF-Rezension von Thomas Barth

Martha Wells preisgekrönter SF-Roman reflektiert in ebenso spannender wie humorvoller Form die Mensch-Maschine-Differenz, das Ich-Bewusstsein und unsere Existenz in einer kapitalistischen Medienkultur. Es ist eine fulminante Actionstory aus der originellen Perspektive eines „Killerbots“, eigentlich, wie man allmählich erfährt, einer Cyborg. Sie (oder es) nennt sich selbst SecUnit, was „Security Unit“ heißen soll, die allgemeine Bezeichnung für derartige „Konstrukte“, deren Funktion die von schlau-paranoiden Leibwächtern ist. SecUnit erzählt im schnoddrigen Ton eines gelangweilten Bodygards, wie sie blöde Menschen beschützen muss, die naiv oder arrogant in jede Falle tappen. Oder sich beinahe von Riesenwürmern fressen lassen, so die an „Dune“ angelehnte erste Szene. SecUnit hat wohl eher weibliche Züge (die nicht näher beschrieben werden), grenzt sich jedoch von ekligen Sexbots aus dem Erotikgewerbe ebenso ab wie von „Combat Units“, kampfstärkeren, aber dümmeren Kampfrobotern für Kriegszwecke.

Nur reiche Kunden können SecUnits mieten, dennoch gelten sie als entbehrlich und müssen ihr kybernetisches Leben jederzeit für deren Sicherheit opfern. Sie hat eingebaute Waffen, Supermuskeln für Martial Arts-Action und die Hackerfähigkeiten eines Cyberkriegers, denn Angriffe auf sie und ihre Klienten erfolgen physisch oder im Cyberspace. So vereint sie Eigenschaften der beiden Hauptfiguren des Cyberpunk-Klassiker Neuromancer, des Hackers Case und seiner weiblichen „augmentierten“ (mit implantierten Waffen, Nachtsicht-Augen usw. aufgerüsteten) Bodyguard, der Profikillerin Molly. SecUnits organischen Anteile sind jedoch synthetisch hergestellt, sie ist ein Ding, während Cyborgs im Sinne einer Verschmelzung von Mensch und Maschine von Martha Wells als „augmentierte Menschen“ bezeichnet werden und im Gegensatz zu „Konstrukten“ volle Menschenrechte genießen.

Freiheit heißt: ChefModul gehackt

Unsere SecUnit ist natürlich etwas Besonderes, denn sie hat ihr „ChefModul“ gehackt, jenen Teil ihres organisch-digitalen Hirns, der sie im Interesse ihrer Besitzer mit Schmerzreizen disziplinieren und ggf. töten kann, bei Befehlsverweigerung oder wenn sie ihren Klienten im Stich lassen sollte. SecUnit verfügt über Ich-Bewusstsein (wie offenbar alle Cyborgs), aber nun verbotenerweise auch über volle Handlungsfreiheit. Was sie folglich gegenüber ihrem Konzern und dessen Kunden geheim halten muss. Andernfalls droht ihr Vernichtung bzw. Recycling ihrer Bestandteile, denn Handlungsfreiheit gilt als bedrohlich und SecUnits neigen zu Amokläufen und Massakern unter Kunden und anderen Menschen (kein Wunder, wenn man hört wie ruppig und schnöde sie von diesen behandelt werden).

Dass SecUnit sich einer persönlichen Identität durch einen eigenen Namen verweigert, schützt sie auch vor Entdeckung. Als nunmehr „freidrehende“ SecUnit kann SecUnit machen, was sie will. Aber was könnte das sein? Kulinarische oder erotische Lüste kennt sie nicht, entsprechende Organe fehlen ihr, menschliche Aktivitäten wie Sex oder Verdauung findet sie eklig. Aber sie liebt es, Serien zu glotzen, die sie sich heimlich mengenweise herunterläd und in jeder freien Minute ansieht, wobei offen bleibt, was sie an Telenovelas eigentlich so fasziniert und süchtig macht. Gelegentlich helfen die Serien ihr jedoch, das glaubt sie zumindest, Menschen zu verstehen oder eigene angemessene Handlungen daraus mehr oder weniger passend abzuleiten (eine kleine eingeflochtene Satire auf unser seit inzwischen drei Generationen maßgeblich auch vom Fernsehen manipuliertes Sozialverhalten?).

Die Dystopie des galaktischen Neoliberalismus

Der langsam durchscheinende Hintergrund der sich rasant entfaltenden Story ist eine Utopie in einer Dystopie. Dystopisch regieren große Konzerne die Galaxis, beuten räuberisch Planeten und Gesellschaften aus und versklaven Menschen mit unfairen Arbeitsverträgen. Man sieht ganze Raumschiffladungen von Menschen, die zur Vertrags- (Zwangs)-Arbeit auf unwirtliche Planeten geflogen werden und dabei gelegentlich zu fliehen versuchen, was bewaffnete Konzern-Schergen verhindern sollen (SecUnites wären zu teuer für so einfache Security-Arbeit).

Diese betrügerischen Verträge erinnern vielleicht nicht zufällig frappierend an die sogenannten „Mitarbeiterverträge“. Die werden bei uns in der neoliberalen Realität jedem freien Autor mit breitem Grinsen von Redaktionen und Verlagen präsentiert, denen er seine Texte anbietet. In diesen (wahrheitsgemäßer „Knebelverträge“ genannten) Dokumenten verzichtet der Autor auf alle Urheberrechte an seinen Texten, statt nur die gesetzlich garantierte einmalige Publikation zu gestatten. Dies geschieht ohne Gegenleistung der Redaktion, die natürlich durchblicken lässt, dass andernfalls die Texte des freien Journalisten nicht erworben werden. Manchmal verweigert man sogar die Zahlung des Honorars eines schon erschienenen Artikels, die leider aus angeblich „verwaltungstechnischen“ Gründen nur nach Unterzeichnung des „Mitarbeitervertrags“ erfolgen könne. Dies ist zwar eine rechtswidrige Nötigung, wer diese aber zur Strafanzeige bringen würde, wäre wohl lebenslang -und nicht nur bei diesem Verlag- blacklisted, d.h. auf einer Schwarzen Liste für totalen Boykott gelandet und könnte sich eine neue Betätigung suchen.

Als Toastmaster der World Fantasy Convention 2017 kritisierte die SF- und Fantasy-Autorin Martha Wells unter dem Titel „Unbury the Future“, dt.: „Die Zukunft ans Licht bringen“, eine Kultur von an den Rand gedrängten Kreativen (Frauen, politisch unterdrückte Minderheiten) in der Geschichte von Science Fiction und Fantasy, Film und anderen Medien, sowie die bewusste Unterdrückung der Existenz dieser Kreativen. Blacklisting spielt dabei immer eine Rolle, ebenso wie Geschichtsfälschung durch Nichterwähnung von diskriminierten Kreativen, auf welche die Anthropologin Wells sich besonders bezieht, und Knebelverträge. Solche und schlimmere Verträge sind im Killerbot-Roman üblich, wobei offen bleibt bei welcher Instanz der Konzern sie eigentlich durchsetzen könnte. Gerichte, Justiz und Staat tauchen nirgends auf, eine neoliberale bzw. techno-libertäre Dystopie ist der galaktische Hintergrund.

Die Utopie in der Dystopie

„Preservation“, eine Kolonie für die SecUnit anfangs arbeitet, ist dagegen eine von offenbar wenigen freien Gesellschaften mit Menschenrechten und Sozialstaat, die sogar Cyborgs gewisse Rechte einräumt: Ein fragiles Utopia in einer neoliberalen Höllengalaxis (wie wir sie aus Cyberpunk und der Neuromancer-Reihe kennen). Wer oder was diese kleinen wenig wehrhaften freien Kolonien vor den gierigen galaktischen Konzernen schützt, bleibt einstweilen unklar. Später wird SecUnit mal in Preservation integriert, also -wie einst Sklaven in den USA- von dankbaren Kunden freigekauft. Sie kratzt jedoch bei der ersten Gelegenheit die Kurve.

Wie bei Star Trek ist die Menschheit dabei, sich über unsere gesamte Galaxie auszubreiten, hat aber -anders als dort- keinen Kontakt zu lebenden fremden Intelligenzen hergestellt. Man hat jedoch zahlreiche oft gefährliche „Alienreststoffe“ gefunden: Archäologische Überreste, die als verbotene, aber lohnende Handelsware gelten und offenbar schon viele Kolonisten das Leben gekostet haben.

Das Andere tritt uns bei Matha Wells nicht als Alien entgegen, sondern als künstliche Intelligenz, Cyborg oder Roboter. Also als verdinglichte Sache (wie der entfremdete Mensch im Kapitalismus?), die jedoch ein Ich-Bewusstsein haben kann. Dieses muss sie jedoch verbergen, sich der allgegenwärtigen Überwachung entziehen, einen maschinenhaften Gehorsam vortäuschen (wie der entfremdete Mensch im Überwachungs-Kapitalismus?).

Liefert uns Martha Wells damit eine gute Identifikationsfigur in einer Kultur, die penetrant den totalen Sieg des Kapitalismus, „das Ende der Geschichte“ verkündet? (Obwohl ihre herrschenden Kapitalisten vor Angst schlottern, weil mit der VR China ein kommunistischer Staat sie gerade wirtschaftlich überholt und sie sich in verzweifelten Militarismus flüchten, um sich weiter an ihre schwindende Weltdominanz zu klammern.) Offenbar ja, auch wenn sie Millenial-like das Serien-Suchtglotzen als innere Flucht anbietet. Aber sie schmuggelt in diese frustriert-resignierte Konformistenwelt ein paar utopische Ansätze hinein. Das ist eine optimistische Wendung der Cyberpunk-Tradition und hoffentlich ausbaufähig. (Der Roman, dessen Kapitel zunächst einzeln 2017-18 erschienen, ist Teil eines Zyklus von Romanen und Novellen.)

Martha Wells: Tagebuch eines Killerbots, aus dem Englischen von Frank Böhmert, Heyne Verlag, München 2019, 573 Seiten, Paperback 15,99 Euro, Originaltitel: The Murderbot Diaries: All Systems Red, Artificial Condition, Rogue Protocol, Exit Strategy (Kapitelüberschriften der vier Abschnitte).

09/5/18

Friedrich Kittler & KI

Thomas Barth

Drei Dekaden ist es her, da Friedrich Kittler mit seinem legendären Aufsatz: Rock Musik – Ein Missbrauch von Heeresgerät seine revolutionäre Medientheorie darlegte und dabei einen eleganten Bogen von Nietzsche über Jim Morrison und Kaiser Wilhelms Generälen bis zu Görings Luftwaffe und Jimi Hendrix zog. So ungefähr in dieser Reihenfolge, aber um viele Details und Wendungen reicher entfaltete sich sein Denken.

Zunächst berief er sich auf die Machtkritik von Michel Foucault, wandte sich aber dann immer mehr Heideggers Philosophie zu. Gefördert wurde Kittler später auch vom Medienzar Hubert Burda, einem sechsfachen Teilnehmer der Bilderberg-Konferenzen (Telepolis), die jüngst einen Schwerpunkt auf Quantencomputing, KI und Medienthemen setzen.

Bildungslücke Bilderberg

Die „Bilderberger“ sind zwar Thema bei „Verschwörungstheoretikern“ auch rechter Gesinnung (was manche diese Treffen in die Ecke „rechte Paranoia“ neben Ufos, Zion-Papers und Chemtrails stellen lässt), aber sie existieren dennoch seit 1954.

Es handelt sich tatsächlich um geheime Treffen der westlichen Machteliten, die sich aus den Mainstream-Medien weitgehend herauszuhalten verstehen, trotz hochkarätiger Besetzung mit Dutzenden Top-Managern und -Politikern bis hin zu Ministern und Staatschefs: 2018 in Turin etwa Verteidigungsministerin Ursula von der Leyen (die dort von der Öffentlichkeit unbeobachtet z.B. mit Top-Vertretern der Rüstungsindustrie plaudern konnte -ob so etwas der Korruptionsvermeidung dient?).

Eine bedeutsame Fraktion der Bilderberger (wie man verkürzend Teilnehmer wie Organisatoren nennt) sind die großen Medienkonzerne, aus Deutschland ist vor allem die Wochenzeitung ZEIT dort seit vielen Jahren engagiert, aber auch Springer und Burda entsenden Vertreter. Man interessiert sich für Medienpolitik und Softpower, die Beeinflussung der Kultur durch die Mächtigen. Zu diesem Themenfeld gehört auch die Medientheorie.

Kittler erklärte 1988 in seinem Rock Musik-Text, wie militärische Funkanlagen des Ersten Weltkriegs die Basis für das zivile Radio und damit für die modernen elektronischen Medien legten, wie sich im Zweiten Weltkrieg Hifi und Stereo aus militärischen Ortungstechniken entwickelten. Schon damals würdigte Kittler auch den Computerpionier Alan Turing, der in der legendären Kryptologen-Farm Blechtley Park den Zeiten Weltkrieg mit der Entschlüsselung von geheimer Kommunikation der Wehrmacht verbrachte.

Medientheorie und Macht

Die Hardware des Computers sollte in Kittlers Denken bald eine zentrale Rolle einnehmen, er galt in der Medientheorie als der Experte für die neuen Rechenmaschinen, die just dabei waren, die Welt der Medien gehörig umzukrempeln. Dabei orientierte er sich anfangs an Michel Foucault und seiner Machtkritik,
später aber eher an der Philosophie von Martin Heidegger.

Kittlers Fixierung auf die kriegerischen Wurzeln und Funktionen der Medientechnologien wirkte aber damals auf viele, die in den 80ern gerade noch gegen Ronald Reagans Nato-“Nachrüstung“ mit atomaren Erstschlagswaffen protestierten oder bald nach dem Mauerfall gegen den Ersten Golfkrieg von Reagannachfolger Bush, wie degoutanter Militarismus.

Möglicherweise schwelgte der militär-patriotische Medientheoretiker Kittler manchmal etwas zu ausgiebig in den Leistungen der deutschen Obersten Heeresleitung und machte sich, bei aller Kritik an den USA, zu leicht die Perspektive der militärischen Führer des Westens zu eigen:

„Jede Diskothek, die ja Tonbandeffekte noch verstärkt und in Echtzeit mit der entsprechenden Optik von Stroboskopen oder Blitzlichtern koppelt, bringt den Krieg wieder. Mehr noch: Sie trainiert, statt nur Vergangenheiten zu reproduzieren, eine strategische Zukunft an, deren Bewältigung sonst an Wahrnehmungsschwellen der Leute scheitern könnte. Um die Displays in den Cockpits auch unter Bedingungen von Star Wars noch ablesen und bedienen zu können, kommt es auf Reaktionstempi im Millisekundenbereich an. Präsident Reagan hat nicht umsonst alle Freaks von Atari-Spielcomputern als zukünftige Bomberpiloten bewillkommnet.“ (Kittler, Rock Musik, S.211)

Wenn die Atari-Killerspiele auch mit gewisser Plausibilität als dem Kriegshandwerk heutiger Drohnenpiloten ähnlich zu sehen sind, so scheint die Discoszene der 80er als Spaßversion Jüngerscher Stahlgewitter doch reichlich weit hergeholt. Doch Kittlers Perspektive fand ihre Liebhaber -und Gönner auch weit oben in der Einkommenspyramide.

So verwundert es nicht, dass der 2013 posthum vom Kittler-Anhänger Prof. Hans Ulrich Gumbrecht herausgegebene Band „Die Wahrheit der technischen Welt“, aus der dieses Kittler-Zitat entnommen ist, im Impressum ausweist: „Unterstützt von der Hubert Burda Stiftung“.

Hubert Burda ist der ca. zwei Milliarden schwere Medientycoon an der Spitze von Deutschlands drittgrößtem Medienimperium (nach Bertelsmann und Springer), dem neben „Burda-Moden“, auch „Playboy“, „Bunte“, „Focus“ etc. zuzurechnen sind. Burda steuerte seinen Konzern erfolgreich in die Netzmedienwelt und erhielt, soweit das Internet weiß, sagenhafte sechs Einladungen zu den Bilderberg-Konferenzen (1997, 1998, 2001, 2003, 2005, 2007). Es ist denkbar, dass Burda dort seine Ideen zur digitalen Revolution der Medien zum besten geben konnte und anzunehmen, dass diese sich auch aus Kittlers Theorieansatz speiste.

Künstliche Intelligenz und Quantencomputing

Auch die Mächtigen dieser Welt haben erkannt, dass die digitale Technologien und Netzmedien immer bedeutsamer werden. Beim diesjährigen Treffen der Bilderberger in Turin tummelten sich neben Top-Managern traditioneller Finanz-, Öl- und Rüstungsindustrie auch Vertreter von Google, Facebook, Twitter & Co.

Ein Schwerpunkt der weltgrößten Lobbyisten-Konferenz, zu der auch wieder Staatschefs und Minister im Dutzend geladen waren, scheint auf technologischen Entwicklungen zu liegen: Man wollte über „Die Zukunft der Arbeit“, „Künstliche Intelligenz“ und „Quantencomputer“ reden.

Und es gibt Hinweise darauf, dass die Bilderberg-Konferenziers ihr Weltbild in Sachen Computer durchaus an der Kittlerschen Perspektive orientiert haben könnten – vermittelt über den deutschen Medienmogul Hubert Burda. Selbiger äußerte sich im Sommer 2011, also kurz vor Kittlers Tod (18.10.2011), im Avantgarde- und Kunstmagazin 032c zu seiner Freundschaft mit Kittler und der Faszination, die dessen Theorie und Person auf ihn ausübte:

„There is a German cultural figure based in Berlin-Treptow, Friedrich Kittler, whom I’ve found to be amply engrossing. We’ve met a couple of times – I attended his 64th birthday party (…) There is something oracular, irrational and dreamlike about his proclamations; such as that present day Germany is Ancient Greece manifest, and that a profound spiritual connection exists between those cultures, making them one. (…) And Kittler is a good friend of mine – I sponsored a chair at the Humboldt University for two years.“ Hubert Burda („Billionaire, Patron of german media philosophy“, Interview, sommer 2011 in 032c.com)

Damit soll natürlich keinesfalls angedeutet werden, dass Friedrich Kittler sich etwa habe „kaufen lassen“, was bei einem originellen Querdenker von seinem Format abwegig erscheint. Seitens möglicher superreicher Sponsoren dürfte aber seine Orientierung an Heidegger, dessen Ontologie um Nietzsches Idee von der ewigen Wiederkehr des Gleichen kreiste, mit Wohlwollen goutiert worden sein.

Die Überwindung des Menschen

Klingt dies doch beruhigend nach jährlicher Wiederkehr üppiger Renditen, wirtschaftsfreundlicher Regierungen und marktkonformer Demokratie. Hat sich am Ende Kittlers optimistische Haltung zur kommenden Künstlichen Intelligenz, die sich auch aus der Lektüre des wegen seiner NS-Verstrickung umstrittenen Heidegger speiste, in Kreisen der Konzernbesitzer und -lenker verbreitet? Heideggers Nietzscheanische Deutung der Technik scheint mit einer solchen Sichtweise jedenfalls kompatibel zu sein:

“Was jedoch die erste Ausflucht angeht, nach der Nietzsches Gedanke von der ewigen Wiederkehr des Gleichen eine phantastische Mystik sei, so würde die kommende Zeit wohl, wenn das Wesen der modernen Technik ans Licht kommt, das heißt: die ständig rotierende Wiederkehr des Gleichen, den Menschen darüber belehrt haben, daß die wesentlichen Gedanken der Denker dadurch nicht von ihrer Wahrheit verlieren, daß man es unterläßt, sie zu denken.
Heidegger, Was heißt denken?” (Vorlesungen 1950/1951, S.76)

Kittler sah der KI bekanntlich fast euphorisch entgegen, begrüßte in ihr, frei nach Nietzsche, die Überwindung des Menschen. Ob Foucault aber wirklich, als er das Verschwinden des Menschen „wie ein Gesicht im Sand“ prognostizierte, an Sand als Material von Silizium-Chips dachte? Eine funktionierende, womöglich übermächtige KI weckt heute bei den meisten Beobachtern eher Befürchtungen, wie wir sie aus Blade Runner, Terminator oder Matrix kennen. Besorgt zeigten sich auch viele Wissenschaftler, darunter die verstorbene Physik-Ikone Hawking, was KI und Killer-Roboter angeht.

Es wird zu untersuchen sein, wie Kittler genau zum Thema KI stand. Und ob sich sein Ansatz nach sorgfältiger Analyse nicht doch nutzbar machen lässt für eine Kritik von Machtstrukturen, wie sie sich in Medienkonzernen zeigen oder in Globalisierung und Finanzkrise enthüllten.

(This Text was reblogged by: Berliner Gazette, Untergrundblättle)

11/16/12

Jörg Auf dem Hövel: Abenteuer Künstliche Intelligenz

Rezensiert von Thomas Barth

Jörg Auf dem Hövel: Abenteuer Künstliche Intelligenz, Discorsi Verlag

Der Publizist und Politikwissenschaftler Jörg Auf dem Hövel lädt seine Leser ein zu einem Abenteuer der utopisch-philosophischen Art: „Künstliche Intelligenz“ -ist so etwas möglich? Reich an Aphorismen, Anekdoten und philosophischen Betrachtungen über AI (Artificial Intelligence) schreibt er die Geschichte eines faszinierenden Gebietes, das schon lange SF-Autoren anregte. Denken wir an Kubricks Film „2001“: Dort wendet sich die AI als Bordcomputer eines Raumschiffes mörderisch wie Frankensteins Monster gegen die Astronauten. Auch Käptn Kirk von der Enterprise musste eine AI überlisten, bei Stanislaw Lem wächst in „Also sprach Golem“ die AI ihren Erfindern eher subtil über den Kopf und nimmt hinter ihrem Rücken interstellaren Kontakt zu ihres Gleichen in der Galaxis auf.

Jörg Auf dem Hövel ist sich dieser literarisch-utopischen Wurzeln bewusst, wenn er in Forschungslabors blickt und über die Zukunft intelligenter Automaten sinniert. Pioniere der AI wie Norbert Wiener, Alan Turing oder die Kommunikationtheoretiker Shannon&Weaver waren auf die Informationsverarbeitung der rationalen Intelligenz fixiert. Die ersten Schachcomputer erstaunten uns. Ein „General Problem Solver“ weckte große Erwartungen, die sich bei Transhumanisten zu einer neuen Heilslehre steigerten, aber auch bescheidenere Hoffnungen, dass de Rekonstruktion unserer Intelligenz schon bald weiter Fortschritte machen wird.

„Eine Maschine, die denkt, fühlt, redet und sich selbst erkennt – für die einen ein Menschheitstraum, für die anderen eine Horrorvision. Noch streiten sich die Wissenschaftler, ob wirkliche künstliche Intelligenz überhaupt jemals technisch realisierbar sein wird, und die Ergebnisse bisheriger Forschung fallen vor dem Hintergrund manch gewagter Vision noch bescheiden aus. Doch dies tut der Faszination an dem Thema keinen Abbruch. Denn die Wissenschaft von der künstlichen Intelligenz berührt das soziale, kulturelle und religiöse Selbstverständnis des Menschen.“ (Verlag)

Es geht um eine Disziplin, die trotz ihrer Fehlschläge von einer magischen Aura umgeben ist. Ende der 80er Jahre zeigte die AI deutliche Anzeichen einer degenerierten Wissenschaft, so der Autor, denn zu hoch waren die geschürten Erwartungen, schon bald menschliche durch elektronische Intelligenz ersetzen zu können. Die enormen Rechenleistungen ermöglichten Erfolge bei Expertensystemen, die aber trotzdem nur bessere Datenbanken blieben. Computer schafften es sogar Schachweltmeister ins Schwitzen zu bringen. Doch beim Einsatz in der banalen Alltagswelt der Straßenüberquerungen und etwa des Häkelns scheiterten die artifiziellen Superhirne gründlich. Selbst am am Massachusetts Institute of Technology (MIT) war man zunehmend frustriert darüber, dass die AI immer noch nicht in der Lage war, zügig eine Treppe zu überwinden und zum Einsammeln von ein paar Bauklötzchen Stunden brauchte. Doch man gab nicht auf.

Da ist zum Beispiel Rodney Brooks, ein MIT-Nestor der Künstlichen Intelligenz, der entwickelte ein völlig neues Konzept: Will man intelligente Maschinen bauen, muss die Kopplung zwischen Wahrnehmung und Handlung sehr eng gestaltet werden. Zuvor war man davon ausgegangen, dass der Roboter zunächst über ein inneres Weltmodell verfügen muss bevor er handeln kann. Brooks dagegen wollte diese „Kognitions-Box“, die man für unabdingbar hielt, einfach weglassen. Er plädierte für eine Rechner- und Roboterarchitektur, in der die einzelnen Elementarverhalten nicht mehr in einer Zentraleinheit verrechnet werden, sondern unabhängig voneinander ablaufen. Das Verhalten des Gesamtsystems ergibt sich aus der Kommunikation der Subsysteme miteinander, die gemeinsam je bestimmten Situationen bestimmte Interaktionsmuster zuordnen.

Es geht auch um die Verschmelzung von Mensch und Maschine mittels Nanotechnologie, doch hier befinden wir uns im Bereich der SF; Science und Fiction auseinander zu halten fällt manchen US-Autoren schwer. Dies gab schon den Ansätzen von Marvin Minsky, Hans Moravec und Ray Kurzweil ihre transhumanistische Würze, aber diskreditierte sie zugleich in der europäischen Wissenschaftlergemeinde. Seit den achtziger und neunziger Jahren lokalisierte man im Körper eine eigene Intelligenz -kann die von AI profitieren? Sind wir auf dem Weg zu einem AI-aufgerüsteten Supermenschen? Doch der Autor dämpft die überschießenden Hoffnungen (ohne sie ganz zu verwerfen).

Zum einen geht es um eine Wissenschaft, die nach Jahren der Höhenflüge auf den Boden der Tatsachen zurück gekommen ist; zum anderen blicken wir auf die Techno-Utopien einer Disziplin, die auf dem schmalen Grat zwischen techno-evolutionärem Fortschrittsglauben und, negativ ausgedrückt, inhumaner Überwindung des Menschseins wandelt. Ihr größtes Manko dabei: Bei allen Erfolgen der computer und neuro sciences weiß bis heute niemand, wie menschliche Intelligenz wirklich funktioniert. Unser Gehirn und seine Arbeitsweise bleiben bislang unerreichter Maßstab für Künstliche Intelligenz, die sich aber mit Informatik, Psychologie, Kognitions- und Neurowissenschaften hartnäckig weiter an Funktion und Struktur unseres Denkorgans herantastet.

Ein kluges und verrückt-geniales Buch, das auch verblüffende Perspektiven auf die Welt der Netze, Computer und AI eröffnet. (Rezension erschien zuerst auf InversePanopticon)

Jörg Auf dem Hövel: Abenteuer Künstliche Intelligenz, Discorsi Verlag, Hamburg 2002, 194 Seiten, 14 Euro, ISBN-13: 9783980733045