Tag Archives: Google

01/12/17

Rezension Felix Stalder: Kultur, Digitalität & Entmündigung

Stalder, Felix: Kultur der Digitalität. Suhrkamp Verlag (edition suhrkamp, Bd.2679), Berlin 2016, 283 S., 18,00 Euro, ISBN 978-3-518-12679-0.

Thomas Barth

Felix Stalder ist ein Schweizer Kulturphilosoph, der sich in seinem Buch „Kultur der Digitalität“ mit der Ko-Evolution von digitalen Technologien, Gesellschaft und Kultur befasst. Er warnt darin unter Berufung auch auf Edward Snowden und Julian Assange vor einer schleichenden Entmündigung, die auf uferlose Überwachung und technokratische Massenmanipulation setzt.

Stalders interdisziplinärer Ansatz verbindet philosophisches Denken mit Soziologie, Medien- und Politikwissenschaft, um Digital- und Internetkultur zu analysieren und das utopische Potential digitaler Commons mit ihren Open-Source-Projekten zu beleuchten. Er blickt dabei auch auf dunkle Wurzeln und Gefahren der Digitalität, die er vor allem in Neoliberalismus, Profitorientierung und bei westlichen (!) Geheimdiensten lokalisiert; dies überrascht, denn sonst kreisen westliche Diskurse über Manipulationen im Internet eher um russische und chinesische Geheimdienste. Stalder warnt vor Gefahren von Algorithmisierung, Überwachung und massenmanipulativer Post-Demokratie, zieht jedoch letztlich ein optimistisches Fazit. Die Commons zeigen trotz heutiger Dominanz der Technokraten mit ihrer neoliberalen TINA-Ideologie („There is no alternative“, Thatcher/Merkel S.206) einen offenen „Raum der Zukunft“ (S.281).

Stalder entwirft ein facettenreiches Bild der digitalen Kultur, die geprägt sei von Fluidität, Vernetzung und stetigem Wandel, bei dem sich unser Verständnis von Raum, Zeit, Identität und Macht grundlegend veränderte. Er stellt die These auf, dass die Digitalität sich nicht in technologischer Innovationen erschöpft, sondern durch neue Formen der Selbstorganisation, des politischen Engagements und der kulturellen Produktion geprägt ist. Katalysator ist dabei das Internet als Medium mit spezifischen Formen des Austauschs. Drei zentrale Formen der Kultur der Digitalität sind die Referentialität (kulturelles Material wird ubiquitär zugänglich und fließt in eine explodierende Produktion von Kulturgütern), die Gemeinschaftlichkeit (kulturelle Ressourcen werden geteilt und Bedeutungen durch stetige Kommunikation stabilisiert) und die Algorithmizität (die Informationsflut wird digital geordnet, aber ebenso werden Gesellschaft und Politik technokratisch entpolitisiert).

Kooperation und der Begriff der Digitalität

Zentrales Anliegen Stalders sind Potenziale der Digitalität für eine demokratische und partizipative Gesellschaft. Er plädiert dafür, bestehende Hierarchien aufzubrechen und neue Formen der Kooperation zu ermöglichen -vor allem in digitalen Commons, deren Wurzeln er in der Open Source und Open Software-Bewegung schon der frühen Internet Communities sieht, etwa den Debian-, GNU- und Linux-Projekten. Darin zeige sich eine digital möglich gewordene Neuverhandlung von gesellschaftlichen Werten und Normen im digitalen Zeitalter: Anstelle staatlicher Hierarchien und Profitorientierung der Konzerne trete die freie Kommunikation der Netze, die auf Meritokratie und Freiwilligkeit basiere. Das Linux-Betriebssystem Ubuntu zeigt in seinem Namen nicht zufällig eine interkulturelle Referenz auf den vielschichtigen Begriff der Bantusprache, der Menschenwürde und vernetzte Gemeinschaftlichkeit verbindet (vgl. Afrotopia von Felwine Sarr).

Stalder definiert den Begriff der Digitalität als eine kulturelle Struktur, die sich durch die Veränderung von Wissen, Macht und Kommunikation in der digitalen Ära auszeichne. Digitale Technologien haben zwar einen tiefgreifenden Einfluss auf verschiedene Aspekte unseres Lebens, vom individuellen Verhalten über soziale Interaktionen bis hin zur politischen Organisation.

Laut Stalder ist Digitalität jedoch keineswegs nur eine technologische Entwicklung, sondern vielmehr eine komplexe kulturelle Dynamik, die unsere Vorstellungen von Wahrheit, Realität und Identität in Frage stellt. Er reklamiert eine „im weitesten Sinne poststrukturalistische Perspektive“, Kultur sei heterogen, hybrid und „von konkurrierenden Machtansprüchen und Machtdispositiven durchzogen“, von „Begehren, Wünschen und Zwängen“ getrieben, Kultur mobilisiere diverse Ressourcen in der Konstituierung von Bedeutung (S.17).

„’Digitalität‘ bezeichnet damit jenes Set von Relationen, das heute auf Basis der Infrastruktur digitaler Netzwerke in Produktion, Nutzung und Transformation materieller und immaterieller Güter sowie der Konstitution und Koordination persönlichen und kollektiven Handelns realisiert wird.“ (S.18)

Damit solle jedoch nicht Digitaltechnik ins Zentrum gerückt oder Digitales von Analogem abgegrenzt werden. Analoges würde nicht verschwinden, sondern „neu- und teilweise sogar aufgewertet“. „Digitalität“ verweise vielmehr auf historisch neue Möglichkeiten der Konstitution und Verknüpfung von Akteuren (menschlichen wie nichtmenschlichen):

„Der Begriff ist mithin nicht auf digitale Medien begrenzt, sondern taucht als relationales Muster überall auf und verändert den Raum der Möglichkeiten vieler Materialien und Akteure.“ (S.18)

Stalder knüpft an den Begriff des „Post-Digitalen“ von Florian Cramer an, der damit Praktiken bezeichnet, die sich zwar in Digitalmedien entwickelten, deren offene Interaktionsform sich jedoch immer weiter verbreite. Stalders Begriff der Digitalität vermeide jedoch das missverständliche Präfix „Post-“, das fälschlich so gelesen werden könne, dass „etwas vorbei sei“, und löse sich zugleich von Cramers technikfixiertem Kontext der Medienkunst. Stalder nimmt in diesem Sinne die ganze Gesellschaft in den Blick, denn „…die Präsenz der Digitalität jenseits der digitalen Medien, verleiht der Kultur der Digitalität ihre Dominanz.“ (S.20)

Nicht technologische Entwicklungen allein hätten der Digitalität den Weg gebahnt, sondern auch Politik, Kultur und Ökonomie. Wichtig erscheinen Stalder insbesondere der Aufstieg der Wissensökonomie und der Kritik an Heteronormativität und Postkolonialismus. Die Wissensökonomie habe seit den 1960ern explizit den wachsenden Informations- und Wissensbedarf von Behörden und Konzernen in westlichen Konsumgesellschaften thematisiert. Dazu gehöre die Massenmanipulation durch immer ausgefeiltere Werbung, Propaganda und PR, die der Freud-Neffe Edward Bernays maßgeblich entwickelte:

„Kommunikation wurde zu einem strategischen Feld für unternehmerische und politische Auseinandersetzungen und die Massenmedien zum Ort der Handlung… Eine Medienindustrie im modernen Sinne entstand, die mit dem rasch wachsenden Markt für Werbung expandierte.“ (S.29f.)

Man sprach in den 1980ern und 90ern von „Informations-“ und später „Netzwerkgesellschaften“, in denen -neben der Digitalisierung- eine Flexibilisierung der Arbeit mit neoliberalem Abbau der Sozialstaaten einherging. Der Freiheitsbegriff wurde dabei von neoliberaler Politik und den seit den 1960ern wachsenden „Neuen Sozialen Bewegungen“ konträr definiert: Neoliberal als Freiheit der Märkte, sozial als persönliche Freiheit von gesellschaftlichen Zwängen (S.33). Exemplarisch für Letzteres behandelt Stalder die Schwulenbewegung in Westdeutschland, Rosa von Praunheim, den Bonner Tuntenstreit 1974, die Aids-Krise ab 1983. Diversität und Hybridisierung der Kultur der Digitalität wurzele in emanzipativen Bewegungen, deren Erfolg sich spätestens 2014 beim European Song Contest in der breiten Öffentlichkeit manifestierte -mit der Stalder seine Abhandlung eingeleitet hatte: „Conchita Wurst, die glamouröse Diva mit Bart, war die Gewinnerin“ (S.7), sie habe komplexe Geschlechterkonstruktionen „zumindest ansatzweise mainstreamfähig“ gemacht (S.48):

„Conchita Wurst, die bärtige Diva, ist nicht zwischen widerstreitenden Polen zerrissen. Sie repräsentiert vielmehr eine gelungene Synthese, etwas Neues, in sich Stimmiges, das sich gerade dadurch auszeichnet, dass die Elemente der alten Ordnung (Mann/Frau) sichtbar sind und zugleich transzendiert werden.“ (S.99)

Schattenseiten: Algorithmizität und Post-Demokratie

Die Digitalität ermöglicht laut Stalder neben hybrider Diversität auch neue Formen der Partizipation und Vernetzung, die zur Demokratisierung von Wissen und Kommunikation führen können. Gleichzeitig birgt Digitalität aber auch Risiken, wie die Manipulation durch Algorithmen, Filterblasen und Desinformation. Zugleich seien Algorithmen jedoch prinzipiell unabdingbar, um in einer diversen und hybriden Explosion der Kultur mit ihrer wachsenden Unordnung orientiert zu bleiben. Ohne Suchmaschinen etwa könne heute kein Archiv mehr die digitalen Datenmassen, Texte und Kulturprodukte bewältigen.

Algorithmen automatisieren Kulturtechniken wie die Inhaltsanalyse von Bildern oder das Schreiben von Texten: Der Chef der Firma „Narrative Science“, die automatisierte Sport- und Finanzberichterstattung anbietet, habe 2012 für die nächsten Dekaden eine Ersetzung von neunzig Prozent der Journalisten durch Computer angekündigt. Bedenklich sei, „dass sich auch die CIA für Narrative Science interessiert und über ihre Beteiligungsgesellschaft In-Q-Tel in das Unternehmen investiert hat, ist ein Hinweis darauf, dass bereits heute Anwendungen jenseits des Journalismus entwickelt werden. Zu Propagandazwecken lassen sich mit Algorithmen beispielsweise problemlos massenhaft Einträge in Onlineforen und den sozialen Massenmedien erstellen.“ (S.175)

Dynamische Algorithmen können sich sogar halbautomatisch-eigenständig weiterentwickeln: 2012 habe Google mit solchen „deep learning“-Verfahren die „Gesichtserkennung in unstrukturierten Bildern“ um siebzig Prozent verbessert (S.180). In ausufernder Überwachung greife heute ein „Daten-Behaviorismus“ nach unserer Privatheit, in einem „Revival eines nach wie vor mechanistischen, reduktionistischen und autoritären Ansatzes“. Diese Haltung ungehemmter Kontrolle unseres Verhaltens finde sich bei jenen, die über umfassende Beobachtungsmöglichkeiten verfügen, „dazu gehören neben Facebook und Google auch die Geheimdienste westlicher Länder“ (S.201). Dabei ginge es neben der gern genannten „Serviceverbesserung“ aber auch um soziale Normierung (erprobt in unethischen psychologischen Experimenten, wie man Stalder hier ergänzen könnte) sowie „Profit- oder Überwachungsoptimierung“ (S.202). Anders als viele deutsche Medienwissenschaftler, die an dieser Stelle der Analyse krampfhaft mit den Fingern auf „russische Trolle“ und den chinesischen Überwachungsstaat zeigen, beweist der Schweizer Felix Stalder Rückgrat und kritisiert die eigenen, die westlichen Machteliten (was besagte Kollegen wohl eher nicht aufgreifen dürften).

Assange, Snowden und Entmündigung im libertären Paternalismus

2013 habe, so Stalder, Edward Snowden die „flächendeckende Überwachung des Internets durch staatliche Geheimdienste“ enthüllt (S.233). Felix Stalder zitiert den Wikileaks-Gründer Julian Assange und resümiert: „Die Grenzen zwischen postdemokratischen Massenmedien und staatlichen Nachrichtendiensten sind fließend. Wie inzwischen bekannt ist, bestehen zwischen beiden Bereichen personelle Kontinuitäten und inhaltliche Gemeinsamkeiten.“ (S.234) Die USA hätten seit 2011 z.B. „ein eigenes Programm zu sozialen Massenmedien mit dem Namen ‚Social Media in Strategic Communication‘. (…) seit 2009 vernetzt die Europäische Union im Rahmen des INDECT-Programms Universitäten und Sicherheitsorgane mit dem Ziel ‚Lösungen und Werkzeuge der automatisierten Gefahrenentdeckung zu entwickeln’… Überspitzt könnte man sagen, dass die Missachtung der Grundrechte mit der Qualität der so geschaffenen Dienstleistung ‚Sicherheit‘ legitimiert wird.“ (S.235f.)

Leider sei die Gegenwehr gegen eine in westlichen Gesellschaften so geschaffene soziale Atmosphäre der Angst gering geblieben. Hinter Überwachung und Massenmanipulation stehe in den heutigen Postdemokratien, die demokratische Politik durch technokratisches Gouvernance ersetzen, eine neoliberale Anti-Aufklärung. Obsolet sei heute für die Machteliten „…die aus der Zeit der Aufklärung stammende Annahme, der Mensch könne sich durch den Einsatz seiner Vernunft und die Ausbildung seiner moralischen Fähigkeiten verbessern und sich aus seiner Unmündigkeit durch Bildung und Reflexion selbst befreien.“ (S.227) Eine kybernetische Sicht sehe den Menschen als dressierbare Versuchsratte, die mit subtilen „Nudges“ (Schubsern) zu steuern sei, so Richard Thaler und Cass Sunstein.

Die beiden Neobehavioristen bezeichnen ihr System als „libertären Paternalismus“, der eine „freiheitliche Bevormundung“ anstrebe, was bei den Regierungschefs in Washington und London, Obama und Cameron, so viel Anklang fand, dass sie Thaler und Sunstein in ihre Teams holten (S.228f.). Besonders in den sozialen Massenmedien (also den „sozialen Medien“, Stalder benutzt diesen gängigen Begriff jedoch nicht), ließe sich die mediale Umgebung via Nudging manipulieren. Dies geschehe vor allem im Dienste einer Gruppe, die Stalder als „den inneren Kern des postdemokratischen Systems“ bezeichnet, „bestehend aus den Spitzen der Wirtschaft, der Politik und der Geheimdienste“ (S.230). Viele Mainstream-Konformisten dürften in dieser simplen und analytisch untadelig abgeleiteten politischen Erkenntnis bereits angebliche „Verschwörungstheorie“ oder sogar „-ideologie“ wittern. Denn medial und in der akademischen Forschung werden die von Stalder aufgezeigten Fakten und Zusammenhänge geradezu krampfhaft ignoriert. Es ist zu befürchten, dass genau diese krampfhafte Ignoranz künftig zumindest diese Teile von Stalders Buch betreffen wird. Machtstrukturen dieses Kalibers werden bislang selten öffentlich diskutiert und dies geschieht dann oft nur in künstlerisch verfremdeter Form, wie etwa bei Mark Lombardi.

Stalder ruft im Fazit dazu auf, die Dynamik der Digitalität kritisch zu reflektieren und sich aktiv mit den Auswirkungen digitaler Technologien auf unsere Gesellschaft auseinanderzusetzen. Indem wir die Chancen und Herausforderungen der Digitalität verstehen, können wir Freiheit und Autonomie im digitalen Raum bewahren und weiterentwickeln: Obwohl „die Postdemokratie das Politische selbst abschaffen und alles einer technokratischen Alternativlosigkeit unterordnen will“, beweise die Entwicklung der blühenden Commons das Gegenteil, meint Stalder und schließt sein Buch mit dem Verweis auf utopische Potentiale der Digitalität: „Diese Widersprüchlichkeit der Gegenwart öffnet den Raum der Zukunft.“ Ausbaufähig scheint an Stalders Argumentation die Subjektkonstitution im Netz, die mit der Konzentration auf Kommunizieren, Posten und Liken wohl noch nicht ausreichend erfasst ist, sowie deren Verknüpfung mit Foucaults Konzept des Panoptismus.

04/23/15

Ex Machina

Filmkritik von Thomas Barth

Aus der modernen Welt der hippen IT-Angestellten entführt uns Alex Garland (Buch und Regie) in einen stylischen Bunker, wo sich ein klaustrophobisches Dreiecksdrama mit Nerd und Cybergirl entfaltet. Der ästhetisch anspruchsvolle, subtile KI-Horror lädt zum Nachdenken ein. Doch die Reflexionen über KI bleiben letztlich eine Eulenspiegelei auf Weizenbaums frühe Kritik an der „künstlichen Intelligenzia“, weit entfernt etwa von Stanislaw Lem und seiner Futurologie der „Künstlichen Nichtintelligenz“.

Der junge Programmierer Caleb (Domhnall Gleeson) gewinnt einen Mitarbeiter-Wettbewerb in seiner hippen IT-Firma. Ein Hubschrauber bringt den Nerd in das einsam hoch im Norden gelegene Anwesen seines Chefs, des Computergenies Nathan (Oscar Isaac). Nathan stemmt Gewichte, besäuft sich abends mit edlen Tropfen und gibt den dominierenden Macho. Man glaubt ihm kaum den brillanten Suchmaschinen-Erfinder, der auf dem Gebiet der künstlichen Intelligenz forscht. Leider erfahren wir nur sehr wenig über seine gigantische Such- bzw. Überwachungsmaschine (Google lässt grüßen), im Film „BlueBook“ genannt –wohl eine Anspielung auf die gleichnamige Ufo-Sichtungsdatei der US-Behörden, die der frühe Computernetz-Kritiker und späteren UFO-Buchautor Jacques Vallee einst mit programmierte. Caleb lernt bald die betörende Gyndroidin Ava (Alicia Vikander) kennen, die er einem weiterentwickelten Turing-Test unterziehen soll. Mit durch eine Trennscheibe gestellten Fragen soll Caleb herausfinden, ob das Cybergirl über echte Gefühle verfügt, doch schnell verwickelt ihn Ava in ein spannungsgeladenes Beziehungsdreieck mit Nathan.

Alex Garland erwies sich schon mit dem Drehbuch zu Alles, was wir geben mussten als Meister des subtilen Horrors, wo er das Thema der Klon-Sklaverei um einiges anspruchsvoller inszenierte als die Popkornkino-Variante Die Insel es vermochte. Sein neuer Film Ex Machina bietet mehr an cineastischem Augenschmaus, der den Intellekt jedoch weniger befriedigt. Die elegante Kameraführung schafft in der minimalistischen Innenkulisse zwar eine kühle Atmosphäre, in der sich die Gyndroidin Ava mit ihrem erotischen, teils transparenten Körper entfalten kann.

Die Technologie interessiert Garland sichtlich weniger als menschliche Probleme und die Psychologie der Thematik, und so hoppelt die Handlung über einige logische Löcher: Man fragt sich, wieso für den Turing-Test von Ava ein Hightech-Gel-Computer in ihrem schönen Gyndroiden-Kopf überhaupt nötig ist. Ihre KI hätte man problemlos extern platzieren können. Fragwürdig sind jedoch  auch Avas so immerhin erst möglich gemachten Fluchtpläne –sie übersehen Avas offenbar anspruchsvolle Energieversorgung. Was die echte Reflektion über Probleme der KI angeht, erreicht Ex Machina kaum das Niveau der skandinavischen SF-Serie „Hubots“, wenn auch auf ästhetisch anspruchsvollere Weise.

Digitale Kontrolle oder Voodoo-KI?

Alex Garlands Film regt zum Nachdenken an, aber leider nur sehr wenig über die Gefahren der gigantischen Überwachungsmaschine Google (bzw. „BlueBook“). Die globale Überwachung wird zwar ansatzweise kritisch erwähnt, aber da sie letztlich zur technologischen Basis von Avas KI erklärt wird, letztlich sogar glorifiziert. Zumindest für alle begeisterten Befürworter der KI-Konstruktion könnte das globale Netz von Google (oder womöglich sogar auch das der NSA) damit eine mystifizierende Rechtfertigung erfahren.

Hier klingen ferne Motive des klassischen Modells einer Noosphäre an, die sich moderner bei Cyber-Optimisten wie Pierre Levy in der „kollektiven Intelligenz“ der Netze finden. Levy gibt sich der Hoffnung hin, dass „die globale Totalität der Menschheit dabei ist, zum erstenmal zu einer einzigen kollektiven Intelligenz zu verschmelzen…“ (Levy S.247). Das „global brain, so to speak –the noosphere“ prägten das Genre des Cyperpunk schon in William Gibsons „Neuromancer“, wo es als mystische Voodoo-KI „Wintermute“ den Deus Ex Machina gab, so Erik Davis in „TechGnosis“ (Davis S.352). Das romantische Schwelgen in Träumereien von einer sich am Ende geheimnisvoll aus unserem technologischen Treiben erhebenden göttlichen KI ist verständlich, lenkt jedoch von konkreteren Problemen ab: Den neuen digitalen Kontrollregimen (Barth 1997) und der wachsenden Macht zur Manipulation von Mensch und Gesellschaft durch globale Medienkonzerne (Barth 2006).

Eulenspiegelei auf Weizenbaum

Und so bleibt auch das Nachdenken über die Künstliche Intelligenz bei Garland auf einem eher bescheidenen Niveau. Sein Film Ex Machina erscheint als Antwort auf die frühe Kritik an der frühen KI-Euphorie, wie sie sich bei Joseph Weizenbaum im „Künstliche Intelligenz“-Kapitel seines bahnbrechenden Klassikers „Die Macht der Computer und die Ohnmacht der Vernunft“ findet. Bestenfalls könnte man Ex Machina als Eulenspiegelei auf Weizenbaum sehen:„Da sich das menschliche Denken beispielsweise mit ästhetischen Problemen in Verbindung mit Fühlen, Schmecken, Sehen und Hören beschäftigt hat, wird AI Maschinen bauen müssen, die fühlen, schmecken, sehen und hören können.“ Weizenbaum, S.188 (vgl.S.276f.)

Hier setzt Garlands sexy Gyndroidin Ava an und sorgt mit ihren Gefühle reizenden weiblichen Kurven für Geschmacksverirrung, dass den KI-Forschern Hören und Sehen vergeht: Ava erweist sich als Sex-Roboter mit voll funktionsfähiger Vagina. Der künstliche Vamp hat Tradition im SF-Genre, schon seit Fritz Langs Metropolis. Und selbst der androide Star-Trek-Pinocchio Mr.Data, der die KI-Thematik schon in der spröden Enterprise-Serie durcharbeiten durfte, bekannte sich einmal –quasi hinter vorgehaltener Hand- zu seinem einsatzbereiten Penis. Ex Machina stellt den Maschinen-Eros ins Zentrum, macht ihn zum Prüfstein im (vorgeblichen) Turing-Test. Aber kann die Thematik vom Robot und seinen Gefühlen heute wirklich noch zu Reflexionen über die Probleme der KI anregen?

Weizenbaums auf menschliche Körperlichkeit und Emotionen abzielende Argumentation richtete sich damals nur an die ersten Frühformen, quasi die Neandertaler der KI-Forschung, wie z.B. Newell & Simon. Die glaubten mit ihrem „General Problem Solver“ (GPS) schon den menschlichen Geist nachzubilden, obgleich der es nur bis zum mäßigen Schachspielen brachte. Sie waren sich immerhin noch bewusst, eine reduzierte Sicht des Menschen zu vertreten, den „homo cogitans“ (Newell & Simon S.113) –daher spricht man von kognitivistischer KI-Forschung, die aber später vom Konnektionismus mit seinen Neuronalen Netzen überflügelt wurde.

Die frühen KI-Euphoriker, die Weizenbaum als extreme „künstliche Intelligenzia“ bezeichnete (Weizenbaum S.282), wollten damals menschliches Schlussfolgern in Algorithmen nachbilden. Sie wollten allen Ernstes schon alsbald z.B. menschliche Richter durch Computer ersetzen, so bekannte ein hierzulande eher unbekannter KI-Extremist namens John McCarthy (Weizenbaum S.275). McCarthy glaubte, es sei nützlich, Computern menschliche Eigenschaften zuzuschreiben, wenn dies dabei helfen würde, sie zu reparieren oder zu verbessern. Dies mag für Ingenieure gültig sein, wird aber problematisch, wenn es zu einer neuen „Ansicht über den menschlichen Geist“ verallgemeinert wird (McCarthy S.221).

Künstliche Nichtintelligenz

Der Rechtsinformatiker Wilhelm Steinmüller, der Informationssysteme auch als „Machtfabriken“ (S.530) sieht, urteilt in seinem Opus Magnum „Informationstechnologie und Gesellschaft“ weniger optimistisch:

„Bei echten KI-Systemen treten in gewissem Umfang an die Stelle determinierter Verfahren stochastische Verfahren. Sie entscheiden –wenn auch eingeschränkt- nach dem Zufall… Doch ist es weder mit der Ethik der Informatik noch mit unserer Rechtsordnung vereinbar, Zufall –wenn auch eingeschränkt- über physische oder soziale Existenz von Menschen oder Institutionen bestimmen zu lassen. Darum ist die wichtigste Anforderung des Informationsschutzes ihr Verbot, wo sie über Leben oder soziale Chancen befinden.“ Steinmüller, S.693

Diesen Rat hätten die Akteure in Garlands Film Ex Machina besser beherzigen sollen –oder sich fragen, warum Alan Turing seinem epochemachenden Aufsatz „Kann eine Maschine denken?“ (1950) ein Zitat von Shakespeare voranstellte: „Der Spaß ist, wenn mit seinem eignen Pulver der Feuerwerker auffliegt…“, Hamlet. So geht der gyndroide Sexroboter Ava seinen von Frankenstein bis Blade Runner vorhersehbaren Weg, ohne uns allzu viel Anregung zu ernsthaftem Nachdenken über aktuelle KI-Forschung geliefert zu haben. Die naiven Antworten auf die Kritik an quasi prähistorischen KI-Systemen greifen wenig, die rudimentären Verweise auf Noosphäre und kollektive Intelligenz im Netz hätten weiter verfolgt werden können.

Stanislaw Lem sprach in seinem Buch „Die Technologiefalle“ von „Künstlicher Nichtintelligenz“ (S.141), die womöglich bei gezielter Informationszüchtung entstehen könne, kaum aber einfach so im Internet. Der späte KI-Extremist Marvin Minksy schien mit seiner „Mentopolis“ zwar eine Brücke vom globalen Netz der „Telepolis“ zu solcher Datenzüchtung schlagen zu wollen. Doch dies blieb rudimentär und Minsky verstrickte sich eher in ähnliche Fragen wie Garland, ob und wie einer KI nicht erst Gefühl einprogrammiert werden müsse (Minsky S.163). Von der Schaffung einer echten KI, die den menschlichen Geist auch nur annähernd nachbilden oder zu ihm ähnlichen Ergebnissen kommen könnte, bleiben solche Ansätze noch weit entfernt.

„Die Entwicklung der KI muß mit der Entwicklung des biologischen Zentralnervensystems nicht äquifinal sein. Die Möglichkeiten sind so weit wie der Ozean, und wir haben weder einen ordentlichen Kompaß noch eine Karte.“ Stanislaw Lem, S.261 (zuerst auf filmverliebt)

12/19/14

The Zero Theorem

Filmkritik von Thomas Barth

Terry Gilliams Nachfolgefilm von Brazil: ein Programmierer zwischen feiernden, zwanghaft gutgelaunten Angestellten

Qohen Leth (Christoph Waltz), ein introvertiertes Mathegenie, sitzt nackt vor seinem Computer und wartet auf einen mysteriösen Anruf, durch den er auf Erlösung hofft. Draußen tobt das quirlige, laute Leben des etwas späteren 21.Jahrhunderts. Gigantische Monitore mit Dauerwerbung, Konsumorgien neben Armut, Dreck und Verfall. Qohens einsame Zuflucht ist eine halbrenovierte alte Kirche, die er billig kaufen konnte, und sein Hauptproblem ist sein Arbeitgeber.

Die mächtige Firma ManCom steht für den totalen Konsum, für das Leben als Party im Kaufrausch. Sie will einfach nicht einsehen, dass Qohen viel besser zuhause programmieren könnte. Seine Anträge, wegen psychischer Belastung auf Heimarbeit umzustellen, werden abgelehnt, auch nachdem er eine fast ebenso inquisitorische Untersuchung über sich ergehen lassen muss, wie einst der zeitreisende Sträfling (Bruce Willis) in Terry Gilliams 12 MONKEYS. Lästiges Ergebnis für Qohen: Er bekommt eine Online-Psychotherapie bei der nervigen Dr. Shrink-Room (Tilda Swinton).

Sein Vorgesetzter, der hektisch-joviale Joby (David Thewlis), kann sich zwar Qohens Namen nicht merken, klopft ihm aber dauernd aufmunternd auf die Schulter und zwingt ihn zur Anwesenheit in einer Firma voller exaltierter fröhlich kreischender Angestellter. Der gutmütige Joby will Außenseiter Qohen penetrant in die zur Motivation gepflegte karnevaleske Firmenkultur einbeziehen, aber das verschrobene Genie kann mit der aufgesetzten guten Laune nichts anfangen. Er verweigert sich auch der exaltierten knallbunten Mode im „Bubblegum-Dystopia-Look“ und will eigentlich nichts weniger als zum Betriebsfest.

Doch Chef Joby besteht darauf und ködert Qohen, er könne dort den geheimnisvollen Big Boss der Firma ManCom treffen, der sich „Management“ nennt. Bei ihm hofft Qohen auf Gehör für seinen Wunsch nach Heimarbeit. So findet sich der schüchterne Programmierer zwischen feiernden, zwanghaft gutgelaunten Angestellten wieder, die in Afrika-Motto-Kostümen tanzen, trinken, plappern, aber dabei dauernd autistisch auf ihre Handys glotzen.

Bedrängt vom flirtenden Partygirl Bainsley (Melanie Thierry) stolpert Qohen in ein Zimmer voller Umzugskartons, froh etwas Ruhe zu finden, und wird von „Management“ (Matt Demon) aufgeschreckt. Der große Boss saß allein in einem Sessel, getarnt durch einen Chamäleon-Anzug. Nun erst beginnt das Abenteuer: Qohen erfährt, dass er zu einer fast unlösbaren Aufgabe abkommandiert wird, bei der schon etliche Programmierer den Verstand verloren haben -das Zero Theorem knacken.

Zur Seite gestellt wird ihm der brillante junge Hacker Bob (Lucas Hedges), auch Chef Joby kommt vorbei und die verführerische Bainsley versucht ihn als Latex-Krankenschwester zu verführen -doch nur zum Cybersex per Datenanzug, wo sie ihn in virtuelle Paradiese lockt. Langsam kristallisiert sich heraus, was Qohen in der Firma eigentlich macht: „Entity Crunching“ dient der Verwandlung von Massendaten in kontrollierbare Einheiten.

ManCom macht aus den Entities Lifestyle, versorgt und überwacht damit die totale Kosumgesellschaft, die jedem Bedürfnis der Kunden nachspürt, sie mit Werbung manipuliert mit Neuheiten und Mode-Schnickschnack traktiert. Soll Qohen im Zero Theorem dem Sinn des Lebens nachforschen -oder einer Technologie der totalen Kontrolle?

Visuell bombardiert uns der Film Zero Theorem mit einem orgiastischen Stilmix aus High-Tech, Steam-Punk und Gothic, mit viel schwarzem Humor, Slapstick und Retro-Maschinerie als Gilliams Markenzeichen. Aus dem faschistischen Orwell-Staat, den Terry Gilliam mit BRAZIL (1984) beschrieb, ist hier ein totalitäres Überwachungs- und Konsumterror-Regime geworden, beherrscht von der monströsen Firma ManCom und ihrem gigantischen Dampf-Computer.

Wie 1984 ist auch 30 Jahre später Gilliams Hauptfigur kein heldischer Kämpfertyp, sondern ein nur etwas unangepasster Mitläufer, der sein privates Glück sucht und erst durch äußere Umstände zu seiner besonderen Rolle kommt.

Mathe-Genius Qohen verliert sich beim futuristischen Programmieren in würfelförmig-fraktalen Landschaften, im Cyberspace mit Bainsley an kitschigen virtuellen Stränden und in seiner eigenen Psyche vor einem hypnotischen Strudel purer existenzieller Angst. Fragte in der Anfangsszene des Films die marktschreierische Werbestimme: „Sind Sie gelangweilt vom Buddhismus, genervt von Scientology?“, so sitzt Qohen später in seiner düsteren Kirche voller religiöser Bilder zwischen Betonmischer und provisorisch eingebauter Dusche und wartet auf einen Anruf, der Antwort auf das Rätsel seines Daseins gibt.

Gejagt vom Konsumterror und umstellt von Ikonen alter Kultur sucht das Individuum im privaten Rückzug nach Sinn. Wie bei Pythons LIFE OF BRIAN (1979) und DER SINN DES LEBENS (1983) zeigt sich ein respektloser, aber dennoch spiritueller Umgang mit Religion und den letzten Fragen. Ebenso wartet Terry Gilliam hier mit einer differenzierten Zeitdiagnose nebst politischer Kritik an Facebook, Google & Co. auf. Ein genialer Film.