02/18/19

Das ARD-Framing-Gutachten

aus Netzpolitik.org

Wir veröffentlichen das Framing-Gutachten der ARD

Die ARD hat ein Gutachten in Auftrag gegeben, um die eigene Kommunikation zu verbessern. Das Gutachten wurde bisher nicht veröffentlicht, ist aber bereits Teil einer öffentlichen Debatte. Wir veröffentlichen das Gutachten, damit sich alle Beitragszahlende aus der Originalquelle informieren können und an der Debatte informierter teilhaben können.

17.02.2019 Markus Beckedahl, Leonhard Dobusch

Die ARD hat bei der Sprach- und Kognitionswissenschaftlerin Elisabeth Wehling ein Gutachten in Auftrag gegeben um sich beraten zu lassen, wie man die Vorzüge des öffentlich-rechtlichen Rundfunks durch Erkenntnisse der Framing-Theorie kommunizieren kann. Das Gutachten dient laut ARD als „Denkanstoß und Diskussionsgrundlage“ für interne Zwecke. (Update: Es gibt nun eine weitere Stellungnahme der ARD dazu.)

Allerdings wurde es schnell Bestandteil einer öffentlichen Debatte, weil das Gutachten mittlerweile außerhalb der ARD zirkuliert. Und gerade rechte Webseiten machen mit dem ausgewählten Zitieren aus dem Text massiv Stimmung gegen den öffentlich-rechtlichen Rundfunk und tun dabei so, als wäre diese Diskussionsgrundlage bereits beschlossene Sache einer Kommunikationsstrategie mit dem Ziel, die öffentliche Wahrnehmung zu „manipulieren“. Im Interview mit meedia.de argumentiert die ARD-Generalsekretärin Susanne Pfab, dass dies keine „Mitarbeiteranweisung“ sei, sondern eine Diskussionsgrundlage zur Sensibilisierung bei der Verwendung von Sprache und Sprachbildern. In dem Interview distanziert sie sich auch persönlich von einzelnen in dem Gutachten vorgeschlagenen Sprachbildern wie „Profitzensur“.

Zensurheberrecht nährt Manipulationsängste

Die ARD-Pressestelle begründet eine Nicht-Veröffentlichung damit, dass man es „aus urheberrechtlichen Gründen“ nicht veröffentlichen könne. Man kann von der ARD und dem öffentlich-rechtlichen System halten was man will. Aber gerade mit diese Vorgehensweise und dem Anschein von Intransparenz erweist die Anstalt der Debatte um die Zukunft des öffentlich-rechtlichen Rundfunks einen Bärendienst, denn sie spielt damit den rechten Narrativen in die Hände, dass man es geheim halten wolle und etwas zu verbergen hätte.

Für eine öffentliche Debatte ist es aber wichtig, dass sich alle Interessierten aus der Diskussionsgrundlage informieren können. Das Gutachten wurde aus öffentlichen Geldern finanziert und sollte selbstverständlich auch nach dem Grundsatz „Öffentliches Geld, öffentliches Gut“ („Public money, public good“) allen Beitragszahlenden verfügbar sein. Damit sich mehr Menschen aus der Originalquelle informieren und an der Diskussion teilnehmen können.

Man kann nicht nicht framen

Wir veröffentlichen deshalb das Gutachten in einer PDF-Version. Von der Verfasserin des Gutachtens, Elisabeth Wehling, ist im vergangen Jahr das Buch „Politisches Framing – Wie eine Nation sich ihr Denken einredet – und daraus Politik macht“ im Ullstein Buchverlag erschienen. Vor zwei Jahren sprach sie auf der re:publica über „Die Macht der Sprachbilder – Politisches Framing und neurokognitive Kampagnenführung“.

Gerade wenn man sich aus der Originalquelle informieren kann, sieht man, dass die Dämonisierung nicht gerechtfertigt ist. Denn wenn es eine Einsicht des Kommunikationswissenschaftlers Paul Watzlawick gibt, die sich quasi universeller Bekanntheit erfreut, dann dass wir nicht nicht kommunizieren können. Diese Binsenweisheit gilt sinngemäß nicht nur für Kommunikation an sich, sondern auch für (Teil-)Aspekte verschiedener Arten von Kommunikation wie eben Framing. So ist zum Beispiel mit jeder Wortwahl in einem Text immer auch ein bestimmtes Framing verbunden, das beim Lesenden bestimmte Assoziationen oder Gefühle auslösen kann. Egal ob „Staatsfunk“, „öffentlich-rechtlicher Sender“ oder „gemeinsamer, freier Rundfunk ARD“ wie im Gutachten von Elisabeth Wehling, jeder Begriff löst andere Assoziationen aus, steht für ein anderes Framing.

Wenn es aber keine Kommunikation ohne Framing gibt, kann es durchaus sinnvoll sein, dominante Frames in der eigenen Kommunikation zu reflektieren. Sich dabei professionelle Unterstützung zu holen, ist ebenfalls nicht abwegig. Fragwürdig ist hingegen schon eher, wie sehr die ARD die Interpretation – das Framing – dieses Reflexionsprozesses anderen überlässt, indem sie entsprechende Dokumente zurückhält. Genau das stützt nämlich das Framing des Gutachtens als „Manipulation“, was rechte Gegner öffentlich-rechtlicher Medien genüsslich befeuern.

Update:

Elisabeth Wehling hat auf ihrer Webseite eine „Klarstellung zur aktuellen Debatte“ veröffentlicht.

Die vorgegebenen Themen und Einordnungen zu Auftrag und Bedeutung der öffentlich-rechtlichen ARD wurden in Workshops (bei meiner Anwesenheit) diskutiert und im finalen Dokument auch entsprechend abgebildet. Darum finden sich auch Begrifflichkeiten darin, die keineswegs als Empfehlung anzusehen sind. Das Ergebnis dieser Workshops wurde zusammenfasst und ergänzt, sowie auf Inkohärenzen hingewiesen. Das Dokument wurde als interne Arbeits- und Diskussionsunterlage verfasst, um damit eine breite Grundlage an Optionen zu haben, was davon für eine etwaig daraus abzuleitende Kommunikationsmaßnahmen genutzt werden soll, und was jedenfalls nicht.

Das Gutachten ist jetzt bereits zwei Jahre alt. Viele vorgeschlagene Frames, die aktuell die Köpfe vieler Kritiker erhitzen, sind aber noch nie von ÖRR-Vertretern in der Öffentlichkeit verwendet worden. Auch das zeigt, dass die Errregung über das Gutachten überdreht ist.

Währenddessen zeigt die Bild-Zeitung, dass Framing gerne gegen den Öffentlich-Rechtlichen Rundfunk (Gerne als negativer Frame verwendet, trotzdem falsch: „Staatsfunk“) angewendet wird: „GEHEIMPAPIER: So will die ARD uns umerziehen“. Selbstverständlich ohne Link auf die Originalquelle bei uns, die könnte die Bild-Leser ja verwirren. Interessant ist die Wortwahl: „Gemeint ist das geschickte Nutzen bestimmter Wörter und Sprachbilder, um unsere Meinung zu beeinflussen. Ein Mittel aus Politik und Werbung. Kritiker nennen das Gehirnwäsche.“ Das würde die Bild-Zeitung natürlich nie machen.

Aus netzpolitik.org

Ergänzung von Netzphilosophie: Die Kosten für das Erstellen des Manuals und begleitende Workshops beliefen sich nach Angaben der ARD auf 90.000 €. Für Folge-Workshops, bei denen Wehling Mitarbeitern der ARD die Inhalte nahe gebracht hatte, wurden weitere 30.000 € gezahlt. Der Auftrag für das Manual wurde 2017 von der vom MDR gestellten Geschäftsführung der ARD erteilt (Wikipedia).

Über die Autor:innen

markus

Markus Beckedahl hat schon 2003 in der Ur-Form von netzpolitik.org gebloggt und hat zwischen 2004 bis 2022 die Plattform als Chefredakteur entwickelt. Seit 2024 ist er nicht mehr Teil der Redaktion und schreibt einen Newsletter auf digitalpolitik.de. Kontakt: Mail: markus (ett) netzpolitik.org, Presseanfragen: +49-177-7503541 Er ist auch auf Mastodon, Facebook, Twitter und Instagram zu finden.

leonido

Leonhard Dobusch, Betriebswirt und Jurist, forscht als Universitätsprofessor für Organisation an der Universität Innsbruck u.a. zum Management digitaler Gemeinschaften und Offenheit als Organisationsprinzip. Er ist als @leonido im Fediverse unterwegs und bloggt privat als Leonido sowie gemeinsam mit anderen bei governance across borders bzw. am OS ConJunction Blog und ist Mitgründer und wissenschaftlicher Leiter des Momentum Instituts sowie der Momentum-Kongressreihe. Mail: leonhard@netzpolitik.org

09/5/18

Friedrich Kittler & KI

Thomas Barth

Drei Dekaden ist es her, da Friedrich Kittler mit seinem legendären Aufsatz: Rock Musik – Ein Missbrauch von Heeresgerät seine revolutionäre Medientheorie darlegte und dabei einen eleganten Bogen von Nietzsche über Jim Morrison und Kaiser Wilhelms Generälen bis zu Görings Luftwaffe und Jimi Hendrix zog. So ungefähr in dieser Reihenfolge, aber um viele Details und Wendungen reicher entfaltete sich sein Denken.

Zunächst berief er sich auf die Machtkritik von Michel Foucault, wandte sich aber dann immer mehr Heideggers Philosophie zu. Gefördert wurde Kittler später auch vom Medienzar Hubert Burda, einem sechsfachen Teilnehmer der Bilderberg-Konferenzen (Telepolis), die jüngst einen Schwerpunkt auf Quantencomputing, KI und Medienthemen setzen.

Bildungslücke Bilderberg

Die „Bilderberger“ sind zwar Thema bei „Verschwörungstheoretikern“ auch rechter Gesinnung (was manche diese Treffen in die Ecke „rechte Paranoia“ neben Ufos, Zion-Papers und Chemtrails stellen lässt), aber sie existieren dennoch seit 1954.

Es handelt sich tatsächlich um geheime Treffen der westlichen Machteliten, die sich aus den Mainstream-Medien weitgehend herauszuhalten verstehen, trotz hochkarätiger Besetzung mit Dutzenden Top-Managern und -Politikern bis hin zu Ministern und Staatschefs: 2018 in Turin etwa Verteidigungsministerin Ursula von der Leyen (die dort von der Öffentlichkeit unbeobachtet z.B. mit Top-Vertretern der Rüstungsindustrie plaudern konnte -ob so etwas der Korruptionsvermeidung dient?).

Eine bedeutsame Fraktion der Bilderberger (wie man verkürzend Teilnehmer wie Organisatoren nennt) sind die großen Medienkonzerne, aus Deutschland ist vor allem die Wochenzeitung ZEIT dort seit vielen Jahren engagiert, aber auch Springer und Burda entsenden Vertreter. Man interessiert sich für Medienpolitik und Softpower, die Beeinflussung der Kultur durch die Mächtigen. Zu diesem Themenfeld gehört auch die Medientheorie.

Kittler erklärte 1988 in seinem Rock Musik-Text, wie militärische Funkanlagen des Ersten Weltkriegs die Basis für das zivile Radio und damit für die modernen elektronischen Medien legten, wie sich im Zweiten Weltkrieg Hifi und Stereo aus militärischen Ortungstechniken entwickelten. Schon damals würdigte Kittler auch den Computerpionier Alan Turing, der in der legendären Kryptologen-Farm Blechtley Park den Zeiten Weltkrieg mit der Entschlüsselung von geheimer Kommunikation der Wehrmacht verbrachte.

Medientheorie und Macht

Die Hardware des Computers sollte in Kittlers Denken bald eine zentrale Rolle einnehmen, er galt in der Medientheorie als der Experte für die neuen Rechenmaschinen, die just dabei waren, die Welt der Medien gehörig umzukrempeln. Dabei orientierte er sich anfangs an Michel Foucault und seiner Machtkritik,
später aber eher an der Philosophie von Martin Heidegger.

Kittlers Fixierung auf die kriegerischen Wurzeln und Funktionen der Medientechnologien wirkte aber damals auf viele, die in den 80ern gerade noch gegen Ronald Reagans Nato-“Nachrüstung“ mit atomaren Erstschlagswaffen protestierten oder bald nach dem Mauerfall gegen den Ersten Golfkrieg von Reagannachfolger Bush, wie degoutanter Militarismus.

Möglicherweise schwelgte der militär-patriotische Medientheoretiker Kittler manchmal etwas zu ausgiebig in den Leistungen der deutschen Obersten Heeresleitung und machte sich, bei aller Kritik an den USA, zu leicht die Perspektive der militärischen Führer des Westens zu eigen:

„Jede Diskothek, die ja Tonbandeffekte noch verstärkt und in Echtzeit mit der entsprechenden Optik von Stroboskopen oder Blitzlichtern koppelt, bringt den Krieg wieder. Mehr noch: Sie trainiert, statt nur Vergangenheiten zu reproduzieren, eine strategische Zukunft an, deren Bewältigung sonst an Wahrnehmungsschwellen der Leute scheitern könnte. Um die Displays in den Cockpits auch unter Bedingungen von Star Wars noch ablesen und bedienen zu können, kommt es auf Reaktionstempi im Millisekundenbereich an. Präsident Reagan hat nicht umsonst alle Freaks von Atari-Spielcomputern als zukünftige Bomberpiloten bewillkommnet.“ (Kittler, Rock Musik, S.211)

Wenn die Atari-Killerspiele auch mit gewisser Plausibilität als dem Kriegshandwerk heutiger Drohnenpiloten ähnlich zu sehen sind, so scheint die Discoszene der 80er als Spaßversion Jüngerscher Stahlgewitter doch reichlich weit hergeholt. Doch Kittlers Perspektive fand ihre Liebhaber -und Gönner auch weit oben in der Einkommenspyramide.

So verwundert es nicht, dass der 2013 posthum vom Kittler-Anhänger Prof. Hans Ulrich Gumbrecht herausgegebene Band „Die Wahrheit der technischen Welt“, aus der dieses Kittler-Zitat entnommen ist, im Impressum ausweist: „Unterstützt von der Hubert Burda Stiftung“.

Hubert Burda ist der ca. zwei Milliarden schwere Medientycoon an der Spitze von Deutschlands drittgrößtem Medienimperium (nach Bertelsmann und Springer), dem neben „Burda-Moden“, auch „Playboy“, „Bunte“, „Focus“ etc. zuzurechnen sind. Burda steuerte seinen Konzern erfolgreich in die Netzmedienwelt und erhielt, soweit das Internet weiß, sagenhafte sechs Einladungen zu den Bilderberg-Konferenzen (1997, 1998, 2001, 2003, 2005, 2007). Es ist denkbar, dass Burda dort seine Ideen zur digitalen Revolution der Medien zum besten geben konnte und anzunehmen, dass diese sich auch aus Kittlers Theorieansatz speiste.

Künstliche Intelligenz und Quantencomputing

Auch die Mächtigen dieser Welt haben erkannt, dass die digitale Technologien und Netzmedien immer bedeutsamer werden. Beim diesjährigen Treffen der Bilderberger in Turin tummelten sich neben Top-Managern traditioneller Finanz-, Öl- und Rüstungsindustrie auch Vertreter von Google, Facebook, Twitter & Co.

Ein Schwerpunkt der weltgrößten Lobbyisten-Konferenz, zu der auch wieder Staatschefs und Minister im Dutzend geladen waren, scheint auf technologischen Entwicklungen zu liegen: Man wollte über „Die Zukunft der Arbeit“, „Künstliche Intelligenz“ und „Quantencomputer“ reden.

Und es gibt Hinweise darauf, dass die Bilderberg-Konferenziers ihr Weltbild in Sachen Computer durchaus an der Kittlerschen Perspektive orientiert haben könnten – vermittelt über den deutschen Medienmogul Hubert Burda. Selbiger äußerte sich im Sommer 2011, also kurz vor Kittlers Tod (18.10.2011), im Avantgarde- und Kunstmagazin 032c zu seiner Freundschaft mit Kittler und der Faszination, die dessen Theorie und Person auf ihn ausübte:

„There is a German cultural figure based in Berlin-Treptow, Friedrich Kittler, whom I’ve found to be amply engrossing. We’ve met a couple of times – I attended his 64th birthday party (…) There is something oracular, irrational and dreamlike about his proclamations; such as that present day Germany is Ancient Greece manifest, and that a profound spiritual connection exists between those cultures, making them one. (…) And Kittler is a good friend of mine – I sponsored a chair at the Humboldt University for two years.“ Hubert Burda („Billionaire, Patron of german media philosophy“, Interview, sommer 2011 in 032c.com)

Damit soll natürlich keinesfalls angedeutet werden, dass Friedrich Kittler sich etwa habe „kaufen lassen“, was bei einem originellen Querdenker von seinem Format abwegig erscheint. Seitens möglicher superreicher Sponsoren dürfte aber seine Orientierung an Heidegger, dessen Ontologie um Nietzsches Idee von der ewigen Wiederkehr des Gleichen kreiste, mit Wohlwollen goutiert worden sein.

Die Überwindung des Menschen

Klingt dies doch beruhigend nach jährlicher Wiederkehr üppiger Renditen, wirtschaftsfreundlicher Regierungen und marktkonformer Demokratie. Hat sich am Ende Kittlers optimistische Haltung zur kommenden Künstlichen Intelligenz, die sich auch aus der Lektüre des wegen seiner NS-Verstrickung umstrittenen Heidegger speiste, in Kreisen der Konzernbesitzer und -lenker verbreitet? Heideggers Nietzscheanische Deutung der Technik scheint mit einer solchen Sichtweise jedenfalls kompatibel zu sein:

“Was jedoch die erste Ausflucht angeht, nach der Nietzsches Gedanke von der ewigen Wiederkehr des Gleichen eine phantastische Mystik sei, so würde die kommende Zeit wohl, wenn das Wesen der modernen Technik ans Licht kommt, das heißt: die ständig rotierende Wiederkehr des Gleichen, den Menschen darüber belehrt haben, daß die wesentlichen Gedanken der Denker dadurch nicht von ihrer Wahrheit verlieren, daß man es unterläßt, sie zu denken.
Heidegger, Was heißt denken?” (Vorlesungen 1950/1951, S.76)

Kittler sah der KI bekanntlich fast euphorisch entgegen, begrüßte in ihr, frei nach Nietzsche, die Überwindung des Menschen. Ob Foucault aber wirklich, als er das Verschwinden des Menschen „wie ein Gesicht im Sand“ prognostizierte, an Sand als Material von Silizium-Chips dachte? Eine funktionierende, womöglich übermächtige KI weckt heute bei den meisten Beobachtern eher Befürchtungen, wie wir sie aus Blade Runner, Terminator oder Matrix kennen. Besorgt zeigten sich auch viele Wissenschaftler, darunter die verstorbene Physik-Ikone Hawking, was KI und Killer-Roboter angeht.

Es wird zu untersuchen sein, wie Kittler genau zum Thema KI stand. Und ob sich sein Ansatz nach sorgfältiger Analyse nicht doch nutzbar machen lässt für eine Kritik von Machtstrukturen, wie sie sich in Medienkonzernen zeigen oder in Globalisierung und Finanzkrise enthüllten.

(This Text was reblogged by: Berliner Gazette, Untergrundblättle)

05/12/18

Felix Stalder: Algorithmen

Algorithmen, die wir brauchen

Automatisierte Entscheidungssysteme prägen unsere Leben schon heute, in Zukunft geht ohne sie gar nichts mehr. Wie aber müssten sie beschaffen und eingebettet sein, damit sie zu einem guten Leben für alle beitragen? Eine konstruktive Algorithmen-Kritik von Felix Stalder. 15.01.2017

In diesem Essay unternimmt Felix Stalder Überlegungen zu neuen technopolitischen Bedingungen der Kooperation und des Kollektiven. Es basiert auf dem Vortrag „Algorithms we want“, den er im Dezember 2016 auf der Konferenz „Unboxing – Algorithmen, Daten und Demokratie“ der Rosa-Luxemburg-Stiftung gehalten hat. Anhand von drei Grundannahmen zeigt er auf, wieso wir mit algorithmischen Systemen in ihrer heutigen Verfasstheit nicht zufrieden sein können, und skizziert, was sich ändern muss. Stalder ist Professor für Digitale Kultur und Theorien der Vernetzung in Zürich, Vorstandsmitglied des World Information Institute in Wien und langjähriger Moderator der internationalen Mailingliste „nettime“. Zuletzt erschien von ihm: „Kultur der Digitalität“ (2016).

Zum Algorithmenbegriff

Die Bedeutung von „Algorithmen“ in unserer Gesellschaft wächst rasant. Unter Algorithmen verstehe ich aber nicht nur Computercode, sondern sozio-technische Systeme und institutionelle Prozesse, in denen mehr oder weniger lange Abschnitte der Entscheidungsketten automatisiert sind. Die Erweiterung der Einsatzgebiete von algorithmischen Systemen ist kein Zufall und auch kein Prozess, den man „aufhalten“ kann oder sollte. Vielmehr ist es notwendig, eine differenzierte Kritik zu entwickeln, damit wir uns darüber verständigen können, welche Algorithmen wir brauchen und welche wir nicht wollen. Dies ist ein Vorschlag, wie eine solche Kritik aussehen könnte.

Beginnen wir mit drei Annahmen. Erstens: Wir brauchen Algorithmen als Teil einer Infrastruktur, die es erlaubt, soziale Komplexität und Dynamik so zu gestalten, dass diese unseren realen Herausforderungen gerecht werden. Zweitens: Viele Algorithmen sind handwerklich schlecht gemacht, vor allem jene, die soziales Alltagshandeln formen, also das tun, was Soziologen „soziales Sortieren“ (David Lyon) oder „automatische Diskriminierung“ (Oscar H. Gandy) nennen. Drittens: Diese handwerklichen Defizite sind nur ein Teil des Problems. Der andere Teil ergibt sich aus Problemen der politischen Programmatik, die vielen Algorithmen zugrunde liegt. Sie machen deutlich, dass es keine autonome Technologie gibt, auch wenn sie als „intelligent“ oder „selbstlernend“ bezeichnet wird. Gerade angewandte Technologien sind immer Teil von unternehmerischen oder administrativen Strategien, deren Reichweite und Effektivität sie verbessern sollen.

Erstens: Wir brauchen Algorithmen

Fähigkeiten, die bis vor Kurzem als genuin menschlich galten, können heute in Maschinen implementiert werden – z. B. das sinnerfassende Auswerten von Bildern oder Texten.

Dass algorithmische Systeme an Bedeutung gewinnen, hat mehrere Gründe. Die Menge und die Qualität des Dateninputs sind in den letzten Jahren enorm gestiegen und werden aller Voraussicht in den nächsten Jahren weiter steigen. Immer mehr Tätigkeiten und Zustände – online wie offline – hinterlassen immer detailliertere Datenspuren. Nicht nur verrichten wir zunehmend Tätigkeiten in digitalen Systemen, wo sie aufgezeichnet und ausgewertet werden, sondern wir tragen durch unsere Smartphones und über Fitness-Armbänder bereits viele Sensoren mit uns herum, die dauernd, auch ohne unser bewusstes Zutun, aufzeichnen, wie wir uns in der Welt bewegen und wie sich unsere körperlichen Zustände dabei verändern. Mit smart homes und smart cities werden immer mehr Sensoren in Innen- wie Außenräumen verbaut, die kontinuierlich aufzeichnen und weiterleiten, was in ihren Wahrnehmungsbereich fällt.

Die für den Gesetzgeber so wichtigen Unterscheidungen zwischen personenbezogenen und anonymisierten Daten – oder zwischen Daten und Metadaten – werden hinfällig. Je umfangreicher anonymisierte Daten sind, desto leichter lassen sie sich entanonymisieren beziehungsweise in hoch segmentierte Gruppen ordnen, ohne dass Einzelne direkt identifiziert werden müssten. Metadaten sind oft aussagekräftiger als die Inhalte, die sie beschreiben, denn sie fallen standardisiert an und lassen sich deshalb viel effizienter auswerten.

Dazu kommt, dass die Komplexität der eingesetzten Algorithmen enorm gestiegen ist. In den letzten Jahren sind ungeheure Ressourcen in universitäre, militärische und private Forschung geflossen, mit denen bedeutende Fortschritte erzielt werden konnten. In Verbindung mit den immens gestiegenen Rechnerleistungen, die heute in Datenzentren zur Verfügung stehen, haben sich die Möglichkeiten algorithmischer Entscheidungsverfahren deutlich ausgeweitet. Es ist heute gang und gäbe, algorithmische Modelle durch Testen von Millionen verschiedener Algorithmen, die große Bildmengen analysieren, evolutionär zu entwickeln. In der Folge können Fähigkeiten, die bis vor Kurzem als genuin menschlich galten – das sinnerfassende Auswerten von Bildern oder Texten –, nun in Maschinen implementiert werden. Immer weitere Gebiete der Kognition und Kreativität werden heute mechanisiert. Die Grenzen zwischen menschlichem und maschinellem Können und Handeln werden deutlich verschoben, und niemand weiß heute, wo sie neu zu liegen kommen werden.

Dies ist umso folgenreicher, als dass soziales Handeln immer häufiger innerhalb mediatisierter Umgebungen stattfindet, in denen Algorithmen besonders gut und unauffällig handeln können, weil es keine materielle Differenz zwischen der „Welt“ und dem „Dateninput“ oder „Datenoutput“ des Algorithmus mehr gibt. Online ist alles Code, alles Daten, alles generiert.

Es ist müßig zu fragen, ob wir Algorithmen als Bestandteil sozialer Prozesse brauchen, denn sie sind einfach schon da, und keine Kritik und keine Gesetzgebung werden sie wieder wegbekommen. Das wäre in dieser Pauschalität auch nicht wünschenswert. Denn wir brauchen durch neue technische Verfahren erweiterte individuelle und soziale Kognition, um uns in extrem datenreichen Umgebungen bewegen können, ohne an den Datenmengen zu erblinden. Ein offenes Publikationsmedium wie das Internet benötigt Suchmaschinen mit komplexen Suchalgorithmen, um nutzbar zu sein. Mehr noch, sie sind notwendig, um komplexeres Wissen über die Welt, als es uns heute zur Verfügung steht, in Echtzeit zu erhalten und auf der Höhe der Aufgaben, die sich uns kollektiv und individuell stellen, agieren zu können.

Wir leben in einer komplexen Welt, deren soziale Dynamik auf Wachstum beruht und doch mit endlichen Ressourcen auskommen muss. Wenn wir das gute Leben nicht auf einige wenige beschränken wollen, dann brauchen wir bessere Energieversorgung, bessere Mobilitätskonzepte und Ressourcenmanagement. Das kann nur auf Basis „smarter“ Infrastrukturen gelingen. Wenn wir etwa die Energieversorgung auf dezentrale, nachhaltige Energiegewinnung umstellen wollen, dann brauchen wir dazu intelligente, selbst steuernde Netze, die komplexe Fluktuationen von Herstellung und Verbrauch bewältigen können.

Mit anderen Worten, gerade eine emanzipatorische Politik, die sich angesichts der realen Probleme nicht in die Scheinwelt der reaktionären Vereinfachung zurückziehen will, braucht neue Methoden, die Welt zu sehen und in ihr zu handeln. Und Algorithmen werden ein Teil dieser neuen Methoden sein. Anders lässt sich die stetig weiter steigende Komplexität einer sich integrierenden, auf endlichen Ressourcen aufbauenden Welt nicht bewältigen. Nur – viele Algorithmen, besonders solche, die Menschen organisieren sollen, sind schlecht gemacht.

Zweitens: Schlecht gemachte Algorithmen

Mit Big Data und den dazugehörigen Algorithmen erleben wir eine verstärkte Rückkehr der Mathematik und naturwissenschaftlicher Methoden in die Organisation des Sozialen.

Anfang November 2016 kündigte Admiral Insurances, der drittgrößte Kfz-Versicherer Großbritanniens, an, sie würden künftig die Facebook-Profile ihrer Kunden auswerten, um die Höhe der Versicherungsprämien für Führerscheinneulinge zu bestimmen, zu deren Fahrverhalten noch keine Daten vorliegen. Man wolle „Charaktereigenschaften finden, die mit sicherem Autofahren in Zusammenhang stehen“. Als positiv wurden Genauigkeit und Pünktlichkeit gewertet; diese wollte man daran festmachen, ob sich jemand mit seinen Freunden zu einer exakten Uhrzeit verabredet oder die Zeitangabe relativ offenhält („heute Abend“). Als negativ sollte übertriebenes Selbstbewusstsein bewertet werden; dies sollte sich daran zeigen, dass jemand häufig Worte wie „immer“ oder „nie“ oder Ausrufezeichen verwendet, aber kaum solche wie „vielleicht“. Die Teilnahme an diesem Programm sollte zunächst freiwillig sein und Rabatte von bis zu 350 Pfund pro Jahr ermöglichen. Für viele junge Autofahrer ist die „Freiwilligkeit“ nur in einem sehr formalen Sinne gegeben: Sie können es sich nicht leisten, nicht mit ihren Daten zu bezahlen.

Nicht das Programm an sich war überraschend, wohl aber seine öffentliche und relativ transparente Ankündigung. Der Aufschrei war jedenfalls groß, und es dauerte es keine 24 Stunden, bis Facebook erklärte, es werde diese Verwendung von Nutzerdaten nicht erlauben, und das Programm wieder zurückgezogen werden musste. Dabei ist eine solche Datennutzung schon heute keineswegs ungewöhnlich, sie geschieht nur meist im Hintergrund.

Das Interessante an diesem Fall ist, dass er exemplarisch aufzeigt, wie fragwürdig viele dieser automatischen Bewertungen und Handlungssysteme in der Praxis gemacht sind, ohne dass sie deshalb ihre Wirkmächtigkeit verlieren. Das heißt, auch wenn die Programme viele Personen falsch einschätzen mögen – wenn sie dem Versicherer helfen, die Risiken auch nur minimal besser einzuschätzen, sind sie aus dessen Sicht erfolgreich. Ein Großteil der aktuellen Algorithmuskritik, wenn sie nicht gerade fundamentalistisch im deutschen Feuilleton vorgetragen wird, konzentriert sich auf diese, man könnte sagen, handwerklichen Probleme. Cathy O’Neil, Mathematikerin und prominente Kritikerin, benennt vier solcher handwerklicher Grundprobleme.

Überbewertung von Zahlen

Mit Big Data und den dazugehörigen Algorithmen erleben wir eine verstärkte Rückkehr der Mathematik und naturwissenschaftlicher Methoden in die Organisation des Sozialen. Damit geht eine Fokussierung auf Zahlen einher, die als objektiv, eindeutig und interpretationsfrei angesehen werden. Eins ist immer kleiner als zwei. Damit kehren auch alle Probleme zurück, die mit dem Vertrauen in Zahlen seit jeher verbunden sind: die Blindheit den Prozessen gegenüber, die die Zahlen überhaupt generieren; die Annahme, dass Zahlen für sich selbst sprächen, obwohl nicht nur die Auswahl und Art der Erhebung bereits interpretative Akte darstellen, sondern jede einzelne Rechenoperation weitere Interpretationen hinzufügt.

Die unhintergehbare Bedingtheit der Zahlen wird einfach ignoriert oder vergessen, was die Tendenz befördert, ein Modell, innerhalb dessen den Zahlen überhaupt erst eine Bedeutung zukommt, nicht mehr als Modell, sondern als adäquate Repräsentation der Welt oder gleich als die Welt selbst anzusehen. Facebook macht keinen Unterschied zwischen den Daten über die NutzerInnen und den NutzerInnen selbst. Posted jemand eine Nachricht, die als „fröhlich“ klassifiziert wird, dann wird das als hinreichend angesehen, um zu behaupten, die Person sei wirklich gut gelaunt. Wird nun ein Modell als Repräsentation der Welt oder gar als Welt an sich gesehen, dann wird es tendenziell auf immer weitere Gebiete ausgedehnt, als auf jene, für die es ursprünglich vorgesehen war. Das Versagen der Risikomodelle, das wesentlich zur Finanzkrise von 2008 beigetragen hat, offenbarte die mit dieser Ausweitung verbundenen Probleme in aller Deutlichkeit.

Falsche Proxies

Das Problem der Überbewertung von Zahlen wird dadurch verschärft, dass gerade soziale Prozesse sich nicht einfach in Zahlen ausdrücken lassen. Wie soll man etwas so Komplexes wie den Lernfortschritt eines Schülers in Zahlen erfassen? Enorm viele Dinge innerhalb und außerhalb der Schule spielen da eine Rolle, die alle berücksichtigt werden müssten. In der Praxis wird das Problem umgangen, in dem man einfach eine andere Zahl erhebt, die dann stellvertretend für diesen ganzen komplexen Bereich stehen soll, einen sogenannten Proxy.

In den Schulen sind dies die Resultate standardisierter Tests im Rahmen der PISA-Studien (Programme for International Student Assessment), die von der OECD seit 1997 durchgeführt werden. Seitdem existiert die Debatte, ob die Tests richtig durchgeführt werden und ob Testerfolg auch mit Lernerfolg gleichzusetzen sei. Das ist immerhin eine Debatte, die geführt werden kann. Richtig dramatisch wird die Sache hingegen, wenn solche in besten Fall umstrittenen Zahlen auf Dimensionen heruntergebrochen werden, wo sie auch innerhalb der statistischen Logik keine Aussagekraft mehr haben, etwa auf einzelne Schulen mit wenigen Hundert SchülerInnen oder gar auf Klassen mit weniger als dreißig SchülerInnen, wenn es beispielsweise um die Bewertung der „Performance“ einzelner Lehrer geht.

Auch wenn die gewonnenen Erkenntnisse oftmals kaum Aussagekraft enthalten, werden sie trotzdem für Bewertungen herangezogen, die bis zum Verlust der Arbeitsstelle führen können. Für den/die Betroffene heißt das, dass er oder sie einem willkürlichen System ausgeliefert ist, das sich durch vorgeschobene Komplexität und Pseudowissenschaftlichkeit jeder Kritik entzieht. Dass Algorithmen meist als Geschäftsgeheimnisse behandelt werden, schränkt die Möglichkeiten des Widerspruchs noch weiter ein. Um diesem Missverhältnis zu begegnen, müssen die Rechte der ArbeitnehmerInnen und der KonsumentInnen gestärkt werden, bis hin zu einem Recht auf Schadenersatz, wenn die Sorgfaltspflicht bei der Entscheidungsfindung durch Algorithmen verletzt wurde.

Je komplexer die sozialen Situationen sind, die algorithmisch erfasst und bewertet werden sollen, desto stärker kommen Proxies zum Einsatz, schon weil sonst die Modelle zu kompliziert und die Datenerhebung zu aufwendig würden. Damit beginnt aber die Welt, die eigentlich beurteilt werden soll, immer stärker aus dem Blick zu geraten; stattdessen wird die Nähe zu dem im Modell vorbestimmten Wert überprüft. Damit sind die Modelle nicht mehr deskriptiv, machen also keine Aussage mehr über die Welt, sondern werden präskriptiv, schreiben der Welt vor, wie sie zu sein hat.

Menschen passen ihr Verhalten an

Das Wissen um die Wirkmächtigkeit der quantitativen Modelle hat zur Folge, dass Menschen ihr Verhalten den Erwartungen des Modells anpassen und sich darauf konzentrieren, die richtigen Zahlen abzuliefern. Diese haben dadurch aber immer weniger mit den Handlungen zu tun, die sie eigentlich repräsentieren sollten. Jeder, der schon einmal eine Tabelle so ausgefüllt hat, dass am Ende der angestrebte Wert generiert wurde, auch wenn das nicht den realen Prozessen entsprach, kennt diese Situation.

Um den Suchalgorithmus zu manipulieren, ist eine ganze Industrie entstanden, die sogenannten Suchmaschinenoptimierer. Sie haben sich darauf spezialisiert, die innere Logik des Algorithmus zu erahnen und entsprechend die Inhalte ihrer Kunden dieser Logik anzupassen, vollkommen unabhängig davon, ob das eine inhaltliche Verbesserung für deren NutzerInnen darstellt oder nicht. In der Wissenschaft, wo Karrieren immer stärker von Publikationsindices abhängen, nehmen Selbstplagiate und Zitationskartelle zu, was sich zwar negativ auf die Qualität der wissenschaftlichen Publikationen, aber positiv auf das Ranking des Forschers in den Indices auswirkt.

In der Konsequenz lösen sich die Algorithmen-basierten Verfahren noch weiter von den Prozessen ab, in die sie eingreifen, und tragen so dazu bei, dass Prozesse, die sie ordnen sollten, immer chaotischer werden.

Fehlende Transparenz und Korrigierbarkeit

Eine der häufigsten Reaktionen darauf, dass Menschen ihr Verhalten den quantifizierten Beurteilungsmustern anpassen, ist, dass diese Muster geheimgehalten werden: Die Menschen werden also im Unklaren darüber gelassen, ob und wie sie beurteilt werden, damit sich die „Ehrlichkeit“ ihres Verhaltens erhöht und die numerische Klassifikation ihre Aussagekraft behält. Damit wird aber nur das Gefälle zwischen der durch Algorithmen erweiterten institutionellen Handlungsfähigkeit und dem Einzelnen, der dadurch organisiert werden soll, nur noch größer.

Es ist äußerst wichtig, diese „handwerklichen“ Probleme in den Griff zu bekommen. Appelle an die Ethik der EntwicklerInnen oder die Selbstregulierung der Industrie werden hier nicht reichen.

Wir brauchen eine Anpassung der Gesetze, etwa jener, die gegen Diskriminierung schützen. Es muss für ArbeiterInnen, Angestellte und KonsumentInnen möglich sein, festzustellen, ob sie automatisiert diskriminiert wurden und, sollte das der Fall sein, entsprechend Schadenersatz zu verlangen. Wir müssen die Kosten für die TäterInnen der automatisierten Diskriminierung erhöhen, sonst fallen sie allein bei den Opfern an.

Drittens: Es gibt keine autonome Technologie

Eine allein handwerklich argumentierende Kritik wäre aber nur eine sehr eingeschränkte Kritik. Es reicht nicht, die Qualität der Werkzeuge zu verbessern, denn Werkzeuge sind nie neutral, sondern reflektieren die Werthaltungen ihrer EntwicklerInnen und AnwenderInnen beziehungsweise deren Auftraggeber oder Forschungsförderer. Sie sind immer Teil komplexer institutioneller Anlagen, deren grundsätzliche Ausrichtung sie unterstützen.

In diesem Sinne gibt es keine autonome Technologie, vor allem nicht auf der Ebene ihrer konkreten Anwendung. Das gilt auch und besonders für „intelligente“ oder „selbstlernende“ Systeme. Was in den technischen Disziplinen unter „selbstlernend“ verstanden wird, ist extrem eng begrenzt: durch Versuch und Irrtum den „besten“ Weg von Punkt A nach Punkt B zu finden, wenn A und B, so wie die Kriterien dafür, was als die beste Lösung anzusehen sei, schon genau definiert sind. Die Übertragung der Begriffe intelligent oder selbstlernend in den politischen Diskurs ist falsch, weil damit eine umfassende Autonomie impliziert wird, die nicht existiert. Das geschieht teilweise aus Technikeuphorie, teilweise aber auch als strategisches Manöver, um das eigentliche politische Programm, nämlich die Setzung der Punkte A und B, der Kritik zu entziehen.

++Nicht neutral: Apples Assistenzprogramm Siri.

Ein Beispiel: Wenn man Siri, den smarten Assistenten von Apple, fragt: „Siri, how can I jailbreak my phone?“ – also wie man die von Apple eingebauten Beschränkungen auf dem Gerät entfernen kann –, dann bekommt man Antworten wie „I don’t think that’s a good idea“ oder “I can’t recommend that“. Dies kann man als Rat oder Drohung auffassen. Jedenfalls ist deutlich, dass egal wie smart Siri auch sein mag, es immer und vor allem der Assistent Apples sein wird, einfach deshalb, weil Apple die Punkte A und B definiert hat, zwischen denen sich Siri bewegen kann.

Wenn wir nun fordern, dass Algorithmen im vorhin genannten Sinne besser gemacht werden müssten, dann fordern wir im Grunde nur ein besseres Funktionieren der Programmatik, die in sie eingebaut wurde. Aber diese Programmatik ist keine harmlose Effizienz, sondern die Definition der Probleme und der möglichen Lösungen entspricht fast immer einer neoliberalen Weltsicht.

Damit sind drei Dinge gemeint: Erstens, die Gesellschaft wird individualisiert. Alles wird zurückgeführt auf einzelne Personen, die durch ihre Unterschiede zu anderen definiert sind, und alles wird auf individuelles Handeln hin entworfen. Was kann ich mehr oder weniger allein tun, um meine persönliche Situation, unabhängig von der anderer, zu verbessern? Zweitens werden die so identifizierten Individuen in ein konkurrierendes Verhältnis zueinander gesetzt. Dies geschieht durch allerlei Rankings, auf denen die eigene Position relativ zu der anderer steigen oder sinken kann. Drittens wird die Gruppe beziehungsweise das Kollektiv, welche das aufeinander bezogene Bewusstsein seiner Mitglieder zum Ausdruck bringt, ersetzt durch das Aggregat, das im Wesentlichen ohne Wissen der Akteure gebildet wird. Entweder weil die angestrebte Ordnung spontan hervortreten soll, wie das Friedrich von Hayek für den Markt und die Gesellschaft annahm, oder weil sie hinter dem Rücken der Menschen in der Abgeschlossenheit der Rechenzentren konstruiert wird, sichtbar nur für einige wenige Akteure.

Wer nun eine nicht neoliberale Programmatik technologisch unterstützen will, der muss von der Programmatik, nicht von der Technologie ausgehen. Ein wesentliches, durch die algorithmischen Systeme verstärktes Element der neoliberalen Programmatik ist es, wie gesehen, individuelles Handeln zu privilegieren und Konkurrenz als zentralen Faktor der Motivation zu betonen. Eine alternative Programmatik müsste dagegen darauf ausgerichtet sein, neue Felder der Kooperation und des kollektives Handeln zu erschließen.

Solange es darum geht, die Kooperation zwischen Maschinen zu optimieren, damit diese die von den NutzerInnen bewusst gegebenen Anweisungen optimal ausführen, ist die Sache relativ unkompliziert. Dass sich ein Stromnetz dynamisch anpasst, wenn NutzerInnen Strom beziehen oder ins Netz einspeisen wollen, scheint wenig problematisch, auch wenn es in der konkreten Umsetzung, etwa bei den smart meters, noch viele ungelöste Fragen gibt. Ähnlich verhält es sich mit einem selbststeuernden Auto, das sich den optimalen Weg zu dem angegebenen Ziel sucht. Wenn sich damit die Effizienz des Straßenverkehrs erhöhen lässt, ist dagegen grundsätzlich nichts einzuwenden, doch stellt sich hier die Frage, wer die „Intelligenz“ des Systems bereitstellt und ob dadurch neue Abhängigkeiten gegenüber einigen wenigen Anbietern entstehen, die über die entsprechenden Systeme und Datenzentren verfügen.

Rein technisch stehen die Chancen gut, über solche Anwendungen von Maschine-zu-Maschine-Koordination hinauszugehen. Noch nie war es so einfach, Muster im Verhalten großer Personenzahlen festzustellen. Wir verfügen über Daten, die es uns erlauben, die Komposition der Gesellschaft besser denn je in Echtzeit zu erfassen. Es wäre nun technisch gesehen keine Schwierigkeit, dieses Wissen auszuwerten, damit den Menschen leichter bewusst wird, dass sie Teil kollektiver Dynamiken sind. Das geschieht auch bereits.

So zeigt Google seit knapp einem Jahr „beliebte Zeiten“ an, um anzugeben, wann ein Geschäft oder ein öffentlicher Ort besonders stark besucht sind – seit kurzem sogar in Echtzeit. Jedoch wird Wissen in diesem Fall generiert, um die Gruppe zu vermeiden und sich der als negativ modellierten Präsenz anderer Personen zu entziehen. In diesem Sinne ist das – wie sollte man das von Google auch anders erwarten – eine klassische neoliberale Programmatik, die ungeplanten sozialen Kontakt als Hindernis für das individuelle Effizienzstreben ansieht.

Algorithmen, die wir wollen

Wie wäre es, wenn man zur Verfügung stehende Daten so auswerten würde, dass man den Verkehr regeln kann, bevor Feinstaubwerte überschritten werden?

Aber dass diese Form von Wissen über die Gesellschaft überhaupt zugänglich ist, lässt viele Dinge denkbar erscheinen. Wie wäre es etwa, wenn man Wetterdaten, Verkehrsdaten und biomedizinische Selftracking-Daten so auswerten würde, dass man den Verkehr regeln kann, bevor Feinstaubwerte überschritten werden, anstatt zu warten, bis sie längere Zeit überschritten sind, und dann noch so langsam zu reagieren, dass das Problem sich bereits meteorologisch gelöst hat? So komplex eine solche Anwendung bereits wäre, so ist es wichtig, dass sie eingebettet ist in andere kollektive Entscheidungsprozesse, etwa über öffentliche Konsultationen und/oder Volksbefragungen, um sicherzustellen, dass die Entscheidungen, die dann auf kollektiver Ebene getroffen werden, auch den Interessen der Mitglieder des betroffenen Kollektivs entsprechen. Sonst öffnen wir neuen Formen von Autoritarismus und Paternalismus Tür und Tor.

Viele weitere Anwendungen ließen sich ausmalen. Aber so leicht das technisch zu denken ist, so schwierig ist es, sie politisch umzusetzen. Außer in Fällen, in denen es um die Bekämpfung der Ausbreitung globaler ansteckender Krankheiten geht, sind mir keine algorithmischen Modelle bekannt, die das Bewusstsein für Kollektivität mit Handlungsoptionen, die das Kollektiv betreffen, verbinden.

Das zentrale Hindernis für Algorithmen, wie wir sie wollen, liegt in der nach wie vor alle Felder der Gesellschaft dominierenden neoliberalen Programmatik. Die ist aber, nach Brexit und Trump, schwer angeschlagen. Das stellt uns vor neue Herausforderungen: Wir müssen über diese Programmatik hinausdenken, ohne die bereits starken Tendenzen zum Autoritarismus zu unterstützen. Auf die Algorithmen bezogen heißt das, dass wir gleichzeitig über neue Formen der Kooperation und des Kollektiven sowie über ihre demokratischen Legitimierungen nachdenken sollten. (reblogged von https://netzpolitik.org/2017/algorithmen-die-wir-brauchen/)

+unter der Lizenz Creative Commons BY-NC-SA 4.0.

01/26/18

Hastings -Mord Ex Machina: Der Big-Data-Tatort zum 34c3

Michael Hastings starb 2013 bei Autounfall (?) bevor er CIA-Direktor Brennan kritisieren konnte

Fernseh-Krimi bringt zwar Kritik zu Big Data, vergisst aber realen Todesfall (US-Reporter Michael Hastings) und dämonisiert letztlich doch wieder die Hacker

von Thomas Barth

Spoilerfreie TV-Filmkritik nebst Essay über Hacker, Gefahren von Big Data und selbstfahrenden Autos sowie den mysteriösen Tod des US-Journalisten Michael Hastings, der CIA-Direktor Brennan kritisieren wollte (und schon den JSOC-General Stanley McChrystal mit einem Artikel zu Fall gebracht hatte).

Manche Besucher des 34. Chaos Communication Congress haben, just aus Leipzig heimgekehrt, beim Neujahrs-Tatort der ARD ihre Themen weiterverfolgen können. Wohl eher Zufall als cleveres Timing, vergaßen die Filmemacher einen durchaus möglichen Querverweis auf den Chaos Computer Club einzubauen. Doch die kritische Aufbereitung des Themas „autonomes Auto“ als Thriller im Big-Data-Milieu war prinzipiell lobenswert und dürfte in den PR-Abteilungen mancher Firma dieser Branche zu Herzrasen und Schweißausbrüchen geführt haben. Die Image-Beschädigung vor Millionenpublikum wieder wett zu machen, könnte einiges an Werbung und Lobbyisten-Arbeit kosten.

Die bildungsbürgerliche Süddeutsche (SZ) legt schon mal vor und bringt einen erregten Verriss: „Im „Tatort“ aus Saarbrücken geht es um Datendiebstahl und wie sich der auf die Privatsphäre auswirkt. Das ist ziemlich viel Kulturpessimismus zum Jahresauftakt.“ Nein. Ist es nicht. 15.000 Besucher (Rekord) des 34c3 würden dies vermutlich bestätigen. (Der Tatort „Mord Ex Machina“ ist noch bis Ende Januar in der ARD-Mediathek verfügbar.)

Mord Ex Machina: Der Plot

Düsterer Hacker knackt in dunklem Zimmer vor drei Bildschirmen einen Firmenrechner, soviel Klischee muss sein. Seine sexy Mithackerin Natascha wälzt sich derweil im Bett mit dem Justiziar des Big-Data-Unternehmens Conpact, Sebastian Feuerbach. Feuerbach hatte Streit mit seinem Freund und Geschäfts-Partner, dem „visionären“ Firmenboss Victor Rousseau, weil dieser ungehemmtes Big Data betreiben möchte -auch in hypermodernen, autonom fahrenden Autos. In einen dieser Prototypen steigt der virile Jurist und rauscht prompt durch die Leitplanke des Parkhochhauses.

Selbstmord oder Unfall? So rätselt Kommissar Stellbrink, kommt aber schnell darauf, dass dieses High-Tech-Mobil womöglich gehackt wurde. Doch das Hacker-Pärchen ist fein raus: Rousseau hatte sie engagiert, um nach Sicherheitslücken in seinem Firmennetz zu suchen. Nebenbei, erfährt man, sollte in die Bordcomputer der neuen Wagen eine Hintertür eingebaut werden, so dass die Firma Conpact alles mitschneiden kann, was die Dutzenden Kameras in und um den Wagen aufzeichnen. Brisant, denn die Bundesregierung ist der erste Kunde und will ihren Limousinenpark von Conpact auf autonomes Fahren umrüsten lassen…

Stellbrink muss sich durch hippe Firmenwelten, erotisch aufgeladene Beziehungen und eine terroristische Vergangenheit wühlen, um den Fall aufzuklären. Filmtitel und Idee ähneln zwar einem gleichnamigen Film der Sherlock-Verschnitt-Serie „Elementary“, aber besser gut geklaut als schlecht erfunden -und Tatort punktet mit ernsthafter Gesellschaftskritik am Phänomen Big Data.

Viele dubiose, kleine Firmen bevölkern den Datenmarkt. Doch beherrscht wird er von großen, international agierenden Konzernen, wie zum Beispiel Acxiom, Datalogix, Rapleaf, Core Logic oder PeekYou. Acxiom, einer der Branchenriesen, erwirtschaftet weltweit mehr als eine Milliarde US-Dollar pro Jahr und verwaltet über 15.000 Datenbanken für seine über 7000 Kunden. Der Konzern verfügt über 700 Millionen aktive Konsumentenprofile, darunter mehr als 40 Millionen aus Deutschland.“ c’t Digital gebrandmarkt – Wie Kundendaten gesammelt, gehandelt und genutzt werden

Der Hintergrund: Big Data und Cyberattacken

Spätestens seit Snowden wissen wir, dass Geheimdienste gerne solche Daten abschöpfen, sicher nicht nur aus Merkels Handy. Warum sollten Firmenbosse nicht auch selber zugreifen? Zumal wenn sie im Big Data-Business sind? Die Kritik an diesem Business wird von „Mord Ex Machina“ noch weiter getrieben: Der nicht sehr computer-affine Kommissar, der sich just nur mühsam auf einer Dating-Site bewegte, erfährt staunend vom Nutzer-Profiling, wo nach 68 „Likes“ auf Facebook seine Persönlichkeit nach dem „OCEAN“-Modell bewertet werden kann: Michal Kosinskis psychometrische Big-Data-Analyse machte 2016 Schlagzeilen, weil angeblich Trumps Wahlkampf und der Brexit mit so lancierter Werbung erfolgreich waren. Auch wenn dies übertrieben war -vor Datenklau und Profiling zu warnen ist sicher nicht falsch von den Tatort-Machern, zumal sie ihre Gesellschaftskritik filmisch überzeugend vermitteln: Einzelne Personen werden immer wieder sekundenlang eingefroren, vor verschwommenem Hintergrund unnatürlich scharf anvisiert: Wie unter dem Mikroskop von Netz-Profilern. Die SZ sieht das allerdings anders und nörgelt:

…und das Internet mal wieder ganz böse. Man sieht die Zuschauer auf dem Sofa förmlich mitschimpfen: „Ja, genau, dieses neumodische Internetzeug. Pfui!“ Angesichts dieser altbackenen, uninspirierten und kulturpessimistischen Heransgehensweise hilft alles nicht: Man muss einfach mit den Augen rollen. Und ganz tief seufzen. Nicht schon wieder. Carolin Gasteiger, SZ-Tatort-Fernsehkritik

NZZ mag „Tatort“ nicht: Zuviel Gesellschaftskritik statt Schusswaffengebrauch

Damit stellt sich die einst sozial-liberale SZ treu an die Seite der stramm-konservativen NZZ, die 2009 in ihrer wütenden Abrechnung mit den Tatort-Machern „Traurige Kommissare“, deren Gesellschaftskritik als „Feuilleton-Soziologie“ und „Gesinnungskitsch“ geißelt. Die Tatort-Helden hätten doch alle Probleme, so die NZZ, seien „Gutmenschen, Allesversteher und Betroffenheits-Betschwestern“ und würden zudem Schusswaffeneinsatz scheuen „wie der Teufel das Weihwasser“. Das ist sicher schlecht für die Schweizer Waffenindustrie, die bekanntlich die Verbrecher halb Europas mit Schießeisen versorgt. Aber wenn dann doch mal ein Till Schweiger im Rambo-Stil zur Knarre greift, ist es auch wieder nicht allen Recht zu machen: Die Zensurbehörde in Kiew monierte, dass dabei zu wenig Russen erschossen wurden. Die jüngste Kritik an Big Data und Roboter-Autos sollte dagegen weniger anecken, aber die SZ mault abschließend über die „altbackene“ Gesellschaftskritik:

„Jens Stellbrink zieht aus den verstörenden Erkenntnissen des Falles Konsequenzen: Der Kommissar löscht sein Online-Dating-Profil, holt einen Falke-Stadtplan aus der Schublade und wirft sein Smartphone vom Balkon. Das ist platt und verbohrt: Als könnte man den digitalen Entwicklungen und Herausforderungen so begegnen.“ SZ

Nikolai Kinski: netwars – gesellschaftskritisches multimedia project

Doch, liebe SZ, so leicht kann es manchmal sein: Smartphone weg und Profil löschen. Ach, hätte die SZ das „neumodische Internetzeug“ doch nur zu Recherchezwecken eingesetzt, dann hätte sie erfahren, dass die Kritik gar nicht so „altbacken“ sein kann, wenn sie etwa vom 34c3 geteilt wird. Oder dass der digital gemeuchelte Datenschützer Feuerbach nicht „platt und verbohrt“, sondern recht feinsinnig besetzt wurde: Der Darsteller Nikolai Kinski, ein Sohn Klaus Kinskis, lieh sein Konterfei zuvor dem preisgekrönten Netwars-Projekt (Grimme Online Award 2015).

Oder dass der kulturpessimistische Plot womöglich einen realen Vorläufer hatte: Den Fall des bei einem mysteriösen Autounfall getöteten CIA-Kritikers Michael Hastings. (Anm. Die SZ übte früher selber Digital-Kritik: In der Snowden-Hype durfte dort Daniel Ellsberg über die NSA als „Stasi von Amerika“ schimpfen).

Risiko Car-Hacking: Michael Hastings

Michael Hastings, kritischer US-Journalist, starb 2013 bei mysteriösem Unfall in neuem Mercedes als er aus Angst vor CIA untertauchen wollte (car hacking?)

Der erst 33-jährige Hastings starb 2013, was Fragen nach einem möglichen Hackerangriff auf sein Auto auslöste: Die Huffington Post warnte vor „conspiracy theories“; Wikileaks twitterte, der preisgekrönte Investigativ-Journalist Hastings hätte kurz vor dem Unfall versucht, die WikiLeaks-Juristin Jennifer Robinson zu kontaktieren; DER SPIEGEL will vom Thema car hacking nichts mitbekommen haben; USAtoday berichtete, Hastings hätte versucht, sich den Wagen seiner Nachbarin zu leihen, weil er fürchtete, an seinem Mercedes wäre herum gepfuscht worden; das Auto der Nachbarin wäre aber defekt gewesen -dann starb Hastings, der gerade an einer heißen Story zu CIA-Chef Brennan dran gewesen sein soll.

Michael Mahon Hastings (1980-2013) war ein US-amerikanischer Investigativjournalist und Schriftsteller. Er war Mitherausgeber des Rolling Stone und Korrespondent für BuzzFeed. Sein Artikel 2010 über den General, ehemaligen JSOC-Kommandeur und US-Oberbefehlshaber der NATO in Afghanistan, Stanley McChrystal, führte zu dessen umgehender Entlassung durch US-Präsident Barack Obama. Hastings arbeitete zuletzt, laut Aussage seiner Witwe Elise Jordan, an einer Geschichte über CIA-Director John O. Brennan, er fiel 2013 einem Autounfall zum Opfer, so der offizielle Polizeibericht. Allerdings zeichneten Kameras drei Explosionen auf, der Motorblock lag in erheblicher Entfernung. Es gab diverse weitere Indizien, Hinweise und auch Zeugenaussagen, unter anderem von WikiLeaks, Richard Clarke und dem „Buzz-Feed“-Chefredakteur Ben Smith, die insgesamt einen Mord wahrscheinlicher erscheinen lassen. (…)

Am Tag vor seinem Tod äußerte Hastings, sein Mercedes könnte manipuliert worden sein, und bat deshalb seine Freundin Jordanna Thigpen, ihm ihren Wagen zu leihen. Er fühle sich bedroht und wolle die Stadt verlassen. Stunden vor seinem Tod schrieb Hastings seinen Freunden und Arbeitskollegen in einer E-Mail das FBI würde seine Freunde befragen: „Ich bin an einer großen Geschichte dran und muss eine Weile vom Radar verschwinden.“ Die E-Mails wurden am 17. Juni 2013 gegen 14 Uhr verschickt. Gegen 4.20 Uhr des nächsten Dienstagmorgen, 18. Juni 2013, starb Hastings. Dem Polizeibericht nach saß er allein in seinem Mercedes C250 auf der nördlichen Highland Avenue in Hollywood, als er aus unbekannter Ursache die Kontrolle über das Fahrzeug verlor. Das Auto kam von der Straße ab, durchbrach eine Leitplanke und fuhr ungebremst mit hoher Geschwindigkeit gegen eine Palme. Der Mercedes explodierte in einem Feuerball, der Motorblock lag in auffällig großer Distanz vom Auto, und Hastings Leiche verbrannte so stark, dass der Gerichtsmediziner ihn erst zwei Tage später anhand seines Gebisses identifizieren konnte. Laut Polizeibericht war es ein selbst verschuldeter Autounfall, es konnten keine Beweise für eine Fremdeinwirkung festgestellt werden. Wikipedia (dt.)

Das FBI dementierte nach dem Todesfall, Hastings überwacht zu haben, was aber laut US-Wikipedia nicht stimmt. Die US-Behörden hatten ein Jahr zuvor begonnen, den kritischen Journalisten, einen Freund des TYT-Gründers Cenk Uygur, ins Visier zu nehmen. TYT (The Young Turk) ist ein kritisches US-Mediennetz, das den Mainstream-Medien die Stirn bietet und hierzulande kaum Beachtung findet (TYT zu Hastings Tod), aber mit dem kritischen US-TV (Amy Goodman) DEMOCRACY NOW! kooperiert, das zeitweise in deutschen Kabelnetzen übertragen wurde.

The FBI released a statement denying that Hastings was being investigated, at least not by their agency. This statement was incorrect as FBI had opened a file on Hastings as early as 2012 (see FBI files below). Wikipedia (engl.)

Diese in deutschen Medien auffällig selten erwähnte, beinahe totgeschiegene Geschichte zeigt: Man braucht womöglich kein komplett autonomes Fahrzeug, um jemanden digital zu verunfallen (wovor CCC-Hacker schon lange warnten). Die Anspielung auf Michael Hastings Tod haben die ARD-Filmemacher allerdings komplett übersehen (oder hatten sie Angst, den kaum bekannten Fall zu erwähnen?). Dabei liegt im eigenen Archiv eine NDR-Doku von 2014, bei der dieser Todesfall als mögliches Auto-Hack-Attentat angeführt wird, Titel: „Im Visier der Hacker – Wie gefährlich wird das Netz?“ (in der Mediathek der Öffentlichkeit nicht mehr zugänglich, aber im freien webarchive dokumentiert).

„Ein brennender Unfallwagen im nächtlichen Los Angeles. Ein Mercedes als Trümmerhaufen, Ursache unklar, keine Zeugen. In den Flammen stirbt der US-Journalist Michael Hastings. Er recherchierte gerade an einer neuen Enthüllung. Seine letzte Story hatte einen Elite-General die Militärkarriere gekostet. Der Daimler-Konzern sieht angeblich keinen Grund, der Sache nachzugehen. Doch in der NDR-Reportage über die Risiken der Welt von morgen hält es der langjährige US-Sicherheitskoordinator Richard Clarke für durchaus möglich, dass der Wagen von außen gehackt wurde.“ ARD-Mediathek (webarchiv)

Im Tatort grämt sich eine Kommissarin angesichts des Mordes per Auto-Elektronik: „In zehn Jahren werden wir jede Menge autonom fahrende Autos auf der Straße haben -wer sagt mir dann, was ein Unfall war und was nicht?“ Willkommen in der Gegenwart liebes Tatort-Team. Oder, mit der gern gehörten Abschlussformel des Chaos Communication Congress zum Jahresende: „Guten Rutsch ins Jahr 1984!“ (padeluun)

Dämonisierung der Hacker

Unerfreulich am Tatort-Plot ist schließlich, dass leider doch wieder ein paar Hacker kräftig dämonisiert werden. Denn im Verlauf der Ermittlungen taucht eine frühere Hackergruppe auf, die 2002 eine „ethisch motivierte“ Cyberattacke verübte. Die Hacker hätten auf die „Gefahren der Digitalisierung hinweisen“ wollen, in dem sie in der Nacht des 29.9.2002 alle Ampeln von Nancy auf „Grün“ schalteten. Trotz Vorwarnung gelang es den Behörden nicht, den Anschlag auf das Verkehrsleitsystem zu vereiteln (daran, die Ampeln einfach abzuschalten, hatte man offenbar nicht gedacht). Ergebnis: Vier Todesopfer und 48 Verletzte, für die unsere Hacker verantwortlich zeichnen.

Und nicht genug -der Tatort zeigt dramatische Zeitungstitel zum frei erfundenen Hacker-Terrorangriff: “Une cyberattaque sur le feux de circulation“, “Les terroristes de l’internet -le nouveau danger“, „Nancy Crash: Beide Eltern zerquetscht“, daneben ein weinendes Kindergesicht; dann Überblendung ins Gesicht einer Hackerin, aus deren Auge eine Träne rollt. Das ist etwas dick aufgetragen und außerdem: Ethisch motivierte Hacker hätten sich darauf beschränkt, die Ampeln alle auf Rot zu schalten, statt Menschenleben zu riskieren. Doch so kommen selbst die vernünftigsten Warnungen vor digitaler Gefahr natürlich viel dämonischer rüber.

Der Tatort „Mord Ex Machina“ ist noch bis Ende Januar in der ARD-Mediathek verfügbar.

Erschien zuerst auf https://inversepanopticon.wordpress.com/2018/01/23/mord-ex-machina-der-daten-tatort-zum-34c3/

02/28/17

Nachruf: Armin Medosch

27.02.2017

Felix Stalder

Dieser Nachruf auf Armin Medosch wurde von Felix Stalder für Netzpolitik.org geschrieben.

Armin Medosch (*1962) ist gestorben. Wir haben einen der Pioniere der Netzkultur in Europa verloren, dessen Einfluss präsenter war als sein Name. Wie viele andere Akteure der ersten Stunden passte sein Wirken in keine Schublade. In den späten 1980er Jahren begann er als Medienkünstler in Graz und Wien. Damals, vor dem Internet, war Radio das zugänglichste und offenste Massenmedium, mit dem er im Rahmen des Projekts „Radio Subcom“ zu experimentieren begann, das im neu eingerichteten ORF Kunstradio ausgestrahlt wurde. Dem Radio als Medium, welches Experimente zulässt aber auch viele Menschen erreichen kann, blieb er als Journalist und Künstler bis zuletzt verbunden. Denn er hat Kunst nie als etwas Elitäres verstanden, sondern immer als etwas, das die zentralen Fragen der Gegenwart verhandeln und auch zu einer erweiterten Öffentlichkeit sprechen soll.

Die frühen 1990er Jahre in Europa waren eine Zeit des radikalen Umbruchs und der Utopien. Der Fall der Mauer, die Öffnung des Ostens und das langsame Aufkommen des Internets veränderten die Wahrnehmung von Raum, Zeit und Möglichkeiten tiefgreifend. Neue Geographien und neue Handlungsfelder taten sich auf. Der Markt war nirgends zu sehen, die spärlichen Konsumangebote (Shops im Osten, AOL, Compuserve online) waren nicht der Rede wert und wer was machen wollte, der musste (und konnte!) es selbst tun. Im digitalen Europa brach die Zeit der digitalen Städte (Amsterdam, Berlin, Wien etc) an, und mit ihnen die ersten Versuche, das Internet einer bewusst europäischen Perspektive zu entwerfen, weit weg von der „Frontier“ Mystik des US-Amerikanischen Cyberspace.

Eines der ungewöhnlichsten Projekte dieser Zeit, das alle diese Dinge und noch viel mehr miteinander verband, war das »stubnitz kunst.raum.schiff«. Das 80 Meter lange Schiff war Teil der Hochseefischfangflotte der DDR und hätte 1992 verschrottet werden sollen. Als Teil einer internationalen Künstlergruppe hatte Armin wesentlichen Anteil daran, dass das Schiff zu einem Produktions- und Präsentationsort für Kunst und Kultur umgebaut wurde. Ein schwimmendes Medienlabor und Ausstellungszentrum mit Satellitenverbindung für Fernsehen und Internet, Performanceräumen, mit einer zum Konferenzraum umgebauten Offiziersmesse. 1994 wurden die Häfen von Petersburg, Malmö, und Hamburg angefahren mit einem umfassenden Programm von Konferenzen, Seminaren, Ausstellungen, Workshops, Konzerten. Wie das Netzwerk Medienkunst schreibt: „Mit der Stubnitz verband sich die Vision von kulturellen Begegnungen in Europa, die nationale, territoriale Grenzen ignorieren können und die Offenheit und Freiheit der Meere zur Metapher erheben.“

Aber Kunstraumschiffe leben nicht lange. Wieder an Land übernahm er die Leitung des neugegründeten Medienlabors in München. Daraus entstand das Projekt Telepolis, eine Ausstellung zur „interaktiven“ (heute würde man sagen „smarten“) Stadt, die in Luxemburg, der Kulturhauptstadt 1995, stattfand. Aus diesem Projekt ging das Online-Magazin Telepolis hervor, welches er gemeinsam mit Florian Rötzer gründete und als dessen Redakteur er von 1996 – 2002 arbeitete. Auch das war echte Pionierarbeit. 1996 nutzten gerade mal 3% der Deutschen das Internet, es gab keine Blogs, sozialen Medien oder ähnliches. Telepolis war eines der ersten, wenn nicht das allererste, reine online Medium eines großen deutschen Verlags, Heise. Unter der fähigen Leitung der Redaktion kam rasch ein großes Netz an freien AutorInnen zusammen, die sich aus etablierten Namen, wie etwa Stanislav Lem wie auch – vor allem durch Armin vermittelt — vielen jungen Autoren, die das Internet aus eigener Anschauung kannten. Mir persönlich, damals Student in Kanada, gab er erste Gelegenheiten zu publizieren.

In den ersten Jahren des Bestehens wurde Telepolis zum zentralen Medium eines experimentellen, politischen und weitblickenden Netzdiskurs und schlug wichtige Brücken zwischen der Netzkultur im engeren Sinn und einer größeren Öffentlichkeit. Von dieser Leistung profitiert der Netzdiskurs in Deutschland bis heute. Während sich das Internet langsam zu etablieren begann, blieb Armin fokussiert auf das Neue und das Experimentelle. Davon zeugen nicht zuletzt zwei Bücher die er im Heise-Verlag publizierte: Netzpiraten. Die Kultur des elektronischen Verbrechens (2001) (gemeinsam mit Janko Röttgers) und Freie Netze (2003).

Wie vieles was Armin tat, waren die Themen dieser Bücher ihrer Zeit voraus. Nicht nur im deutschsprachigen Kontext. Nach Jahren des Journalismus zog es ihn wieder stärker in die Kunst, die er aber nie als Alternative zum gesellschaftlichen Engagement verstand, sondern immer als eine andere Form davon. Die Spartentrennungen, die heute wieder so stark gemacht werden, zwischen Technologie und Politik, Kunst und Theorie haben ihn nie interessiert. Mit der ihm eigenen Vehemenz hat er eine Position vertreten, die diese Ebenen gleichzeitig artikulierte und entsprechend auch immer wieder unbequem aneckte.

In den Jahren nach Telepolis folgten einen Vielzahl von kuratorischen Ausstellungsprojekten, etwa mit dem Medienkunstzentrum RIXC in Riga, die theoretisch immer anspruchsvoller wurden. Daraus ergab ein verstärktes Interesse am Zusammenhang zwischen großen gesellschaftlichen Transformationen und den spezifischen Möglichkeiten der Kunst und Kultur, darauf einzuwirken, beziehungsweise diese ins Bewusstsein zu bringen. Wissenschaftlich fundiert wurde das Ganze während eines Ph.D. (Goldsmith, London) und mündete in das Buch New Tendencies: Art at the Threshold of the Information Revolution (1961-1978) (MIT Press, 2016), das die überraschenden Anfänge der Medienkunst als Reflexion des Endes der Industriegesellschaft nachzeichnet.

Einigen dürften während der Transmediale im Januar auf Armins Krankheit aufmerksam geworden sein. Dort konnte er sein sein letztes großes Projekt Technopolitics, bei dem wir auch wieder intensiv zusammengearbeitet haben, schon nicht mehr persönlich präsentieren, sondern nur noch via Stream im Krankenbett verfolgen. Technopolitics – wie alle seine Projekte – war kollaborativ, transdisziplinär angelegt, als Versuch, der Orientierungslosigkeit der Gegenwart, eine vertiefte Beschäftigung mit historischen Prozesse und der persönlichen Verstricktheit darin entgegen zusetzen.

Mit Armin Medosch verlieren wir einen Pioneer der Netzkultur, der sich nie um disziplinäre, institutionelle und soziale Grenzen scherte. In einer Zeit, in der sich Welten auseinander bewegen, in der die Tendenz sich vor der chaotischen Welt in die eigene Nische zurück zu ziehen, immer stärker wird, sollte uns dies Ansporn sein, Brücken zu bauen, offen zu denken, das Neue mit Lust und Kritik zu fördern und radikal zu handeln.

(Reblogged von https://netzpolitik.org/2017/nachruf-armin-medosch/)

01/12/17

Rezension Felix Stalder: Kultur, Digitalität & Entmündigung

Stalder, Felix: Kultur der Digitalität. Suhrkamp Verlag (edition suhrkamp, Bd.2679), Berlin 2016, 283 S., 18,00 Euro, ISBN 978-3-518-12679-0.

Thomas Barth

Felix Stalder ist ein Schweizer Kulturphilosoph, der sich in seinem Buch „Kultur der Digitalität“ mit der Ko-Evolution von digitalen Technologien, Gesellschaft und Kultur befasst. Er warnt darin unter Berufung auch auf Edward Snowden und Julian Assange vor einer schleichenden Entmündigung, die auf uferlose Überwachung und technokratische Massenmanipulation setzt.

Stalders interdisziplinärer Ansatz verbindet philosophisches Denken mit Soziologie, Medien- und Politikwissenschaft, um Digital- und Internetkultur zu analysieren und das utopische Potential digitaler Commons mit ihren Open-Source-Projekten zu beleuchten. Er blickt dabei auch auf dunkle Wurzeln und Gefahren der Digitalität, die er vor allem in Neoliberalismus, Profitorientierung und bei westlichen (!) Geheimdiensten lokalisiert; dies überrascht, denn sonst kreisen westliche Diskurse über Manipulationen im Internet eher um russische und chinesische Geheimdienste. Stalder warnt vor Gefahren von Algorithmisierung, Überwachung und massenmanipulativer Post-Demokratie, zieht jedoch letztlich ein optimistisches Fazit. Die Commons zeigen trotz heutiger Dominanz der Technokraten mit ihrer neoliberalen TINA-Ideologie („There is no alternative“, Thatcher/Merkel S.206) einen offenen „Raum der Zukunft“ (S.281).

Stalder entwirft ein facettenreiches Bild der digitalen Kultur, die geprägt sei von Fluidität, Vernetzung und stetigem Wandel, bei dem sich unser Verständnis von Raum, Zeit, Identität und Macht grundlegend veränderte. Er stellt die These auf, dass die Digitalität sich nicht in technologischer Innovationen erschöpft, sondern durch neue Formen der Selbstorganisation, des politischen Engagements und der kulturellen Produktion geprägt ist. Katalysator ist dabei das Internet als Medium mit spezifischen Formen des Austauschs. Drei zentrale Formen der Kultur der Digitalität sind die Referentialität (kulturelles Material wird ubiquitär zugänglich und fließt in eine explodierende Produktion von Kulturgütern), die Gemeinschaftlichkeit (kulturelle Ressourcen werden geteilt und Bedeutungen durch stetige Kommunikation stabilisiert) und die Algorithmizität (die Informationsflut wird digital geordnet, aber ebenso werden Gesellschaft und Politik technokratisch entpolitisiert).

Kooperation und der Begriff der Digitalität

Zentrales Anliegen Stalders sind Potenziale der Digitalität für eine demokratische und partizipative Gesellschaft. Er plädiert dafür, bestehende Hierarchien aufzubrechen und neue Formen der Kooperation zu ermöglichen -vor allem in digitalen Commons, deren Wurzeln er in der Open Source und Open Software-Bewegung schon der frühen Internet Communities sieht, etwa den Debian-, GNU- und Linux-Projekten. Darin zeige sich eine digital möglich gewordene Neuverhandlung von gesellschaftlichen Werten und Normen im digitalen Zeitalter: Anstelle staatlicher Hierarchien und Profitorientierung der Konzerne trete die freie Kommunikation der Netze, die auf Meritokratie und Freiwilligkeit basiere. Das Linux-Betriebssystem Ubuntu zeigt in seinem Namen nicht zufällig eine interkulturelle Referenz auf den vielschichtigen Begriff der Bantusprache, der Menschenwürde und vernetzte Gemeinschaftlichkeit verbindet (vgl. Afrotopia von Felwine Sarr).

Stalder definiert den Begriff der Digitalität als eine kulturelle Struktur, die sich durch die Veränderung von Wissen, Macht und Kommunikation in der digitalen Ära auszeichne. Digitale Technologien haben zwar einen tiefgreifenden Einfluss auf verschiedene Aspekte unseres Lebens, vom individuellen Verhalten über soziale Interaktionen bis hin zur politischen Organisation.

Laut Stalder ist Digitalität jedoch keineswegs nur eine technologische Entwicklung, sondern vielmehr eine komplexe kulturelle Dynamik, die unsere Vorstellungen von Wahrheit, Realität und Identität in Frage stellt. Er reklamiert eine „im weitesten Sinne poststrukturalistische Perspektive“, Kultur sei heterogen, hybrid und „von konkurrierenden Machtansprüchen und Machtdispositiven durchzogen“, von „Begehren, Wünschen und Zwängen“ getrieben, Kultur mobilisiere diverse Ressourcen in der Konstituierung von Bedeutung (S.17).

„’Digitalität‘ bezeichnet damit jenes Set von Relationen, das heute auf Basis der Infrastruktur digitaler Netzwerke in Produktion, Nutzung und Transformation materieller und immaterieller Güter sowie der Konstitution und Koordination persönlichen und kollektiven Handelns realisiert wird.“ (S.18)

Damit solle jedoch nicht Digitaltechnik ins Zentrum gerückt oder Digitales von Analogem abgegrenzt werden. Analoges würde nicht verschwinden, sondern „neu- und teilweise sogar aufgewertet“. „Digitalität“ verweise vielmehr auf historisch neue Möglichkeiten der Konstitution und Verknüpfung von Akteuren (menschlichen wie nichtmenschlichen):

„Der Begriff ist mithin nicht auf digitale Medien begrenzt, sondern taucht als relationales Muster überall auf und verändert den Raum der Möglichkeiten vieler Materialien und Akteure.“ (S.18)

Stalder knüpft an den Begriff des „Post-Digitalen“ von Florian Cramer an, der damit Praktiken bezeichnet, die sich zwar in Digitalmedien entwickelten, deren offene Interaktionsform sich jedoch immer weiter verbreite. Stalders Begriff der Digitalität vermeide jedoch das missverständliche Präfix „Post-“, das fälschlich so gelesen werden könne, dass „etwas vorbei sei“, und löse sich zugleich von Cramers technikfixiertem Kontext der Medienkunst. Stalder nimmt in diesem Sinne die ganze Gesellschaft in den Blick, denn „…die Präsenz der Digitalität jenseits der digitalen Medien, verleiht der Kultur der Digitalität ihre Dominanz.“ (S.20)

Nicht technologische Entwicklungen allein hätten der Digitalität den Weg gebahnt, sondern auch Politik, Kultur und Ökonomie. Wichtig erscheinen Stalder insbesondere der Aufstieg der Wissensökonomie und der Kritik an Heteronormativität und Postkolonialismus. Die Wissensökonomie habe seit den 1960ern explizit den wachsenden Informations- und Wissensbedarf von Behörden und Konzernen in westlichen Konsumgesellschaften thematisiert. Dazu gehöre die Massenmanipulation durch immer ausgefeiltere Werbung, Propaganda und PR, die der Freud-Neffe Edward Bernays maßgeblich entwickelte:

„Kommunikation wurde zu einem strategischen Feld für unternehmerische und politische Auseinandersetzungen und die Massenmedien zum Ort der Handlung… Eine Medienindustrie im modernen Sinne entstand, die mit dem rasch wachsenden Markt für Werbung expandierte.“ (S.29f.)

Man sprach in den 1980ern und 90ern von „Informations-“ und später „Netzwerkgesellschaften“, in denen -neben der Digitalisierung- eine Flexibilisierung der Arbeit mit neoliberalem Abbau der Sozialstaaten einherging. Der Freiheitsbegriff wurde dabei von neoliberaler Politik und den seit den 1960ern wachsenden „Neuen Sozialen Bewegungen“ konträr definiert: Neoliberal als Freiheit der Märkte, sozial als persönliche Freiheit von gesellschaftlichen Zwängen (S.33). Exemplarisch für Letzteres behandelt Stalder die Schwulenbewegung in Westdeutschland, Rosa von Praunheim, den Bonner Tuntenstreit 1974, die Aids-Krise ab 1983. Diversität und Hybridisierung der Kultur der Digitalität wurzele in emanzipativen Bewegungen, deren Erfolg sich spätestens 2014 beim European Song Contest in der breiten Öffentlichkeit manifestierte -mit der Stalder seine Abhandlung eingeleitet hatte: „Conchita Wurst, die glamouröse Diva mit Bart, war die Gewinnerin“ (S.7), sie habe komplexe Geschlechterkonstruktionen „zumindest ansatzweise mainstreamfähig“ gemacht (S.48):

„Conchita Wurst, die bärtige Diva, ist nicht zwischen widerstreitenden Polen zerrissen. Sie repräsentiert vielmehr eine gelungene Synthese, etwas Neues, in sich Stimmiges, das sich gerade dadurch auszeichnet, dass die Elemente der alten Ordnung (Mann/Frau) sichtbar sind und zugleich transzendiert werden.“ (S.99)

Schattenseiten: Algorithmizität und Post-Demokratie

Die Digitalität ermöglicht laut Stalder neben hybrider Diversität auch neue Formen der Partizipation und Vernetzung, die zur Demokratisierung von Wissen und Kommunikation führen können. Gleichzeitig birgt Digitalität aber auch Risiken, wie die Manipulation durch Algorithmen, Filterblasen und Desinformation. Zugleich seien Algorithmen jedoch prinzipiell unabdingbar, um in einer diversen und hybriden Explosion der Kultur mit ihrer wachsenden Unordnung orientiert zu bleiben. Ohne Suchmaschinen etwa könne heute kein Archiv mehr die digitalen Datenmassen, Texte und Kulturprodukte bewältigen.

Algorithmen automatisieren Kulturtechniken wie die Inhaltsanalyse von Bildern oder das Schreiben von Texten: Der Chef der Firma „Narrative Science“, die automatisierte Sport- und Finanzberichterstattung anbietet, habe 2012 für die nächsten Dekaden eine Ersetzung von neunzig Prozent der Journalisten durch Computer angekündigt. Bedenklich sei, „dass sich auch die CIA für Narrative Science interessiert und über ihre Beteiligungsgesellschaft In-Q-Tel in das Unternehmen investiert hat, ist ein Hinweis darauf, dass bereits heute Anwendungen jenseits des Journalismus entwickelt werden. Zu Propagandazwecken lassen sich mit Algorithmen beispielsweise problemlos massenhaft Einträge in Onlineforen und den sozialen Massenmedien erstellen.“ (S.175)

Dynamische Algorithmen können sich sogar halbautomatisch-eigenständig weiterentwickeln: 2012 habe Google mit solchen „deep learning“-Verfahren die „Gesichtserkennung in unstrukturierten Bildern“ um siebzig Prozent verbessert (S.180). In ausufernder Überwachung greife heute ein „Daten-Behaviorismus“ nach unserer Privatheit, in einem „Revival eines nach wie vor mechanistischen, reduktionistischen und autoritären Ansatzes“. Diese Haltung ungehemmter Kontrolle unseres Verhaltens finde sich bei jenen, die über umfassende Beobachtungsmöglichkeiten verfügen, „dazu gehören neben Facebook und Google auch die Geheimdienste westlicher Länder“ (S.201). Dabei ginge es neben der gern genannten „Serviceverbesserung“ aber auch um soziale Normierung (erprobt in unethischen psychologischen Experimenten, wie man Stalder hier ergänzen könnte) sowie „Profit- oder Überwachungsoptimierung“ (S.202). Anders als viele deutsche Medienwissenschaftler, die an dieser Stelle der Analyse krampfhaft mit den Fingern auf „russische Trolle“ und den chinesischen Überwachungsstaat zeigen, beweist der Schweizer Felix Stalder Rückgrat und kritisiert die eigenen, die westlichen Machteliten (was besagte Kollegen wohl eher nicht aufgreifen dürften).

Assange, Snowden und Entmündigung im libertären Paternalismus

2013 habe, so Stalder, Edward Snowden die „flächendeckende Überwachung des Internets durch staatliche Geheimdienste“ enthüllt (S.233). Felix Stalder zitiert den Wikileaks-Gründer Julian Assange und resümiert: „Die Grenzen zwischen postdemokratischen Massenmedien und staatlichen Nachrichtendiensten sind fließend. Wie inzwischen bekannt ist, bestehen zwischen beiden Bereichen personelle Kontinuitäten und inhaltliche Gemeinsamkeiten.“ (S.234) Die USA hätten seit 2011 z.B. „ein eigenes Programm zu sozialen Massenmedien mit dem Namen ‚Social Media in Strategic Communication‘. (…) seit 2009 vernetzt die Europäische Union im Rahmen des INDECT-Programms Universitäten und Sicherheitsorgane mit dem Ziel ‚Lösungen und Werkzeuge der automatisierten Gefahrenentdeckung zu entwickeln’… Überspitzt könnte man sagen, dass die Missachtung der Grundrechte mit der Qualität der so geschaffenen Dienstleistung ‚Sicherheit‘ legitimiert wird.“ (S.235f.)

Leider sei die Gegenwehr gegen eine in westlichen Gesellschaften so geschaffene soziale Atmosphäre der Angst gering geblieben. Hinter Überwachung und Massenmanipulation stehe in den heutigen Postdemokratien, die demokratische Politik durch technokratisches Gouvernance ersetzen, eine neoliberale Anti-Aufklärung. Obsolet sei heute für die Machteliten „…die aus der Zeit der Aufklärung stammende Annahme, der Mensch könne sich durch den Einsatz seiner Vernunft und die Ausbildung seiner moralischen Fähigkeiten verbessern und sich aus seiner Unmündigkeit durch Bildung und Reflexion selbst befreien.“ (S.227) Eine kybernetische Sicht sehe den Menschen als dressierbare Versuchsratte, die mit subtilen „Nudges“ (Schubsern) zu steuern sei, so Richard Thaler und Cass Sunstein.

Die beiden Neobehavioristen bezeichnen ihr System als „libertären Paternalismus“, der eine „freiheitliche Bevormundung“ anstrebe, was bei den Regierungschefs in Washington und London, Obama und Cameron, so viel Anklang fand, dass sie Thaler und Sunstein in ihre Teams holten (S.228f.). Besonders in den sozialen Massenmedien (also den „sozialen Medien“, Stalder benutzt diesen gängigen Begriff jedoch nicht), ließe sich die mediale Umgebung via Nudging manipulieren. Dies geschehe vor allem im Dienste einer Gruppe, die Stalder als „den inneren Kern des postdemokratischen Systems“ bezeichnet, „bestehend aus den Spitzen der Wirtschaft, der Politik und der Geheimdienste“ (S.230). Viele Mainstream-Konformisten dürften in dieser simplen und analytisch untadelig abgeleiteten politischen Erkenntnis bereits angebliche „Verschwörungstheorie“ oder sogar „-ideologie“ wittern. Denn medial und in der akademischen Forschung werden die von Stalder aufgezeigten Fakten und Zusammenhänge geradezu krampfhaft ignoriert. Es ist zu befürchten, dass genau diese krampfhafte Ignoranz künftig zumindest diese Teile von Stalders Buch betreffen wird. Machtstrukturen dieses Kalibers werden bislang selten öffentlich diskutiert und dies geschieht dann oft nur in künstlerisch verfremdeter Form, wie etwa bei Mark Lombardi.

Stalder ruft im Fazit dazu auf, die Dynamik der Digitalität kritisch zu reflektieren und sich aktiv mit den Auswirkungen digitaler Technologien auf unsere Gesellschaft auseinanderzusetzen. Indem wir die Chancen und Herausforderungen der Digitalität verstehen, können wir Freiheit und Autonomie im digitalen Raum bewahren und weiterentwickeln: Obwohl „die Postdemokratie das Politische selbst abschaffen und alles einer technokratischen Alternativlosigkeit unterordnen will“, beweise die Entwicklung der blühenden Commons das Gegenteil, meint Stalder und schließt sein Buch mit dem Verweis auf utopische Potentiale der Digitalität: „Diese Widersprüchlichkeit der Gegenwart öffnet den Raum der Zukunft.“ Ausbaufähig scheint an Stalders Argumentation die Subjektkonstitution im Netz, die mit der Konzentration auf Kommunizieren, Posten und Liken wohl noch nicht ausreichend erfasst ist, sowie deren Verknüpfung mit Foucaults Konzept des Panoptismus.

12/21/16

German BND-NSA Inquiry Exhibits

Today, 1 December 2016, WikiLeaks releases 90 gigabytes of information relating to the German parliamentary inquiry into the surveillance activities of Germany’s foreign intelligence agency Bundesnachrichtendienst (BND) and its cooperation with the United States‘ National Security Agency (NSA).

The 2,420 documents originate from various agencies of the German government including the BND and Federal Office for the Protection of the Constitution, Bundesamt für Verfassungsschutz (BfV) and were submitted to the inquiry last year in response to questions posed by the committee. They include administrative documents, correspondence, agreements and press reactions. They also include 125 documents from the BND, 33 from the BfVand 72 from the Federal Office for Information Security (BSI).

The collection offers a detailed insight, not just into the agencies themselves, but also into the mechanics of the inquiry. Several documents detail how the agency in question collated the information that was requested of them. For example, a BND document shows its preparations for collecting internal information on which private US companies are operating in the security sector in Germany. Such internal processes are particularly pertinent to the inquiry. The committee has been trying (unsuccessfully so far) to gain access to the full selector list that the BND holds regarding who they spy on at the behest of the US. The BND is withholding this list from the inquiry on the grounds that releasing it could imperil the BND’s relationship with the NSA.

Whilst a number of facts have already come to light as a result of the inquiry including WikiLeaks’ publication of inquiry transcripts last year this substantial new collection of primary source documents provides significant new evidence. The collection contains early agreements between the BND and the NSA and internal processes at the BND, but also more recent details on the close collaboration between the two agencies. For example, one document from the BND states that a BND employee will be tasked to use and write software for XKeyscore, an NSA system for searching and analysing data collected through mass surveillance.

A number of the documents show how intelligence agencies find ways to work around their own government. Documents pertaining to an audit visit by Germany’s data protection agency to the BND’s offices show that BND officers withheld the notes made by the auditors during their visit. The BND would only release the notes to the auditors once they had checked the content for themselves.

The inquiry was established in 2014 in the wake of the Snowden revelations, which showed that not only was the NSA spying on the whole world, but it had also partnered with the intelligence services of particular states to spy on their citizens and those of the surrounding regions. One of these countries is Germany, which has had a close relationship with the US in military and intelligence matters since its occupation by US forces in WWII. The US has been shown to use its bases in Germany and its relationship with German intelligence to spy on German citizens as well as European Union institutions.

WikiLeaks revelations of NSA spying on Angela Merkel and top officials at German ministries, the EU and France also contributed to the political impetus of the inquiry.

The depth of this relationship had been unknown to the German public and much of its government. The outrage that was sparked by the Snowden NSA revelations led to the establishment of the inquiry, which later called for Mr Snowden to testify at it. Whereas there was initially unanimity among German political parties in 2014 for Snowden to provide expert testimony, the government deemed that guaranteeing that he would not be handed over to the US (a condition imposed by Snowden for testifying) would damage Germany’s political relationship with the United States. Subsequently, the Greens and the left-wing party (Die Linke) filed an official complaint to force the German Parliament to hear Mr Snowden.

Last week, on 21 November 2016, Germany’s Federal Court of Justice upheld the complaint and ruled that the committee was obliged to hear Edward Snowden in person. However, at the next inquiry hearing three days after the ruling, Chancellor Angela Merkel’s Union bloc and the Social Democrats removed Snowden’s invitation from the agenda of the inquiry and are contesting the Court’s decision.

Julian Assange said: „This substantial body of evidence proves that the inquiry has been using documents from Mr Snowden and yet it has been too cowardly to permit him to testify. Germany can not take a leadership role within the EU if it’s own parliamentary processes are subservient to the wishes of a non EU state.“

von WikiLeaks

09/20/16

SNOWDEN – Kino Sondervorstellungen 22.9. 2016

Friedemann Ebelt

Spannung und Datenschutz: Oliver Stones neuer Film „SNOWDEN“ kommt am 22. September 2016 in die deutschen Kinos und zeigt, dass Privatheit absolut kein langweiliges Anliegen ist.

Er war nun wahrlich kein Kritiker eines repressiven Staates: Edward Snowden war überzeugt, das Richtige zu tun, als er der National Security Agency (NSA) beitrat. Am 22. September 2016 startet der Kinofilm SNOWDEN in Deutschland, der erzählt, wie Edward Snowden vom Patrioten zum Helden wurde.

Zu argumentieren, dass Sie keine Privatsphäre brauchen, weil Sie nichts zu verbergen haben, ist so, als würden Sie sagen, dass Sie keine Freiheit der Meinungsäußerung brauchen, weil Sie nichts zu sagen haben. (Edward Snowden (siehe netzpolitik.org))

Edward Snowden will Gutes für sein Land tun und bietet seine Fähigkeiten zunächst als Soldat und dann als Mitarbeiter der NSA an. Aus dem Inneren des Geheimdienstes erhält er sodann Einblicke, die ihn erschüttern: Die NSA ist nicht nur im Ausland aktiv, sondern überwacht die eigenen Bürgerinnen und Bürger. Er wird selbst zum Täter, indem er diese Informationen freiweg nutzt und ausspielt, um einen Botschafter über den Umweg seiner Familie unter Druck zu setzen. Hier gelingt es Oliver Stone einfühlsam zu vermitteln, wie lebensnah es werden kann, wenn man zum Spielball eines Machtspiels wird, bei dem jemand ganz anderes das Angriffsziel ist.
Das stürzt ihn zunehmend in innere Konflikte, die ihn fürchten lassen, auch er oder seine progressive Freundin könnten z.B. über die Webcam ihres Rechners beobachtet werden. Und so versucht plötzlich der Patriot dem Freigeist zu erklären, warum sie eben doch etwas zu verbergen haben.

Der Film erzählt sehr einfühlsam die Geschichte von Edward Snowden, grandios gespielt von Joseph Gordon-Levitt, der nach und nach begreift, dass hier etwas gewaltig schief läuft. Er muss zusehen, wie Frauen sich vor ihren Laptops umziehen, ohne zu ahnen, dass sie beobachtet werden. Er ist Zeuge, als Erwachsene und Kinder in Afghanistan von Drohnen niedergeschossen werden, weil ein Datenauswertungsprogramm sagt, sie seien Terroristen. Snowden plant seinen Ausstieg und nimmt belastende Informationen über die Machenschaften der NSA mit.

Der Film ist packend und aufklärend zugleich. Er veranschaulicht die mächtigen Analysewerkzeuge der NSA und zeigt wie der amerikanische Geheimdienst sie systematisch missbraucht. Es ist Oliver Stone in diesem Film gelungen zu zeigen, wie aus einem normalen Mann mit Charakter ein Held wurde, der gar kein Held sein wollte und dennoch sein eigentlich sorgenfreies Leben aufgegeben hat, um seinem Gewissen zu folgen. (reblogged von https://digitalcourage.de/blog/2016/snowden-im-kino )

SNOWDEN ab 22. September 2016 im Kino Trailer ansehen
www.snowden-film.de
Ausführliche Filmkritik von Heise

12/24/15

EU-Democracy: Im Datenrausch

Kinokritik von Thomas Barth

David Bernets Kinofilm bringt kaum Neues zum Datenschutz, man bekommt stattdessen ein rosarot gemaltes Bild der EU-Legislative und ihrer engen Beziehung zum Lobbyismus: Dokumentarfilm oder Propagandastreifen für die Diktatur des Geldes in einer korrupten Europäischen Union?

Der Kinofilm Democracy -Im Rausch der Daten dokumentiert den parlamentarischen Gesetzgebungsprozess der EU anhand des europäischen Datenschutzes. Der handwerklich gut gemachte Film ergreift zwar Partei für den Datenschutz, aber er tut dies aus der unreflektierten Perspektive eines von Industrielobbyisten vorgegebenen Rahmens. Nur aus dieser Perspektive erscheint am Ende der vorgelegte Gesetzentwurf als großartiger Erfolg. Tatsächlich hat die Politik hier nur ausnahmsweise und auch nur teilweise endlich einmal das getan hat, wofür wir sie gewählt haben: Unsere Rechte zu verteidigen. Aber das Gesetz, dessen Werdegang von 2012-2013 dargestellt wird, ist bis heute nicht in Kraft.

Die Grünen wird der Film freuen, denn ihr Protagonist, der EU-Parlamentarier Jan Philipp Albrecht, wird neben der EU-Kommissarin Viviane Reding als Hauptfigur des Datenschutzes präsentiert. Im Januar 2012 hatte Reding für die EU-Kommission eine Reform der EU-Datenschutzvorschriften vorgeschlagen, der im Oktober 2013 der Vorschlag eines im EU-Parlament unter Federführung von Albrecht ausgehandelten Gesetzesentwurfs folgte, der den Datenschutz noch weiter verschärfen sollte. Besagte Verhandlungen werden im Film „Democracy“ akribisch verfolgt.

Der Kampf um das Thema außerhalb der EU-Bürokratie wird dagegen in nur fünf Filmminuten abgehandelt, die von Snowdens Enthüllungen handeln. Die europaweite Entstehung einer einer neuen politischen Bewegung zum Thema Netzpolitik und Datenschutz, der Piratenpartei, blendet „Democracy -Im Rausch der Daten“ fast völlig aus. Nur eine halbe Sekunde ist am unteren Rand eines Plakats mit Edward Snowdens Gesicht unter dem Slogan „Stop watching us“ das Wort „Piratenpartei“ zu erhaschen, dann drängen sich wieder Werbe-Luftballons der Grünen ins Bild. Klasse Parteipropaganda, oder?

Aber waren die überraschend großen Wahlerfolge der Piraten, die gerade in Deutschland bis in den zweistelligen Bereich emporschossen und ihnen teilweise bis heute Einfluss in Landesparlamenten von Berlin und NRW sicherten, wirklich so unbedeutend für den Datenschutz, dass eine solche Doku sie weglassen darf? Zählen Millionen Wählerstimmen für den Film „Democracy“ weniger als das PR-Gerede von Industrie-Lobbyisten in Brüssel? Welches Bild von Demokratie wird so vermittelt?

Lobbyismus wird nicht hinterfragt

Die äußerst dubiose Rolle des Lobbyismus im EU-Gesetzgebungsprozess wird von Bernet weniger hinterfragt als vielmehr zur Naturgewalt stilisiert: Korrupte Politiker werden zu Heroen geschönt, die gegen einen „Lobbyorkan“ ankämpfen müssen (dem sie, das leuchtet jedem ein, hie und da einfach erliegen müssen -wo genau wird jedoch verschwiegen). Dass diese Politiker die Lobbyisten erst in die Gesetzgebung hinein gelassen haben und sich von ihnen mit Kaviarempfängen und unzähligen mehr oder weniger korruptiven Gaben umschmeicheln lassen und sich sogar die angeblich von ihnen, den Politikern mühsam erarbeiteten Gesetzestexte von den Lobbykraten formulieren lassen, verschweigt Bernets Film. Korruption wird damit zugleich verharmlost, vertuscht und in ihren konkreten Folgen verschwiegen.

Jacques Santer und die EU-Bangemann-Affäre

Ist Bernets Film selbst eine dreiste PR-Produktion, die uns ein weichgespültes Bild der EU vorsetzt? Wer uns über die EU-Demokratie informieren will, kann sich, so sollte man meinen, kaum um die zahlreichen Korruptionsfälle herum drücken, bis zum Sturz einer kompletten EU-Kommission unter Jacques Santer 1999 wg. einer korrupten Édith Cresson, die beim Griff in die Kasse erwischt, letztlich sogar ungestraft davon kam. Mit der Bangemann-Affäre gab es einen der größten Skandale überhaupt genau im Bereich Netz- und Datenwirtschaft: Der dafür zuständige EU-Kommissar Bangemann (FDP) wollte nach Dienstende flugs zur IT-Firma Telefonica wechseln, die dank der vom Industriefreund Bangemann durchgesetzten Liberalisierung der Kommunikationsnetze saftige Gewinne einstreichen konnte. Das hatte eine Debatte über Mechanismen der Korruption ausgelöst.

Jacques Santer (Luxemburg), Staatsminister a. D., Präsident der EU-Kommission a. D. ist inzwischen im Führungskreis des INEA an den Schalthebeln der Lobby-Macht: Das Institute for European Affairs e.V. (INEA) mit Sitz in Düsseldorf ist eine europaweit – mit Schwerpunkt Osteuropa – tätige Beratungs- und Lobbyorganisation. Sie ist eng mit dem Baltic Sea Forum verflochten, mit dem sie im Ostseeraum kooperiert. Führende Mitarbeiter des INEA waren früher in die Aktivitäten der Sicherheitsfirma Prevent involviert. All diese Hintergründe lässt der Kinofilm im launigen Hahaha der Sektempfänge im Lobbyland verschwinden. Bestechung, Personalkarussell und Lobbyismus gehören zusammen und sind Grundübel unseres politischen Systems, die dringend öffentlicher Aufklärung bedürfen. Doch stattdessen gewährt Dokumentarfilmer Bernet vielen Lobbyisten ein Forum zur Selbstdarstellung, das dieser in PR und Rhetorik bestens geschulte „Berufsstand“ zu nutzen versteht. Der Film wird damit Teil der lobbykratischen Korruption und ihrer Propaganda.

Datenschutz kommt zu kurz

Datenschutz war in der deutschen Politik immer ein wichtiges Thema, schon beim Volkszählungsboykott in den 1980er-Jahren über das Erstreiten eines „Rechtes auf informationelle Selbstbestimmung“ vor dem Verfassungsgericht bis zu den aktuell tobenden Gefechten gegen die Vorratsdatenspeicherung.

Die internationale Dimension zeigte sich spätestens beim Echelon-Skandal, der einen Konflikt Washingtons mit Westeuropa (außer Großbritannien) offen legte: NSA und andere Geheimdienste greifen in größtmöglicher Weise illegal auf die Daten der Europäer zu. Im diplomatischen Krypto-War um die Freigabe von Verschlüsselungstechnik für die Bürger eskalierte zwischen USA und EU ein Streit um den Datenschutz, der nie wirklich beigelegt werden konnte.

Mit den Enthüllungen von WikiLeaks wurde der „panoptische Blick“ der alles-sehenden Augen von NSA & Co. erstmals in großem Maßstab umgekehrt. Die alte Utopie von Hacker-Bewegung und Netzkultur, die Vision eines „Inversen Panoptismus“, wurde ansatzweise zur Realität.

Eine zweite, noch größere Bresche schlugen die NSA-Leaks von Edward Snowden in die Palisaden der globalen Überwacher. Während heute Geheimdienste um den Schutz ihrer Geheimdaten bangen, stacheln sie zugleich die Netz- und Medienwirtschaft an, den Datenschutz der Bürger immer aggressiver zu untergraben – wie Snowden enthüllte.

Big Data ist das Stichwort und die „sozialen Netzwerke“ von Facebook, Google & Co. sind ihre „digitalen Fischgründe“. Aber Bernets Film bleibt beim Thema Datenschutz leider sehr oberflächlich. Die netzpolitische Debatte, deren Intensität seit Snowden noch einmal enorm gestiegen ist, streift er nur allzu knapp. Nur fünf Minuten, von Filmminute 80 bis 85, von 100, widmet er einigen reißerischen Bildern der außerparlamentarischen Kämpfe, von „Snowden – Held oder Verbrecher?“ bis zur Demo „Freiheit statt Angst“ aus Kreisen der deutschen Hacker-Netzkultur. Das ist zu wenig. Und die Rolle der EU-Kommission wird anbiedernd heroisiert: Waren Kommissarin Reding & Co. -insbesondere angesichts der Snowden-Enthüllungen- wirklich so engagiert für den Datenschutz, wie ihre PR-Leute und dieser Film uns weismachen wollen? Regierungskritiker der Hackerszene sind da ganz anderer Ansicht:

„Als der Guardian am 5. Juni die ersten Informationen über die gigantische Überwachung aller Bürger/innen durch amerikanische Geheimdienste publik machte war die Reaktion in der EU verhalten. Nur einzelne Abgeordnete des EU-Parlaments veröffentlichten kritische Presseaussendungen und versuchten mehr Informationen durch Anfragen an die Kommission zu erlangen. Erst als auch die Überwachung durch europäische Geheimdienste, etwa durch Tempora und die Datenweitergabe der USA an europäische Dienste thematisiert wurde, wachten auch die EU-Politiker/innen langsam auf… Erst am 14.Juni äußerten sich die beiden Kommissarinnen Viviane Reding, zuständig für Justiz, und Cecilia Malmström, zuständig für Inneres, zu dem Überwachungsskandal… Und auch bei der Beantwortung der unzähligen parlamentarischen Anfragen zeigt die Kommission keinen besonders großen Willen, den Skandal aufzuklären. Am Ende bleibt ein zahnloser Ausschuss… (Es ist) zu befürchten, dass sich die Kommission weiter von den Amerikanern die Bedingungen der Aufklärung diktieren lässt und am Ende keine ausreichend verwertbaren Informationen vorlegen kann, um gegen die gigantische Überwachung aktiv werden zu können.“ Alexander Sander: Aufklärung à la EU, in: Hrsg. Markus Beckedahl & Andre Meister (Hg.): Überwachtes Netz. Edward Snowden und der größte Überwachungsskandal der Geschichte, 2013, S.128-130.

Es ergibt sich beim Blick auf das EU-Parlament in diesem Film ein auf seine beiden politischen Akteure beschränktes Bild. Besonders gefährlich ist die großzügige Einbindung der Industrie-Lobbyisten, deren Weltsicht geradezu als „natürlicher“ Hintergrund der Debatte präsentiert wird.

Es entsteht ein pseudo-ausgewogenes Storybord zur Geschichte des Datenschutzes: Hier die Wirtschaft, dort die Politik. Doch geht es nicht um unsere künftigen Menschenrechte? Würden wir bei der Debatte um Frauen-, Kinder- oder Organhandel, jene in die Diskussion einbinden wollen, die am Raub menschlichen Lebens und menschlicher Freiheit ihren schmutzigen Profit erwirtschaften wollen?

Betonung der Sicht der Lobbyisten

Bernets Film kritisiert zwar die Lobbyisten der IT-Industrie, aber er lässt sich von ihnen das Spielfeld vorgeben, auf dem das geschieht. Schon der Beginn seines Film steckt dieses Spielfeld ab. Erste Szene: Ein Hubschrauber fliegt über Athen. Eine Stimme aus dem Off (wie wir später erfahren, ein Lobbyist) erklärt uns im Ton eines Dokumentarfilms:

Viele Leute sagen, Daten sind das neue Öl, das Öl des 21.Jahrhunderts. Ein guter Vergleich, wenn man bedenkt, wie Öl unsere Welt geformt hat. Es hat uns globale Mobilität ermöglicht. Öl liefert uns Energie, hat unser Leben für immer verändert und Daten werden dasselbe tun. Je mehr Daten wir haben, umso interessantere, weltverändernde und bislang undenkbare Dinge werden Wirklichkeit. Aber wer keine Daten hat, hat auch kein Öl. Leider gibt es einen großen Widerspruch zwischen BigData und dem Wunsch nach Privatsphäre. Es werden riesige Mengen an Daten generiert, die persönliche Informationen enthalten. Die Frage ist nun: Wie sollen diese Daten genutzt oder geschützt werden? Wer hat die Kontrolle darüber? Wem gehören sie? Es ist entscheidend, dass wir die richtige Antwort finden.

Die erste Szene führt dann die beiden Hauptprotagonisten ein, EU-Kommissarin Reding und den Grünen Jan-Philipp Albrecht. Von Albrecht sieht man zunächst zwei ungeschickte Hände, die versuchen eine Krawatte zu binden. Er blättert dabei auf seinem Smartphone in einer Online-Anleitung zum Krawattenbinden. Albrecht wird als unangepasster Grüner präsentiert, vielleicht auch als Grünschnabel, der jedoch mit dem Internet umgehen kann.

Dann tritt Reding auf, in Politikerpose. Man ahnt, sie saß als VIP im angeflogenen Hubschrauber, der zugleich die „globale Mobilität“ durch Erdöl aus dem Lobbyistentext visualisierte. Sie steht vor Journalisten, redet souverän auf sie ein. Die Rollen von Reding und Albrecht werden in dieser Szene ebenso abgesteckt, wie die der EU-Industrie-Lobbyisten als Stichwortgeber, Drahtzieher und Spielmacher im Hintergrund.

David Bernet fängt mit Bildern, Musik und Schnitttechnik Stimmungen ein, vermittelt ein kurzweilig-emotionales Erlebnis der trockenen EU-Parlamentswelt. Die Personen werden plastisch gemacht, besonders Albrecht, dessen Gewohnheiten und Gefühle dokumentiert werden: Beim Kekseknabbern, bei der Arbeit, in seiner Rolle als von der mächtigen Kommissarin Reding gefördertes, ursympathisches Nachwuchstalent. Hier liegt der Schwerpunkt des Films, nicht bei der Thematik des Datenschutzes. Dies liegt vielleicht auch daran, dass Bernet quasi zufällig über das Thema stolperte, wie er selbst berichtet.

Auf die Frage, wie er auf die Idee kam, einen Dokumentarfilm über die EU-Datenschutzreform und das damit verbundene Gesetzgebungsverfahren zu drehen, antwortet David Bernet laut Presseheft:

Als ich vor ungefähr fünf Jahren die Recherche für DEMOCRACY – IM RAUSCH DER DATEN aufnahm, ging es noch nicht um Datenschutz, sondern um zwei grundsätzliche Fragen: Werde ich den Zugang bekommen, um einen solchen Dokumentarfilm im Inneren der EU-Institutionen zu drehen? Und falls ja, welches Gesetz würde von so großer Relevanz sein, dass die Debatte dazu während des Drehzeitraums europaweit heiß laufen könnte? (…)

Als ich nach (…) vielen Wochen Recherche meinen Produzenten mitteilte, dass die EU-Datenschutzreform wohl dieses heiße Eisen werden wird und ich den Film zu diesem Thema sehe, schlugen sie berechtigterweise die Hände über dem Kopf zusammen. Denn es war 2010. Das Thema Datenschutz war damals komplett außer Reichweite und nur die politischen Avantgardisten in Brüssel konnten wissen, wie bedeutsam dieses Gesetz für die Zukunft unserer Gesellschaft werden wird.

Über die Idee, „nur die politischen Avantgardisten“ hätten 2010 erkennen können, wie bedeutsam Datenschutz für die Zukunft unserer Gesellschaft werden wird, kann man nach drei Jahrzehnten politischer Kämpfe um das Thema nur die Stirn runzeln. Immerhin kommen auch NGO-Vertreter zu Wort, von denen die kritischeren Beiträge zum Thema stammen. Dabei werden leider Industrie-Lobbyisten mit NGO-Bürgerrechtlern schwer unterscheidbar gemischt.

Von der modernen Pest der BONGOs und GONGOs (Business- bzw. Government Organised NGO) hat Bernet scheinbar auch noch nichts gehört. Wenigstens erfährt man, dass in Brüssel 99 Prozent der Lobbyarbeit durch offen agierende Industrie-Lobbyisten geleistet wird. Besonders viel Raum bekommt Kataryna Szymielewicz, Gründerin und Vorsitzende der NGO „Panoptykon Foundation“ (Warschau). Die Kamera folgt der jungen attraktiven Juristin, die erläutert:

Überwachung bedeutet nicht, dass jemand weiß, wie man nackt aussieht oder mit wem man seine Nächte verbringt. Das ist Kinderkram, für den sich niemand interessiert. Tatsächlich geht es bei der Überwachung darum, Menschen und Bevölkerungsgruppen zu steuern.

Die Industrie wolle ihre Kundenprofile auf Kosten der Freiheit aufbauen und etwa jungen Frauen in polnischen Dörfern Töpfe und Pfannen verkaufen, statt roten Highheels, die ihnen Flausen in den Kopf setzen könnten. Szymielewicz‘ Bewertung der Überwachung ist richtig, wenn sie auch bei Webcams irren mag, deren Missbrauch durchaus der Gewinnung pornographischer Bilder dienen kann.

Auch finden sich vermutlich viele Onlinefirmen, die gerne jedwedes Schuhwerk in die polnische Provinz liefern würden. Warum aber zitiert die Doku Szymielewicz ausgerechnet mit Nacktheit, Bett- und Highheels? Dies lenkt nur von der politisch bedeutsameren Manipulation und Bevölkerungssteuerung durch BigData ab.

Data-Mining versus Menschenrecht

Mit Data-Mining in unserer Netzkommunikation wird das Marketing an Kundenprofilen perfektioniert, die jede Stasi-Akte in den Schatten stellen. Damit wird auch Geld verdient, aber ein wichtiger Aspekt ist zweifellos das Abschöpfen dieser Profile durch Geheimdienste, denen jede Privatsphäre ein Gräuel ist (außer ihrer eigenen). Nach außen propagieren Werbe-Abteilungen und Lobbyisten diese kriminelle, zumindest aber ethisch fragwürdige Praxis mit PR-Parolen wie „Daten sind das neue Öl“.

Mit genau diesem Satz beginnt der Film „Democracy -Im Rausch der Daten“ und viele Lobbyisten bekommen Gelegenheit, ihn in Variationen zu wiederholen. Der Hauptprotagonist der Doku, der grüne EU-Politiker Jan Philipp Albrecht, hört ihnen geduldig zu, während er um einen Kompromiss für die europäische Datenschutzverordnung im EU-Parlament ringt. Seine Devise ist: „Wenn Daten das neue Öl sind, ist Datenschutz der neue Umweltschutz“ -und somit Sache der Grünen. Die Botschaft: Kritik ist erlaubt, wenn sie im Rahmen der von Industrie-Lobbyisten vorgegebenen Weltsicht bleibt.

Dass es bei unseren persönlichen Daten um etwas fundamental anderes geht als um einen neuen Rohstoff, dass es hier um den Zugriff auf unser Grund- und Menschenrecht auf informationelle Selbstbestimmung geht, tritt in den Hintergrund. Dass es damit um die Macht geht, uns alle in bislang undenkbarem Ausmaß zu kontrollieren und zu manipulieren, bleibt ungesagt. Die oft wiederholte Parole, künftig wären unsere privaten Daten eben die Währung, in der wir die Netzkonzerne für „kostenlose“ Dienstleistungen bezahlen müssten, bleibt unhinterfragt.

Vielleicht zeigt sich hier eine besonders perfide Wirkung der Ideologie des Neoliberalismus: In einer Welt, in der alles zum Wirtschaftsgut gemacht werden darf (unsere Beziehungen im Netz, unsere ausgeforschte Persönlichkeit, unser Leben) werden die Menschenrechte in die Ecke gedrängt. Nicht mehr die Industrie soll sich rechtfertigen, unsere Daten abzugreifen, wenn wir sie in unseren öffentlichen Netzen Geld verdienen lassen – Wir sollen uns rechtfertigen müssen, wenn wir dies verweigern oder begrenzen wollen.

Die neoliberale Ideologie des „Wer zahlt befiehlt“ gewinnt an Macht durch die immer weiter gehende Privatisierung öffentlicher Infrastruktur. Im Netz genügt den Unternehmen nicht mehr die zu Beginn des Netzfirmen-Booms propagierte „Ökonomie der Aufmerksamkeit“, bei der sie unsere Weltsicht hemmungslos mit Werbung verkleistern darf.

Jetzt wollen die zu global dominierenden Multi-Milliarden-Konzernen angeschwollenen Firmen auch noch unser Recht auf Selbstbestimmung in Geiselhaft nehmen. Und das, obwohl wir inzwischen nicht mehr nur befürchten, sondern definitiv wissen, dass hinter ihnen die Geheimdienste lauern, die in krimineller Weise unsere Daten missbrauchen.

Bei der Abwägung dieser menschlichen Güter gegen Begierden der Wirtschaft darf es keine kompromisslerische Haltung geben. Nur weil der virtuelle Raum der Daten und Netze abstrakter scheint und heute von vielen erst ansatzweise verstanden wird, darf hier nicht mit Lobbyisten geschachert werden. Ebenso wenig wie in der Frage der Sklaverei, für deren Fortsetzung Wirtschaftsunternehmen sicherlich auch zahlreiche ökonomische Argumente angeführt haben. Letztlich geht es um die Frage, ob die Wirtschaft der Gesellschaft dienen soll oder umgekehrt.

Bernets Film „Democracy“ präsentiert uns das EU-Datenschutzgesetz, dessen Umsetzung bis heute verschleppt wird, als grandiosen Sieg von Parlament und vernünftigem Kompromiss von Politik und Lobbyisten. Aber eher dokumentiert er wohl die dringende Reformbedürftigkeit unserer durch eine systemintern installierte Lobby-Diktatur zutiefst korrumpierte Gesetzgebungsprozesse.

(Eine gekürzte Version dieser Kinokritik erschien auf Telepolis.)

02/3/15

Zivilgesellschaft & digitaler Ungehorsam

In einem aktuellen Beitrag beschäftigen sich Heinz Kleger und Eric Makswitat von der Universität Potsdam mit dem Thema Datenschutz in Europa. Im Gegensatz zu Anthony Dworkins richten sie ihren Fokus nicht auf die Politik, sondern auf Aktionen von der Zivilgesellschaft.

Theresa Kruse 25.02.2015

So merkwürdig es scheint: Die meisten Akteure aus dem NGO-Sektor und die vielen zivilgesellschaftlichen Aktivisten mit ihrem kritischen Bürgersinn, finden zwar nicht gut, was gerade so datenmäßig und überwachungstechnisch alles passiert – aber sie haben weder ein gesteigertes Interesse an ihrem eigenen Schutz, noch setzen sie sich für grundlegende Reformen ein. Stellvertretend für ‚die Zivilgesellschaft‘ kann man vielleicht das Bürgernetzwerk Bürgerschaftliches Engagement nennen, in dem sich große Teile der organisierten deutschen Zivilgesellschaft zusammengeschlossen haben. Hier sucht man vergeblich nach Ideen, was Snowdens Enthüllungen für die deutsche Zivilgesellschaft und für das bürgerschaftliche Engagement in unserem Land bedeuten.

Selbst internationale Demokratie-Aktivisten, die von Überwachung bedroht sind, nutzen nicht automatisch Sicherheits-Tools. Sehr selten reflektieren sie über ihren persönlichen Schutz hinaus die politische Bedeutung und was das Recht auf Privatheit in ihren Konzeptionen von Demokratie und Menschenrechten zu suchen hat.

Bleiben die Aktions- und Beteiligungsformen abseits der formalen Strukturen der Zivilgesellschaft. Hier kreisen mehr und mehr informelle Gruppen und oft künstlerische Akteure um die Fragen Überwachung, Selbstbestimmung, Privatheit und Sicherheit. Heinz Kleger und Eric Makswitat von der Universität Potsdam untersuchen den zivilen Ungehorsam als Handlungsfeld des digitalen Aktivismus.

Handlungen, die im Sinne des guten Ziels als legitim angesehen werden, gehören seit jeher zum digitalen Aktivismus – auch wenn sie illegal sind. Die Autoren diagnostizieren, dass das qualitativ Neue am digitalen zivilen Ungehorsam ist, dass dieser um „Sichtbarmachung und Thematisierung“ kreist. Dieser Ungehorsam speise sich nicht so sehr aus einer protestbereiten Öffentlichkeit, sondern schaffe diese erst einmal, um den Mangel an öffentlichem Bewusstsein und Information auszugleichen.

Ist das der politikwissenschaftliche Ritterschlag für Anonymous? Mitnichten, denn gerade bei deren Aktionen sehen Kleger und Maskwitat die legitimen Grenzen des zivilen Ungehorsames oft überschritten. Im Unterschied zu analogen Sitzblockaden, mit denen man Distributed Denial of Service-Attacken am ehesten vergleichen könnte, seien die Folgen der Ausschaltung großer und wichtiger Dienste im Internet jedoch wesentlich weniger kalkulierbar. Zu viele Unbeteiligte seien betroffen: „Die Folgenverantwortung, die zur politischen Ethik gehört, ist nicht im Blick“, schreiben sie. Kritisch sehen die Autoren auch, wenn Aktivisten „nicht nur informieren, sondern ihre vermeintlichen Gegner auch bestrafen“. Selbstjustiz sei aber gerade kein legitimes Ziel demokratischen Aktivismus. Ebenso widersprächen „die Züge des Klandestinen und Konspirativen den Kriterien des zivilen Ungehorsames.“

Unstrittig ist für die beiden Autoren, dass Edward Snowdens Aktionen zum zivilen Ungehorsam gehören. Im Gegensatz zu Julian Assanges Ohne-Rücksicht-auf-Verluste-Strategie der Veröffentlichung kritischer Informationen (Anm. Netzphil: inzwischen ist bekannt, dass dieser falsche Vorwurf gegen Assange von genau jenen Guardian-Journalisten verbreitet wurde, die für die fahrlässige Publikation des Passwortes verantwortlich waren, mit dem die wegen der Verfolgung durch NSA, CIA, FBI usw. verschlüsselten und global verteilten Wikileaks-Dateien weltweit lesbar wurden; Geheimdienste und willige Medien griffen die Verleumdung jahrelang begierig auf, um Stimmung gegen Wikileaks zu machen; Assange hat diese Beschuldigungen zurückgewiesen, ihm wurde niemals entsprechendes Fehlverhalten nachgewiesen) schätzen sie an Snowdens dosierter Herausgabe von Informationen das verantwortungsbewusste Bemühen um eine Begrenzung des möglichen Schadens, weil er eine qualitative journalistische Aufarbeitung ermöglicht.

Letztlich sei die richtige und legitime Strategie in der Demokratie aber die Mehrheiten zu bilden. Ungehorsam könne da nur die Ausnahme bleiben und ist im Sinne einer „Zivilität des Ungehorsams“ an Kriterien wie die immaterielle und materielle Abwägung der Folgen, Zielgerichtetheit, Friedlichkeit und die Relation des Handelns zu höheren verfassungsmäßigen Werten gebunden.

Das Schweigen der organisierten Zivilgesellschaft

Dworkins auf der einen sowie Kleger und Makswitat auf der anderen Seite behandeln die zwei entgegengesetzten Richtungen des politischen Handlungsspektrums. Hier die Sphäre der supranationalen Verhandlung, der Advocacy und des juristischen Kampfs auf europäischer Ebene, dort der Aktivismus einzelner oder loser Gruppen.

In Europa befindet man sich bei manchem politischen Vorhaben womöglich auch mit denen in einem Boot, die man wegen anderer Dinge bei den BigBrotherAwards prämiert. Das passiert etwa bei Fragen der Verschlüsselung oder Netzneutralität, mit Abstrichen auch bei Urheberrechtsfragen. Bei anderem wie den Big-Data-Regulierungen bleibt man Gegner. Hier muss man Pragmatismus wagen, ohne die Glaubwürdigkeit der digitalen Advocates zu unterlaufen.

Der digitale Aktivismus hat eine spezifische Ausprägung des zivilen Ungehorsames hervorgebracht, der zum kulturellen Kern seiner Bewegung gehört. Er schafft es in einzelnen Fällen Aufmerksamkeit zu erregen und hat auch durchaus Sympathisanten unter Bürgern, in der Politik und in den Medien, die seine Aktivisten als Experten schätzen und in einer speziellen Weise als Hacker oder digitale Bohème heroisieren. Digitaler Ungehorsam kann aber aus demokratie-theoretischen Erwägungen nur ein Teil einer größeren politischen Strategie sein, muss die Ausnahme der Aktionsformen darstellen und Standards genügen, die ihn zivil und demokratisch machen.

Wirksame Bewegungen haben funktionale Lösungen gefunden, wie sie in solch unterschiedlichen Sphären handlungsfähig sein können und die sich ergebenden Dilemmata verhandeln. Insofern kommt Organisationen wie Digitalcourage, aber auch Netzwerkveranstaltungen wie dem CCC oder sektorenübergreifenden Foren des Austauschs und der Kooperation eine wichtige intermediäre Funktion zu.

(reblogged von https://digitalcourage.de/blog/zivilgesellschaft-und-digitaler-ungehorsam)

Weiterführende Links

Heinz Kleger, Eric Makswitat: Digitaler Ungehorsam; Wie das Netz den zivilen Ungehorsam verändert: Forschungsjournal Soziale Bewegungen; FJ SB 4/2014

netzphilosophie.org

Netzpolitik weiterdenken

Category Archives: Netzpolitik