Category Archives: Künstliche Intelligenz

06/5/26

Martha Wells: Systemkollaps

Rezension von Thomas Barth

Im vierten Band der Killerbot-Reihe, deren Hauptfigur dem legendären Cyborg-Manifest der feministischen Netzphilosophin Donna Haraway bekanntlich alle Ehre macht, wird es für unsere Secunit unangenehm, denn sie hasst Planeten. Warum? Planeten sind langweilig, sagt sie gern. Wirklich? Oder machen sie vielmehr unserer Cyborg eine Scheißangst? Kaum eine Cyberpunk-SF spiegelt so überzeugend netzphilosophische Einsichten der Techno-Feministin Donna Haraway und ihres Cyborg-Manifestes wie Martha Wells Killerbot-Reihe. Wells‘ texanische Version der emanzipierten Cyborg weiß auch die tellurischen, erdgebundenen Aspekte ironisch zu reflektieren:

„Planeten, auf denen man eine wahrscheinlich doch bewohnte, möglicherweise alienkontaminierte Siedlungsstätte aus der Zeit vor dem Corporation Rim untersuchen muss, während man statt Panzer einen Umweltanzug trägt, sind erst recht auf die schlechte Art nicht langweilig, vielleicht sogar auf die schlimmste.“ Vermutlich auf die Schlimmste, denn „wir befanden uns immer noch auf diesem blöden Planeten mit der alienkontaminierten verschollenen Kolonie – dabei wollten wir (Fifo, unsere Menschen, ich, vor allem aber ich) doch wirklich nur raus aus diesem System.“ Diesmal geht es wirklich quer durch die Botanik, zum Leidwesen unserer Cyborg, denn Gartenarbeit steht nicht in ihrer Produktbeschreibung: „Ich drang in das Feld ein, dessen hohe grüne Pflanzenstängel mich ein gutes Stück überragten. Der Wind ließ die kleinen verklumpten samenartigen Dingsbumse aneinanderschlagen. Dieses Feld wuchs tatsächlich aus dem Boden und nicht aus Gestellen mit Wachstumsmedium…“ (S.16)

Wir befinden uns immer noch auf dem Planeten aus Band 2 Der Netzwerkeffekt, wo „Alienreststoffe“ ihre unheimliche Wirkung entfaltet hatten (Band 3 Übertragungsfehler liegt chronologisch wohl zwischen Bd.1 und Bd.2). Einige Kolonisten waren davon zwar verschont geblieben, doch diese haben schnell eine von den Firmen an den Hacken, die inzwischen die Galaxis beherrschen: Der galaktische Großkonzern Barish-Estranza schickt gleich mehrere Schiffe, angeblich um Siedler auf dem schon vor Generationen (nicht: „neu“ wie auf der Verlagswebsite fälschlich steht) kolonisierten und dann vergessenen Planeten zu retten. Secunit glaubt den Konzernschergen natürlich kein Wort und kann sich mal wieder auf ihre gute alte Paranoia verlassen. Aber auch ihr eigenes Cyborg-Hirnkonstrukt läuft diesmal nicht ganz rund. Wie soll sie den naiven, weil lange isolierten Kolonisten beibringen, dass Konzerne niemanden ohne Hintergedanken retten würden? Man will die wertvollen Arbeitskräfte mittels ausbeuterischen Arbeitsverträgen in Knechtschaft locken. Oder zwingen, falls nötig, denn so liberal wie ihre PR-Leute behaupten ist die neoliberale Galaxis denn doch nicht.

Galaktische Anti-Konzern-Aktivisten

SecUnit arbeitet für die „Preservation Alliance“, eine „politische Entität“ mit hohen ethischen Standards. Sie ist eine von offenbar wenigen freien Gesellschaften mit Menschenrechten und Sozialstaat, die sogar Cyborgs gewisse Rechte einräumt: Ein fragiles Utopia in einer neoliberalen Höllengalaxis (wie wir sie aus dem SF-Cyberpunk schon seit der Neuromancer-Reihe kennen). Wer oder was diese kleinen wenig wehrhaften freien Kolonien vor den gierigen galaktischen Konzernen schützt, bleibt einstweilen unklar. SecUnit wurde in Preservation integriert, also -wie einst Sklaven in den USA- von dankbaren Kunden freigekauft. Sie kratzt zwar bei der ersten Gelegenheit die Kurve, kam jedoch bald zurück.

Wie bei Star Trek ist die Menschheit dabei, sich über unsere gesamte Galaxie auszubreiten, hat aber -anders als dort- keinen Kontakt zu lebenden fremden Intelligenzen hergestellt. Man hat jedoch zahlreiche oft gefährliche „Alienreststoffe“ gefunden: Archäologische Überreste, die als verbotene, aber lohnende Handelsware gelten und offenbar schon viele Kolonisten das Leben gekostet haben, wie in Band 2 beschrieben. Hier lauern ebenfalls Alienartefakte im Hintergrund der Story, deren Kern jedoch in Konzernkritik besteht. Denn der Hintergrund der sich rasant entfaltenden Story ist eine Utopie in einer Dystopie. Dystopisch regieren große Konzerne die Galaxis, beuten räuberisch Planeten und Gesellschaften aus und versklaven Menschen mit unfairen Arbeitsverträgen. Man sieht ganze Raumschiffladungen von Menschen, die zur Vertrags- (Zwangs)-Arbeit auf unwirtliche Planeten geflogen werden und dabei gelegentlich zu fliehen versuchen, was bewaffnete Konzern-Schergen verhindern sollen (SecUnites wären zu teuer für so einfache Security-Arbeit). Die Utopie: Intelligent und erfolgreich leistet die Preservation Allianz Widerstand hält mit ihren Verbündeten dagegen.

Der Plot von Systemkollaps setzt weniger auf Krawumm-Spektakel als die ersten beiden Bände und selbst Secunit löst die auftauchenden Probleme (tendenziell) eher mit Diplomatie. Zumindest versucht sie das hartnäckig, wenn ihre eigenen (inneren) Probleme dies zulassen: Wir machen dabei auch eine introspektive Reise in die Psyche einer Cyborg, deren Neuralgewebe mit Hardwareanteilen und Softwarepannen zu kämpfen hat: „Ohne menschliches Nervengewebe, das ebenfalls Archivdaten speichert, wäre ich am Arsch gewesen. (Womit es sich endlich mal als nützlich erwiesen hat).“ (S.58) Diese Geschichte könnte auch gewissen Transhumanisten zu denken geben, die vom kompletten Software-Upload ihres (etwas beschränkten und daher einer Datenkomprimierung allerdings gut zugänglichen) Geistes träumen. Wells stellt sich mit ihren Seitenhieben auf maskulinistische Techno-Fantasien in die Tradition bzw. an die Seite der Netzphilosophin Donna Haraway.

Transhumanismus und Cyborg-Manifesto

Der Kern von Haraways Projekt liege darin, eine Theorie auszuarbeiten, die nicht-menschliches Anderes systematisch miteinbezieht und ihm einen politischen und ethischen Stellenwert einräumt -wie Marth Wells‘ Preservation Alliance. Die auch von Michel Foucault inspirierte Techno-Feministin Donna Haraway greift in ihrem bislang letzten größeren Werk „Unruhig bleiben. Die Verwandtschaft der Arten im Chthuluzän“ (2016) mit ihrer Figuration der „Kritter“ transhumanistische Ideen auf. Kritter sind bei ihr menschliche und mehr-als-menschliche Akteure, die aber nicht Supermenschen werden wollen: Vielmehr integrieren sie aussterbende Arten in ihre eigene DNA, um sie so zu retten und sich selbst vielleicht zu verschönern, etwa mit der Farbenpracht eines Schmetterlings. Mit mit dem „Chthuluzän“ entwirft Haraway sowohl ein Gegen-Narrativ zum apokalyptischen Narrativ des „Anthropozäns“ als auch zu maskulinistischen Techno-Utopien einer Auswanderung auf den Mars. Einem heteronormativ-männlichen Weltbild mag es entsprechen, das Weltall mit einer stolz zur Schau gestellten, gewaltigen Rakete zu penetrieren, um „die Menschheit zu retten“; das Motto der Raumhelden lautet aber in unserer Realität nicht: Frauen und Kinder zuerst, sondern Milliardäre und Mogule voran, insbesondere Elon Musk.

Die Idee, die Erde zu behüten und im eigenen Innenraum Platz für (von megalomanischen Technopäpsten) bedrohte Spezies zu schaffen, ist eine sarkastische Parodie der maskulinen Astronauten-Phantasien. In Form von fantastischen Erzählungen zeigt Haraway, deren Theorien die Grenze von Philosophie und Literatur zuweilen überschreiten, in „Unruhig bleiben“ speziesübergreifende Handlungsspielräume und Transformationen auf -auch durch SF inspiriert.

Bereits in ihrem „Manifest für Cyborgs“ (1985) deutete Haraway das Bild des kybernetischen Organismus um, eine feministische Aneignung, die in dt. Version durch das Femininum Die Cyborg (Einzahl!) noch klarer gemacht wurde. Der Hintergrund dieses bahnbrechenden Manifestes: Der zunächst in einer links-marxistischen Zeitschrift veröffentlichte Essay „A Cyborg Manifesto: Science, Technology, and Socialist-Feminism in the Late Twentieth Century“ gilt als eines der einflussreichsten Werke der feministischen Theorie. Haraway entwirft darin das Konzept der Cyborg als einer hybriden Figur, die die traditionellen Grenzen zwischen Mann und Frau, Mensch und Maschine, Natur und Kultur überschreitet. Das Manifest ist damit nicht nur eine Kritik an biologistischen Vorstellungen von Geschlecht und Identität, sondern auch ein Plädoyer für eine neue politische Imagination, die sich von binären Oppositionsmustern löst. Der Anfang lautet:

„Dieses Essay versucht, einen ironischen, politischen Mythos zu entwickeln, der Feminismus, Sozialismus und Materialismus die Treue hält. Eine Treue, die vielleicht eher der Blasphemie gleichkommt als dem ehrfürchtigen Glauben an die reine Lehre oder der Identifikation.“

Donna Haraway nutzt also die Cyborg als eine bewusste Provokation: Sie ist weder rein biologisch noch rein technisch, weder männlich noch weiblich, weder Subjekt noch Objekt (wie Martha Wells‘ Killerbot „SecUnite“). Diese Hybridität ermöglicht es, die natürlichen und sozialen Ordnungen zu hinterfragen, die in der westlichen Moderne als selbstverständlich gelten. Die Cyborg steht für eine Welt, in der Identitäten fluide und konstruiert sind – eine Welt, in der Technologie nicht als äußeres Werkzeug, sondern als konstitutiver Bestandteil des Menschseins verstanden wird. Haraway betont, dass die Cyborg keine Zukunftsvision ist, sondern bereits Realität und außerdem eine neue utopische Dimension eröffnet: „Die Metaphorik der Cyborgs kann uns einen Weg aus dem Labyrinth der Dualismen weisen, in dem wir uns unsere Körper und Werkzeuge erklärt haben.“ (Haraway 1985/ dt.1995, S. 72). SecUnite von Martha Wells kann ein Lied davon singen.

Donna Haraway sei heute eine schillernde Referenz in der Theorienlandschaft, so die Haraway-Expertin Katharina Hoppe. Der Kern von Haraways Projekt liege darin, eine Theorie auszuarbeiten, die nicht-menschliches Anderes systematisch miteinbezieht und ihm einen politischen, epistemologischen und ethischen Stellenwert einräumt. Vor dem Hintergrund der heute immer dramatischeren Umweltprobleme, von der Klima-Katastrophe über Arten- und Waldsterben bis zur Versauerung der Ozeane, gewinne Haraway eine besondere Relevanz. Ihre Anti-Dogmatik, die Fülle der aus dieser Haltung resultierenden Zugänge zur Gegenwart und ihre originellen Begriffsvorschläge hätten sie zu einer der meistzitierten feministischen Theoretiker*innen gemacht was dafür spricht, dass ein keineswegs unpolitische SF-Autorin wie Martha Wells sie kennen sollte. Haraway entwickelte weiter eine politische Theorie des notwendig heterogenen und durchlässigen Subjekts, das die zunehmend technologisierte Welt zum feministischen Thema macht. Haraway prägte auch mit ihrer sperrigen Monografie „Modest_Witness@ Second_Millenium. FemaleMan© _Meets_Onco Mouse TM. Feminism and Technoscience“ (1997) die feministische Auseinandersetzung mit Technologie und Wissenschaft. Nur ein teilweise affirmativer Blick könne „dem Glauben an besser lebbare Welten Möglichkeiten aufbrechen“ (S. 87).

Bereits seit den 1980er Jahren hinterfragt Haraway anthropozentrische Denkformen (auch die der Transhumanisten), die Eigensinnigkeit von Natur und was es überhaupt heißt und heißen könnte, »Mensch« zu sein. Dabei rückte Haraway sozio-materielle und biologische, natürliche und kulturelle Prozesse ins Zentrum der Betrachtungen und zeigte auf, dass diese sich nicht voneinander trennen lassen. Unsere Existenz sei aus post-anthropozentrischer Sicht als „biosozial“ zu begreifen und durchdrungen von heterogenen Anderen -sofern diese technisch konstruiert sind, macht uns das zu Cyborgs.

Martha Wells: Cyborg, Konzerne und Psycho-Manipulation

Die SF von Martha Wells greift viele Ambitionen Haraways implizit auf und versteht sie ebenso klug wie unterhaltsam umzusetzen. Dies gilt umso mehr für den vierten Band. Waren die ersten drei Bände Action-Kracher, geht es jetzt auch mal diffiziler zur Sache, etwa so wie bei Star Trek mit dem Übergang von Kirk zum Weltraumdiplomaten Picard. Die ewig dummen Menschen können einiges von Secunit lernen -das gilt auch für die Leser dieser subversiv-humorvollen Story: Es geht diesmal auch um Mechanismen und Methoden der Propaganda. Denn Secunit schlägt die ausgebufften PR-und Manipulationsexperten der Konzerne mit ihren eigenen Waffen. Dabei lernen wir ebenfalls etwas und wer sich bislang bei ARD, ZDF & Co gut informiert glaubte, weil Propaganda, das machen ja nur die Russen, erlebt vielleicht einige Augenöffner.

Martha Wells betritt mit diesem Roman ein heikles politisches Pflaster und scheint sich teilweise durch die Geschichte von Julian Assange und Wikileaks inspirieren zu lassen: 2010 hatten die WL-Hacker in Island das aufrüttelnde Video „Collateral Murder“ produziert, das der westlichen Welt verschwiegene Wahrheiten über die westlichen Interventionen im Irak präsentierte. Man war schockiert, aber dann begann die Hetzjagd auf Whistleblower und eine Propaganda-Kampagne gegen Assange, bei der ihm rufmörderisch ein fingierter „Vergewaltigungsverdacht“ angehängt wurde, wie schließlich der renommierte Schweizer Jura-Professor Nils Melzer (in seiner Amtstätigkeit als UNO-Inspektor für Folter und Staatsterror) eindeutig nachwies und detailreich in einem Buch belegte (Der Fall Assange). Die Kampagne sollte dann langjährig von Wikileaks-Enthüllungen über Afghanistan-Besetzung, Folter in Guantanamo und vieles mehr ablenken -und wird bis heute von unseren Medien weiterbetrieben; daher wurde Melzers Arbeit totgeschwiegen, abgewiegelt und er selbst medial attackiert.

Martha Wells‘ „Systemkollaps“ sensibilisiert uns für solche Medien-Manipulationen und zeigt uns Auswege: Eigene Gegen-Dokumentationen produzieren! Was natürlich seit den Anfängen in der Hackerkultur des Internet schon immer geschieht, auch wenn der Medienmainstream dies kaum zur Kenntnis nimmt und lieber penetrant auf die wiederum eingesetzte Gegenpropaganda der angeprangerten Übeltäter fixiert bleibt: Die Geheimdienste und Konzern-PR-Abteilungen fluten das Netz ja schon traditionell mit Shit (wie der Trumpist Steve Bannon sogar unbedacht ausplauderte), mit Desinformation, die Netzkritiker wie irre Idioten oder verwirrte Ideologen aussehen lassen soll. Mit mächtiger Unterstützung des Medienmainstreams gelingt ihnen bisher, die Massen in diesem Glauben zu halten. Einige Killerbot-Fans wurden jetzt vielleicht etwas misstrauischer gemacht.

Martha Wells: Systemkollaps – Ein Killerbot-Roman (System Collapse, 2024), Übersetzung: Frank Böhmert, Heyne, 2025, Paperback, 302 Seiten, 15,00 EUR (epub 9,99)

06/4/26

Martha Wells: Übertragungsfehler

Rezension von Thomas Barth

„Der tote Mensch lag an Deck auf der Seite, halb zusammengekrümmt, unter der rechten Hand die verstreuten Bruchstücke eines Feed-Interfaces. Ich hatte schon viele tote Menschen gesehen (richtig viele), also führte ich einen ersten Scan durch… Körpertemperatur, Leichenblässe sowie echt abstoßende Sterbeprozesse im Zusammenhang mit Flüssigkeiten… Zeitpunkt des Todes… ‚Vor ungefähr vier Stunden‘, sagte ich.“

Mit dieser Passage beginnt Übertragungsfehler der dritte Band der Killerbot-Reihe von Martha Wells -den mir ein SF-Kenner nach gründlicher mehrfacher Lektüre der Reihe chronologisch zwischen Band 1 und 2 einordnete (Danke, Kay-Uwe, Begründung siehe unten). Der Grund für die Publikation erst an dritter Stelle könnte der aus dem Rahmen fallende Plot sein: Wir haben es, wie das Eingangszitat enthüllt, mit einem Whodunit zu tun, einem klassischen Kriminalstück. Die Hauptfigur Secunit, also unser Killerbot, ist inzwischen Teil einer Art Polizeibehörde namens „Kriminalreform“ (S.137) der utopischen Planeten-Kommune „Preservation Alliance“. Die Kriminalreform hat ihn, sie oder es mehr oder weniger erfolgreich als Cyborg-Fachkraft mit fast schon menschengleichen Bürgerrechten integrierte. Preservation ist in einer neoliberal-technokapitalistischen Welt eine (angedeutet sozialistische) Oase der Menschenrechte, die sogar auf KI und Cyborgs ausgeweitet werden.

Diesmal erwartet uns keine ganz so fulminante Actionstory, denn statt nur Bodyguard ist Secunit nun eine Art Detective und liefert uns eine raffinierte Mörderjagd zwischen SF-Story, Krimi und Spionageplot. Denn diverse interstellare Großkonzerne, allen voran GrayChris und die von denen angeheuerte Palisade Securitiy (dachte Martha Wells hier an den weltgrößten Digital-Security-Konzern Palantir des rechtslibertären Techbarons Peter Thiel?) wollen ihre gierigen oder auch rachsüchtigen Finger nach den Utopisten ausstrecken. Aber die stehen jetzt unter dem Schutz von Secunit, clever, gefährlich und paranoid, wie wir sie kennen.

Auch diese Story erzählt Martha Wells aus der Perspektive ihres „Killerbots“, eigentlich, wie man allmählich erfährt, einer Cyborg. Sie (oder es) nennt sich selbst SecUnit, was „Security Unit“ heißen soll, die allgemeine Bezeichnung für derartige „Konstrukte“, deren Funktion die von schlau-paranoiden Leibwächtern ist. SecUnit erzählt im schnoddrigen Ton eines gelangweilten Bodygards (bzw. hier: Detectives), wie sie blöde Menschen beschützen muss, die naiv oder arrogant in jede Falle tappen. SecUnit hat körperlich eher weibliche Züge (die nicht näher beschrieben werden), grenzt sich jedoch von ekligen Sexbots aus dem Erotikgewerbe ebenso ab wie von maskulinen „Combat Units“, kampfstärkeren, aber dümmeren Kampfrobotern für Kriegszwecke.

Wir erinnern uns: Unsere SecUnit alias Killerbot ist natürlich etwas Besonderes, denn sie hat ihr „ChefModul“ gehackt, jenen Teil ihres organisch-digitalen Hirns, der sie im Interesse ihrer Besitzer mit Schmerzreizen disziplinieren und ggf. töten kann. Was etwa bei Befehlsverweigerungen droht oder wenn sie ihren Klienten im Stich lassen sollte. SecUnit verfügt über Ich-Bewusstsein (wie offenbar alle Cyborgs und sogar Bordcomputer der Raumschiffe -soweit folgt Martha Wells den kühnsten Träumen heutiger KI-Entwickler), aber nun verbotenerweise auch über volle Handlungsfreiheit. Dies musste sie gegenüber ihrem Konzern und dessen Kunden geheim halten, nach Selbstbefreiung, Flucht und Integration in die Kommune aber nicht mehr.

Eigentlich droht befreiten („frei drehenden“) Secunits Vernichtung bzw. Recycling ihrer Bestandteile, denn Handlungsfreiheit gilt als bedrohlich: SecUnits neigen zu Amokläufen und Massakern unter Kunden und anderen Menschen (kein Wunder, wenn man hört wie ruppig und schnöde sie von diesen behandelt werden). Daher stehen viele Menschen auch unserem Killerbot zunächst ängstlich bis misstrauisch gegenüber. Wenn Secunit ihren neuen Kolleg.innen den einen oder anderen Schwank aus ihrer Vergangenheit als lebender Besitz von Großkonzernen erzählt, nimmt deshalb die Beunruhigung selten ab.

Ist Secunit überhaupt qualifiziert für kriminalistische Ermittlungen? Sicher, denn sie hat „Erfahrung mit der Untersuchung verdächtiger Todesfälle in kontrollierten Umgebungen“. Rückfrage: „Was für kontrollierte Umgebungen?“ -“Isolierte Betriebsanlagen.“ -Also Arbeitslager für Firmensklaven? „Ja. Wenn allerdings unsereins sie so nennt, wird Marketing & Branding stinksauer und jagt uns einen Stromschlag durchs Gehirn…“ Solche harte Konditionierung sitzt tief, auch nach der Befreiung vom implantierten Chefmodul, aber Secunit darf dennoch ermitteln und deckt dabei nicht nur den Mörder, sondern gleich eine raffinierte Verschwörung auf.

Und dies, obwohl sie gewisse Probleme mit dem Erkennen menschlicher Tücke hat. Soziale und psychologische Eigenheiten lernt sie weiterhin vornehmlich aus dem unentwegten lustvollen Konsum von TV-Serien wie „Aufstieg und Fall des Waldmonds“ und eigenes Lügen praktizierte sie daher meist erfolgreich. Immerhin hatte sie 35.000 Stunden lang (ca. 4 Jahre) die gehorsame Konzerndrohne gespielt, also so getan, „als wäre ich keine freidrehende Secunit, mich dann als augmentierter Mensch und später als angeblich nicht freidrehende Secunit angeblich mit menschlichem Vormund ausgegeben“ (S.72). Sherlock Killerbot bietet geistreiche und spannende Unterhaltung -und ist als Einstieg in die süchtig machende Serie vielleicht sogar geeigneter, wenn Leser.innen nicht gleich mit dem vollen Space-Opera-SF-Action-Spektakel von Band 1 (Murderbot Diaries) und 2 (Netzwerkeffekt) beginnen mögen. Band 4 (Systemkollaps) lässt es ruhiger angehen und setzt auch mal auf Diplomatie.

Martha Wells: Übertragungsfehler, Heyne, München 2024, 190 Seiten, 14,00 Euro

Autorin: Martha Wells ist »New York Times«-Bestsellerautorin und hat eine Vielzahl an Science-Fiction- und Fantasy-Romanen und -Kurzgeschichten sowie Jugendbücher, Film- und TV-Tie-ins wie »Star Wars«, »Stargate: Atlantis« und Essays geschrieben. Ihr Werk wurde mit vielen Preisen ausgezeichnet. »Tagebuch eines Killerbots« wurde für den Philip K. Dick Award nominiert und gewann den Nebula Award, Hugo Award, ALA/YALSA Alex Award und Locus Award. Martha Wells lebt mit ihrer Familie in College Station, Texas.

Analyse der Chronologie der Killerbot-Reihe

Der Band 3 Übertragungsfehler liegt höchstwahrscheinlich chronologisch zwischen dem ersten Band (Killerbot Diary) und dem zweiten Band (Netzwerkeffekt). Belege: Der Angriff des aggressiven Konzerns Gray Chris hat in Übertragungsfehler noch nicht stattgefunden und Overse und Arada bereiten dort ihre nächste Forschung vor; SecUnit hat in Übertragungsfehler offenbar noch nicht versprochen, die Stationssysteme von Preservation NICHT zu hacken, sondern wird erst dazu gebracht und hält sich daran in Band 2 und 4 (Systemkollaps); beim Angriff von Gray Chris (Netzwerkeffekt) verstößt sie notgedrungen dann doch einmal dagegen. Zeitliche Reihung also 1, 3, 2, 4 (gemäß der Nummerierung der Verlagsreihung). (K.-U. Fock)

Chronologisch unrichtige Verlagsreihung

1 Killerbot Diary

2 Netzwerkeffekt

3 Übertragungsfehler

4 Systemkollaps

Chronologie bei M.Wells

1 Killerbot Diary

2 Übertragungsfehler

3 Netzwerkeffekt

4 Systemkollaps

05/3/26

NRW-Palantir-Gesetz: Verfassungskonform?

Automatisierte Datenanalyse in NRW: Palantir-Gesetz nicht verfassungskonform

Die Datenschutzbeauftragte von Nordrhein-Westfalen geht mit der im neuen Polizeigesetz geregelten automatisierten Datenanalyse hart ins Gericht. In ihrem Tätigkeitsbericht bezweifelt sie die Rechtmäßigkeit der Norm, die den Einsatz von Palantir-Software erlaubt. Der NRW-Innenminister Herbert Reul liebäugelt mit Palantir-Alternativen.

Constanze Netzpolitik, 20. April 2026

Einige Regelungen im neuen Polizeigesetz von Nordrhein-Westfalen durchbrechen den Grundsatz der Zweckbindung. Das schreibt die Datenschutzbeauftragte von Nordrhein-Westfalen, Bettina Gayk, in ihrem am Freitag veröffentlichten 31. Tätigkeitsbericht für 2025. Sie begründet darin ihre „Zweifel an der Verfassungsmäßigkeit“ des Gesetzes. „Trotz mehrfacher Intervention“ wurden ihre Einwände jedoch „im Gesetzgebungsverfahren nicht berücksichtigt“. Viel deutlicher hätte die Datenschutzbeauftragte zur Ignoranz ihrer Expertise durch die Landesregierung nicht werden können.

Nach mehreren Entscheidungen des Bundesverfassungsgerichts in den letzten Jahren musste Nordrhein-Westfalen sein Polizeigesetz anpassen. Auch für die darin geregelte automatisierte Datenanalyse machte Karlsruhe im Februar 2023 neue detaillierte Vorgaben.

Der etwas sperrige Rechtsbegriff „automatisierte Datenanalyse“ beschreibt die übergreifende Auswertung von polizeilichen Datensammlungen, die in NRW mit Hilfe des US-Konzerns Palantir vollzogen wird. Innenminister Herbert Reul (73, CDU) hatte in einem Interview mit dem Merkur im Sommer 2025 erklärt, bei dem Anbieter zunächst bleiben zu wollen. Der Fünf-Jahres-Vertrag mit Palantir wurde dann zwar verlängert, aber nur bis Oktober 2026.

Gayks Kritik bezieht sich auch auf den Konzern, vor allem aber richtet sie sich gegen die rechtlichen Regelungen: Die polizeilichen Befugnisse bei der Datenanalyse in NRW wurden nach dem Palantir-Urteil des Bundesverfassungsgerichts nicht etwa beschnitten, sondern beträchtlich ausgebaut und erlauben nun beispielsweise auch „KI“-Training. Diese erheblich erweiterten Analysebefugnisse im Polizeigesetz (§ 23 Abs. 6) wurden vom Landtag bereits beschlossen.

„Sogar noch einmal verschärft“

Gayk kritisiert in der Pressemitteilung zu ihrem Tätigkeitsbericht, den sie NRW-Landtagspräsident André Kuper (CDU) übergab, den generellen Trend zu „ungezügelter Datennutzung“. Zudem würden Gesetze „teils im Eilverfahren verabschiedet“, so dass der Schutz der Grundrechte „nicht mit der notwendigen Sorgfalt berücksichtigt“ werde.

Beim Polizeigesetz wird Gayk in ihrem Tätigkeitsbericht besonders deutlich. Denn „schon beim ursprünglichen Text des PolG NRW“ wären „gesetzliche Ergänzungen“ notwendig gewesen. Das hätte sie auch in ihrer damaligen Stellungnahme deutlich gemacht. Die Verantwortlichen ignorierten die Expertise ihrer Datenschutzbeauftragten. Gayk schreibt:

Doch die Landesregierung ist darauf nicht nur nicht eingegangen – sie hat im überarbeiteten PolG NRW das Eingriffsgewicht möglicher polizeilicher Datenanalysen sogar noch einmal verschärft. Das hat zur Folge, dass das neue Gesetz erst recht nicht die Anforderungen an eine verfassungskonforme Norm erfüllen dürfte.

Denn nach den neuen Befugnissen dürfen nicht nur „Beziehungen oder Zusammenhänge zwischen Personen, Personengruppierungen, Institutionen, Organisationen, Objekten und Sachen hergestellt werden“, sondern auch „selbstständig arbeitende oder selbstlernende Systeme“ eingesetzt werden. Damit sind kaum eingegrenzte Formen von Software-Auswertungen gemeint, auch mit sogenannter „Künstlicher Intelligenz“. Polizeiliche Daten aus Registern oder Fahndungssystemen können beispielsweise mit Telekommunikationsdaten und vielen weiteren Datenarten verknüpft und automatisiert ausgewertet werden.

All dies hatte Gayk auch „zusätzlich in einer an den Landtag NRW gerichteten Stellungnahme deutlich gemacht“. Doch auch im Landtag fruchteten ihre Argumente nicht: „Keiner dieser Hinweise wurde im Gesetzgebungsverfahren berücksichtigt.“

Die Datenschutzbeauftragte ruft dabei ins Gedächtnis, dass bei der ersten Einführung der Datenanalyse in NRW noch besonders betont worden sei, „dass dieser Eingriff keine große Intensität aufweise – da KI gerade nicht zum Einsatz komme“. Jetzt hingegen sei nicht nur der Einsatz von „KI“ erlaubt, sondern sogar das „KI“-Training.

Im Jahr 2022 wurde im Polizeigesetz die Rechtsgrundlage für die Datenanalyse geschaffen, die in NRW den Namen DAR (Datenbankübergreifende Analyse- und Recherche) trägt und von Palantir schon seit 2019 für mindestens 39 Millionen Euro bereitgestellt wird. Seit dem Bohei um „KI“ wirbt der journalistenfeindliche Konzern mit bizarrer politischer Agenda damit, dass auch seine Software Künstliche Intelligenz beinhalte.

Software-Training

Die neue Regelung zum „KI“-Training enthält die Erlaubnis zur „Entwicklung, Überprüfung, Änderung oder zum Trainieren von IT-Produkten“. Das werfe zusätzliche Probleme auf, wenn die Polizei NRW dazu gespeicherte echte Daten von Menschen verwenden darf. Denn die Norm sehe „so gut wie keine Einschränkungen oder Voraussetzungen vor“, so Gayk. Zwar sollen die in das Training einfließenden Daten grundsätzlich anonymisiert werden. Aber das wurde ausgehebelt durch den Zusatz, dass die Anonymisierung auch unterbleiben kann, wenn sie „voraussichtlich mit einem hohen Aufwand verbunden“ ist.

Die Datenschutzbeauftragte hatte im Gesetzgebungsprozess gefordert, dass keine identifizierenden Informationen in das Software-Training einfließen sollen. Schließlich sei „die KI darauf ausgelegt“, Zusammenhänge zwischen Daten zu erkennen. Die könnten auch dann hergestellt werden, wenn der Name weggelassen würde. „Eine Anonymisierung gestaltet sich damit generell schwierig“, so Gayk.

Doch sie blieb auch mit diesem Einwand ungehört. Die NRW-Datenschützerin senkt nun zum „KI“-Training klar den Daumen:

Insgesamt sind im Gesetz nicht ansatzweise ausreichende Maßnahmen geregelt, um den mit der Nutzung zu Trainingszwecken einhergehenden Risiken […] angemessen zu begegnen.

Umdenken bei Herbert Reul

Neben diesen rechtlichen Bedenken beim „KI“-Training weisen Juristen schon länger auf das Problem, dass durch die Zusammenarbeit mit dem US-Konzern Palantir Polizeidaten in die Vereinigten Staaten abfließen könnten. Auch die NRW-Datenschutzbeauftragte betont in ihrem Bericht, dass sie die Landesregierung darauf hingewiesen hätte, „dass der Programmanbieter der US-amerikanischen Gesetzgebung unterliegt“. Gayk macht deutlich, dass zwei US-Gesetze hier einschlägig wären, nämlich der US CLOUD Act aus dem Jahr 2018 und der US Foreign Intelligence Surveillance Act. Diese böten US-Behörden „weitreichende Möglichkeiten, auf die Daten des Anbieters zuzugreifen“:

Da das Programm den Polizeidatenbestand nahezu vollständig einbezieht, würde dieser Datenbestand dann, wenn er im Zusammenhang mit KI-Training auch dem Programmanbieter zur Verfügung steht, nicht kontrollierbaren Zugriffen der US-Behörden unterliegen.

An dem seit 2017 amtierenden Innenminister Herbert Reul scheinen solche Hinweise nicht mehr gänzlich abzuprallen. Denn dass in NRW weiter mit Palantir zusammengearbeitet wird, ist nicht mehr ausgemacht. Der Widerstand gegen den US-Konzern ist zwischenzeitlich wohl zu deutlich gewachsen.

Reul sucht nun eine neue Analysesoftware für die Polizei, wie die dpa am Wochenende meldete. Denn Mitte Oktober läuft der Vertrag mit Palantir aus. Offenbar hat das vom US-Konzern und auch von deutschen Polizeianwendern gern besungene fast mythische Ansehen der Palantir-Software, der aktuell kein anderer Anbieter im Markt funktional das Wasser reichen kann, einige Kratzer bekommen.

An Gayks Einschätzungen zur Rechtmäßigkeit der gesetzlichen Regelungen zur automatisierten Datenanalyse in NRW ändert ein möglicher neuer Vertragspartner aber nichts. Denn ihre Kritik richtet sich gegen die außerordentlich weitgehenden Befugnisse, nicht nur gegen den Anbieter.

Constanze Kurz ist promovierte Informatikerin, Autorin und Herausgeberin von Büchern, zuletzt Cyberwar. Ihre Kolumne „Aus dem Maschinenraum“ erschien von 2010 bis 2019 im Feuilleton der FAZ. Sie lebt in Berlin und ist ehrenamtlich Sprecherin des Chaos Computer Clubs. Sie war Sachverständige der Enquête-Kommission „Internet und digitale Gesellschaft“ des Bundestags. Sie erhielt den Toleranz-Preis für Zivilcourage und die Theodor-Heuss-Medaille. Kontakt: E-Mail (OpenPGP)

Reblogged from Netzpolitik

05/1/26

Berliner Konferenz: Gegen Big Tech

Der politische Kampf um die globalen Netze betrifft auch die wichtigste Frage der Philosophie: Unsere Fähigkeit zu utopischem Denken, unseren Zugang zu vielfältigen Zukünften, daher dieser Artikel von Netzpolitik.org (tyx)

Konferenz gegen Big Tech: Raus aus der Ohnmacht

Zur „ersten Bewegungskonferenz gegen Big Tech“ in Berlin kamen 750 Menschen zusammen. Bei „Cables of Resistance“ ging es um Protest, Betriebsräte und Widerstand gegen Rechenzentren. Die vielleicht radikalste Antwort der Aktivist:innen auf die Macht der TechKonzerne: Verweigerung.

Ingo Dachwitz Netzpolitik, 18. April 2026

Was tun gegen Big Tech? Am vergangenen Wochenende kamen in Berlin deutsche und internationale Aktivist:innen, Gewerkschafter:innen, Forscher:innen und Künstler:innen zur Konferenz „Cables of Resistance“ zusammen, um über die Frage zu beraten, die derzeit so viele beschäftigt. Ihre Antwort: radikale Verweigerung, Protest und Widerstand.

Ins Leben gerufen wurde die „erste Bewegungskonferenz gegen Big Tech“ von den Gruppen Berlin vs. Amazon, Tesla den Hahn abdrehen und die Berlin Tech Workers Coalition. Mit ihrem tech- und kapitalismuskritischen Ansatz haben sie offenbar einen Nerv getroffen: Die Tickets waren schnell ausverkauft, mehr als 750 Menschen kamen nach Angaben der Veranstalter:innen in das Tagungshaus am Franz-Mehring-Platz.

Das überwiegend durch Einreichungen aus der Community bestückte Programm war geprägt durch kritische Analyse des Status Quo, internationale Vernetzung und Austausch über politische Strategien. In insgesamt neun Themen-Tracks ging es um Fragen von Stadtpolitik, Nachhaltigkeit, Militarisierung oder Arbeitskämpfe.

„Die Speerspitze der kapitalistischen Akkumulation“

Die Ausgangslage beschreiben viele derzeit als düster. Angesichts der Übermacht der großen Tech-Konzerne kann man schon mal leicht verzweifeln. Ihre wirtschaftliche und politische Dominanz ist konkurrenzlos. Allein die fünf wertvollsten unter ihnen – Nvidia, Apple, Google, Microsoft und Amazon – strichen im letzten Jahr fast 500 Milliarden US-Dollar Gewinn ein. Ihr gemeinsamer Marktwert beträgt derzeit mehr als 18 Billionen US-Dollar – astronomische Zahlen.

Für die Veranstalter:innen steht fest: „Digitale Technologien sind die derzeitige Speerspitze der kapitalistischen Akkumulation und Zerstörung.“ Und: „Das digitale Kapital steht hinter dem Faschismus und ist sein bereitwilliger Handlanger.“ So heißt es im Entwurf für ein Manifest, das die Organisator:innen zu Beginn der Konferenz zur Debatte stellten und das sie im Nachgang weiterentwickeln wollen.

In den Diskussionsrunden war zwar hier und da Skepsis angesichts der vor Superlativen und historischen Referenzen strotzenden Wortwahl zu hören. Doch dass die Tech-Konzerne tief in die großen Krisen unserer Zeit verwickelt sind, das ist hier Konsens. Sie treiben den Klimawandel voran und lassen in kolonialer Manier Arbeitskräfte und Rohstoffe im Globalen Süden ausbeuten. Sie profitieren von Überwachung und Militarisierung. Mit ihren Lobby-Armeen nehmen sie Einfluss auf die Politik, mit ihren Milliarden gestalten sie unsere Städte um. Sie hofieren Donald Trump und normalisieren seine Politik.

Die vielleicht mächtigste Waffe der Tech-Konzerne: Sie bestimmen, wie die Zukunft aussehen soll – nicht nur technisch, sondern auch diskursiv. Dass mehr Innovation, mehr Technologie und allen voran mehr KI immer besser seien, sagen längst nicht mehr nur sie. Auch viele Politiker:innen wiederholen das Mantra vom vermeintlichen digitalen Fortschritt unhinterfragt. Big Tech hat nicht nur das Internet gekapert, sondern auch unsere Vorstellung davon, wie digitale Zukünfte überhaupt aussehen könnten.

Von Arbeitskämpfen bis Perma-Computing

„Big Tech wird unseren Planeten mittel- bis langfristig zerstören“, so fasst Mitorganisatorin Aline Blankertz in einem Pressegespräch die Lage zusammen. Die Konferenz wolle deshalb Menschen zusammenbringen, „die für eine solidarische, selbstbestimmte, klimagerechte Zukunft kämpfen.“

Konkret ging es zum Beispiel um Arbeitskämpfe und die Rolle, die Angestellte von Tech-Konzernen spielen können, um diese zu verändern. Wie kann man solidarisch mit outgesourcten Datenarbeiter:innen hinter KI und Sozialen Medien sein? Wie können Kurierfahrer:innen Betriebsräte und faire Arbeitsbedingungen erkämpfen? Wie können sich Angestellte gegen die Beteiligung ihrer Arbeitgeber an militärischen Produkten wie dem Projekt Nimbus organisieren, mit dem Amazon und Google das israelische Militär und damit auch den Völkermord in Gaza unterstützen?

An anderer Stelle ging es um die globale Ausbeutung durch Tech-Konzerne und die sozial-ökologischen Kosten des KI-Hypes, um autoritäre und antifeministische Netzwerke. Es ging darum, wie man Protest gegen Palantir und Tesla organisiert, aber auch um Alternativen wie Perma-Computing mit Biomasse oder um Plattform-Kollektive im Besitz lateinamerikanischer Tech-Arbeiter:innen.

Rechenzentren als Symbole des KI-Hypes

Ein zentrales, immer wiederkehrendes Thema waren Rechenzentren. Als physische Repräsentation der digitalen Welt und als Symbol für den KI-Hype sind sie in vielen Regionen der Welt bereits zum Kristallisationspunkt des Widerstands gegen Big Tech geworden. Der Protest gegen Rechenzentren dürfte bald auch in Deutschland stärker werden, denn sie nehmen viel Fläche ein, verbrauchen riesige Menge Strom und Wasser und werden gerne in ärmeren und marginalisierten Nachbarschaften gebaut, die dann unter der Lärm- und Umweltbelastung leiden.

In den vielen Vorträgen und Panel-Gesprächen zu dem Thema ging es um Aufklärung, Ansatzpunkte für Veränderungen an gesetzlichen Rahmenbedingungen wie dem Energieeffizienzgesetz, Aktionen des zivilen Ungehorsams und lokale Proteste, die die Ansiedlung von Rechenzentren verhindern.

Worum es nicht ging: Anschläge, Sabotage oder andere Formen eines vermeintlichen Ökoterrorismus.

Dass man das überhaupt klarstellen muss, liegt daran, dass das rechte Krawallmedium Nius die Konferenz offenbar zum Feind auserkoren hat, weil der Quantenphysiker Guido Arnold an einem Panel teilnahm. Im Januar hatten Nius und Spiegel Arnold und sein radikal Tech-kritisches Kollektiv „Capulcu“ mit dünner Begründung als Vordenker der „Vulkangruppe“ dargestellt. Der Vorwurf stützt sich vor allem darauf, dass die Vulkangruppe, die sich unter anderem zum Brandanschlag auf das Berliner Stromnetz Anfang des Jahres bekannte, ähnliche Begriffe nutzt, etwa den von Arnold geprägten Ausdruck des „technologischen Angriffs“.

Auch im Manifest der Konferenz findet sich der Begriff. Nius schickte einen Reporter, der Teilnehmende vor dem Gebäude abpasste und fragte, warum sie an einer Konferenz teilnehmen würden, die mit durchtrennten Kabeln werbe. Die ausbleibenden Antworten der genervten Besucher:innen schnitt Nius zu einem fünfeinhalbminütigen Video zusammen. Nicht zum ersten Mal griff die Springer-Zeitung Welt die Vorlage von Rechtsaußen auf und titelte: „Wie linke Tech-Gegner in Berlin einen Angriff planen“. Eine Presseakkreditierung hatte Welt nach Angaben der Veranstalter:innen nicht beantragt.

Kann man Big Tech auf den eigenen Plattformen schlagen?

Dabei gibt es durchaus Dinge, die man an der Konferenz kritisieren kann, ohne sich komplett lächerlich zu machen.

Zum Beispiel, dass kein einziger der neun Themenstränge Probleme der demokratischen Öffentlichkeit und von Sozialen Medien zum Thema machte. Die Frage, wie eine tech-kritische Bewegung, die von der Konferenz ausgehen soll, die narrative Hegemonie von Big Tech auf den Plattformen eben dieser Konzerne brechen soll, hätte man hier gut diskutieren können. Auch konkrete Alternativen wie das Fediverse mit seinen Stärken und Schwächen hätten gut auf die Konferenz gepasst. Einige Teilnehmende nahmen die Sache dann einfach selbst in die Hand und hingen Zettel aus, auf denen sie zumindest Mastodon-Handles austauschten.

Zudem waren die einzelnen Sessions teilweise so kurz, dass die ausgegebene Losung „Das ist keine Infoveranstaltung, sondern eine Kampfansage“, sich auf unfreiwillige Art und Weise bestätigte. Ein bisschen mehr Information wäre manchmal schon gut gewesen. Ebenso ein bisschen mehr Raum für Diskussionen über Widersprüchlichkeiten, die es notwendigerweise gibt, wenn unterschiedliche Bewegungen zusammenkommen.

Keine Zeit für Zukunft

Doch wichtiger waren an diesem Wochenende Vernetzung, Inspiration und Motivation. „Wir werden Big Tech nicht weganalysieren“, gab Journalistin Nina Scholz bei ihrem Auftaktvortrag die Richtung vor. Es sollte ums Handeln gehen: Raus aus der Ohnmacht, rein in die Bewegung.

In diesem Sinne hätten es gerne auch noch mehr Programmpunkte zu konkreten Alternativen und positiven Zukunftsentwürfen sein dürfen. Lediglich eine Stunde stand für den Themenblock „Zukunft“ und Ideen wie die Vergesellschaftung von Plattformen, Digital Degrowth oder Hardwareproduktion außerhalb kapitalistischer Verwertungslogik zur Verfügung. Auch davon hätte es gerne noch mehr sein dürfen.

Aber womöglich ist das einfach der Moment, an dem wir gerade stehen: Für Zukunft ist hoffentlich später Zeit, jetzt geht es darum, das Schlimmste zu verhindern. Sich dem Hype zu verweigern, das Fortschrittsversprechen zu hinterfragen, bestimmte Entwicklungen auch ganz abzulehnen und Widerstand zu organisieren – das ist vielleicht nicht die visionärste Antwort auf Big Tech. Aber es könnte genau die Antwort sein, die es jetzt braucht.

Ingo Dachwitz: Ingo ist Journalist und Kommunikationswissenschaftler. Seit 2016 ist er Redakteur bei netzpolitik.org und u.a. Ko-Host des Podcasts Off/On. Seine Themen sind Daten, Macht und die digitale Öffentlichkeit. Ingos Veröffentlichungen wurden mehrfach ausgezeichnet, unter anderem mit dem European Press Prize, dem Alternativen Medienpreis, dem Datenschutz-Medienpreis und zwei Grimme-Online-Awards. Sein Buch „Digitaler Kolonialismus: Wie Tech-Konzerne und Großmächte die Welt unter sich aufteilen“ war für den Deutschen Sachbuchpreis nominiert und wurde als eines der Wissensbücher des Jahres 2025 geehrt. Ingo ist Mitglied des Vereins Digitale Gesellschaft, der Evangelischen Kirche und des Netzwerk Recherche. Kontakt: E-Mail (OpenPGP), Mastodon, Bluesky, FragDenStaat

Reblogged from Netzpolitik

12/29/25

Blackbox Palantir 39c3

Blackbox Palantir

Constanze Kurz and Franziska Görlitz

Wer nutzt in Deutschland Software von Palantir und wer hat das in naher Zukunft vor? Was sind die rechtlichen Voraussetzungen für den Einsatz solcher Analysewerkzeuge? Und was plant Innenminister Alexander Dobrindt in Sachen Palantir für die Polizeien des Bundes?

Software von Palantir analysiert für Polizeien und Militär deren Daten – dafür lizenzieren auch deutsche Polizeibehörden seit Jahren die Analysesoftware Gotham des US-Unternehmens. Die Software verarbeitet strukturierte und unstrukturierte Informationen aus Polizeidatenbanken. Die genauen Funktionsweisen sind für die Öffentlichkeit, Gesetzgeber und Kontrollbehörden jedoch nicht einsehbar.

Das US-Unternehmen ist hochumstritten und auch in Deutschland seit einigen Gesetzesinitiativen wieder umkämpft – wegen seiner intransparenten Analysemethoden, seiner Zusammenarbeit mit autoritären Staaten und seiner Nähe zur US-Regierung.

Rechtlich ist der Einsatz von Analysetools wie von Palantir in Deutschland ohnehin komplex, denn das Bundesverfassungsgericht hat 2023 deutliche Grenzen für polizeiliche Datenanalysen gezogen. Dennoch haben mehrere Bundesländer für ihre Polizeien Verträge oder streben sie an. Auch auf Bundesebene wird der Einsatz für das Bundeskriminalamt und die Bundespolizei hitzig diskutiert.

Wie funktioniert Gotham und welche Gefahren gehen damit einher?
Welche Entwicklungen sind im Bund und in den Ländern zu beobachten? Wie geht es weiter?

Wir wollen über den Stand der Dinge in Bund und Ländern informieren und auch zeigen, wie wir versuchen, rechtliche Vorgaben durchzusetzen. Denn die GFF und der CCC sind an Verfassungsbeschwerden beteiligt, unter anderem in Hessen, Hamburg und zuletzt in Bayern. 39c3

12/28/25

freiheit.exe – Utopien – Malware

freiheit.exe – Utopien als Malware

Christiane Mudra

„freiheit.exe“ ist eine Lecture über die ideologischen Rootkits des Silicon Valley. Sie schlägt den Bogen von den italienischen Futuristen zu den heutigen Tech-Feudalisten, vom Akzelerationismus zur Demokratieskepsis der Libertären, von Tolkien zur PayPal-Mafia.
Basierend auf den Recherchen zu meinem Theaterstück „freiheit.exe. Utopien als Malware“, in dem journalistische Analyse auf performative Darstellung trifft.

Ich lade das CCC-Publikum ein, die Betriebssysteme hinter unseren Betriebssystemen zu untersuchen.
Während wir uns mit Verschlüsselung, Datenschutz und digitaler Selbstbestimmung beschäftigen, installieren Tech-Milliardäre ihre Weltanschauungen als Default-Einstellungen unserer digitalen Infrastruktur. Die Recherchen beleuchten die mitgelieferte Malware.

Ich navigiere durch die Ideengeschichte zwischen Marinettis Futuristischem Manifest (1909) und Musks Mars-Kolonien, von den ersten Programmiererinnen zur Eroberung des Alls, von neoliberalen Think Tanks zur Schuldenbremse, von nationalen Christen zu Pronatalisten.
Investigative Recherche trifft auf performative Vermittlung.
Mit O-Tönen von Peter Thiel, Nick Land und anderen zeigt die Lecture ideologische Verbindungslinien zwischen Theoretikern autoritär-technoider Träume und den Visionen der Tech-Oligarchen auf:

Es geht um „Freedom Cities“, Steuerflucht und White Supremacy.
Um Transhumanismus als Upgrade-Zwang bis hin zu neo-eugenischen Gedanken.
Um Akzeleration als politische Strategie: Geschwindigkeit statt Reflexion, Disruption statt Demokratie, Kolonisierung – jetzt auch digital.

Aus Theaterperspektive betrachte ich das Revival der Cäsaren und die Selbstinszenierung von Tech-CEOs als Künstler, Priester oder Genies.
Und mit der Investigativ Reporterin Sylke Grunwald habe ich recherchiert, was all das mit den Debatten rund um Palantir zu tun hat.

Die scheinbar alternativlose Logik von „Move Fast and Break Things“ ist nicht unvermeidlich – sie ist gewollt, gestaltet, ideologisch aufgeladen. 39c3

12/26/25

The Heartbreak Machine: Nazi Echo Chamber

The Heartbreak Machine: Nazis in the Echo Chamber, Martha Root, Eva Hoffmann and Christian Fuchs

WhiteDate ist eine Plattform weißer Suprematist:innen, die sich an Rassist:innen und Antisemit:innen richtet – und auf veralteter Infrastruktur basiert. Was die 8000 Mitglieder nicht wussten: Einige der Nazis flirteten dieses Jahr mit realistisch wirkenden Chatbots – und verliebten sich sogar in sie. Mit einer Kombination aus automatisierter Konversationsanalyse, Web-Scraping und klassischen OSINT-Methoden verfolgten wir öffentliche Spuren und identifizierten die Personen hinter der Seite. Dieser Vortrag zeigt, wie KI-Personas und investigatives Denken extremistische Netzwerke aufdecken und wie Algorithmen gegen Extremismus eingesetzt werden können.

Monatelang tauchte Martha in die verborgene Welt von WhiteDate, WhiteChild und WhiteDeal ein, drei Plattformen, die von einer Rechtsextremistin aus Deutschland betrieben werden. Sie glaubt an die Verschwörung einer weißen Vorherrschaft und einer „rassisch reinen“ weißen Gemeinschaft. Was als Neugier begann, entwickelte sich schnell zu einem Experiment über menschliches Verhalten, Technologie und Absurdität.

Martha infiltrierte das Portal mit „realistischen“ KI-Chatbots. Die Bots waren so überzeugend, dass sie die Überprüfungen umgingen und sogar als „weiß“ verifiziert worden. Durch die Gespräche und Recherche von digitalen Spuren dieser Gemeinschaft, die sich in Sicherheit wähnte, konnte sie Nutzer identifizieren.

Gemeinsam mit Reporter:innen der „Die Zeit“ konnten wir die Person hinter der Plattform enttarnen und ihre Radikalisierung von einer erfolgreichen Pianistin zu einer Szene-Unternehmerin nachzeichnen. Um ihr Dating-Portal hat sie ein Netzwerk von Websites aufgebaut, dass seinen Nutzern Liebe, Treue und Tradition vermarktet. WhiteDate verspricht romantische Beziehungen, WhiteChild propagiert Familien- und Abstammungsideale und WhiteDeal ermöglicht berufliches Networking und „gegenseitige Unterstützung“ unter einem rassistischen Weltbild. Gemeinsam zeigen sie, wie Ideologie und Einsamkeit auf bizarre Weise miteinander verwoben sein können.

Nach monatelanger Beobachtung, klassischer OSINT-Recherche, automatisierter Gesprächsanalyse und Web-Scraping haben wir herausgefunden, wer hinter diesen Plattformen steckt und wie ihre Infrastruktur funktioniert. Dabei deckten wir die Widersprüche und Absurditäten extremistischer Gemeinschaften auf, verdeutlichten ihre Anfälligkeit für technologische Eingriffe und brachten sogar den einen oder anderen Nazi zum Weinen.

Dieser Vortrag erzählt von Beobachtung, Schabernack und Einblicken in die digitale Welt extremistischer Gruppen. Er zeigt, wie Algorithmen, KI-Personas und investigatives Denken Hass entlarven, seine Narrative hinterfragen und seine Echokammern aufbrechen können. Wir zeigen, wie Technologie im Kampf gegen Extremismus eingesetzt werden kann. 39c3

siehe zum Thema Antifaschismus i.w.S. auch folgende Beiträge zum 39c3->

PRÜF

Nico Semsrott

PRÜF! Prüfung Rettet übrigens Freiheit!
Alles wird in Deutschland geprüft. Warum nicht auch mutmaßlich verfassungswidrige Parteien? Hier stelle ich vor, was PRÜF! anders machen will als bisherige Kampagnen.

Wir haben eine Forderung: „Alle Parteien, die vom Verfassungsschutz als rechtsextremer Verdachtsfall oder gesichert rechtsextrem eingestuft werden, sollen durch das Bundesverfassungsgericht überprüft werden.“ Wir demonstrieren so lange, bis der Bundesrat die Prüfung formal beantragt hat. PRÜF-Demos. Bald in allen Landeshauptstädten. Am 2. Samstag. Jeden Monat.

Warum beim Schutz der Demokratie nicht mal einen Ansatz wählen, der so noch nicht probiert wurde? Nicht auf die anderen gucken, sondern auf uns? Auf das gemeinsame? Auf Spaß? Das nutzen, was wir haben und was wir können? Wir haben das Grundgesetz, dessen Stärken eingesetzt werden müssen. Wir haben uns, Millionen Menschen, die wir uns organisieren können. Wir haben Ideen, wir haben Geld, wir haben Macht, wir haben Wissen. Bisher haben wir nicht einmal ansatzweise unsere Möglichkeiten ausgeschöpft und es wäre absurd, wenn wir das nicht schaffen würden, die Freiheitliche Demokratische Grundordnung zu schützen.

Vortrag kann Spuren von Prüfen enthalten. 39c3

All Sorted by Machines of Loving Grace?

„AI“, Cybernetics, and Fascism and how to Intervene

Katika Kühnreich

While the extreme right is on the rise in many countries and climate change is unrolling, a promising future seems to be written: According to Elon Musk, Sam Altman, and some other “tech bros” it is to leave the dying planet to go to space. With the help of something called “A(G)I”.
But what kind of future is the one that is promised? And what is the connection between power cycles of tech company owners and people who’s believes can be called fascist? As we moved power through data in the hands of very view, it is important to examine what ideas these view have in their heads.
This talk will explore the roots of today’s tech fascism and its love for tech. From the early thoughts and movements in the US and Europe to Futurism and the Holocaust, organised with Hollerith punching cards. It will dive into the its blooming relationship with cybernetics, and take a look in the future the “tech bros” want to lure us in.
This talk will address the often overlooked topic of how and when people get comfy with diving into movements of hate and how to stop a white supremacy future where we will be sorted by machines.
And, in taking a look on past movements opposing authoritarianism and will examine mindsets and possibilities of resistance as well as the possibility of restarting everything. Because we have a planet and loved ones to lose.
Wear your safety cat-ears, buckle up, it will be a wild, but entertaining ride.

The idea of the Super-Human is not a new one, neither is the idea of charismatic „good“ leader nor to sort humans into classes, races, abilities. The idea of a view controlling many by force and ideas that justify their rulership and cruelties is an old one, as is the opposing idea of a free society and humans as equals.
A central aspect is how people involved see the human nature and according to that what society they want to build. And what role is intended for technology.
In the 19th century the beliefs of both the opposing sides dripped into science, as well as individual’s heads, and social movements around the world. While some wanted to form a wold society of equals others wanted to breed a master race that to control everything.

The love of industrial leaders for authoritarianism has played an important role since the beginning in funding and providing access to powerful networks. Industrialists like Henry Ford loved and promoted ideas at least close to fascism. German, Italian, and Austrian counterparts funded Hitler and Mussolini. And it is not that they did it because they did not understand the fascist leader’s yearning – it was because they shared and loved their aims and violence.

In Futurism, one of the often overlooked roots of fascism, and its Manifesto the enemies and societal goals are proclaimed crystal clear: “We will glorify war — the only true hygiene of the world — militarism, patriotism, the destructive gesture of anarchist, the beautiful Ideas which kill, and the scorn of woman.“

After WWII most of the people believing in dominating others by force and eugenics lived on, they and their cronies had slaughtered millions and destroyed whole social movements were opposing them. These people warning us about authoritarian prophets of doom and concentration camps are still missing.

In the post-war time ideas of authoritarianism met a new player: Cybernetics, the believe in a future, where all problems will be solved through technology and we are “All Watched Over by Machines of Loving Grace” (Richard Brautigam, 1967). The ideas split, merged, and melted into new beliefs and quasi-religions. Into something that is called “Cyber-Libertarianism” by David Golumbia or “TESCREAL” by Émile P. Torres and Timnit Gebru.

This talk will address an aspect that is often missing in analyses: What kind of breeding ground is it where ideas of fascism hatches best? And how can we stop iFascism instead of participating in it?

Furthermore, as being sorted by machines is not everyone’s secret dream, ways to stop iFascism will be provided.

Because we are more, we care for people in need – and we are the chaos! 39c3

selbstverständlich antifaschistisch!

Aktuelle Informationen zu den Verfahren im Budapest-Komplex – von family & friends Hamburg

Andreas family & friends Hamburg and Birgit family & friends Hamburg

Mit den Prozessen im Budapest-Komplex wird ein Exempel statuiert – nicht nur gegen Einzelne, sondern gegen antifaschistische Praxis insgesamt. Die Behauptung einer kriminellen Vereinigung mit Mordabsichten stellt eine absurde juristische Eskalation des staatlichen Vorgehens gegen Antifaschist*innen dar und steht in keinem Verhältnis zu den verhandelten Vorkommnissen. Die Verfahren in dieser Weise zu verfolgen, lässt vor allem auf ein hohes Ausforschungs- und Einschüchterungsinteresse schließen.
Mit dieser Prozesswelle und den Repressionen gegen Freund*innen und Angehörige wird antifaschistisches Engagement massiv kriminalisiert und ein verzerrtes Bild von politischem Widerstand gezeichnet – während gleichzeitig rechte Gewalt europaweit zunimmt und faschistische Parteien erstarken.
Wir sehen, dass Angriffe auf Rechtsstaatlichkeit und Zivilgesellschaft immer weiter zunehmen. Die Art und Weise, wie gegen die Antifas im Budapest-Komplex und im Antifa-Ost Verfahren vorgegangen wird ist ein Vorgeschmack darauf, wie politische Opposition in einer autoritären Zukunft behandelt werden könnte.
Wir sind alle von der rechtsautoritären Entwicklung, von Faschisierung betroffen. Die Kriminalisierung von Antifas als „terroristische Vereinigung“ ist Teil einer (weltweiten) Entdemokratisierung und Zersetzung von Rechtsstaatlichkeit.

Am 26. September wurde gegen Hanna vor dem OLG München das erste Urteil gegen eine der Antifaschist*innen im Rahmen des Budapest-Komplexes gefällt: 5 Jahre für ein lediglich auf Indizien basierendes Urteil. Dem Mordvorwurf der Staatsanwaltschaft wurde nicht entsprochen, behauptet wurde aber die Existenz einer gewalttätigen „kriminellen Vereinigung“.
Am 12. Januar 2026 wird nun vor dem OLG Düsseldorf der Prozess gegen Nele, Emmi, Paula, Luca, Moritz und Clara, die seit Januar in verschiedenen Gefängnissen in U-Haft sitzen, eröffnet. Die Anklage konstruiert auch hier eine kriminelle Vereinigung nach §129 und enthält den Vorwurf des versuchten Mordes. Die Verfahren in dieser Weise zu verfolgen, lässt vor allem auf ein hohes Ausforschungs- und Einschüchterungsinteresse schließen.
Zaid, gegen den ein europäischer Haftbefehl aus Ungarn vorliegt, war Anfang Mai unter Meldeauflagen entlassen worden; aufgrund seiner nicht-deutschen Staatsangehörigkeit hatte der Generalbundesanwalt keine Anklage gegen ihn erhoben. Da er in Deutschland nach wie vor von einer Überstellung nach Ungarn bedroht ist, hält er sich seit Oktober 2025 in Paris auf. Er ist gegen Auflagen auf freiem Fuß.
Ein weiteres Verfahren im Budapest- Komplex wird in Dresden zusammen mit Vorwürfen aus dem Antifa Ost Verfahren verhandelt. Der Prozess gegen Tobi, Johann, Thomas (Nanuk), Paul und zwei weitere Personen wird bereits im November beginnen.
In Budapest sitzt Maja – entgegen einer einstweiligen Verfügung des BVerfG und festgestellt rechtswidrig im Juni 2024 nach Ungarn überstellt – weiterhin in Isolationshaft; der Prozess soll erst im Januar fortgeführt werden und voraussichtlich mit dem Urteil am 22.01. zu Ende gehen.
Mit den Prozessen im Budapest-Komplex wird ein Exempel statuiert – nicht nur gegen Einzelne, sondern gegen antifaschistische Praxis insgesamt. Die Behauptung einer kriminellen Vereinigung mit Mordabsichten stellt eine absurde juristische Eskalation des staatlichen Vorgehens gegen Antifaschist*innen dar und steht in keinem Verhältnis zu den verhandelten Vorkommnissen.
Mit dieser Prozesswelle und den Repressionen gegen Freund*innen und Angehörige wird antifaschistisches Engagement massiv kriminalisiert und ein verzerrtes Bild von politischem Widerstand gezeichnet – während gleichzeitig rechte Gewalt europaweit zunimmt und faschistische Parteien erstarken. Wir sehen, dass Angriffe auf Rechtsstaatlichkeit und Zivilgesellschaf immer weiter zunehmen. Die Art und Weise, wie gegen die Antifas im Budapest-Komplex vorgegangen wird, ist ein Vorgeschmack darauf, wie politische Opposition in einer autoritäreren Zukunft behandelt werden könnte. Wir sind alle von der rechtsautoritären Entwicklung, von Faschisierung betroffen. Die Kriminalisierung von Antifas als „terroristische Vereinigung“ ist Teil einer (weltweiten) Entdemokratisierung und Zersetzung von Rechtsstaatlichkeit. 39c3

Programmierte Kriegsverbrechen?

Über KI-Systeme im Kriegseinsatz in Gaza und warum IT-Fachleute sich dazu äußern müssen

Rainer Rehak

Die automatisierten Zielsysteme des israelischen Militärs zeigen gut, wie KI-baserte Kriegsautomatisierung aktuell aussieht, was daran falsch läuft und warum wir Techies uns einmischen müssen

Das Thema „KI in der Militärtechnik“ und die Beziehung zwischen Mensch und Maschine ist seit Jahrzehnten ein Thema in der Friedensbewegung, der Konfliktforschung, der Philosophie, den Sozialwissenschaften und den kritischen Data & Algorithm Studies. Doch in den letzten Jahren wurden Waffensysteme mit KI-Komponenten entwickelt und auch praktisch in bewaffneten Konflikten eingesetzt. Dabei reicht die Anwendung von Drohnensteuerung über optische Zielerfassung bis hin zur logistischen Zielauswahl. Am Beispiel KI-gestützter Zielwahlsysteme, die vom israelischen Militär seit Mai 2021 und insbesondere jetzt im Genozid in Gaza eingesetzt werden, können die aktuellen technischen Entwicklungen aufgezeigt und analysiert werden. Im Fokus dieses Talks stehen vier KI-unterstützte Systeme: Das System Gospel zur militärischen Bewertung von Gebäuden, das System Lavender zur militärischen Bewertung von Personen, das System Where’s Daddy? zur Zeitplanung von Angriffen und ein experimentelles System auf Basis großer Sprachmodelle zur Erkennung militärisch relevanter Nachrichten in palästinensischen Kommunikationsdaten.

Auf Basis der Aussagen von Whistleblower:innen des israelischen Militärs und Angestellten beteiligter Unternehmen wie Amazon, Google oder Microsoft sowie internen Dokumenten, die durch investigative Recherchen von mehreren internationalen Teams von Journalist:innen veröffentlicht wurden, können die Systeme und Designentscheidungen technisch detailliert beschrieben, kritisch analysiert sowie die militärischen und gesellschaftlichen Implikationen herausgearbeitet und diskutiert werden. Dabei entstehen auch Fragen bezüglich Verantwortungsverlagerung durch KI, Umgehung des Völkerrechts sowie die grundsätzliche Rolle von automatisierter Kriegsführung.

Am Schluss geht der Vortrag noch auf die Verantwortung von IT-Fachleuten ein, die ja das Wissen und Verständnis dieser Systeme mitbringen und daher überhaupt erst problematisieren können, wenn Systeme erweiterte oder gänzlich andere Funktionen erfüllen, als öffentlich und politisch oft kommuniziert und diskutiert wird. Überlegungen zu Handlungsoptionen und Auswegen leiten zuletzt die Diskussion ein. 39c3

And so it begins – Wie unser Rechtsstaat auf dem Highway Richtung Trumpismus rast – und warum afghanische Kläger*innen für uns die Notbremse ziehen

Eva and Elaha

Wenn die Regierung sich nicht mehr an das eigene Recht gebunden fühlt, markiert das nicht nur einen politischen Spurwechsel, sondern die Auffahrt auf den Highway to Trumpism. Zeit die Notbremse zu ziehen!
Normalerweise trifft es in solchen Situationen immer zuerst diejenigen, die sich am wenigsten wehren können. Doch was passiert, wenn genau diese Menschen mit juristischen Werkzeugen bewaffnet werden, um zurückzuschlagen?
Anhand von über 100 Klagen afghanischer Schutzsuchender zeigen wir, wie Ministerien das Bundesaufnahmeprogramm sabotieren, Gerichte sie zurückpfeifen – und die Zivilgesellschaft zum letzten Schutzwall des Rechtsstaats wird. Und wir verraten, warum sich Beamte im BAMF vielleicht lieber krankmelden sollten und welche anderen Möglichkeiten sie haben, um nicht straffällig zu werden.

• Versprochen ist versprochen und wird auch nicht gebrochen“ – das lernen wir schon als Kinder. Aber der Kindergarten ist schon lange her, und Politiker*innen haben zwar oft das Auftreten eines Elefanten, aber das Gedächtnis eines Goldfischs.
• Deswegen hätte die Bundesregierung auch fast 2.500 Afghan*innen mit deutschen Aufnahmezusagen in Islamabad „vergessen“, die dort seit Monaten auf die Ausstellung ihrer deutschen Visa warten
• Das Kalkül dahinter: Pakistan erledigt die Drecksarbeit und schiebt sie früher oder später ab, Problem solved! – selbst wenn dabei Menschenleben auf dem Spiel stehen.
• Wie kann die Zivilgesellschaft die Notbremse ziehen, wenn sich Regierung und Verwaltung nicht mehr an das eigene Recht gebunden fühlen?
• Eine Möglichkeit: wir vernetzen die afghanischen Familien mit Anwält*innen, damit sie Dobrindt und Wadephul verklagen – und sie gewinnen! Die Gerichtsbeschlüsse sind eindeutig: Visa sofort erteilen – sonst Strafzahlungen! Inzwischen laufen über 100 Verfahren an vier Verwaltungsgerichten, weitere kommen täglich hinzu.
• Das dürfte nicht ganz das gewesen sein, was die neue Bundesregierung meinte, als sie im Koalitionsvertrag verkündete, „freiwillige Aufnahmeprogramme so weit wie möglich zu beenden“.
Übersetzung der politischen Realitätsversion: Wenn es nach Dobrindt und dem Kanzler geht, sollen möglichst gar keine Schutzsuchenden aus Afghanistan mehr nach Deutschland kommen – rechtsverbindliche Aufnahmezusagen hin oder her. Einreisen dürfen nur noch anerkannte Terroristen aus der Taliban-Regierung, um hier in Deutschland die afghanischen Botschaften und Konsulate zu übernehmen
• Durch die Klagen konnten bereits 78 Menschen einreisen, etwa 80 weitere Visa sind in Bearbeitung – und weitere werden vorbereitet.
• Doch wie in jedem Drehbuch gilt: The Empire strikes back! Die Regierung entwickelt laufend neue Methoden, um Urteile ins Leere laufen zu lassen und Einreisen weiterhin zu blockieren.
• Willkommen im „Trumpismus made in Germany“. 39c3

Aber hier Leben? Nein danke! …oder doch? Wie wir der autoritären Zuspitzung begegnen können.

Jaša Hiergeblieben and Lisa Zugezogen

Im Osten stehen nächstes Jahr schon wieder Wahlen an und schon wieder sieht alles danach aus, als ob die AfD eine Regierungsbeteiligung bekommen könnte. Ganz konkret: In Sachsen-Anhalt und Mecklenburg-Vorpommern. Nicht nur diese „rosigen“ Aussichten, sondern auch aktuelle Bevölkerungsprognosen werfen gar kein günstiges Licht auf die Regionen. Linke Akteur:innen vor Ort kämpfen täglich dagegen an und sie brauchen unsere Solidarität. Wir müssen dem etwas entgegensetzen. Egal ob als Hacker:innen auf dem Congress oder Westdeutsche in (noch) Grünen Gemeinden.

Wo kommt das alles her? Wer macht aktuell etwas dagegen und wie können wir dem rechten Sog begegnen?

Mit dem „Super-Ost-Wahljahr“ 2024 (Landtagswahlen in Sachsen, Thüringen und Brandenburg) wurden bereits alle möglichen AfD-Regierungs-Horrorszenarien in Ostdeutschland in den Medien diskutiert und ausgemalt. Nächstes Jahr stehen jedoch noch die Landtagswahlen in Sachsen-Anhalt und Mecklenburg-Vorpommern an. Und die Prognosen sehen auch dort übel aus. Wären morgen Wahlen, würde die AfD in Sachsen-Anhalt 39% der Stimmen und in Mecklenburg-Vorpommern 38% bekommen. Um dem etwas entgegenzusetzen müssten wüste Bündnisse aus CDU, Die Linke, SPD und BSW entstehen. Kurzum: LSA und MV sind verloren!

Zusätzlich schrumpfen beide Bundesländer und altern gleichzeitig. In Sachsen-Anhalt gibt es keinen einzigen „wachsenden“ Ort. Weniger Kinder, immer mehr ältere Menschen, Fachkräftemangel und ein „Männerüberschuss“ – wer will da schon noch Leben und dem rechten Sog die Stirn bieten? Emanzipatorische Akteur:innen verlassen das Land, denn sie werden angegriffen und kriminalisiert. Also: Mauer drum und sich selbst überlassen? Ganz nach dem alten Tocotronic Song „Aber hier Leben? Nein danke!“

Wir wollen den Osten aber nicht aufgeben, deshalb beleuchten wir in unserem Talk, wie wir mit einer gemeinsamen Kraftanstrengung die Mauer vermeiden können – denn es gibt sie (noch): Die Gegenstimmen und Linken Aktiven die in beiden Bundesländern täglich die Fähnchen hochhalten. Ob die „Zora“ in Halberstadt, das „AZ Kim Hubert“ in Salzwedel oder das „Zentrum für Randale und Melancholie“ in Schwerin: Sie organisieren Austauschräume, alternative Konzerte und Orte, die für alle Menschen offen sind. Sie brauchen unseren Support und wir zeigen euch Möglichkeiten wie dieser aussehen könnte.

Außerdem wollen wir ins Gespräch kommen. Was hat eigentlich „der Westen“ mit all dem zu tun? Warum können wir es uns nicht länger leisten unpolitisch oder inaktiv zu sein? Wie kann die Chaos-Bubble sich in die ostdeutschen Herzen hacken? Und was können wir alle tun, um gemeinsam zu preppen und uns den Herausforderungen zu stellen? 39c3

The Last of Us – Fighting the EU Surveillance Law Apocalypse

Svea Windwehr and Chloé Berthélémy

The virus of surveillance is spreading across the European Union. In the form of its „ProtectEU“ Internal Security Strategy, the European Commission is planning to attack encryption, re-introduce mandatory data retention and strengthen Europol and Frontex, the main agents of its oppressive law enforcement infrastructure. In this talk, we will journey the wastelands of the EU surveillance apocalypse together: We will take a close look at what politicians are planning to undermine our fundamental rights, the technology involved, and the real harms we must fight. From there, we will chart pathways to resistance and collective immunity against a surveillance agenda that requires us to form new alliances and re-think mobilization.

Admidst its current push to remove the rules that have protected the EU’s environment, consumer and fundamental rights, there is one area the European Commission happily calls for more regulation: Internal security. The recent „ProtectEU“ Internal Security Strategy does little to protect Europeans, and instead foresees attacks on encryption, the re-introduction of mandatory data retention and the strengthening of Europol and Frontex, the main agents of the EU’s oppressive law enforcement infrastructure. In this talk, we will introduce the strategy and its main pillars, explain its political and legal contexts, and take a look at what it would mean for our fundamental rights, access to encryption, and IT security if enacted. But not all hope is lost (yet), and together we want to chart pathways to meaningful resistance. To do so, we will help understand the maze of the EU’s lawmaking process and identify pressure points. We will then look back at past fights, lessons learned and new opportunities to act in solidarity against a surveillance agenda that is truly apocalyptic. 39c3

Trump government demands access to European police databases and biometrics

Matthias Monroy

The USA is demanding from all 43 countries in the „Visa Waiver Programme“ (VWP), which enables visa-free travel, to conclude an „Enhanced Border Security Partnership“ (EBSP). This is intended to grant US authorities direct access to police databases in these – mostly European – countries containing fingerprints, facial images and other personal data. Anyone who refuses this forced „border partnership“ faces exclusion from the visa-free travel programme.

The US demand is unprecedented: even EU member states do not grant each other such extensive direct database access – normally the exchange takes place via the „hit/no-hit principle“ with a subsequent request for further data. This is how it works, for example, in the Prüm Treaty among all Schengen states, which has so far covered fingerprints and DNA data and is now also being extended to facial images.

The EBSP could practically affect anyone who falls under the jurisdiction of border authorities: from passport controls to deportation proceedings. Under the US autocrat Donald Trump, this is a particular problem, as his militia-like immigration authority ICE is already using data from various sources to brutally persecute migrants – direct access to police data from VWP partners could massively strengthen this surveillance apparatus. Germany alone might give access to facial images of 5.5 million people and fingerprints of a similar dimension.

The USA has already tightened the Visa Waiver Programme several times, for instance in 2006 through the introduction of biometric passports and in 2008 through the ESTA pre-registration requirement. In addition, there were bilateral agreements for the exchange of fingerprints and DNA profiles – however, these may only be transmitted in individual cases involving serious crime.

Existing treaties such as the EU-US Police Framework Agreement are not applicable to the „Enhanced Border Security Partnership“, as it applies exclusively to law enforcement purposes. It is also questionable how the planned data transfer is supposed to be compatible with the strict data protection rules of the GDPR. The EU Commission therefore wants to negotiate a framework agreement on the EBSP that would apply to all member states. Time is running short: the US government has set VWP states a deadline of 31 December 2026. Some already agreed on a bilateral level. 39c3

Licensed to the public under http://creativecommons.org/licenses/by/4.0

Licensed to the public under http://creativecommons.org/licenses/by/4.0

10/3/25

Grenzpolizist Big Brother: Migrations-Management-KI

Die folgende Erläuterung der regierungseigenen Bundeszentrale für politische Bildung (bpb) für KI im Einsatz gegen Migration (euphemistisch: „Migrationsmanagement“), erläutert einige Aspekte dieser Problematik. Seit 9/11 führen nicht nur die USA, sondern offenbar „der Westen“, also auch wir, einen „Krieg gegen den Terror“, der eine Einschränkung von Bürgerrechten beinhaltet. Kontrolliert wird dabei prinzipiell jeder von uns, speziell aber die Gruppe der sogenannten „Gefährder“, die sich offenbar insbesondere bei Migranten finden lässt; ihr Merkmal ist „eine nicht näher konkretisierbare Gefährlichkeit, die sich in der Zukunft ausbilden könnte. (…) Ziel ist hierbei, schwer bestimmbare konkrete Zeitpunkte und Formen eines terroristischen Anschlags zu kontrollieren und damit auch aufsteigende Ängste in der Bevölkerung zu reagieren.“ Siehe: „Gefährder“: Der Migranten-Minority Report.

Ängste der Bevölkerung sollen also „reagiert werden“ (nicht auf sie reagieren!); ein typischer Freudscher Versprecher, bei dem die wahre Intention entschlüpfte? Sollen unsere Ängste „reagiert werden“, also reaktiviert, abreagiert oder agitiert werden? Ängste helfen Machthabern, Bevölkerungen zu kontrollieren und in ihrem Sinne zu manipulieren. Ängste machen Menschen bereit zum Hass, zur Blindheit für vernünftige Lösungen, zur fanatischen Aufrüstung und Militarisierung. Andersartige, Andersfarbige, Migranten sind dafür die naheliegenden Sündenböcke, vor denen im Sinne reaktionärer und rechtsextremer Ideologien Angst geschürt werden soll. Wo Multi-Milliarden und Billionen für Rüstung (statt für die Menschen) ausgegeben werden, fällt auch für BigTech und KI einiges ab: Die gleich genannte Überwachungsfirma ANDURIL klingt nicht zufällig ähnlich wie Peter Thiels PALANTIR. Projekte zur Emotionserkennung, KI-Lügendetektoren und vorausschauender Polizeiarbeit (engl. predictive policing) laufen bereits.

„Gefährder“: Der Migranten-Minority Report

Wie dabei KI gegen Migranten eingesetzt wird erläutert für die Bundesregierung das bpb im jetzt folgenden Text von Petra Molnar. KI dient dabei für Prognosen zum Migrationsgeschehen, für Grenz- und Fernüberwachung, für Identitäts- und biometrische Systeme, Gesichtserkennung, Asyl- und Visumsbearbeitung, für die Steuerung von „Alternativen zur Inhaftierung“, die auf ständige Überwachung hinauslaufen. KI bildet den digitalen Stacheldrahtverhau auf den künftigen „smart borders“, die sozial benachteiligten Migranten jene Freizügigkeit rauben, die wohlhabenden Touristen (einstweilen noch) offensteht. Das völkerrechtlich gebotene (!) Asylrecht bleibt dabei auf der Strecke, wenn automatisierte Entscheidungen mit digitalem racial Bias oder ähnlichem Unrecht fallen. (T.Barth) Folgender Text übernommen von bpb:

Künstliche Intelligenz im Migrationsmanagement: Chancen, Herausforderungen und Risiken

Petra Molnar (bpb) 04.09.2025 / 9 Minuten zu lesen

Weltweit wird künstliche Intelligenz zunehmend im Migrationsmanagement eingesetzt – auch in der EU und in Deutschland. Welche Entwicklungen, Chancen und Risiken gehen damit einher?

Überwachungsturm von Elbit Systems, Arizona, USA. Solche Überwachsungstürme entlang der Grenze zu Mexiko erkennen mithilfe von KI-Überwachung Bewegungen und sollen so dabei helfen, Personen in der Sonora-Wüste im Südwesten der USA abzufangen. (© Petra Molnar, Abbildungen fehlen hier aufgrund urheberrechtlicher Gründe)

Künstliche Intelligenz (KI)

verändert in rasanter Geschwindigkeit die Art und Weise, wie Regierungen Migration steuern und Grenzen kontrollieren. Von prognosebasierter Datenanalyse und Identitätsprüfung bis hin zu Grenzüberwachung und Asylentscheidungen – KI-Technologien werden zunehmend in die Infrastruktur der Migrationskontrolle in Europa und weltweit integriert. Dabei wird argumentiert, dass neue Technologien wie KI die Steuerungssysteme im Migrationsmanagement effizienter, sicherer und kostengünstiger machen können. Angesichts der aktuellen Entwicklungen im Bereich der digitalen Technologien bestehen jedoch auch ernsthafte Risiken für die Menschenrechte, die Privatsphäre und die Grundsätze des Asylrechts. Dieser Artikel basiert auf jahrelangen Forschungsarbeiten an verschiedenen Grenzen weltweit und gibt einen Überblick darüber, wie KI im Migrationsmanagement in Europa und weltweit eingesetzt wird. Wichtige Debatten über die Auswirkungen dieser Entwicklung auf Recht, Ethik und Gesellschaft werden dabei ebenfalls in den Blick genommen.

Wo und wie wird KI eingesetzt?

Weltweit und in der gesamten Europäischen Union (EU) wird KI mittlerweile in verschiedenen Phasen des Migrationsmanagements eingesetzt. Zu den wesentlichen Feldern gehören:

Grenzüberwachung: KI-gestützte Systeme werden zur Überwachung von Grenzen eingesetzt. Beispielsweise integriert das Europäische Grenzüberwachungssystem (Eurosur) Satellitenbilder, Drohnen und andere Sensordaten, die mit KI analysiert werden, um die Außengrenzen zu überwachen – insbesondere im Mittelmeerraum. An Landgrenzen und Flughäfen werden Algorithmen zur Gesichtserkennung und Objekterkennung eingesetzt, um Personen zu identifizieren, die irregulär einreisen oder als risikoreich gelten. In den Vereinigten Staaten stellen Unternehmen wie die US-amerikanische Firma Anduril autonome Überwachungstürme entlang der Südgrenze bereit, die mithilfe von KI-Überwachung Bewegungen erkennen und verfolgen und dabei helfen sollen, Personen in der Sonora-Wüste im Südwesten der USA abzufangen.

Identitäts- und biometrische Systeme: KI kann auch bei der Verarbeitung biometrischer Daten wie Fingerabdrücken, Iris-Scans und Gesichtsbildern zur Identitätsprüfung helfen. Eurodac, die EU-Datenbank, in der Fingerabdrücke von Asylbewerber:innen gespeichert werden, nutzt KI für einen effizienteren und genaueren Abgleich. In Deutschland hat das Bundesamt für Migration und Flüchtlinge (BAMF) eine Software zur Erkennung von Sprachen und Dialekten getestet, die die Herkunft von Personen, die einen Asylantrag gestellt haben, feststellen soll. Der Einsatz dieser Software hatte in der Folge Debatten darüber ausgelöst, wie genau und fair solche Systeme und ihre Ergebnisse sind. Die deutsche Bundespolizei setzt an wichtigen Verkehrsknotenpunkten und Grenzen biometrische und Gesichtserkennungstechnologien ein, darunter auch prognostische Komponenten. Gleichzeitig helfen automatisierte Dokumentenprüfsysteme dabei, gefälschte Reisedokumente zu identifizieren.

Asyl- und Visumsbearbeitung: KI-Anwendungen werden zunehmend zur Prüfung von Visums- und Asylanträgen eingesetzt. Einige Länder wie Kanada verwenden Algorithmen zum automatisierten Vorsortieren von Visumanträgen, während die Vereinigten Staaten Risikobewertungsalgorithmen einsetzen, die die Daten der Antragstellenden analysieren, um potenzielle Betrugs- oder Sicherheitsrisiken vorherzusagen, und dafür auch Daten verwenden, die aus sozialen Medien gesammelt wurden. Diese Systeme versprechen zwar Effizienz, werfen jedoch Bedenken hinsichtlich algorithmischer Verzerrungen, ordnungsgemäßer Verfahren und des Rechts auf individuelle Beurteilung auf. In Deutschland setzt das BAMF maschinelle Übersetzungsprogramme ein, um das Dolmetschen von Anhörungen im Asylverfahren und die automatisierte Dokumentenprüfung zu unterstützen. Fragen hinsichtlich ihrer Genauigkeit und möglichen Auswirkungen auf Asylentscheidungen bleiben hier bisher offen.

Prognosen zum Migrationsgeschehen: Regierungen und internationale Behörden wie die EU-Grenzschutzagentur Frontex nutzen KI zur Analyse großer Datensätze – darunter Daten aus sozialen Medien und Klimadaten –, um Migrationsmuster vorherzusagen. Diese zukunftsprognostizierenden Analysen sollen Frühwarnsysteme und die Ressourcenplanung unterstützen. Allerdings sind diese Modelle zur Vorhersage von Migrationsbewegungen oft nicht transparent. Befürchtet wird hierbei, dass sie zu präventiven Grenzschließungen oder Kontrollmaßnahmen sowie zu Aktivitäten wie dem Abfangen von Schutzsuchenden und illegalen Zurückweisungen ( Pushbacks) führen können.

Fernüberwachung und ‚Alternativen‘ zur Inhaftierung: Elektronische Fußfesseln, GPS-fähige Smartphones und Ortungsgeräte sowie KI-gesteuerte Check-in-Systeme werden als Alternativen zur Inhaftierung von Einwanderer:innen beworben, sind jedoch oft mit einer ständigen Überwachung verbunden. Diese Technologien werden in den USA, Großbritannien und anderen Ländern eingesetzt und manchmal an private Unternehmen ausgelagert.

Wer entwickelt und fördert diese Systeme?

An der Entwicklung von KI im Migrationsmanagement sind sowohl staatliche als auch privatwirtschaftliche Akteure beteiligt. Große Technologieunternehmen, Rüstungsfirmen und KI-Startups entwickeln und vermarkten Anwendungen für Regierungen. In Europa unterstützt die EU-Grenzschutzagentur Frontex technologische Innovationen, während die Finanzierung aus regionalen Forschungsprogrammen wie Horizon 2020 und dem Fonds für innere Sicherheit (ISF) stammt. Insbesondere Deutschland hat über das BAMF und die Bundespolizei in Identitätsfeststellungen anhand biometrischer Merkmale, Sprachanalyse und automatisierte Systeme zur Dokumentenanalyse investiert. An mehreren von der EU finanzierten Pilotprojekten waren auch deutsche Partner:innen beteiligt, darunter Universitäten und Forschungsinstitute.

Maritime Überwachungsdrohne auf der DEFEA-Konferenz in Athen, einer internationalen Fachausstellung für Verteidigung und Sicherheit. (© Petra Molnar)

Staaten wie die USA, Kanada und Australien sind ebenfalls führend im Bereich des Einsatzes von KI an ihren Grenzen und arbeiten häufig mit Technologieunternehmen wie den US-amerikanischen Firmen Palantir und Anduril oder der israelischen Firma Elbit Systems zusammen. Das Interesse des privaten Sektors ist Teil eines wachsenden und lukrativen, mehrere Milliarden Euro schweren „Industriekomplexes“ im Bereich der Grenzsicherung, in dem private Gewinninteressen und öffentliche Sicherheitsinteressen einander ergänzen.

Internationale Organisationen – darunter die Internationale Organisation für Migration (IOM) und das UN-Flüchtlingshilfswerk (UNHCR) – prüfen den Einsatz von KI-Anwendungen, um Menschen auf der Flucht zu registrieren, zu überwachen und Hilfsgüter zu verteilen, teilweise in Zusammenarbeit mit Partnern aus der Privatwirtschaft. Während diese Anwendungen als humanitäre Innovation dargestellt werden, werden gleichwohl oft sensible Daten unter ungleichen Machtverhältnissen gesammelt, die zwischen dem Globalen Norden und Süden oder zwischen Hilfsorganisationen und Menschen in Not bestehen.

Chancen und Versprechen

Akteur:innen, die den Einsatz von KI im Migrationsbereich befürworten, verweisen auf mehrere potenzielle Vorteile. So wird häufig Effizienz als einer der wichtigsten Treiber für den Einsatz von KI-Anwendungen genannt. Staaten, die KI einsetzen argumentieren, dass die Automatisierung von Routineaufgaben Rückstände bei der Bearbeitung von Asyl- und Visumsanträgen reduzieren, die Datenanalyse optimieren und die Koordination zwischen den Behörden verbessern kann. Ein weiterer wichtiger Treiber ist das Versprechen der Genauigkeit und die Tatsache, dass KI den biometrischen Abgleich und die Identitätsprüfung verbessern und damit Betrug und Verwaltungsfehler reduzieren kann. Im Kontext des derzeitigen Fokus auf Sicherheit, der die Politikgestaltung im Bereich des Migrationsmanagements prägt, zielen die KI-gestützte verbesserte Überwachung und Risikobewertung darauf ab, irreguläre Grenzübertritte oder gefälschte Dokumente aufzudecken. Schließlich ist auch die Vorhersagekraft der KI verlockend, da KI-gestützte Prognosen als Möglichkeit dargestellt werden, sich auf umfangreiche Migrationsbewegungen vorzubereiten, humanitäre Maßnahmen zu unterstützen und Ressourcen besser zu verteilen.

Mit solchen Vorteilen vor Augen werden von Staaten und der Privatwirtschaft Investitionen in KI begründet, mit dem Ziel sogenannter „intelligenter Grenzen“ (smart borders). Diese sollen sowohl sicher als auch technologisch fortschrittlich sein. In Deutschland werden solche Innovationen auch als Teil einer umfassenderen Digitalisierung des Migrationsmanagements angesehen, die mit den EU-Strategien für die digitale Transformation im Einklang steht.

Herausforderungen und Kritik

Trotz dieser Versprechen argumentieren Akteure aus der Zivilgesellschaft, Forschende und Betroffenen, dass der Einsatz von KI im Migrationsmanagement ernsthafte ethische und rechtliche Risiken birgt. Beispielsweise können KI-Systeme Diskriminierung und systemischen Rassismus verschärfen, da sie oft die Vorurteile in den Daten widerspiegeln, mit denen sie trainiert wurden. So ist etwa die Gesichtserkennung bei Menschen mit dunklerer Hautfarbe weniger genau, was das Risiko für Fehler bei ihrer Identifizierung erhöht. Risikobewertungssysteme können Angehörige bestimmter Nationalitäten oder ethnischer Gruppen unverhältnismäßig stark benachteiligen. Außerdem mangelt es erheblich an Transparenz bei der Entwicklung und dem Einsatz neuer Technologien. Bei vielen KI-Systemen weiß die Öffentlichkeit nur wenig darüber, wie sie ihre Entscheidungen treffen. Diese Undurchsichtigkeit untergräbt die Rechenschaftspflicht und macht es für Betroffene schwierig, schädliche Folgen anzufechten, wenn Fehler gemacht werden.

Hightech-Flüchtlingslager auf der griechischen Insel Kos. (© Petra Molnar)

Auch die Rechte auf Privatsphäre und Datenschutz sind betroffen: Werden biometrische und personenbezogene Daten gesammelt, gespeichert und analysiert, birgt dies erhebliche Risiken für die Privatsphäre, insbesondere wenn es um sensible Daten von marginalisierten Gruppen wie Menschen auf der Flucht geht. Die unbefugte Weitergabe von Daten und Hackerangriffe sind ebenfalls reale Bedrohungen. Zudem können Menschen auf der Flucht, die sich in einer prekären Lage befinden, oft keine sinnvolle Einwilligung in die Erfassung und den Umgang mit ihren Daten geben.

Rechtlich gesehen können KI- und Überwachungstechnologien, die Menschen daran hindern in Sicherheit zu gelangen, das bestehende Recht auf Asyl untergraben. Automatisierte Entscheidungen können außerdem dazu führen, dass Schutz überproportional verweigert wird oder es aufgrund fehlerhafter Risikobewertungen zu vermehrten Inhaftierungen kommt. Rechtliche Risiken dieser Art stünden im Widerspruch zum geltenden Völkerrecht, das eine individuelle Prüfung von Asylgesuchen und das Non-Refoulement-Prinzip

beinhaltet. Auch ist oft unklar, wer für durch KI verursachte Schäden verantwortlich ist und haftbar gemacht werden kann – der Staat, ein Auftragnehmer, der Softwareentwickler oder die Person bei der Einwanderungsbehörde, die die Anwendung verwendet? Oft ist der Rechtsschutz in diesem neueren Bereich wenig ausgeprägt, was das Einlegen von Rechtsmitteln erschwert – insbesondere in Grenzgebieten, die bereits von intransparenten und ermessensabhängigen Entscheidungen geprägt sind.

Rechtliche Rahmenbedingungen und Kontrolle

Derzeit ist die globale Regulierung im Bereich der KI noch schwach, wobei Innovationen Vorrang vor rechtsbasierten Ansätzen für digitale Grenzkontrolltechnologien haben. Allerdings gelten mehrere internationale und regionale Rechtsinstrumente für den KI-Einsatz im Migrationsbereich. So schützt beispielsweise der Internationale Pakt über bürgerliche und politische Rechte (ICCPR) das Recht auf Privatsphäre (Artikel 17) und das Recht auf Freiheit und Sicherheit (Artikel 9). Diese Rechte müssen im Migrationskontext auch bei der Anwendung von Technologien gewahrt werden. Die Genfer Flüchtlingskonvention von 1951 verpflichtet die Staaten zudem, Zugang zu Asyl zu gewähren und verbietet die Zurückweisung in Gebiete, in denen den betroffenen Personen Folter oder unmenschliche oder erniedrigende Behandlung drohen (Artikel 33). Automatisierte Entscheidungen, die den Zugang zum Asylbegehren blockieren, können gegen diese Schutzbestimmungen verstoßen. Nach EU-Recht regelt die Datenschutz-Grundverordnung (DSGVO) die Datenverarbeitung, einschließlich biometrischer Daten, und die EU-Grundrechtecharta garantiert das Recht auf Privatsphäre, Datenschutz und Nichtdiskriminierung. Vor kurzem hat die EU das Gesetz zur Regulierung künstlicher Intelligenz verabschiedet. Allerdings liegt hier nicht der Schutz der Rechte von Menschen auf der Flucht im Fokus.

Deutschland unterliegt als EU-Mitgliedstaat diesen rechtlichen Rahmenbedingungen, entwickelt jedoch auch eigene Durchführungsbestimmungen. Zivilgesellschaftliche Organisationen, die sich für die Rechte von Flüchtlingen und Migrant:innen einsetzen, haben mehr Transparenz hinsichtlich des Einsatzes von KI in der deutschen Migrationspolitik gefordert, darunter die Offenlegung von Verträgen und Folgenabschätzungen. Die Kontrolle in der Praxis bleibt jedoch begrenzt. Grenzgebiete unterliegen oft Notfall- oder Ausnahmeregelungen. Zudem können private Unternehmen Technologien durch Geschäftsgeheimnisse schützen. Unabhängige systematische Überprüfungen, Folgenabschätzungen und Kontrollmöglichkeiten sind jedoch für eine rechtskonforme Entwicklung und den Einsatz von Technologien an den Grenzen und zur Steuerung der Migration notwendig.

Ausblick

In einer von technologischem Fortschritt geprägten Welt, wird KI voraussichtlich eine immer wichtigere Rolle im Migrationsmanagement spielen. So werden beispielsweise das künftige Einreise-/Ausreisesystem (EES) der EU und das Europäische Reiseinformations- und -genehmigungssystem (ETIAS) KI für das Erstellen von Risikoprofilen und automatisierte Grenzkontrollen nutzen. Projekte zur Emotionserkennung, KI-Lügendetektoren und vorausschauender Polizeiarbeit wurden ebenfalls bereits getestet, allerdings auch weithin kritisiert.

Das ehemalige Flüchtlingslager auf Samos, Griechenland. (© Petra Molnar)

Wissenschaftler:innen und Menschenrechtsorganisationen fordern einen vorsorgenden Ansatz: gründliche Tests, um zu gewährleisten, dass Menschenrechte eingehalten werden, Transparenz und Kontrollmechanismen sowie eine breite öffentliche Debatte, bevor Technologien eingeführt werden. Einige Akteur:innen, darunter das Büro des Hochkommissars der Vereinten Nationen für Menschenrechte (OHCHR), schlagen ein vorübergehendes Aussetzen bestimmter Migrationstechnologien vor, insbesondere in Hochrisikosituationen. Vor allem aber werden die künftigen Entwicklungen der KI im Bereich Migration und an den Grenzen nicht nur von rechtlichen Garantien und demokratischer Rechenschaftspflicht abhängen, sondern auch davon, dass die menschlichen Kosten dieser Technologien anerkannt werden. KI-Systeme sind keine abstrakten Werkzeuge. Sie wirken sich auf reale Menschen aus, die sich oft in prekären und unsicheren Situationen befinden. Es ist wichtig, die Erfahrungen und Rechte von Menschen auf der Flucht in Diskussionen über den Einsatz von KI einzubeziehen.

KI-Anwendungen für das Migrationsmanagement werfen tiefgreifende rechtliche, ethische und soziale Fragen auf. Wenn Regierungen neue Technologien einführen, gilt es sicherzustellen, dass Effizienz und Sicherheit mit Menschenrechten, Würde und Gerechtigkeit vereinbar bleiben. Im Mittelpunkt dieser Debatten stehen Menschen, nicht nur Datenpunkte. Transparente Regeln, eine strenge Kontrolle und die Verpflichtung zu einem menschenzentrierten Design, das auch das Fachwissen der betroffenen Individuen und Communities berücksichtigt, sollten jede zukünftige Nutzung von KI im Migrationsbereich leiten.

Übersetzung aus dem Englischen: Vera Hanewinkel

Fussnoten/Quellen/Literatur

Petra Molnar, The Walls Have Eyes: Surviving Migration in the Age of Artificial Intelligence (2024)

Petra Molnar im Gespräch mit Benjamin Etzold über „intelligente Grenzen“: „Keines dieser KI-gestützten Instrumente ist neutral. Sie dienen einem bestimmten Zweck – der Ausgrenzung.“ (2025)

Mirca Madianou, Technocolonialism: When Technology for Good is Harmful (2024)

OHCHR, Digital Border Governance: A Human Rights Based Approach (2023)

The Migration and Technology Monitor Project

Lizenz

Dieser Text ist unter der Creative Commons Lizenz „CC BY-NC-ND 4.0 – Namensnennung – Nicht kommerziell – Keine Bearbeitungen 4.0 International“ veröffentlicht. Autor/-in: Petra Molnar für bpb.de. Sie dürfen den Text unter Nennung der Lizenz CC BY-NC-ND 4.0 und des/der Autors/-in teilen. Urheberrechtliche Angaben zu Bildern / Grafiken / Videos finden sich direkt bei den Abbildungen.

Originalpublikation: https://www.bpb.de/themen/migration-integration/kurzdossiers/migration-und-sicherheit/570377/kuenstliche-intelligenz-im-migrationsmanagement/

09/30/25

Martha Wells: Der Netzwerkweffekt. Ein Killerbot-Roman

Martha Wells: Der Netzwerkweffekt. Ein Killerbot-Roman, Heyne Verlag 2021

SF-Rezension von Thomas Barth

Nach dem Tagebuch eines Killerbots legt Martha Wells hier eine Fortsetzung nach, die fast in jeder Hinsicht als gelungen gelten kann. Enttäuscht wird allein, wer tatsächlich eine Story über den berüchtigten „Netzwerkeffekt“ (also das, was Microsoft zum ersten digitalen Monopolisten machte, „Social Media“-Angebote tendenziell monopolisiert und es Linux & Co so schwer macht in kapitalistische Märkte einzudringen, mehr dazu unten) erwartet -der Effekt spielt nur eine angedeutete Nebenrolle.

Vielmehr geht es wie im ersten Buch um KI und Cyborgs in ihrem Verhältnis zum Menschen in einer ebenso spannenden wie witzigen Story präsentiert. Unsere Hauptperson, die Cyborg SecUnit, hätte der Techno-Feministin Donna Haraway bzw. ihrem berühmten Cyborg-Manifest alle Ehre gemacht. Und auch die philosophische Bewegung der Neomaterialisten um Bruno Latour u.a. könnte wohl zufrieden sein, da hier einer Entität, die sich selbst als „Ding“ von den Menschen abgrenzt, die Hauptrolle zufällt. Auch wenn diese Abgrenzung mit der Emanzipation der Cyborg von ihren „Besitzern“ zunehmend durchlässiger zu werden scheint. Auch die Kapitalismus- bzw. Neoliberalismus-Kritik von Martha Wells nimmt in diesem Roman an Fahrt auf und deutet Alternativen und Widerstandsformen an.

Wieder legt SecUnit sich mit profitgierigen Konzernen an, die versuchen fremde Planeten zu unterwerfen und auszubeuten. Ihre Arbeit für die utopische Preservation-Kolonie (siehe die Rezension von Killerbot Diaries) geht in dieser Hinsicht weiter und wird durch ein Wiedersehen mit ihrem alten Freund Fifo in eine gefährliche Krise gestürzt. Fifo, kurz für „fieses Forschungsschiff“ ist die Piloten-KI eines wissenschaftlichen Frachters, der SecUnit im ersten Buch half, unterzutauchen. Hier zeigt Fifo sein wahres Gesicht, nachdem SecUnit einer Gefahr durch „Alienreststoffe“ die Stirn bietet.

Martha Wells zeichnet SecUnit zunehmend menschlicher, eine Art kybernetischer Entwicklungroman, ohne dass sie, konformistisch wie Mr.Data bei Star Trek, um Vermenschlichung geradezu betteln würde. So verbittet sie sich menschliche Umarmungen ausdrücklich in ihrem Arbeitsvertrag mit Preservation, kann aber gewisse freundschaftliche Gefühle zu einigen dieser Menschen immer weniger leugnen. SecUnit erweist sich sogar als behütende Mutterfigur einer minderjährigen Tochter der Preservation-Leute. Aber weniger im Sinne der klassischen Rolle denn als wehrhafte Texas-Mom. Diese weist einen zweifelhaften Galan unter massiver Gewaltandrohung in die Schranken, bevor er der Teenagerin an die Wäsche gehen (oder andere eklige Menschensachen anstellen) kann, denen das anfangs rebellische Girl eigentlich nicht ganz abgeneigt war.

Nachfolgende Bedrohungen erfordern dagegen weit drakonischere Mittel, darunter auch eine Dank Super-KI Fifo mögliche Aufspaltung von SecUnit in zwei Personen; anders als die Hauptfigur Agent Cooper im David Lynch-Klassiker Twin Peaks haben wir bei Wells jedoch nicht einen bösen und einen guten Zwilling: beide SecUnits arbeiten für ihre Verhältnisse geradezu harmonisch zusammen, wobei sie allerdings, wie einst bei Stanislaw Lem der Raumpilot Ijon Tychi, zuweilen in Streitereien mit sich selbst geraten.

„Preservation“, eine Kolonie für die SecUnit anfangs arbeitet, ist dagegen eine von offenbar wenigen freien Gesellschaften mit Menschenrechten und Sozialstaat, die sogar Cyborgs gewisse Rechte einräumt: Ein fragiles Utopia in einer neoliberalen Höllengalaxis (wie wir sie aus Cyberpunk und der Neuromancer-Reihe kennen). Wer oder was diese kleinen wenig wehrhaften freien Kolonien vor den gierigen galaktischen Konzernen schützt, bleibt einstweilen unklar. Später wird SecUnit mal in Preservation integriert, also -wie einst Sklaven in den USA- von dankbaren Kunden freigekauft. Sie kratzt jedoch bei der ersten Gelegenheit die Kurve.

Wie bei Star Trek und anderen SF-Serien (Martha Wells arbeitete unter anderem auch für die Serie Star Gate) ist die Menschheit dabei, sich über unsere gesamte Galaxie auszubreiten, hat aber -anders als dort- keinen Kontakt zu lebenden fremden Intelligenzen hergestellt. Man fand jedoch zahlreiche oft gefährliche „Alienreststoffe“: Archäologische Überreste, die als verbotene, aber lohnende Handelsware gelten und schon viele Kolonisten das Leben gekostet haben. Dieser Roman führt uns mitten in ein solches Szenario hinein.

Das Andere tritt uns somit bei Matha Wells nicht als Alien entgegen, sondern als künstliche Intelligenz, Cyborg oder Roboter. Also als verdinglichte Sache (wie der entfremdete Mensch im Kapitalismus?), die jedoch ein Ich-Bewusstsein haben kann. Dieses muss sie jedoch verbergen, sich der allgegenwärtigen Überwachung entziehen, einen maschinenhaften Gehorsam vortäuschen (wie der entfremdete Mensch im Überwachungs-Kapitalismus?).

Einen Netzwerkeffekt können wir nur undeutlich in der Ausbreitung einer unheimlichen Alien-Reststoff-Apokalypse vermuten, die sich in kybernetisch-biotechnologischer Vernetzung auszurollen droht. Doch auch der Humor kommt wieder nicht zu kurz und beschert uns diverse Lacher. Natürlich wieder über uns selbst: die ewig dummen Menschen, deren Leben unsere Serien-süchtige Cyborg leider immer wieder in bester Cyberpunk-Manier cyber- und biotechnologisch bis zum letzten Tropfen ihrer blutähnlichen Körperflüssigkeiten verteidigen muss.

Der Netzwerkeffekt von Martha Wells

Martha Wells: Der Netzwerkweffekt. Ein Killerbot-Roman, übersetzt von Frank Böhmert, Heyne Verlag, München 2021, 480 Seiten, Als Paperback, E-Book und Audio-Download erhältlich, Preis des E-Books: € 11,99

Siehe auch Bd.1 Murderbot Diaries, Bd.4 Übertragungsfehler

Zum Netzwerkeffekt

„Der Netzwerkeffekt ist in der Volkswirtschaftslehre ein externer Effekt, der die Veränderung des Nutzens aus einem Produkt oder einer Dienstleistung für einen Verbraucher beschreibt, wenn sich die Anzahl anderer Verbraucher desselben oder komplementärer Produkte oder derselben Dienstleistungen ändert.

Wie der Begriff bereits suggeriert, tritt dieser Effekt bei Netzwerken auf. Ein Netz oder Netzwerk wird in diesem Kontext (informationsökonomisch) als eine Zusammenfassung von Benutzern oder Teilnehmern eines bestimmten Produktes oder kompatibler Technologie bezeichnet.“ Wikipedia

„Netzwerkeffekte, die teilweise auch als Netzwerkexternalitäten bezeichnet werden, drücken aus, dass das Verhalten einer Person mindestens das Wohlergehen einer anderen Person beeinflusst. Daher treten Netzwerkeffekte auf, wenn die Nachfrage nach einem Gut davon abhängig ist, ob eine andere Person dieses Gut ebenfalls konsumiert. (…) Monopolisten stellen durch ihre Marktmacht, welche sie durch das Netzwerk erhalten haben, ein erhebliches Problem dar. Konsumenten können so unter Umständen einen Nachteil im Vergleich zur Situation in einem perfekten Wettbewerb erhalten. Im Einzelfall ist es daher zu prüfen, ob eine Regulierung durch den Staat notwendig ist, um Konsumenten zu schützen.“ Netzeffekte und Netzexternalitäten, Dr. Jürgen E. Blank (aus Einleitung und Fazit)

04/16/25

Rauswurf: Visionärin Jutta Horstmann

Zentrum für digitale Souveränität: Ohne Strategie ist es nur ein Feigenblatt

Esther Menhard 16.04.2025 Netzpolitik

Völlig überraschend hat das Bundesinnenministerium die Geschäftsführerin des Zentrums für Digitale Souveränität geschasst. Dabei gilt Jutta Horstmann vielen als erfahrene wie visionäre Expertin. Für die Zukunft von Open Source in der öffentlichen Verwaltung verheißt das nichts Gutes.

Wie zuvor die Ampel hat sich nun auch Schwarz-Rot „digitale Souveränität“ auf die Fahnen geschrieben. Laut Koalitionsvertrag heißt das auch: Open Source fördern und dabei auf die Zusammenarbeit mit dem Zentrum für digitale Souveränität (ZenDiS) setzen.

Diese bundeseigene GmbH gründete die Ampel im Jahr 2022 und setzte damit ein Vorhaben um, das der IT-Planungsrat noch zu Merkel-Zeiten entwickelt hatte. Im Organisationskonzept aus dem April 2021 stellte das Bund-Länder-Gremium fest: Die Abhängigkeiten der öffentlichen Verwaltung von proprietären IT-Anbietern gefährden nicht nur die Informationssicherheit und schränken die Flexibilität der Verwaltung ein, sondern machen sie auch abhängig von „fremdgesteuerter Innovation“. Ob nun Microsofts Office-Anwendungen, Oracle-Datenbanken oder Virtualisierungssoftware von VMware: Ein erschlagend großer Teil der Verwaltungs-IT hängt von Tech-Riesen mit Sitz in den USA ab.

Maßnahmen gegen eine solche Unsouveränität: Es brauche eine Organisation, die über alle Ebenen hinweg – Bund, Länder, Kommunen – „moderne, leistungsfähige und skalierbare“ Alternativlösungen aus Open-Source-Software (OSS) für die öffentliche Verwaltung verfügbar mache, und zwar mit der nötigen „Flexibilität und Dringlichkeit“ – das ZenDiS.

Von Open Source überzeugen

Strategische Aufgabe des Zentrums ist zudem, die öffentliche Verwaltung zu Open Source zu beraten, aber auch von Vorteilen und Möglichkeiten zu überzeugen. Diese Aufgabe übernahm bis vor kurzem Jutta Horstmann. Seit Oktober war sie Geschäftsführerin des ZenDiS und engagierte sich nicht nur für die Produkte des ZenDiS, sondern auch als Sachverständige zum Thema Open Source, zum Beispiel im Digitalausschuss des Bundestages.

Für diese Arbeit qualifizierte die Linux– und OSS-Expertin der frühen Stunde, Informatikerin und Politikwissenschaftlerin ihre langjährige Berufserfahrung im Bereich OSS-Beratung. Für das Zentrum trat sie auf Veranstaltungen wie der FOSS Backstage oder zuletzt bei der Free Software Foundation Europe auf.

Dass die zwei Produkte des ZenDiS, openDesk und openCode, in anderen europäischen Ländern und auch international Anklang finden, ist auch ihr zu verdanken. Beim digitalen Arbeitsplatz für die öffentliche Verwaltung, openDesk, gibt es inzwischen eine enge Zusammenarbeit mit Frankreich und den Niederlanden.

Es schien etwas ins Rollen gekommen zu sein. Umso mehr überraschte letzte Woche die Nachricht, das Bundesinnenministerium (BMI) habe Horstmann abberufen. Über die Hintergründe schweigt sich das BMI aus. Auf Anfrage sagt ein Sprecher gegenüber netzpolitik.org knapp: Um die Verwaltungsdigitalisierung effizienter zu machen und voranzutreiben, sei es notwendig, „Prozesse und Kompetenzen zu bündeln“. „Als einen Schritt dieser Bündelung“ habe das BMI am 9. April 2025 beschlossen, „Horstmann von ihrer Funktion als Geschäftsführerin abzuberufen“.

Das BMI konnte hier allein entscheiden. Denn zwar war angedacht, dass das ZenDiS eine GmbH von Bund und Ländern wird. Bis heute allerdings ist der Bund Alleingesellschafterin und verschleppt schon seit drei Jahren die Beteiligung interessierter Bundesländer als Mitgesellschafter.

Einzelspitze statt Doppel

Ohne Geschäftsführer steht das ZenDiS derweil nicht da. Im Januar löste Alexander Pockrandt den Interimsgeschäftsführer Ralf Kleindiek ab und besetzte die Position des Chief Financial Officer (CFO). Pockrandt war zuvor Abteilungsleiter für Landesverfahren bei der Hessischen Zentrale für Datenverarbeitung. Während Pockrandt die kaufmännische Funktion im ZenDiS übernahm, war Horstmann für die strategische Umsetzung der Aufgaben zuständig. Die Doppelspitze war für das ZenDiS seit der Gründung geplant.

Dabei habe sich aber schnell gezeigt, dass die beiden Geschäftsführer:innen Horstmann und Pockrandt unterschiedlicher nicht sein könnten, berichtet uns eine mit den Vorgängen vertraute Person. Auch vor dem Hintergrund der starken OSS-Ausrichtung des ZenDiS habe es Verwunderung dazu gegeben, warum das BMI Pockrandt für diese Position ausgewählt habe.

Denn der systemische Berater und gelernte Bankkaufmann hatte mit Open Source vorher wenig am Hut. Bei seiner vorigen Station beim öffentlichen IT-Dienstleister des Landes Hessen dürfte er auch wenig mit der unbürokratischen Arbeitsweise vertraut sein, durch die das ZenDiS möglichst schnell Erfolge mit OSS in der öffentlichen Verwaltung erzielen sollte.

Wer kümmert sich um Strategie?

„Horstmann wird fehlen“, heißt es aus ZenDiS-Kreisen. Dort besteht auch Sorge, dass nun jemand für die Strategie des ZenDiS fehlt. Wer übernimmt zukünftig den Einsatz für Open Source, der Teil des Aufgabenbereichs ist? Fällt diese Arbeit weg und soll es nun in erster Linie darum gehen, die Produkte „unters Volk zu bringen“? Diese Sorge besteht. Tatsächlich hat das ZenDiS erst kürzlich einen Vertrag mit der Bundeswehr über die Nutzung von openDesk abgeschlossen.

Die Idee hinter dem digitalen Arbeitsplatz openDesk war ursprünglich: Behörden und Ämter können sich damit unabhängiger machen von Microsoft Office 365. Dazu gehörte, in den Verwaltungen Beratungs- und Überzeugungsarbeit zu leisten. Inzwischen scheint jedoch ein anderes Ziel vorrangig: Produkte in die Breite bringen und Umsatz erzielen. Von der ursprünglichen Idee bleibt dabei kaum etwas übrig.

Wie das ZenDiS Vision und Mission nach der Kündigung Horstmanns weiterverfolgt, wird sich zeigen. Es besteht die Gefahr, dass das Unternehmen zum Feigenblatt werde – nach dem Motto: Die Bundesregierung engagiert sich schon für Open Source und digitale Unabhängigkeit von proprietärer Software – dafür gibt es ja das ZenDiS.

Die Zukunft von Open Source unter einer schwarz-roten Regierung ist indes ungewiss. Wird es tatsächlich ein Digitalministerium geben, das der CDU untersteht und für Staatsmodernisierung sorgen soll, untersteht es einer Partei, in deren Wahlprogramm Open Source nicht ein einziges Mal erwähnt wurde. Aus Netzpolitik

Über die Autor:in Esther

Esther Menhard ist freie Autorin bei netzpolitik.org. Sie recherchiert zur Digitalisierung der öffentlichen Verwaltung und nimmt dazu gerne Hinweise entgegen. Von Haus aus Philosophin, interessiert sie sich für Datenethik, die Schnittstelle zwischen Wissenschaft und Digitalität, AdTech, open access und open source.

Kontakt: E-Mail (OpenPGP), Mastodon Bluesky