Algorithmische Ausnahmezustände

Welche Auswirkungen hat das auf das Konzept der Staatsbürgerschaft, auf die Rolle von politischen Akteuren und Formen des Widerstands? Die IT-Sicherheitsexpertin und politische Theoretikerin Eleanor Saitta, die zu diesen Fragen bei Berliner Gazette-Jahreskonferenz FRIENDLY FIRE einen Vortrag, unternimmt hier eine Bestandsaufnahme. Ein Interview:

Das Leben, das wir einerseits im Internet und andererseits ausserhalb des Internets führen, ist mittlerweile kaum voneinander zu unterscheiden, deshalb kann man meines Erachtens die Frage der Staatsbürgerschaft heute auch nicht mehr von der Frage der digitalen Staatsbürgerschaft trennen. Nach den Snowden-Enthüllungen gibt es bei den Menschen eine zunehmende Sensibilisierung für den Machtkomplex aus Staat und Grossunternehmen, der sozusagen der Unterbau der Staatsbürgerschaft ist. Was sind aus Ihrer Sicht die wichtigsten Folgerungen, wenn man das Konzept des neoliberalen Staats in der „Post-Snowden-Welt“ (wie Sie die heutige Situation einmal genannt haben) durchdenkt?

Schaut man sich die Auswirkungen des Internets auf das politische Leben an, ist die von Ihnen angesprochene Untrennbarkeit der zwei Sphären das wichtigste Merkmal, das man dabei im Auge behalten muss. Das Internet hat von einer politischen Perspektive aus gesehen keine eigenständige Existenz: Leben und Macht gibt es nicht in einer digitalen und nichtdigitalen Form – Leben und Macht gibt es nur allgemein.

Es ist aber so, dass alle Akteure, denen wir die Reproduktion und Steuerung der Gesellschaft anvertrauen, bei ihrer Tätigkeit zwangsläufig von einer Reihe von perversen Anreizen geleitet werden. Die Resultate ihrer Bemühungen sind daher nicht die, welche sich die Gesellschaft im Allgemeinen wünschen würde. Viele Organisationen, die grossangelegte gesellschaftliche (und reale) Infrastrukturprojekte umsetzen, arbeiten heute beispielsweise mit einer Logik, die aus der Welt des Wagniskapitals stammt: Viele Organisationen erwarten in wenigen Fällen im Zeitraum von drei bis fünf Jahren eine Rendite von 2.000 Prozent, und sind im Gegenzug bereit, in 95 Prozent aller Fälle einen Totalausfall hinzunehmen.

In den verschiedenen Bereichen, in denen diese Akteure tätig sind, gibt es auch verschiedene Formen von Ansporn und Priorisierung, die die Möglichkeiten dieser Akteure formen und gleichzeitig einschränken. Einige dieser Anreize sind spezifisch konzipiert worden, andere dagegen sind durch den Kanal (beispielsweise den digitalen Kanal), mithilfe dessen ein bestimmter Bereich seine Aktivitäten ausführt, bereits vorgegeben. Digitale Daten können beispielsweise auf einfache Weise vervielfältigt werden, egal in welchem System die Daten gerade vorhanden sind.

Um eine sachkundige Aussage über ein System zu treffen, geschweige denn es zu ändern, muss man sich jedoch mit den konkreten Merkmalen dieses Systems auseinanderzusetzen. (Dies ist nur dann nicht der Fall, wenn man sich bereits in einer Position befindet, die erhebliche Autorität innerhalb des Systems mit sich bringt). Beispielsweise regen sich die Menschen derzeit stark über die Nutzung zielgerichteter Werbung zu Manipulationen im Bereich der Politik auf. Dabei weiss kaum jemand, wie zielgerichtete Werbung überhaupt praktisch funktioniert.

Das passiert in vielen unterschiedlichen Bereichen: Juristen verstehen die geheimdienstlichen Aktivitäten ausserhalb der gesetzlichen Grenzen nicht; Ingenieure weigern sich zuzugeben, dass bestimmte Sachen auch durch Gesetze und Verordnungen geregelt werden könnten; Theoretiker schauen sich nicht die tatsächliche Lebenserfahrung von politischen Aktivisten an, die in ihrem Bereich versucht haben, eine praktische Veränderung durchzusetzen, und so weiter.

Aus meiner Sicht sollte jeder zunächst die Funktion eines Systems verstehen. Es mag seltsam erscheinen, dass ich mich heute für die Aneignung grundlegender Kenntnisse ausspreche, wo es doch derzeit so aussieht, als zöge eine echte Krise herauf. Die Alternative ist jedoch, dass das Geschehen von Profis oder einer Avantgarde bestimmt wird. Beides hat in der Vergangenheit in diesem Zusammenhang nicht funktioniert.

Ich verstehe schon, dass Sie gerne eine Antwort hätten, die auf das aktuelle Weltgeschehen eingeht. Was Sie stattdessen von mir bekommen, ist eine Beschreibung dessen, was wir tun müssen, um das aktuelle Weltgeschehen zu verstehen. Das ist aber, glaube ich, ganz richtig so. Es geht um das Verfahren, mit dem man zum Ergebnis kommt, nicht um das Endprodukt. Ich würde Ihnen liebend gerne einen Satz theoretischer Antworten präsentieren. Die vergangenen paar Jahre waren jedoch für Theorien ein sehr gutes Testumfeld: Es gibt nichts, was eine Theorie schneller zerstört, als ein praktischer Test.

Die Aufstellung von „Todeslisten“ und „Flugverbotslisten“ ist aus meiner Sicht nicht nur für die im Entstehen begriffenen verschiedenen Formen einer Datenbankrationalität symptomatisch, sondern auch für Situationen, die man als „algorithmische Ausnahmezustände“ bezeichnen könnte. Damit meine ich Machtformationen, aufgrund deren Aktivitäten zum Beispiel falsche positive Ergebnisse zu „Kollateralschäden der Informationsgesellschaft“ führen: Praktisch jeder kann ja auf einer solchen Liste landen. Vor Ausführung der von der Liste angeordneten Handlung wird durch das blosse Vorhandensein der Liste bereits das Konzept der Staatsbürgerschaft, wie wir sie gewohnheitsmässig auffassen, destabilisiert. Nach Umsetzung der Liste ist das Leben der betroffenen Menschen buchstäblich wertlos. Kann man unter diesen Umständen bestimmte „Funktionen“ der Staatsbürgerschaft in der Praxis noch retten?

Aus meiner Sicht sind solche Listen für die derzeitige Situation nicht wirklich symptomatisch. Symptomatisch finde ich eher, dass alle Entscheidungen und alle Berührungspunkte der Menschen mit Machtstrukturen vollständig rückverfolgt und aufgezeichnet sowie miteinander verbunden und vernetzt werden. Dadurch entsteht ein umfassender und dauerhafter Ausnahmezustand, welcher dadurch eigentlich wiederum aufhört zu existieren.

Das Konzept der Datenbankrationalität betrachtet die Menschen aus der Perspektive der Informationsverarbeitungsmöglichkeiten der 1970er-Jahre. Ingenieure sagen aber, dass man jedes Mal, wenn man ein System um das Dreifache vergrössert, ein vollständig anderes System erhält. Jenseits der Grenze von einigen hunderttausend Menschen kann man Listen nicht mehr einsetzen; diese Anzahl Menschen ist für Listen zu gross.

Die tatsächlichen Regeln einer Gesellschaft verändern sich stetig, und es werden immer mehr Regeln. Regeln gehen ausserdem vollständig in ihrer praktischen Umsetzung auf und lassen sich gar nicht davon trennen. In Gesellschaften, in denen Rechte stärker beachtet werden, können Bürger die praktische Umsetzung von Regeln in allen Einzelheiten nachvollziehen, sie können gegen getroffene Entscheidungen Widerspruch einlegen, und sie können dafür eintreten, dass die Wirkung der umgesetzten Regeln generell verändert wird. In weniger freiheitlichen Gesellschaften ist die praktische Umsetzung dagegen undurchsichtiger. Die für die Umsetzung Zuständigen erhalten dadurch die Möglichkeit, Menschen Dinge vorzuenthalten und nach reiner Willkür zu entscheiden.

Alle sozio-technischen Infrastruktursysteme dienen verschiedensten Zwecken. In den einem Benutzer vom System bereitgestellten Informationen stellen das Ziel moderner, voll entwickelter Systeme und deren Konzeption nur einen Teilbereich der tatsächlich vorhandenen Ziele und der tatsächlich stattfindenden Wechselwirkungen dar. Ausserdem stellt das System unterschiedlichen Nutzern in unterschiedlichen Zusammenhängen die Informationen jeweils etwas anders dar. Bei sehr komplexen Systemen lässt sich dies gar nicht vermeiden, es ist sogar notwendig. Erst dadurch sind wir in der Lage, eine sehr komplexe Gesellschaft zu steuern. Dies ist selbst in den Zusammenhängen notwendig, in denen die Benutzer (seien sie nun Staatsbürger oder nicht) im Laufe der Zeit soweit weitergebildet werden können, dass sie schliesslich die komplexen Zusammenhänge selbst vollständig verstehen.

Das Konzept der „unveränderbaren Rechte“, mit dem Zuwiderhandlungen innerhalb des Systems nachträglich ausgeglichen werden sollen, lässt sich innerhalb dieser Logik nicht mehr umsetzen. Diese Veränderung der Betrachtungsweise hat es auch im Bereich der Zuverlässigkeit von komplexen Systemen gegeben. Unsere heutigen politischen Regierungs- und Steuerungsmodelle kann man mit den in früheren Zeiten umgesetzten gesetzlichen Initiativen zur Produkthaftung vergleichen. Mit diesen Initiativen wollte man die Hersteller zwingen, ihre Systeme vorher auf ausreichende Sicherheit zu testen und von vornherein ausreichende Toleranzen vorzusehen.

Bei der Erforschung der Interkontinentalraketen wurde dem militärisch-industriellen Komplex schliesslich jedoch klar, dass ein solches Konzept in diesem Fall für das Erzielen ausreichend zuverlässiger Ergebnisse nicht geeignet war. Die dynamische und ganzheitliche Systemsicherheitstechnik wurde daraufhin als Fach etabliert (eine intellektuelle Vorleistung, die bedeutsamer war als das ganze darauf folgende Manhattan-Projekt selbst).

Durch die Nutzung von Software entsteht innerhalb der Zuverlässigkeitsproblematik von Systemen eine zusätzliche kombinatorische Komplexität. Systeme, die zum Teil aus Software bestehen, können praktisch nur aus dem laufenden, tatsächlichen Betrieb heraus gesteuert werden. Sie können ausserdem nur durch Verfahren gesteuert werden, welche die Systemdynamik des gesamten Umfeldes nachvollziehen und in die Steuerung mit einbeziehen können.

Hochzuverlässige Systeme müssen zunehmend für Szenarien ausgelegt werden, bei denen man nicht warten kann, bis das System ausfällt, um dann für diese spezifische Ausfallart eine Lösung zu erarbeiten (im übertragenen Sinne würde das heissen, dass man für jede Regel im Nachhinein eine Institution zur Überwachung oder Durchsetzung schafft). Es werden immer häufiger Systeme gebaut, die in der Lage sein müssen, negative Ergebnisse zu meistern, die nicht ein einziges Mal eintreten dürfen. Auf den Bereich der Politikgestaltung und der politischen Steuerung sind diese Konzepte bis heute nicht übertragen worden. Aus meiner Sicht verlangt die Aufgabe, Rechte innerhalb einer wesentlich von sozialer Automation geprägten Gesellschaft zu verwalten oder erst einmal nur zu definieren, jedoch dass diese Konzepte übertragen werden.

In Ihren Arbeiten haben Sie sich immer wieder mit den Möglichkeiten auseinandergesetzt, wie man Gegenmacht aufbauen kann; man könnte auch sagen, es geht um rebellische Formen der Staatsbürgerschaft. Ein Vorschlag, den Sie zusammen mit Smári McCarthy auf dem 29. Chaos Communication Congress unterbreitet haben, ging dahin, die Protokolle des Machtkomplexes aus Staat und Grossunternehmen zu überschreiben. Könnten Sie das Konzept des „Protokolletariats“ erklären und erläutern, wie man ein solches Projekt kollektiv umsetzen könnte?

Das Konzept des „Protokolletariats“ ist aus der Beobachtung entstanden, dass sowohl die politische Steuerung als auch die Arbeitsweise der gesellschaftlichen Infrastruktur aus einer Reihe von Prozessen besteht, die von einer Reihe von in die Gesellschaft eingebetteten Akteuren ausgeführt werden.

Diese Akteure sind normalerweise Institutionen, aber das ist nicht immer erforderlich. Ein dezentralisiertes Netzwerk ist ebenfalls in der Lage, ein Protokoll (die Regelung der Kommunikation zwischen verschiedenen Instanzen; Anmerkung des Übersetzers) aufzurufen, und kann dann den Prozess kollektiv ausführen. Die Aufgabe, Ereignisse langfristig in der Erinnerung aufzubewahren, muss durch eine Institution ausgeführt werden; dies ist keine Aufgabe, die ein Netzwerk erledigen kann. Es gibt aber keinen Grund, warum das Protokoll unbedingt durch das Archiv aufgerufen werden muss.

Ich finde das eine tolle Idee, und ich bin immer noch davon begeistert. Ich muss jedoch hinzufügen, dass es, wie oben ausgeführt, noch kein ausreichendes Wissen darüber gibt, wie man dezentralisierte Systemen so steuert, dass Invariantes, also Unveränderliches, auf jeden Fall unverändert bleibt.

Es ist schon aufschlussreich, dass die öffentlichen Bitcoin- und Etherium-Gruppen heute grösstenteils aus Menschen bestehen, die nicht glauben, dass sie die Pflicht haben, die negativen gesellschaftlichen Auswirkungen zu beheben, die ihre Aktivitäten auf die Welt haben. Dieses Problem wird sich immer wieder stellen, solange wir nicht verstehen, wie dezentralisierte politische Steuerung eigentlich funktioniert.

Ich finde jede Form von Experiment in dieser Hinsicht gut, das ohne böse Absicht und mit der Einsicht durchgeführt wird, dass Dinge wie gesellschaftlicher Nutzen und Menschenrechte keine zu vernachlässigende Abstraktionen sind. Bis diese Experimente durchgeführt sind (oder bis wir zu verstehen beginnen, wie man Rechte in einer Post-Datenbank-Gesellschaft verwaltet), werden wir jedoch nicht über das spezifische Wissen verfügen, das man braucht, um dezentralisierte Systeme erfolgreich zu steuern.

Wie könnte eine aufständische Staatsbürgerschaft aussehen? Algorithmische Ausnahmezustände