Hinter der Rechenmaschine

Eigentum und Profit bestimmen auch einen algorithmischen Kapitalismus.
Erschienen in: Neues Deutschland von 14.20.2020

Mit den sozialen Medien sind Algorithmen zu einem festen Bestandteil unseres Lebens geworden. Sie sortieren die Welt für uns, eröffnen neue Optionen und nehmen uns Entscheidungen ab – schnell, effektiv und gründlich. Die Idee, alle Probleme quasi verlässlich »auszurechnen«, klingt verlockend. Dies, und die Unwissenheit darüber, wie Algorithmen funktionieren – laut einer Umfrage der Bertelsmann Stiftung wissen das nur 10 Prozent der Deutschen -, führt zuweilen dazu, dass Algorithmen wahlweise glorifiziert oder dämonisiert, jedenfalls als eine Art höheres Wesen wahrgenommen werden.

Revolutionäre Computertechnik…

Dabei handelt es sich bei Algorithmen, wie die Mathematikerin Hannah Fry in ihrem Buch »Hello World« im Plauderton erklärt, um mathematische Verfahren zur schrittweisen Umformung von Zeichenreihen. Es geht um einen Rechenvorgang nach einem bestimmten, sich wiederholenden Schema. Damit werden Daten für die »reale Welt« verarbeitbar.In vier Bereichen können Algorithmen Aufgaben übernehmen. Sie können eine Rangliste von Dingen anlegen (priorisieren), Kategorien bilden (klassifizieren), Verbindungen finden (kombinieren) sowie relevante Informationen herausfinden (filtern). Algorithmen arbeiten dabei entweder auf der Grundlage fixer Regeln, die ihnen das programmierte Regelwerk vorgibt, oder sie sind »selbstlernend«, verarbeiten also Informationen so, dass sie Ziele, auf die sie ausgerichtet sind, mit dem besten Weg selbst finden können. Der zweite Bereich wird allgemein als Künstliche Intelligenz bezeichnet. Doch an dieser Stelle hakt Fry ein. Sie möchte eher von »revolutionärer Computerstatistik« sprechen und nimmt damit der Debatte einiges an Dramatik. In eine ähnliche Richtung geht der Physiker Timo Daum, wenn er davon spricht, dass es keine Bedeutung habe, »ob oder wie intelligent ein Algorithmus oder eine Maschine« ist, sondern »welche Aufgaben sie wie genau lösen« könne.
Mit dieser Entfernung von der »metaphysischen Aura« der Algorithmen gelingt es auch, Fragen zu stellen, wie es der an Marx geschulte Daum in seinen Buch »Die künstliche Intelligenz des Kapitals« tut: »Wem gehören die Algorithmen, welche Ziele verfolgen ihre Herren, und was macht das mit uns?«
Gerade die Datenreservoirs sozialer Netzwerke sind eine Fundgrube für Unternehmen, die so ihre Zielgruppe um ein Vielfaches genauer bestimmen und anvisieren können. Das sogenannte Microtargeting wird nicht nur genutzt, um Kaufentscheidungen von potenziellen Kund*innen zu beeinflussen. Längst nutzen auch Politiker*innen diese Algorithmen, um gezielt Wahlen zu beeinflussen. Cambridge Analytica wurde 2018 zum geflügelten Wort für einen Eingriff dieser Art. Und der demokratische Kandidat und Milliardär Michael Bloomberg hat laut »New York Times« allein im Dezember 2019 18 Millionen Dollar für Werbung auf Facebook und Google ausgegeben.
Doch auch die Bewertung von Arbeitsleistungen und Sozialversicherungsansprüchen werden teils bereits von Algorithmen übernommen. So hat im US-Bundesstaat Idaho etwa ein Algorithmus dazu geführt, dass die finanziellen Hilfen für Menschen mit Behinderungen willkürlich gekürzt wurden. Bei Amazon kontrolliert ein Algorithmus gar die Arbeitsleistung und verschickt gleich Abmahnungenund Kündigungen, wenn diese nicht hoch genug ist, so Fry. Und in den Niederlanden hat der Staat bis zu einer Gerichtsentscheidung in der letzten Woche ein System verwendet, um automatisch Sozialbetrüger*innen zu identifizieren. In China befindet sich bis 2020 ein weit umfangreicheres Sozialkredit-System in der Testphase, welches das Verhalten der Menschen über ein Punktesystem bewertet. Algorithmen erlangen dadurch potenziell die Möglichkeit, über Menschen zu entscheiden, und darüber, wie eine Gesellschaft aussehen soll.
Interessant ist, wie das deutsche Recht sich diesen Fragen gegenüber äußert. Denn auch wenn auf bestimmten Ebenen bereits automatisierte Entscheidungen im Einsatz sind, ist beispielsweise eine automatisierte Strafjustiz, wie sie in manchen Ländern auf niedrigem Level bereits eingesetzt wird, in Deutschland durch das Grundgesetz ausgeschlossen. Ein Grund dafür ist, dass menschliche Entscheider zwar auch schematisch bestimmte Fälle durchgehen können – dass sie aber am Ende noch zu etwas fähig sind, was Algorithmen bislang völlig fehlt: Empathie.
Gesetzliche Entscheidungsinstanz kann demnach nur sein, wer auch die sozialen und persönlichen Folgen für den Betroffenen in die Entscheidungsfindung einfließen lassen kann.

… hält den Kapitalismusam Laufen

Algorithmen können zwar dazu beitragen, Brustkrebs zu diagnostizieren, Serienmörder zu fangen und Flugzeugabstürze zu vermeiden. Sie sollten aber eben nicht als unfehlbare Autorität betrachtet werden. Schon gar nicht als eine, die auf magische Weise ohne menschliche Arbeitskraft und Ausbeutungsverhältnisse auskommt. Auch Fry erkennt und problematisiert zwar die Gefahren in der Verwendung von Algorithmen. Jedoch mit der ganzen Nüchternheit einer Mathematikerin, sie verfällt damit nicht großen Dystopien. Für Fry ist offensichtlich, dass es, egal wo man hinsieht, in der Justiz, im Gesundheitswesen, bei der Polizei, sogar beim Online-Shopping Probleme mit dem Datenschutz, Verzerrungen und Fehlern, Verantwortlichkeit und Transparenz gibt, die nicht einfach verschwinden werden. Dabei werden auch Fragen der Gerechtigkeit aufgeworfen, wie etwa bei Algorithmen, in denen Sexismus oder Rassismus eingeschrieben sind.
Viel weiter geht die Kritik von Fry aber nicht. Dünn wird ihre Analyse sowohl bei komplexen Begriffen, aber vor allem bei der gesellschaftlichen Einbettung der Algorithmen. Für Fry spielt es keine Rolle, dass Technologien immer Teil des kapitalistischen Wirtschaftssystems sind und sie damit nie unabhängig zu denken sind. Sie sind Techniken, die helfen, den Kapitalismus am Laufen zu halten, und sind damit nicht so weit entfernt von beispielsweise Rechenschiebern oder Fließbändern.
Denn es stellt sich nicht nur die Frage, wem gehören die Algorithmen, sondern auch: Wem gehören die Daten, auf dessen Grundlagen diese ihre Berechnungen anstellen? Der Wissenschaftler und Videodesigner Ian Bogost hat darauf hingewiesen, dass schon die Vorstellung, dass Daten einfach von einer Rechenmaschine »eingesammelt« werden, ein verzerrtes Bild abgibt: »Die Metapher der Fabrik als automatisierte Maschine verdeckt die Tatsache, dass Produktion längst nicht so automatisiert ist, wie wir denken.« Und wenn die Metapher des Algorithmus nur eine Variante der Maschinenmetapher ist, dann muss man auch hier hinter das »transzendente Ideal« blicken.
Auf Angebotsseiten für »Clickworker« gibt es das Auftragsgenre Datenkategorisierung, wo prekär Beschäftigte »nach Lust und Laune« Inhalte von Webseiten, Suchergebnisse, Bilder oder Dokumente beurteilen, analysieren oder kategorisieren müssen. So ähnlich kommen auch die Empfehlungen des Streamingdienstes Netflix zustanden: durch die Arbeit von Menschen, die Filme schauen und diese dann mit Metadaten und Labeln versehen wie etwa »Romantische Komödie« oder »Expliziter Inhalt«. Auch die »Suchmaschine« Google ist nicht zu denken ohne eine Vielzahl an Autos, Kameras, Sicherheitspersonal, Servern und anderen ganz und gar nicht transzendenten Produktionsbedingungen.
So gibt es zwar ein Computerprogramm, dass wie im Fall Netflix Sehgewohnheiten mit einer Filmdatenbank abgleicht. Aber das Empfehlungssystems ist mit Hilfe so vieler Systeme, Akteure und Prozesse entstanden, dass, so formuliert es Bogost, »nur ein Fanatiker das Ergebnis einen Algorithmus nennen kann«.
Doch die menschliche Arbeit, die notwendig ist, damit Algorithmen funktionieren, bleibt vielfach unsichtbar. Zumal dazu selten große Fabrikgebäude notwendig sind. Clickworker arbeiten oft am eigenen Laptop und werden mit gestückelten Kleinstbeträgen entlohnt. Das Plädoyer Frys dafür, Menschen nicht durch Maschinen zu ersetzen, sondern Maschinen einzusetzen, um den Menschen zu helfen, bleibt zwar richtig. Doch genauso wichtig wäre es anzuerkennen, dass diese »Maschinen« eben nicht im luftleeren Raum agieren. Daten werden weder von Zauberhand »gesammelt«, noch entstehen die daraus entstehenden Tools aus dem Nichts. Eigentum und Profit spielen auch in einem Kapitalismus eine Rolle, der von Algorithmen geprägt ist. Dies gilt es, auch weiterhin zu benennen.