So werden wir heimlich regiert

ALGORITHMEN. Apropos „freie Entscheidung“. Dieses Buch erschüttert den Glauben ins souveräne Individuum. Wer das Internet nutzt, sitzt bereits in der Falle von Such- und Beurteilungssystemen. Kaufentscheidungen, Reiseplanungen und der Gang zur Wahlurne haben gute Chancen, von unsichtbarer Hand gelenkt zu werden.

 

Cathy O’Neil ist Amerikanerin, 46 Jahre alt und weit über die Grenzen der USA hinaus berühmt. Vor allem durch einen Begriff, den sie erfunden hat: „Weapons of Math Destruction“(WMD). Zu Deutsch: Mathematische Vernichtungswaffen. Aus Frauenmund ein wahrlich kriegerisches Wort. Cathy O’Neil, weiß, wovon sie spricht. Sie hat als Mathematikerin in Harvard promoviert, arbeitete als Dozentin und Hedgefonds-Managerin, bevor sie sich bei „Occupy Wall Street“ engagierte.

 

Maschinen für Arme

Lange, bevor in den USA die Idee aufkam, Gerichtsurteile durch Algorithmen erstellen zu lassen, entstand der „wissenschaftsgläubige“ Gedanke, dass Computermodelle für sämtliche Lebensbereiche „bessere Lösungen“ finden als die menschliche Intelligenz. Cathy O’Neil widerspricht: „Die drei Elemente einer WMD sind Intransparenz, Größe und Dimension (Anwendung auf große Bevölkerungsgruppen) und Schädlichkeit“. Die mathematische Vernichtungswaffe ist deshalb so gefährlich, weil sie für Entscheidungen in wichtigen Sektoren unseres Daseins eingesetzt wird. Algorithmen berechnen in den USA bereits die potentielle Gefährlichkeit von Straftätern, aber auch das Risiko, welches in harmlosen Kreditnehmern steckt: „Auf Algorithmen basierende Modelle schlagen Millionen von Menschen die Tür vor der Nase zu, häufig aus fadenscheinigen Gründen“. Das Prinzip hinter der schönen neuen digitalen Herrschaft: Maschinen behandeln Arme, Menschen bedienen Wohlhabende.

 

Von der Wiege bis zur Bahre

Zum Allgemeinwissen des halbwegs kritischen Zeitgenossen gehört die Beobachtung, dass eine Suchmaschine nicht nur für denjenigen Ergebnisse sucht, der einen bestimmten Begriff eingibt, sondern auch ihrerseits speichert, wonach der jeweilige Suchende gesucht hat. Irgendwo im scheinbar grenzenlosen Universum des Internet gibt es dann jemanden, der mit diesen Daten etwas anfangen kann. Banalerweise bekomme ich, wenn ich den Suchbegriff „Sonnenbrand“ eingebe, in den Folgetagen per Mail eine ganze Menge Vorschläge zur Hautpflege. Datenschutzverordnung hin oder her. Weniger bekannt ist vielleicht, dass in den USA – und wohl bald bei uns – Studienbewerber per Algorithmus bewertet werden. Wer entsprechend negative Spuren im Netz hinterlässt hat gute Chancen, von der Universität abgewiesen zu werden. Auch Bonitäts-Algorithmen haben das Zeug dazu, Unschuldige in die Pleite zu führen. Das datensammelnde und datenbeurteilende Algorithmus-Monster begleitet uns lebenslang. Die gelehrigsten Schüler des Systems sitzen neuerdings in China, wo der jeweilige Platz in der Gesellschaft gewissermaßen algorithmisch bestimmt wird.

 

Die Feedbackschleife

Als eine der bösartigsten Eigenschaften der „Weapons of Math Distruction“ sieht Cathy O’Neil die so genannte „Feedbackschleife“. Negative Ergebnisse der algorithmischen Auswertung werden nicht selten perpetuiert. Die Autorin erklärt diese Fehlfunktion anhand des Hochschul-Rankings des Magazins U.S.News: „Wenn eine Universität im Ranking schlecht abschnitt, litt ihr Ruf, wodurch ihre Umstände sich noch weiter verschlechterten. Die besten Studenten würden sie meiden, ebenso die besten Professoren … Das College-Ranking von U.S.News hat eine riesige Dimension, verursacht flächendeckende Schäden und erzeugt eine beinahe endlose Spirale von destruktiven Feedbackschleifen.“

 

Obwohl ihr Buch reichlich negative Beispiele für die verheerende Wirkung der Algorithmen-Macht aufzeigt, scheint Cathy O’Neil den Glauben an die Kraft der denkenden Menschen (noch) nicht verloren zu haben: „Ich hoffe, dass man sich eines Tages an sie (die WMDs) erinnern wird wie an die tödlichen Kohleminen vor hundert Jahren, als Relikte der Anfangstage einer neuen Revolution, bevor wir lernten, wie wir Gerechtigkeit und Rechenschaftspflicht ins Datenzeitalter überführen können.“