Als sie ein kleines Mädchen war, bedeutete die Mathematik für Cathy O‘Neil Zuflucht. Zahlen gaben ihr Halt in der Unordnung der realen Welt. So blieb es bis zum großen Finanzcrash 2008. Damals arbeitete sie als Analystin für einen Hedgefonds - und sie begriff:
"Dass die Mathematik (...) nicht nur zutiefst in die Probleme der Welt verstrickt war, sondern sogar für viele von ihnen den Nährboden bereitet hatte."
Der "Missbrauch der Mathematik" habe zu dieser globalen Krise beigetragen, die Arbeitsplätze vernichtete und Existenzen zerstörte, schreibt Cathy O‘Neil in ihrem Buch "Angriff der Algorithmen". Dieser Missbrauch reicht weit über die globalen Finanzmärkte hinaus: Ständig kommen neue und oft schlecht durchdachte mathematische Verfahren auf den Markt, die das Kauf- und Wahlverhalten der Menschen prognostizieren - und die tief in das Schicksal eines jeden Einzelnen eingreifen.

"Sarah Wysocki unterrichtete in der fünften Klassenstufe und schien keinen Grund zu haben, sich Sorgen zu machen. Sie war zwar erst seit zwei Jahren an der MacFarland Middle School, hatte aber schon hervorragende Beurteilungen vom Schuldirektor und den Eltern ihrer Schüler erhalten. (...) Dessen ungeachtet erhielt Wysocki am Ende des Schuljahres 2010/11 einen miserablen Score in ihrer IMPACT-Beurteilung."

Die miserable Bewertung erhielt sie von einem elektronischen Beurteilungssystem. Denn die Washingtoner Schulbehörde hatte ein Beratungsunternehmen beauftragt, einen Algorithmus für die Bewertung des Unterrichtserfolgs zu erstellen: Der erwies sich - wie so viele andere auch - als Black-Box, deren Urteil die Betroffenen wehrlos ausgeliefert sind. Deshalb bezeichnet die in Harvard promovierte Autorin, die als eine der profiliertesten Kritikerinnen der Digitalbranche gilt, solche Programme als "Weapons of Math Destruction" - als Mathevernichtungswaffen:
"Heute mikromanagen schlecht konzipierte mathematische Modelle die Wirtschaft, angefangen bei der Werbung bis hin zur Verwaltung von Gefängnissen. (...) Sie sind undurchschaubar, werden nicht infrage gestellt, sind niemandem Rechenschaft schuldig und operieren in einem Maßstab, der groß genug ist, um Millionen Menschen zu kategorisieren, ins Visier zu nehmen oder zu 'optimieren'."

Computerprogramme werten Bewerbungen aus oder beurteilen unsere Kreditwürdigkeit. Der Markt boomt, denn Algorithmen versprechen einfache Lösungen, mehr Sicherheit oder mehr Gerechtigkeit. Doch laut Cathy O‘Neil ist das Gegenteil der Fall: Die Mathevernichtungswaffen steigern die Ungleichheit in der Gesellschaft, sie zementieren Vorurteile und gefährden die Demokratie. Die Schlussfolgerung der Autorin:

"Wir müssen aufhören, blindes Vertrauen zu haben und anfangen 'Wissenschaftlichkeit' in die Data Science einzubringen."

Der "Angriff der Algorithmen" ist fesselnd geschrieben. Der Leser lernt, wie die Big Data Wirtschaft funktioniert und was gut gemachte Programme von schlampig geschriebenen unterscheidet. Die Geschichten, die Cathy O‘Neil erzählt, erinnern oft an Kafkas "Prozess", doch zeigt das Buch auch Lösungswege auf. Etwa verpflichtende Standards zur Rechenschaftslegung und eine Beweislastumkehr: Wer Algorithmen entwickelt und implementiert, der sollte den Beweis erbringen, dass sie einwandfrei funktionieren.