Im November 2017 berichtete der Spiegel, wie deutsche Sicherheitsbehörden beim Online-Shopping einen Schreck bekamen. Die Beamten ermittelten im Fall eines islamistischen Attentäters, der beim Onlinehändler Amazon Zutaten für eine Bombe gekauft hatte. Um seine Bestellung nachzuvollziehen, legten die Beamten selbst Wasserstoffperoxid in den virtuellen Warenkorb. Prompt schlug der Amazon-Algorithmus ihnen die restlichen Zutaten für den Bombenbau vor, erinnert sich Bernd Skiera, Professor für "Electronic Commerce" an der Frankfurter Goethe-Universität.
"Als ich das das erste Mal gehört habe, habe ich spontan gedacht: Da hat Amazon Pech gehabt. Insofern, da sie eigentlich ein Algorithmus für etwas Gutes entwickelt haben. Und dann ist das eben für etwas angewendet worden, was unzweifelhaft schlecht ist."
Amazon hat inzwischen reagiert. Bei Wasserstoffperoxid schlägt der Algorithmus keine weiteren Stoffe für Sprengsätze mehr vor. Was aber ist konkret das "Gute" an Amazons Kaufratgeber-Algorithmus, das Bernd Skiera ansprach?
"Der stationäre Handel ist davon geprägt, dass die Regalfläche knapp ist. Im Online-Handel habe ich diese Beschränkung nicht. Ich kann eigentlich beliebig viel in das Regal reinstellen. Jetzt ist aber die Frage: Wie überfordere ich den Konsumenten nicht? Und von daher muss ich ihn eben durch diese Fülle an Angeboten leiten."
Diese Aufgabe übernehmen Algorithmen, die dem Kunden Produkte vorschlagen, die ihn interessieren könnten. Das gilt übrigens nicht nur für Online-Händler, sondern auch für Streaming-Dienste wie Netflix oder Spotify.
Input
"Bei dem Nutzer muss sich sehen: Für welche Produkte haben die sich interessiert? Das kann heißen: Kaufen, Filme angesehen, vielleicht auch nur angeschaut."
Die Online-Dienste sammeln alle diese Daten ihrer Nutzer, um sich ein Bild ihrer Präferenzen machen zu können.
"Letzten Endes habe ich eine Tabelle da stehen ganz viele Nutzer in den Zeilen und in den Spalten stehen die Produkte. In den Zellen steht überwiegend nichts, weil eben nicht jeder Nutzer sich für jedes Produkt irgendwie interessiert hat. Aber in ein paar Zellen steht eben so etwas drin wie Präferenz."
Output
"Der Output für die konkrete Person besteht darin, dass ich eigentlich die fehlenden Zellen von dieser Person auffülle, dass ich eine Prognose habe für Produkte, die ich noch nicht genutzt habe: Wie hoch ist denn meine Präferenz dafür?"
Ein typischer Ansatz, um diese Präferenz vorherzusagen, nennt sich "kollaboratives Filtern". Dabei wird in dieser riesigen Tabelle nach Ähnlichkeiten gesucht. Zum Beispiel nach Personengruppen, die ein ähnliches Kaufverhalten haben.
"Also man versucht zunächst einmal Personen zu finden, die einer Person ähnlich sind: Was haben diese Personen denn gekauft beziehungsweise sich angeschaut? Und das ist dann die Grundlage für die Empfehlung."
Ein etwas speziellerer Ansatz ist das produktbasierte kollaborative Filtern. Dabei berechnet der Algorithmus Ähnlichkeiten zwischen Produkten, indem er analysiert, welche Personengruppen diese Produkte gekauft haben. Das Besondere an all diesen Methoden: Der Algorithmus muss nichts über die Produkte an sich wissen. Ausgefeilte Verfahren nutzen heute aber eine Kombination aus kollaborativem Filtern und zusätzlichen Produktinformationen.
Performance
Wie treffsicher ihre Empfehlungen sind? Der Ökonom Bernd Skiera beantwortet diese Frage so: "Das funktioniert schon außerordentlich gut. Wenn sie mal betrachten: Wo ist eine ganz große Gefahr für eine Suchmaschine wie Google? Dann besteht die eigentlich darin, dass die Suche nach einem Produkt gar nicht mehr bei Google startet, sondern dass ich ein Produkt bei Amazon anfange zu suchen."
Viele Menschen machen das heute längst so, das spricht für die Qualität der Kaufratgeber. Man kann ihre Performance aber auch messen. Dazu nimmt man die Tabelle mit Präferenzen her, löscht ein paar Einträge, versucht sie mit dem Algorithmus vorherzusagen und schaut, wie oft er richtig liegt.
Natürlich halten die Konzerne ihre Werte unter Verschluss. Die Unternehmensberater von McKinsey schätzen zumindest, dass 35 Prozent der Käufe bei Amazon auf algorithmische Vorschläge zurückgehen. Bei Netflix sollen sogar 75 Prozent der angesehen Filme auf Empfehlungen der Algorithmen gründen. Aber das Problem bei dieser Art von Algorithmen ist, dass sie auch zu gut sein können.
Systemgrenzen
"Um das mal am Beispiel festzumachen, einem Klischee zu folgen: In der Schule interessieren sich Jungs fürs Fußballspielen und Mädchen sind fleißig und versuchen, im Unterricht zu folgen. Das heißt, wenn ich jetzt einen Algorithmus aufbaue, dann empfehle ich den Jungs immer Fußball-Produkte und dem Mädchen empfehle ich immer irgendwelche Lern-Dinge. Und das führt natürlich dazu, dass die Jungs immer besser im Fußball und die Mädchen immer besser in der Schule werden - und auf einmal spreizen sich halt die Leistungen."
Mit anderen Worten: Algorithmen, die rein nach diesen Prinzipien funktionieren, füttern Menschen mit immer mehr von dem, was sie sowieso schon kennen oder haben. Sie können nicht wirklich etwas Überraschendes vorschlagen. Dadurch können sie – anders als etwa menschliche Kuratoren oder Verkäufer – kaum den Horizont ihrer Nutzer erweitern.
