Können Algorithmen rassistisch sein? Warum dominieren in sozialen Netzwerken oft extreme Meinungen? Werden Frauen bei automatisierten Bewerbungsverfahren systematisch benachteiligt? Das sind Fragen, mit denen sich Krishna Gummadi beschäftigt. Der indische Informatiker arbeitet seit zwölf Jahren am Max-Planck-Institut für Softwaresysteme in Saarbrücken.
"Aktuell beschäftige ich mich vor allem mit automatisierter Entscheidungsfindung. Um Tätigkeiten zu automatisieren, für die bislang Menschen zuständig waren, wird heutzutage oft maschinelles Lernen eingesetzt - etwa bei der Beurteilung der Kreditwürdigkeit oder der Auswahl von Bewerbern für einen Job. Ich interessiere mich dafür, welche Rolle Fairness und Vorurteile spielen, wenn Computer solche Entscheidungen treffen. Als Menschen haben wir dabei immer auch ethische Überlegungen im Hinterkopf. Und mich interessiert, wie wir Algorithmen beibringen können, unseren Wertvorstellungen Rechnung zu tragen."
Die erste Einladung noch freundlich abgelehnt
Wie schwierig es ist, lernfähigen Computerprogrammen beizubringen, faire Entscheidungen zu treffen, belegt die Software Compas, die von der US-Justiz eingesetzt wird, um die Rückfallgefahr von Straftätern vorherzusagen. Der Algorithmus berechnete bei Schwarzen doppelt so häufig eine Rückfallgefahr wie bei Weißen, benachteiligte sie also systematisch. Es reicht nicht, eine Maschine mit so vielen Daten wie möglich zu füttern und darauf zu vertrauen, dass sie lernt, verlässliche Prognosen zu erstellen.
"Wenn man einem lernenden Algorithmus Fairness beibringen will, muss man erst mal darüber nachdenken, welche Konzepte von Vorurteilen oder Fairness überhaupt existieren und was dazu führt, dass eine bestimmte Gruppe diskriminiert wird. Die Vorstellungen, die wir intuitiv haben, müssen wir in mathematische Modelle übersetzen. Es gibt immer die Versuchung, einfach so viele Daten wie möglich zu sammeln, um Vorhersagen zu treffen, was Menschen künftig tun werden. Im schlimmsten Fall verstärkt man so Stereotype und benachteiligt Menschen, die zufällig Muster oder Eigenschaften aufweisen, die als unerwünscht eingestuft wurden."
Krishna Gummadi ist ein gefragter Experte für Social Computing. Dass er 2005 nach seiner Promotion an der University of Washington in den USA ans neu gegründete Max-Planck-Institut für Software-Systeme nach Saarbrücken kam, war so nicht geplant. Die erste Einladung des Gründungsdirektors Peter Druschel zu einem Vorstellungsgespräch, hatte er noch freundlich abgelehnt.
Das Institut erwartet nicht sofort verwertbare Ergebnisse
"Ich muss zugeben, ich war selbst überrascht, dass ich meine Meinung geändert habe. Aber es war, als hätte das Institut meine geheime Wunschliste bezüglich meines Forschungsumfeldes ausgecheckt und in allen Punkten erfüllt. Woanders hätte ich immer irgendwo Abstriche machen müssen. Nach meinem ersten Besuch hier war ich so überzeugt, dass ich hergezogen bin."
Vor allem die Freiheit, die die Max-Planck-Gesellschaft ihren Forschern bietet, hat Krishna Gummadi überzeugt.
"Das Institut ist bereit, Neugier zuzulassen und nicht sofort ein verwertbares Ergebnis oder konkreten Nutzen zu erwarten. Die Max-Planck-Gesellschaft setzt auf langfristige Erfolge und vertraut ihren Forschern."
Noch wichtiger als Geld: die Anerkennung der Kollegen
Dieses Vertrauen zahlt sich aus. Im April hat der Europäische Forschungsrat dem 39-jährigen Informatiker Fördermittel in Höhe von knapp 2,5 Millionen Euro bewilligt: für sein Projekt "Foundations of Fair Social Computing", in dem er die Grundlagen fairer sozialer Computersysteme erforschen will. Ein Erfolg, der ohne die jahrelange Vorarbeit und die interdisziplinäre Zusammenarbeit nicht möglich gewesen wäre, ist Gummadi überzeugt. Wichtiger als das Geld, das ihm nun neue Freiräume eröffnet, ist ihm aber die Anerkennung durch seine Kollegen.
"Das größte Kompliment für einen Forscher ist, wenn andere sagen: 'Deine Arbeit ist inspirierend'."
Krishna Gummadi findet seine Arbeit so faszinierend, dass er sich am liebsten rund um die Uhr damit beschäftigen würde. Bis zu seiner Hochzeit vor 10 Jahren war er ein absoluter Workaholic. Seitdem arbeitet er beständig daran, Beruf und Privatleben unter einen Hut zu bringen.
Ein typischer Workaholic
"Ich muss zugeben, dass ich keiner von denen bin, die neben ihrer Arbeit noch viele weitere Interessen und Hobbies haben. Ich wünschte, ich hätte sie und ich versuche, welche zu entwickeln. Und in dieser Hinsicht bringt meine Frau mehr Balance in mein Leben, weil sie mich oft dazu bringt, neue Sachen auszuprobieren. Zum Beispiel mal ins Kino zu gehen, eine Wanderung zu machen oder Leute einzuladen, die ich nicht von der Arbeit kenne. Es ist sicherlich schwer für sie, weil ich - wie andere Forscher auch - ein bisschen besessen bin von meiner Arbeit."
Neben seinem Arbeitsumfeld mag Gummadi die für ihn überraschend internationale Atmosphäre in Saarbrücken - und das gute Essen. Er will definitiv bleiben - auch weil es in Saarbücken mit die höchste Dichte an Computerwissenschaftlern in Europa gebe. Und damit reichlich interessante Kooperationspartner für künftige Projekte.
