Was müssen Verbraucher über Algorithmen und ihre Funktionsweise erfahren? Wie lässt sich verhindern, dass Künstliche Intelligenz diskriminierende Entscheidungen fällt? Und wer haftet für sie? Es hört sich nach Science Fiction in ferner Zukunft an, aber solche Fragen drängen schon jetzt. In der Europäischen Union geht es deshalb darum, einen Standpunkt dazu zu entwickeln.
Totalüberwachung und die Macht der Konzerne
Noch bevor die EU-Kommission ihre Digitalpläne vorstellt, präsentiert das Parlament seine eigenen Ideen. Heute stimmen die Abgeordneten in Straßburg über eine Resolution zu automatisierten Entscheidungen von Künstlicher Intelligenz ab. Die Resolution geht auf die Grünen-Abgeordnete Alexandra Geese zurück, die in diesem Bereich auf eine Vorbildrolle der Europäischen Union hofft, einen künftigen Standortvorteil im wirtschaftlichen Wettbewerb:
"Unregulierte künstliche Intelligenzprodukte haben wir in China. Wir wissen wie das aussieht. Wir haben sie in den USA, in China mit Totalüberwachung der Verbraucher, in den USA mit einer kompletten Macht der Konzerne, wo die Verbraucher fast gar nichts zu sagen haben. Wir haben in Europa gerade die Chance, dass wir algorithmische Systeme entwickeln, denen die Menschen Vertrauen wirklich geben, wo Frauen oder nicht-weiße Menschen wissen, sie werden nicht diskriminiert."
Fälle, wie in den USA, dass schwarzen Menschen keine Wohnungsanzeigen im Internet präsentiert werden oder dass Frauen als geeignete Job-Bewerberinnen von Künstlicher Intelligenz ignoriert werden: Solche Zustände will die Grünen-Alexandra Geese Politikerin verhindern. Noch sei es nicht zu spät, dass Algorithmen auf Grundlage veralteter Daten Diskriminierungen in die Zukunft fortschreiben:
"Je weiter man in die Vergangenheit geht, desto schlimmer wird es und wenn der Algorithmus sieht, Frauen haben immer deutlich weniger verdient. Dann ist das natürlich ein Faktor, der später in die Kreditrahmenrechnung einfließt und dann geht der Algorithmus davon aus, dass Frauen auch weniger Geld ausgeben können, wenn sie immer weniger verdient haben."
Der Mensch soll das letzte Wort behalten
Die Resolution sieht unter anderem vor, dass Algorithmen Prüfbehörden offengelegt werden müssen, damit diskriminierende Programmierung nicht zur Anwendung kommt. Das Parlament stellt Verbrauchern auch ein Recht auf Entschädigung in Aussicht, falls sich Algorithmen als fehlerhaft erweisen. Ebenso soll sichergestellt werden, dass Menschen bei Entscheidungen von Künstlicher Intelligenz trotzdem das letzte Wort behalten, besonders in sensiblen Bereichen, wie etwa medizinischen Daten. Und:
"Es werden Dinge diskutiert wie Aufsichtsbehörden also quasi ein TÜV für Algorithmen. Vielleicht müsste man einfach über Transparenz nachdenken ein Beipackzettel quasi wie beim Medikament zum Algorithmus der dort verwendet wird. Über solche Regeln für die neue digitale Welt reden wir hier und werden wir beschließen."
Sagt Moritz Körner, Europaabgeordneter der FDP. Der EU-Kommission wollen die Abgeordneten eine lange To-Do-Liste übergeben. Die Brüsseler Behörde soll ein Risikobewertungssystem für Künstliche Intelligenz entwickeln, außerdem prüfen, ob bestehendes EU-Recht verändert werden muss, etwa beim Geoblocking, der Produktsicherheit und der Marktüberwachung.
CDU: Innovationen nicht behindern
Wie viel davon tatsächlich mal Gesetz wird, ist unklar. Fest steht, die Debatte um Künstliche Intelligenz wird sich in einem Spannungsfeld bewegen: Verbraucher- und Datenschutz versus Innovationskraft und Wettbewerb und wie sich diese beiden Pole vielleicht auch vereinen lassen. Der CDU-Europaabgeordnete Axel Voss befürchtet jedoch, dass das Parlament bisher einen zu starken Fokus auf die Verbraucherrechte legt.
"Das ist ja nur eine Anregung wie man damit umgehen soll und auch da müssen wir einfach gucken, dass wir auch da nicht Innovationen wieder behindern durch einen übertriebenen Schutz des Einzelnen. Das kann man alles gewährleisten, aber muss man auch den Willen haben, beides erreichen zu wollen."
Ein Schwerpunkt der Digitalpläne der EU-Kommission wird sein, wie der Umgang mit Industriedaten europäischer Unternehmen in Zukunft aussehen soll: Dazu werden in den kommenden Wochen genauere Details erwartet.
