Im Kern geht es darum, KI-Systeme nach ihrem Risikoniveau einzustufen. So soll etwa für Systeme mit hohem Risiko ein hohes Maß an Transparenz vorgeschrieben werden. Die Europa-Abgeordneten betonen, KI-Systeme müssten "sicher, transparent, rückverfolgbar, nicht diskriminierend und umweltfreundlich" sein.

Konkret sprachen sich die Parlamentarier für strenge Vorgaben für "Hochrisiko"-Anwendungen aus - und sogar für ein Verbot hoch manipulativer KI. Tabu sollten nach Ansicht der Abgeordneten etwa biometrische Systeme zur Gesichtserkennung im öffentlichen Raum sein, die diskriminierend wirken oder Freiheitsrechte einschränken. Extrem kritisch sieht das Parlament auch Anwendungen zur Gefühlserkennung. Verbraucher sollen bei riskanten Anwendungen Informations- und Beschwerderechte erhalten. Die Auflagen sind schärfer als die Vorschläge der EU-Kommission, die von April 2021 stammen.

Im Europäischen Parlament soll nun Mitte Juni eine Abstimmung im Plenum stattfinden. Sie bildet die Grundlage für die Verhandlungen mit den Mitgliedsländern. Diese hatten sich Ende vergangenen Jahres im Grundsatz auf eine Regulierung Künstlicher Intelligenz verständigt. Die EU-Kommission kündigte jüngst an, als erster Wirtschaftsraum weltweit Vorschriften für Künstliche Intelligenz zu erlassen.

Anwendungen wie ChatGPT hatten zuletzt für Debatten in vielen europäischen Ländern gesorgt. Dabei handelt es sich um eine Künstliche Intelligenz, die Menschen schriftlich Fragen beantwortet und so in eine Art Dialog eintritt. Allerdings lässt sich der Wahrheitsgehalt der Aussagen nicht ohne Weiteres überprüfen. KI kann auch Bilder bearbeiten, die dann täuschend echt wirken. Zuletzt sorgte etwa ein Foto des Papstes in einem Designermantel im Internet für Aufsehen.