Das Gesetz verbietet zudem KI-basierte Programme, die Menschen nach Kriterien wie Hautfarbe oder ihrer religiösen Ansichten in Gruppen einteilen. KI-gesteuerte Gesichtserkennung dürfen die Polizei und Sicherheitsbehörden in Zukunft nur dann nutzen, wenn das richterlich angeordnet wurde.

Die neuen Regeln gelten allerdings erst schrittweise. Die ersten Verbote greifen im kommenden Februar. In einem Jahr gelten die Regeln dann für KI-Systeme, die in Apps und Programmen für alle zugänglich sind. In zwei Jahren werden alle anderen Bestimmungen im Gesetz wirksam. Bis dahin setzt die EU-Kommission auf eine Selbstverpflichtung von Unternehmen, die KI-basierte Programme herstellen.

Mit dem neuen Gesetz werden KI-Anwendungen in verschiedene Risikogruppen eingestuft. Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen strenge Anforderungen erfüllen. Anwendungen mit einem geringeren Risiko unterliegen weniger Verpflichtungen.

KI-Anwendungen, die gegen EU-Werte verstoßen, sind zudem ganz verboten. Dazu gehört etwa die Bewertung von sozialem Verhalten ("Social Scoring"). Damit werden in China Bürgerinnen und Bürger in Verhaltenskategorien eingeteilt. 

Bei Verstößen drohen Strafen: Beim Einsatz von verbotener Technologie etwa bis zu 35 Millionen Euro oder - im Falle von Unternehmen - bis zu sieben Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres. Das genaue Strafmaß muss in diesem Rahmen aber von den Ländern festgelegt werden.