Bei dem sogenannten Social Scoring werden etwa die Bürger in China in Verhaltenskategorien eingeteilt und belohnt oder bestraft. In der EU soll es auch keine Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen geben.

Nicht erlaubt sind weiterhin manipulative KI-Systeme, die betrügerische Techniken anwenden, um das Verhalten von Menschen zu beeinflussen. In diese Gruppe fällt etwa sprachgesteuertes Spielzeug, das Kinder zu einem gefährlichen Verhalten verleitet. Auf der Verbotsliste der EU stehen auch KI-Systeme, die Schwächen von Menschen oder Gruppen ausnutzen. Dazu gehören auch automatisierte "Robo-Calls", die zum Betrug älterer Menschen eingesetzt werden können.

Für die Gesichtserkennung im öffentlichen Raum gilt: Die Videoüberwachung, etwa an öffentlichen Plätzen, ist grundsätzlich nicht erlaubt. Allerding sollen Polizei und andere Sicherheitsbehörden die Technik nutzen dürfen, um bestimmte Straftaten wie Menschenhandel und Terrorismus verfolgen zu können.

Unternehmen, die KI entwickeln oder einsetzen, müssen ihre Systeme nach dem Grad des Risikos bewerten und geeignete Maßnahmen ergreifen, um den gesetzlichen Anforderungen gerecht zu werden. Ziel der neuen Verordnung ist nach Darstellung der EU-Kommission nicht nur der Schutz der Rechte der Verbraucherinnen und Verbraucher. Man wolle auch sicherstellen, dass KI verantwortungsvoll eingesetzt werde.

Der Branchenverband Bitkom kritisiert das KI-Gesetz, weil es keine Rechtssicherheit biete. Es sei unklar, für welche Anwendungen das gesetzliche Verbot tatsächlich gelte, erklärte das Mitglied der Bitkom-Geschäftsleitung, Dehmel. "Während in den USA mit dreistelligen Milliardenbeträgen KI ausgebaut werden soll und in China extrem leistungsfähige Sprachmodelle veröffentlicht werden, werfen wir in Deutschland und Europa den KI-Unternehmen Knüppel zwischen die Beine."

Die Präsidentinnen der EU-Kommission und der Europäischen Zentralbank (EZB), von der Leyen und Lagarde, räumten in einem gemeinsamen Blogeintrag ein, dass die Wettbewerbsfähigkeit Europas in Gefahr sei. "Während sich eine globale Revolution der künstlichen Intelligenz entfaltet, könnte die EU ins Abseits geraten."Europa verfüge jedoch über die notwendigen Voraussetzungen, um im technologischen Wettlauf aufzuholen, betonten von der Leyen und Lagarde.

Das Europäische Parlament hatte die Verordnung im Mai verabschiedet. Sie gilt als die erste umfassende Regulation von Künstlicher Intelligenz weltweit.