Vorgaben soll es für "risikoreiche" Anwendungen geben, etwa bei kritischer Infrastruktur, Sicherheitsbehörden und Personalverwaltung. Dort sollen eine Kontrolle durch den Menschen über KI, eine technische Dokumentation und ein System zum Risikomanagement festgeschrieben werden. Die Regeln sollen unter anderem die Qualität der für die Entwicklung der Algorithmen verwendeten Daten gewährleisten und sicherstellen, dass bei der KI-Entwicklung keine Urheberrechte verletzt werden. Außerdem müssen Entwickler klar kenntlich machen, dass durch Künstliche Intelligenz geschaffene Texte, Bilder und Töne auf dieser Technologie beruhen. Nach dieser politischen Einigung müssen noch technische Details ausgearbeitet werden.

EU-Kommissionspräsidentin von der Leyen nannte die Regulierung eine "weltweite Premiere". Es handle sich um ein rechtliches Rahmenwerk für die Entwicklung von Künstlicher Intelligenz, der die Menschen "vertrauen" könnten. Außerdem würden "Sicherheit und Grundrechte von Menschen und Unternehmen" geschützt.

Bundesverbraucherschutzministerin Lemke von den Grünen bezeichnete die neuen Regelungen als wichtig, um angesichts der rasanten technologischen Entwicklung Schritt halten können und die Rechte der Menschen zu schützen. Dagegen kritisierte die Wirtschaft zusätzliche Lasten und Rechtsunsicherheit für Unternehmen. Europa drohe bei einer zentralen Schlüsseltechnologie ins Hintertreffen zu geraten, warnte der Bundesverband der Deutschen Industrie.

Die Kommission hatte 2021 erstmals einen Rechtsrahmen für den Einsatz Künstlicher Intelligenz vorgeschlagen. Zuletzt hatten unter anderem die großen Mitgliedsländer Deutschland, Frankreich und Italien vor zu scharfen Auflagen gewarnt, um die Entwicklung von Zukunftstechnologie nicht zu gefährden. Bundesdigital- und Verkehrsminister Wissing hatte sich für ein international abgestimmtes Vorgehen und gegen einen europäischen Alleingang ausgesprochen.