Die EU-Kommission will gesetzlich regulieren, was Künstliche Intelligenz darf und was nicht. In ihrem Entwurf für ein KI-Gesetz hat die Kommission einen Kriterienkatalog festgelegt, anhand dessen künftig die Risiken, die sogenannte Kritikalität, eines KI-Systems beurteilt werden sollen. Je nach Höhe der Risiken kann ein KI-System verboten werden, muss vor seiner Markteinführung bestimmte Anforderungen erfüllen. Warum die Beurteilung von Risiken bei Künstlicher Intelligenz besonders schwierig ist, erläutert Armin Grunwald, Professor für Technikphilosophie am Karlsruher Institut für Technologie (KIT) und Leiter des Büros für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB).