Best Practice: Wo gibt es schon heute Regeln für KI?

Momentan wird auf europäischer Ebene erstmalig eine verbindliche Regelung für Künstliche Intelligenz (KI), der AI Act, entwickelt. In Deutschland hat das Deutsche Institut für Normung (DIN) an der wegweisenden KI-Normungsroadmap gearbeitet. Darüber hinaus existiert bereits heute eine Vielzahl an Leitfäden und Prüfkatalogen, mit denen zu einer gelingenden KI-Regelsetzung beigetragen wird.

Überblick zu bestehenden Leitfäden und Prüfkatalogen

Unterschiedliche Akteure aus dem Bereich der Standardisierung und KI-Forschung in Deutschland haben erste Angebote entwickelt, die die Regelung von KI-Systemen vorantreiben. Hier ein Überblick zu verschiedenen Ansätzen und Leitlinien:

Bundesamt für Sicherheit in der Informationstechnik (BSI)

Kriterien-Katalog für KI in Cloud-Diensten AIC4: Formulierung von Mindestanforderungen zur sicheren Verwendung von Methoden des Maschinellen Lernens in Cloud-Diensten (Spezifikation des Cloud Service Compliance Criteria Catalogue C5) (Link)

Deutsches Institut für Normung e.V (DIN)

Neben der KI-Normungsroadmap, die einen übergreifenden und richtungsweisenden Charakter hat, entwickelt das DIN konkrete und praxisnahe Regelungsansätze für KI in konkreten Kontexten:

Leuchtturmprojekt safe.trAIn: sichere KI im fahrerlosen Regionalzug
Leuchtturmprojekt KI Tauglichkeit von Normen
Leuchtturmprojekt Zertifizierte KI
DIN SPEC Praxisbeispiel „Leitfaden für die Entwicklung von Deep-Learning-Bilderkennungssystemen“: Präzise Bilderkennung mit KI
DIN SPEC Praxisbeispiel „Leitfaden für die Entwicklung von Deep-Learning-Bilderkennungssystemen in der Medizin“: Automatisierte Bildanalysen für die Medizin
DIN SPEC Praxisbeispiel „Qualitätsanforderungen für videobasierte Methoden der Personalauswahl“
DIN SPEC Praxisbeispiel „Übertragung von sprachbasierten Daten zwischen Künstlichen Intelligenzen“: Universal Namespace Protokoll; Festlegung von Parametern und Format
DIN SPEC Praxisbeispiel „Life Cycle Prozesse und Qualitätsanforderungen für KI“: Qualitäts-Meta-Modell, Robustheit und Erklärbarkeit

Deutsche UNESCO-Kommission

Broschüre UNESCO-Empfehlung zur Ethik Künstlicher Intelligenz. Bedingungen zur Implementierung in Deutschland

Fraunhofer Institut für Intelligente Analyse- und Informationssysteme (IAIS)

KI-Prüfkatalog Leitfaden zur Gestaltung vertrauenswürdiger KI: zur Nutzung von unabhängigen Prüforganisationen und zur Eigenevaluation durch Entwickler und Anwender
Beratungsangebot von Expertinnen und Experten zur Prüfung, Absicherung und Zertifizierung von KI-Systemen: Ziel einer transparenten, verlässlichen, sicheren und datenschutzkonformen KI-Anwendung

Institut der Wirtschaftsprüfer in Deutschland e.V. (IDW)

Entwurf eines Prüfungsstandards zur standardisierten Prüfung von KI-Systemen

AI Ethics Impact Group

Rahmenwerk zur Übertragung ethischer Prinzipien für KI-Systeme in die Praxis

Zertifizierungsinitiativen TÜV SÜD

Angebot an Reifegradanalysen, Guided Assessments und Trainings u.a. zur Qualität, Sicherheit und Ethik von KI-Systemen

Zertifizierungsinitiativen TÜV NORD

Angebote zur Prüfung und Zertifizierung der Sicherheit von KI-Systemen

Zertifizierungsinitiativen DEKRA

Angebote zur Prüfung und Zertifizierung der Sicherheit von KI-Systemen

Publikationen zum Thema

KI-Systeme schützen, Missbrauch verhindern

Hrsg.: AGs IT-Sicherheit, Privacy, Recht und Ethik und Lebensfeindliche Umgebungen
AutorInnen: Beyerer, J., Müller-Quade, J. et al.
Erschienen: März 2022

Kritikalität von KI-Systemen in ihren jeweiligen Anwendungskontexten

Hrsg.: AGs IT-Sicherheit, Privacy, Recht und Ethik und Technologische Wegbereiter und Data Science
AutorInnen: Jessica Heesen, Jörn Müller-Quade, Stefan Wrobel et al.
Erschienen: November 2021

Zertifizierung von KI-Systemen

Hrsg.: AGs IT-Sicherheit, Privacy, Recht und Ethik und Technologische Wegbereiter und Data Science
AutorInnen: Jessica Heesen, Jörn Müller-Quade, Stefan Wrobel et al.
Erschienen: November 2020

Ethik-Briefing

Leitfaden für eine verantwortungsvolle Entwicklung und Anwendung von KI-Systemen

Hrsg.: AG IT-Sicherheit, Privacy, Recht und Ethik
AutorInnen: Jessica Heesen et al.
Erschienen: Oktober 2020