Der EU AI Act und seine Auswirkungen auf Medizinprodukte

Ein Gastbeitrag von Matthieu-P. Schapranow, Hasso-Plattner-Institut für Digital Engineering gGmbH und Mitglied der Plattform Lernende Systeme

Medizinprodukte, die auf Methoden der künstlichen Intelligenz (KI) aufbauen, verbessern bereits heute die Gesundheitsversorgung. Sie bieten großes Potenzial für eine verstärkte Automatisierung von Routineaufgaben und eröffnen völlig neue Wege in der Prävention, Diagnostik, Therapie und Pflege. Beispiele sind Softwaresysteme zur teilautomatisierten Bildanalyse in der Radiologie oder Kamerasysteme mit KI-gestützter Bildauswertung für komplexe Operationen.

EU-Medizinprodukteverordnung

Medizinprodukte müssen hohen regulatorische Anforderungen genügen, um eine Marktzulassung zu erhalten. Dabei steht die Patientensicherheit im Vordergrund. Die Anforderungen sind seit 2017 in der EU-Verordnung 2017/745 über Medizinprodukte (Medical Device Regulation, MDR) und der EU-Verordnung 2017/746 über In-vitro-Diagnostika (In-vitro Device Regulation, IVDR) geregelt. Kommen bei Medizinprodukten auch KI-Methoden zum Einsatz, so wird seit August 2024 zusätzlich die EU-Verordnung 2024/1689 zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-Verordnung – EU AI Act) relevant.

Die Umsetzung der MDR ist auch im achten Jahr ihres Bestehens komplex. Durch die MDR sind die finanziellen und personellen Aufwände gestiegen, zum Beispiel für die notwendige Dokumentation sowie die Erstellung und Prüfung der Zulassungsanträge. Dies trifft Unternehmen genauso wie Zulassungsstellen. Die Übergangsfristen für die umfassende Gültigkeit der Anforderungen aus der MDR wurden wegen der Aufwände für die Rezertifizierung bestehender Produkte bereits von 2024 auf 2028 verlängert.

EU-KI-Verordnung

Der EU AI Act zielt darauf ab, die verantwortungsvolle Entwicklung von innovativen Anwendungen auf Grundlage von KI-Verfahren in der Europäischen Union zu vereinheitlichen. Die Verordnung stellt eine rechtssichere Grundlage für die einheitliche Nutzung von KI-Anwendungen dar. Im Gesundheitswesen trifft sie als horizontale Regulierung auf vorhandene sektorale Vorgaben zur Produktsicherheit, wie zum Beispiel die MDR. Es kann potenziell zu Überschneidungen und Doppelregulierungen kommen.

Die deutsche Medizintechnikbranche wird Stand 2024 zu 93 Prozent von kleinen und mittelständischen Unternehmen getragen und ist ein wesentlicher Wirtschaftsfaktor mit über 210.000 Arbeitsplätzen und fast 20 Milliarden Euro jährlicher Wertschöpfung. Großunternehmen der Branche verfügen über spezialisierten Abteilungen mit Experten für die Umsetzung regulatorischer Anforderungen. Kleine und mittelständische Unternehmen sowie Start-Ups stellt die Umsetzung komplexer regulatorischer Anforderungen jedoch vor Herausforderungen, da sie nicht über die notwendigen personellen und finanziellen Ressourcen verfügen.

Daher wurde bei der Ausarbeitung des EU AI Act auf eventuelle Innovationshemmnisse geachtet. Der EU AI Act soll zur Entwicklung und zum Einsatz innovativer Medizinprodukte mit KI-Nutzung beitragen, gleichzeitig aber die strikten Anforderungen an die Produktsicherheit berücksichtigen. Am Anfang steht dabei der Abgleich bestehender Anforderungen, z.B. durch die MDR, und neuer Anforderungen durch den EU AI Act, insbesondere die Möglichkeit einer einheitlichen technischen Dokumentation, die sowohl für die Konformität nach MDR als auch KI-Verordnung genutzt werden kann.

Die technologischen Fortschritte von KI sollen künftig auch durch innovative Medizinprodukte nutzbar werden. Dabei ist die Erklärbarkeit von KI-Anwendungen (explainable AI – XAI) Grundprinzip für eine menschenzentrierte Entwicklung von KI-Anwendungen. Erklärbarkeit meint technische Verfahren, die es den Nutzenden von KI-Systemen ermöglichen, nachvollziehbar die Gründe für Entscheidungen des KI-Systems zu bewerten und zu überwachen. Bei komplexeren nicht-linearen KI-Verfahren, wie Deep-Learning-Verfahren, ist die Erklärbarkeit noch Teil aktueller Forschungen. Aber gerade solche nicht-lineare KI-Modelle bieten oft einen großen Mehrwert, da sie zum Beispiel eine hohe Modellgüte bei komplexeren Aufgaben erreichen, vielseitiger einsetzbar sind und hochdimensionale, multimodale Datensätze besser verarbeiten können. Perspektivisch müssen daher auch unter Berücksichtigung von technologischen Entwicklungen im Bereich KI Zwischenlösungen in Bezug auf Erklärbarkeit ermöglicht werden.

Ein weiterer Aspekt sind kontinuierlich lernende KI-Systeme. Kontinuierliches Lernen bedeutet in diesem Zusammenhang, dass die KI-Modelle nicht einmalig erstellt werden und dann im Betrieb nicht mehr geändert werden. Stattdessen werden den KI-Modellen sukzessive immer neue Datenpunkte zum iterativen Training zur Verfügung gestellt, um mit Hilfe der stetig wachsenden Datengrundlage deren Prognosequalität zu verbessern. Aktuell sind auf Grund der Zulassungsregeln nur statische KI-Anwendungen im Gesundheitswesen im Einsatz, da die Zulassung nur eine bestimmte Modellversion berücksichtigt. Im Gesundheitswesen könnten kontinuierlich lernende KI-Systeme Fachkräfte besser unterstützen, zum Beispiel bei der Erstellung von Diagnosen; ein solches Modell könnte seine bereits erlernten Aufgaben stetig verfeinern. Der EU AI Act berücksichtigt kontinuierlich lernende KI-Systeme; deren Inverkehrbringen ist auch ohne zusätzliche Rezertifizierung möglich, wenn der Anbieter bereits im Rahmen der initialen Konformitätsbewertung konkrete Änderungen der Leistungen des Systems definiert und diese Änderungen keine nachteiligen Auswirkungen auf die Nutzung des Systems haben. Zur Umsetzung dieser Möglichkeiten werden bereits Werkzeuge entwickelt, wie beispielsweise eine sogenannte antizipierende CE-Konformitätsbewertung als Vorschlag einer Arbeitsgruppe der Deutschen Gesellschaft für Biomedizinische Technik oder ein Plan für die Kontrolle von im Vorhinein festgelegten Änderungen von Seiten der US-Amerikanischen Zulassungsbehörde FDA.

Die umsetzungsfreundliche Ausgestaltung der KI-Verordnung ist ein wichtiger, aber nicht der einzige Baustein zur Steigerung der Innovationsfähigkeit im Bereich KI-gestützter Medizinprodukte. Ein weiterer Punkt ist die Verfügbarkeit qualitativ hochwertiger Gesundheitsdaten zur Entwicklung und zur Erprobung von KI-Systemen. Dabei kann der europäische Gesundheitsdatenraums eine wesentliche Rolle spielen, da er erstmals Zugang zu einer Vielzahl von nationalen Datenquellen ermöglichen soll. Für Deutschland und Europa bietet sich so die Chance, der bestehenden Marktmacht internationaler Unternehmen mit einer gesteigerten EU-Innovationsfähigkeit entgegenzutreten. Einerseits werden so Verbesserungen in der Gesundheitsversorgung und die Zukunftsfähigkeit der Gesundheitswirtschaft gestärkt. Andererseits kann durch eine aktive Entwicklung KI-gestützter Anwendung für das Gesundheitssystem verhindert werden, dass die Bedingungen und Möglichkeiten für die Nutzung von Gesundheitsdaten ausschließlich von nicht-europäischen Akteuren definiert werden. Nur so wird auch in Zukunft ein souveräner Umgang mit KI-Gesundheitsanwendungen innerhalb der EU möglich sein.

Weiterführende Informationen

Impulspapier „KI-Verordnung: Ihre Auswirkungen für Medizinprodukte. Herausforderungen und offene Fragen“ der Plattform Lernende Systeme.

Beitrag erschienen in:

Handelsblatt Journal
November 2025