AI Act

Die Europäische Union (EU) hat mit dem AI Act einen eigenen Weg gewählt, um KI zu regulieren. Was bedeutet das für global operierende Unternehmen wie AUMOVIO SE?

Corina Apachiţe: Mit dem AI Act hat die Europäische Union einen klaren Rahmen für den Einsatz von Künstlicher Intelligenz geschaffen. Für global operierende Zulieferer in der Automobilbranche bedeutet das vor allem eines: Die Zusammenarbeit mit OEMs muss noch enger werden. Klare Dokumentationspflichten, Konformitätserklärungen und gegebenenfalls gemeinsame Risikoanalysen setzen eine abgestimmte Vorgehensweise entlang der gesamten Lieferkette voraus.

Gleichzeitig bietet der AI Act die Chance, sich über regelkonforme und vertrauenswürdige KI-Lösungen einen Wettbewerbsvorteil zu verschaffen. Unternehmen, die frühzeitig in die Umsetzung investieren, sichern sich nicht nur den Zugang zum europäischen Markt, sondern senden auch ein starkes Signal an Kunden, Partner und Investoren: Sie stehen für Sicherheit, Qualität und Zukunftsfähigkeit. Die Automobilbranche bringt dabei gute Voraussetzungen mit, sie verfügt bereits über etablierte Standards im Bereich der funktionalen Sicherheit. Den noch stehen international agierende Zulieferer vor der Herausforderung, mit unterschiedlichen regulatorischen Anforderungen in verschiedenen Märkten umzugehen. Flexible Governance-Strukturen werden damit zum Schlüssel, um regulatorische Fragmentierung effizient zu managen und Innovationen weltweit rechtssicher umzusetzen.

Die Europäische Union hat mit der KI-Verordnung einen Sonderweg gewählt, um KI zu regulieren. Welche Auswirkungen hat das aus juristischer Perspektive?

Ruth Janal: Es ist richtig, dass die KI-Verordnung ein international bislang einzigartiges Regulierungsinstrument für sogenannte Künstliche Intelligenz darstellt. Aber auch in vielen anderen Ländern gibt es regulatorische Initiativen. China setzt eher auf spezifische, zielgerichtete administrative Richtlinien, zum Beispiel für generative KI. In den USA verfolgt die Trump- Regierung zwar prinzipiell einen „hands off“-Ansatz, will aber gleichwohl einen AI Action Plan entwerfen und umsetzen. Die teilweise verbreitete Vorstellung, in den USA und China ansässige Entwickler von KI-Systemen müssten sich nicht an das Unionsrecht halten, ist allerdings falsch. Die KI-Verordnung verfolgt ein sogenanntes Marktort-Prinzip, findet also Anwendung auf die Entwickler jeglicher KI, die in den Europäischen Binnenmarkt eingeführt oder dort genutzt werden soll. Ebenso wie physische Produkte, die aus Drittstaaten in die Union eingeführt werden, müssen sich auch KI-Systeme an den europäischen Sicherheitsvorschriften orientieren. Oft wird zudem ein wichtiger Vorteil der KI-Verordnung übersehen: Sie verhindert, dass in verschiedenen Mitgliedstaaten  unterschiedliche Regelungen für die Entwicklung und Verwendung von KI-Systemen eingeführt werden.

Wie bewerten Sie den risikobasierten Ansatz des AI Act? Ist dieser im Hinblick auf die Dynamik der technologischen Entwicklung tragbar?

Ruth Janal: Der risikobasierte Ansatz der KI-Verordnung ist grundsätzlich sinnvoll. KI-Systeme finden bereits jetzt in vielen Bereichen des Alltags Einsatz, und die Anwendungsgebiete werden sich künftig stark erweitern. Nicht für jedes dieser Einsatzfelder bedarf es einer vorherigen Sicherheits- und Grundrechtsprüfung. Deshalb ist es gut, dass der Fokus der KI-Verordnung auf sogenannten Hochrisiko-KI-Systemen liegt. Dabei erfolgt die Definition eines Hochrisiko-KI-Systems gerade nicht anhand technologischer Kriterien, sondern im Wesentlichen nach Themenfeldern, wie Bildung, Arbeit, Kredit-Scoring, Kritische Infrastrukturen oder Grenzkontrollen. Dies bietet eine große Offenheit gegenüber der technologischen Entwicklung, weil es für die Einstufung als Hochrisiko-KI-System irrelevant ist, welche KI-Technologie zum Einsatz kommt. Selbstverständlich kann man darüber streiten, ob die Hochrisiko Anwendungsfelder richtig gewählt wurden. Der Europäischen Kommission wurde aber in der KI-Verordnung die Befugnis eingeräumt, neue Hochrisiko-Einsatzgebiete zu definieren, sollte sich künftig ein entsprechender Bedarf ergeben.

Welche Herausforderungen ergeben sich durch den AI Act bei der Entwicklung KI-basierter Geschäftsmodelle und dem Vertrieb von KI-basierten Produkten?

Corina Apachiţe: Automotive-Produkte sind Systeme bestehend aus Software, Hardware und Mechanik. Technisch gesehen ist KI eine Entwicklungstechnologie, die in das System integriert wird. Damit  basieren die Produkte und deren Geschäftsmodelle auf dem System. Für den KI-Komponentenanteil ist der AI Act zu berücksichtigen, was technische, rechtliche und operative Herausforderungen betrifft. Die Anforderungen des AI Act müssen sich in die Prozesse so integrieren, dass möglichst wenig zusätzlicher Aufwand entsteht. Insbesondere die Dokumentationsanforderungen sind ergänzend zu den bisherigen Pflichten. Es besteht das Risiko, die Prozesse und damit die Produkte zu verteuern. Da KI zurzeit eine extrem hohe Innovationsgeschwindigkeit vorlegt, kann die Integration in die klassischen Prozesse die Innovation deutlich verlangsamen. Das bedeutet ebenfalls ein Risiko für die Geschäftsmodelle, da die langfristig ausgelegten Automotive-Geschäftsmodelle der hohen KI Entwicklungsgeschwindigkeit nicht nachfolgen können. Es besteht das Risiko, dass Produkte beim Produktionsstart
bereits veraltet sind.

Die Zukunft der Mobilität ist ohne Künstliche Intelligenz nicht denkbar. Welche Chancen und Risiken entstehen durch den AI Act für die (deutsche) Mobilitätsbranche?

Corina Apachiţe: Der AI Act der Europäischen Union markiert einen Meilenstein auf dem Weg zu einem einheitlichen, vertrauenswürdigen Rahmen für Künstliche Intelligenz – und hat damit direkten Einfluss auf die Mobilitätsbranche. Für deutsche Unternehmen bietet er gleichermaßen große Chancen wie konkrete Herausforderungen. Auf der Chancen-Seite steht vor allem die Schaffung eines verlässlichen regulatorischen Umfelds. Unternehmen, die KI regelkonform und transparent einsetzen, stärken das Vertrauen in ihre Produkte – besonders im sicherheitskritischen Bereich der Mobilität. Der AI Act fördert dadurch innovationsfreundliche Rahmenbedingungen und verschafft deutschen Anbietern einen Wettbewerbsvorteil auf globalen Märkten. Gleichzeitig sichert er ihnen den Zugang zum europäischen Binnenmarkt und wirkt als Qualitätsnachweis gegenüber Kunden, Investoren und Partnern. Die Mobilitätsbranche profitiert zusätzlich von bestehenden Kompetenzen: Mit ihrer langjährigen Erfahrung in Sicherheitsnormen, Risikomanagement und Systemdokumentation bringt sie wichtige Grundlagen mit, um die Anforderungen des AI Act effizient umzusetzen. Demgegenüber stehen jedoch auch Risiken. Besonders bei KI-Anwendungen, die als „hochrisikobehaftet“ eingestuft werden – etwa im Bereich automatisiertes Fahren oder intelligente Verkehrssteuerung –, steigen die Anforderungen an Nachweisführung, Kontrolle und Governance erheblich. Zudem müssen international tätige Unternehmen mit unterschiedlichen regulatorischen Vorgaben umgehen, was den Bedarf an flexiblen, skalierbaren Compliance-Strukturen erhöht. Insgesamt ist der AI Act ein Weckruf und eine Chance zugleich: Wer ihn strategisch adressiert, kann die Zukunft der Mobilität aktiv mitgestalten – verantwortungsvoll, innovativ und wettbewerbsfähig.

Viele generative KI-Modelle sind auf amerikanischen Daten trainiert und nicht auf europäische, rechtliche und gesellschaftliche Rahmenbedingungen abgestimmt. Wie können europäische Werte in die Entwicklung und das Training von KI einfließen?

Ruth Janal: Die KI-Verordnung wird auch angewandt auf die Entwicklung von KI-Systemen, die außerhalb der Europäischen Union trainiert werden, sofern das KI-System innerhalb der EU zum Einsatz kommen soll. Die KI-Verordnung verpflichtet die Entwickler zum Einsatz passender Datengovernance-Verfahren. So müssen die Datensätze beispielsweise relevant und repräsentativ sein und die relevanten geografischen Rahmenbedingungen berücksichtigen. Gleichwohl ist dies in der Praxis nicht ganz einfach, zumal in der Union teilweise das Datenschutzrecht einem Training mit repräsentativen Daten entgegensteht. Auch haben die Erfahrungen im Datenschutz- und Kartellrecht gezeigt, dass regulatorische Vorgaben von internationalen Tech-Konzernen häufig ignoriert werden. Wichtig ist deshalb zweierlei: Erstens, eine effektive Durchsetzung des Unionsrechts und zweitens, die Stärkung der europäischen KI-Branche.

September 2025