Publikationen

Der Einsatz von KI-Systemen birgt ein großes Nutzenpotenzial. Gleichzeitig kann die Anwendung mancher KI-Systeme aber auch ein gewisses Risiko mit sich bringen. Diesem Risiko kann unter anderem mithilfe einer passgenauen Regulierung ausgewählter KI-Systeme vor deren Einsatz (ex ante) im europäischen Binnenmarkt begegnet werden. Ziel ist es, sicherere und vertrauenswürdigere KI-Systeme in die Anwendung zu bringen, also Qualität zu liefern, und gleichzeitig Überregulierung zu vermeiden sowie Innovationen zu fördern. Die Europäische Kommission hat deshalb im April 2021 einen Vorschlag zur Regulierung von KI-Systemen vorgelegt. Expertinnen und Experten der Arbeitsgruppen IT-Sicherheit, Privacy, Recht und Ethik sowie Technologische Wegbereiter und Data Science setzen sich im vorliegenden Whitepaper mit ausgewählten Inhalten dieses EU-Vorschlags zur Regulierung von KI-Systemen auseinander.

Daten bilden die Grundlage einer zunehmend digital vernetzten Gesellschaft. Die Fähigkeit, aus ihnen Erkenntnisse für die Wissenschaft und nutzbringende Anwendungen für Gesellschaft und Wirtschaft zu generieren, wird zu einer Schlüsselkompetenz. Die Gesellschaft für Informatik e.V. (GI) hat in Zusammenarbeit mit der Plattform Lernende Systeme Empfehlungen für die Gestaltung von Data Science-Masterstudiengängen veröffentlicht. Sie sollen als Grundlage für die Akkreditierung entsprechender Studiengänge dienen.

Der Wissenstransfer ist bei Künstlicher Intelligenz (KI) grundlegend, um Beschäftigung und wirtschaftliches Wachstum zu generieren und die internationale Wettbewerbsfähigkeit des Standorts Deutschland zu stärken. In der KI-Forschung ist Deutschland im internationalen Vergleich gut aufgestellt, beim KI-Wissenstransfer von der Forschung in die Anwendung dagegen zeigt sich noch Handlungspotenzial an der Schnittstelle zwischen Hochschulen und Unternehmen. Zudem fehlen häufig in den Unternehmen, insbesondere in den kleinen und mittleren Unternehmen (KMU), die notwendige Expertise sowie qualifizierte Fachkräfte, um KI-Wissen und KI-Methoden zu implementieren. Expertinnen und Experten der Arbeitsgruppe Technologische Wegbereiter und Data Science der Plattform Lernende Systeme skizzieren in vorliegendem Whitepaper Maßnahmen, wie der KI-Transfer im Sinne aller beteiligten Akteure gewinnbringend sein kann, das heißt, interessante Forschungsergebnisse zu innovativen praktischen Anwendungen mit ökonomischem Erfolg zu überführen.

Der Wissenstransfer ist bei Künstlicher Intelligenz (KI) grundlegend, um Beschäftigung und wirtschaftliches Wachstum zu generieren und die internationale Wettbewerbsfähigkeit des Standorts Deutschland zu stärken. In der KI-Forschung ist Deutschland im internationalen Vergleich gut aufgestellt, beim KI-Wissenstransfer von der Forschung in die Anwendung dagegen zeigt sich noch Handlungspotenzial an der Schnittstelle zwischen Hochschulen und Unternehmen. Zudem fehlen häufig in den Unternehmen, insbesondere in den kleinen und mittleren Unternehmen (KMU), die notwendige Expertise sowie qualifizierte Fachkräfte, um KI-Wissen und KI-Methoden zu implementieren. Expertinnen und Experten der Arbeitsgruppe Technologische Wegbereiter und Data Science der Plattform Lernende Systeme skizzieren in vorliegendem Whitepaper Maßnahmen, wie der KI-Transfer im Sinne aller beteiligten Akteure gewinnbringend sein kann, das heißt, interessante Forschungsergebnisse zu innovativen praktischen Anwendungen mit ökonomischem Erfolg zu überführen.

Ob in Transport, Logistik, im Individualverkehr oder im öffentlichen Nahverkehr – Verkehrsträger erreichen dank Künstlicher Intelligenz immer höhere Automatisierungsgrade. Automatisiertes Fahren kann helfen, die Verkehrssicherheit zu erhöhen, Verkehrsflüsse zu optimieren und Schadstoffemissionen zu reduzieren. Durch immer leistungsfähigere Verfahren der KI und des Maschinellen Lernens wird die Technologie des automatisierten Fahrens zunehmend verbessert, sodass sie in mehr als 99 Prozent der Situationen in Real-Tests funktioniert. Ein Restrisiko für mögliches Fehlverhalten tritt im Zusammenhang mit sogenannten Edge und Corner Cases (Grenz- und Übergangsfälle) auf. Für diese selten auftretenden Sonderfälle sind KI-Systeme unter Umständen nicht ausreichend trainiert und getestet. Das zentrale Ziel des Papiers ist es, die Bedeutung von Corner Cases für die Risikominimierung des autonomen Fahrens zu beschreiben und die Relevanz einer industrieübergreifenden Plattform zum Austausch von Mobilitätsdaten aufzuzeigen.

Ob in Transport, Logistik, im Individualverkehr oder im öffentlichen Nahverkehr – Verkehrsträger erreichen dank Künstlicher Intelligenz immer höhere Automatisierungsgrade. Automatisiertes Fahren kann helfen, die Verkehrssicherheit zu erhöhen, Verkehrsflüsse zu optimieren und Schadstoffemissionen zu reduzieren. Durch immer leistungsfähigere Verfahren der KI und des Maschinellen Lernens wird die Technologie des automatisierten Fahrens zunehmend verbessert, sodass sie in mehr als 99 Prozent der Situationen in Real-Tests funktioniert. Ein Restrisiko für mögliches Fehlverhalten tritt im Zusammenhang mit sogenannten Edge und Corner Cases (Grenz- und Übergangsfälle) auf. Für diese selten auftretenden Sonderfälle sind KI-Systeme unter Umständen nicht ausreichend trainiert und getestet. Das zentrale Ziel des Papiers ist es, die Bedeutung von Corner Cases für die Risikominimierung des autonomen Fahrens zu beschreiben und die Relevanz einer industrieübergreifenden Plattform zum Austausch von Mobilitätsdaten aufzuzeigen.

Egal ob im Weltraum, in der Tiefsee oder in Katastrophengebieten – Einsätze in lebensfeindlichen Umgebungen stellen für den Menschen eine große Herausforderung und erhebliche Risiken dar. Lernende Systeme können helfen, Gefahren und Risiken für Menschen zu verringern. Die Missionskonfigurationen, der Grad der Autonomie eines selbstlernenden Systems sowie die Intensität der Interaktion mit Menschen können dabei enorm variieren. Entscheidend für das Gelingen der Zusammenarbeit zwischen Menschen und Lernenden Systemen ist eine gute Arbeitsteilung. Expertinnen und Experten der Arbeitsgruppe Lebensfeindliche Umgebungen der Plattform Lernende Systeme haben im vorliegenden Whitepaper Schlüsselvoraussetzungen für diese Arbeitsteilung zwischen Mensch und Lernendem System sowie für die Kompetenz des Lernenden Systems im jeweiligen situativen Anwendungskontext untersucht. Das Whitepaper zeigt, dass Lernende Systeme in einer lebensfeindlichen Umgebung im Vergleich zu Anwendungsdomänen wie Industrie und Verkehr sehr individuell ausgestaltet sind und derartige Einsätze zum gegenwärtigen Zeitpunkt nicht ohne den Menschen als Überwacher des Geschehens konzipiert werden können. Stattdessen geht es darum, den Menschen zu unterstützen und sein Gefahrenrisiko zu minimieren.

Egal ob im Weltraum, in der Tiefsee oder in Katastrophengebieten – Einsätze in lebensfeindlichen Umgebungen stellen für den Menschen eine große Herausforderung und erhebliche Risiken dar. Lernende Systeme können helfen, Gefahren und Risiken für Menschen zu verringern. Die Missionskonfigurationen, der Grad der Autonomie eines selbstlernenden Systems sowie die Intensität der Interaktion mit Menschen können dabei enorm variieren. Entscheidend für das Gelingen der Zusammenarbeit zwischen Menschen und Lernenden Systemen ist eine gute Arbeitsteilung. Expertinnen und Experten der Arbeitsgruppe Lebensfeindliche Umgebungen der Plattform Lernende Systeme haben im vorliegenden Whitepaper Schlüsselvoraussetzungen für diese Arbeitsteilung zwischen Mensch und Lernendem System sowie für die Kompetenz des Lernenden Systems im jeweiligen situativen Anwendungskontext untersucht. Das Whitepaper zeigt, dass Lernende Systeme in einer lebensfeindlichen Umgebung im Vergleich zu Anwendungsdomänen wie Industrie und Verkehr sehr individuell ausgestaltet sind und derartige Einsätze zum gegenwärtigen Zeitpunkt nicht ohne den Menschen als Überwacher des Geschehens konzipiert werden können. Stattdessen geht es darum, den Menschen zu unterstützen und sein Gefahrenrisiko zu minimieren.

Regulierung von KI-Systemen im Allgemeinen und Zertifizierung von KI-Systemen im Besonderen können entscheidend dazu beitragen, KI-Systeme in die Anwendung zu bringen und ihr volles Nutzenpotenzial auszuschöpfen. Die Zertifizierungsverfahren sollten dabei bestimmte Standards, gleichzeitig aber Überregulierung vermeiden und Innovation ermöglichen. Das AG-übergreifende Whitepaper knüpft an das bereits veröffentlichte Impulspapier zur Zertifizierung von KI-Systemen an (vgl. Heesen et al. 2020a). Die Expertinnen und Experten der Plattform Lernende Systeme sowie Gastautoren adressieren offene Fragen, etwa dazu, wann KI-Systeme zertifiziert werden sollten, an welchen Kriterien sich diese Zertifizierung orientieren soll und wie eine effiziente Infrastruktur ausgestaltet sein sollte.

Regulierung von KI-Systemen im Allgemeinen und Zertifizierung von KI-Systemen im Besonderen können entscheidend dazu beitragen, KI-Systeme in die Anwendung zu bringen und ihr volles Nutzenpotenzial auszuschöpfen. Die Zertifizierungsverfahren sollten dabei bestimmte Standards, gleichzeitig aber Überregulierung vermeiden und Innovation ermöglichen. Das AG-übergreifende Whitepaper knüpft an das bereits veröffentlichte Impulspapier zur Zertifizierung von KI-Systemen an (vgl. Heesen et al. 2020a). Die Expertinnen und Experten der Plattform Lernende Systeme sowie Gastautoren adressieren offene Fragen, etwa dazu, wann KI-Systeme zertifiziert werden sollten, an welchen Kriterien sich diese Zertifizierung orientieren soll und wie eine effiziente Infrastruktur ausgestaltet sein sollte.

Die Einführung Künstlicher Intelligenz (KI) in Unternehmen bietet Chancen und Potenziale sowohl für die Beschäftigten etwa in Form von Entlastung durch KI-Systeme als auch für die Unternehmen etwa in Form von Verbesserungen in den Arbeitsabläufen oder der Umsetzung neuer Geschäftsmodelle. Gleichzeitig müssen – und können – die Herausforderungen beim Einsatz von KI-Systemen angegangen und mögliche negative Begleitimplikationen bearbeitet werden. Der Wandel in den Unternehmen kann dabei nur gemeinsam bewältigt werden. Insgesamt geht es dabei um die Gestaltung eines neuen Verhältnisses zwischen Mensch und Technik, in dem Mensch und KI-System produktiv zusammenwirken und die jeweiligen Stärken betont werden.

Die Einführung Künstlicher Intelligenz (KI) in Unternehmen bietet Chancen und Potenziale sowohl für die Beschäftigten etwa in Form von Entlastung durch KI-Systeme als auch für die Unternehmen etwa in Form von Verbesserungen in den Arbeitsabläufen oder der Umsetzung neuer Geschäftsmodelle. Gleichzeitig müssen – und können – die Herausforderungen beim Einsatz von KI-Systemen angegangen und mögliche negative Begleitimplikationen bearbeitet werden. Der Wandel in den Unternehmen kann dabei nur gemeinsam bewältigt werden. Insgesamt geht es dabei um die Gestaltung eines neuen Verhältnisses zwischen Mensch und Technik, in dem Mensch und KI-System produktiv zusammenwirken und die jeweiligen Stärken betont werden.

Das Whitepaper der Arbeitsgruppen Technologische Wegbereiter und Data Science beleuchtet die Bedeutung, gesellschaftliche Relevanz und Nutzpotentiale von Data Science, benennt Beispiele für die Anwendung von Data Science-Methoden auf große Datenmengen und beleuchtet auch Prozessketten von Data Science-Anwendungen. Auf Basis der Analyse von Data Science-Prozessen und Datenmanagementtechnologien werden zudem verschiedene Grundlagen dargestellt, die den Einsatz von Maschinellem Lernen und KI ermöglichen. Das Papier adressiert auch Herausforderungen für die weitere Entwicklung von Data Science, wozu etwa der aufwendige Prozess der Erschließung der Daten und der Sicherstellung der notwendigen Datenqualität gehört.

Die Zertifizierung von Künstlicher Intelligenz (KI) gilt als eine mögliche Schlüsselvoraussetzung, um den Einsatz von KI-Systemen in verschiedenen Wirtschafts- und Lebensbereichen voranzutreiben. Für eine Vielzahl von KI-Systemen kann eine Zertifizierung dazu beitragen, das gesellschaftliche Nutzenpotential sicher und gemeinwohlorientiert auszuschöpfen. Eine gelungene Zertifizierung von KI-Systemen ermöglicht die Erfüllung wichtiger gesellschaftlicher und ökonomischer Prinzipien, wie etwa Rechtssicherheit (z.B. Haftung und Entschädigung), Interoperabilität, IT-Sicherheit oder Datenschutz. Zudem kann sie bei Bürgerinnen und Bürgern Vertrauen schaffen, zu besseren Produkten führen und die nationale und internationale Marktdynamik beeinflussen.

Data Science wird sowohl in der Wirtschaft als auch in den (angewandten) Wissenschaften als eine der Schlüsseldisziplinen unserer Zeit angesehen. Aufgrund der wachsenden Bedeutung dieses neuen Wissenschaftsfeldes und der großen Relevanz für die Informatik hat der Vorstand der Gesellschaft für Informatik (GI) 2018 den Arbeitskreis „Data Science/Data Literacy“ ins Leben gerufen, der es sich gemeinsam mit Partnern anderer Wissenschaftsdisziplinen aus den Natur- und Lebenswissenschaften zum Ziel gemacht hat, Empfehlungen für die Entwicklung von Studien- und Weiterbildungsangeboten auszusprechen. Unter Beteiligung der Plattform Lernende Systeme wurde dieses Arbeitspapier zu Lern- und Ausbildungsinhalten im Bereich Data Science entwickelt.

Die größten Fortschritte im Bereich der Künstlichen Intelligenz (KI) basieren aktuell auf Methoden des Maschinellen Lernens. Um die Innovationskraft Deutschlands zu erhalten, muss die Forschung in diesem Feld ausgebaut und der Transfer in die Wirtschaft verstärkt werden, fordern die Plattform-Mitglieder Kristian Kersting und Volker Tresp.

Entscheidungen von Computerprogrammen erscheinen faktenbasiert, objektiv und neutral. Tatsächlich aber trifft Künstliche Intelligenz (KI) immer wieder problematische oder diskriminierende Entscheidungen – etwa wenn bei der Bestimmung der Rückfallwahrscheinlichkeit von Straftätern Schwarze Menschen schlechtere Prognosen erhalten als weiße Menschen. Mitglieder der Plattform Lernende Systeme fordern unter anderem eine unabhängige Kontrollinstanz, um die Erklärbarkeit und Überprüfung von Algorithmen zu fördern.

Künstliche Intelligenz (KI) verändert die Anforderungen an die Beschäftigten und deren Kompetenzen. Sie prägt Tätigkeitsprofile, Arbeitsplätze und die Arbeitsorganisation in den Unternehmen sowie den gesamten Arbeitsmarkt. Zudem verändert Künstliche Intelligenz das Verhältnis von Mensch und Maschine und ermöglicht neue Formen der Zusammenarbeit.

Künstliche Intelligenz (KI) wird künftig die Sicherheit von IT-Systemen verbessern. Die Dynamik zwischen IT-Sicherheit und KI analysiert das Whitepaper “Künstliche Intelligenz und IT-Sicherheit” der Arbeitsgruppe 3 der Plattform Lernende Systeme. Die Autorinnen und Autoren fordern, insbesondere kleine und mittlere Unternehmen sowie IT-Fachkräfte beim Aufbau von Kompetenzen zu unterstützen.

Künstliche Intelligenz (KI) wird künftig die Sicherheit von IT-Systemen verbessern. Die Dynamik zwischen IT-Sicherheit und KI analysiert das Whitepaper “Künstliche Intelligenz und IT-Sicherheit” der Arbeitsgruppe 3 der Plattform Lernende Systeme. Die Autorinnen und Autoren fordern, insbesondere kleine und mittlere Unternehmen sowie IT-Fachkräfte beim Aufbau von Kompetenzen zu unterstützen.

Ob Prävention, frühzeitige Diagnose oder passgenaue Therapiewahl – KI und Maschinelles Lernen können einen wesentlichen Beitrag dazu leisten, dass Menschen schon in naher Zukunft medizinisch besser und individueller versorgt werden. Das Potential der Technologien veranschaulicht der Expertenbericht anhand von Forschungsbeispielen und einem Anwendungsszenario zum Thema Lungenkrebs. Er beleuchtet zudem das Zusammenspiel von Mensch und Maschine in der Pflege und zeigt, wie KI-basierte Technologien es Menschen ermöglichen, bis ins hohe Alter selbstbestimmt zu leben.

Künstliche Intelligenz (KI) kann einen wichtigen Beitrag zur Verkehrswende leisten. In einer intelligent vernetzten Mobilität werden sich Menschen ressourcenschonend von einem Ort zum anderen bewegen oder Güter transportieren. Wie ein sichereres, flexibleres und kostengünstigeres Fortbewegen auf Straße, Schiene, im Wasser oder in der Luft aussehen kann, beschreiben Expertinnen und Experten der Plattform Systeme im vorliegenden Bericht.

Der Einsatz von KI verspricht in Zukunft auch in lebensfeindlichen Umgebungen nutzbringende Lösungen. Mobile Roboter oder Assistenzsysteme, die sich an veränderte Situationen anpassen, können den Menschen bei Tätigkeiten in gefährlichen Umgebungen wirksam unterstützen – beispielsweise bei Bränden oder im Katastrophenschutz. Zugleich bergen KI-basierte Systeme große Potenziale für Forschung und Wirtschaft: sie machen Einsätze in gefährlichen oder schwer zugänglichen Umgebungen kostengünstiger gegenüber bemannten Missionen. Für solche Einsätze sind aus technischer Sicht noch einige Herausforderungen zu bewältigen. Näheres dazu beleuchtet der vorliegende Bericht.

Schon heute setzen produzierende Unternehmen unterschiedliche Robotersysteme ein, die die Prozesse in der Fabrik automatisieren und die Menschen von der Fließbandarbeit entlasten – vom Greifarm bis zu Leichtbaurobotern. Diese Maschinen übernehmen jeweils nur eng definierte repetitive Produktionsschritte, erfordern bei Veränderungen aufwendige Umbaumaßnahmen und sind deshalb vor allem für die Massenproduktion rentabel. Sie lassen sich nur mithilfe von umfassendem Expertenwissen einsetzen. Künftig werden Menschen Roboter in der Fabrik anleiten und ihnen im Produktionsprozess je nach aktuellem Bedarf neue Fertigkeiten vermitteln. Diese lernfähigen Roboterwerkzeuge werden Hand-in-Hand und sicher mit den Menschen in der Montage zusammenarbeiten.

Intelligente Sprachassistenten, die einfache Fragen beantworten oder simple Befehle ausführen können, finden sich heute in Smartphones, Tablets und Millionen von Haushalten. Den komplexen Arbeitsalltag etwa im Journalismus, in der Verwaltung oder in der Beratung, können diese Systeme heute noch nicht bewältigen: Sie sind noch nicht in der Lage, eine Fülle von Informationen zu verarbeiten, mit unterschiedlichen Themen, Quellen und Kommunikationsmitteln umzugehen und mit einer Vielzahl von Personen in Kontakt zu treten. In wenigen Jahren werden selbstlernende und intuitiv nutzbare Assistenzsysteme Wissensarbeiterinnen und -arbeiter bei ihren täglichen Aufgaben unterstützen.

In wenigen Jahren könnten lernende robotische Assistenzsysteme den Menschen dabei unterstützen, Offshore-Anlagen und andere Unterwasser-Infrastrukturen zu inspizieren, zu warten und zu reparieren. Diese autonomen Unterwasser-Fahrzeuge – Autonomous Underwater Vehicles (AUVs) – greifen auf Methoden der Künstlichen Intelligenz zurück.