Liebe Leserinnen und Leser,

die Risiken generativer KI machen immer wieder Schlagzeilen. Viele Menschen sorgen sich um Desinformation im Internet, Cyberangriffe oder die Sicherheit ihrer Jobs. Dabei gerät eines leicht aus dem Blick: KI-Systeme werden von Menschen entwickelt. Wir entscheiden, wie die Systeme lernen und wo wir KI einsetzen wollen – zum Nutzen oder zum Schaden der Gesellschaft. Wie Regulierung für Sicherheit beim KI-Einsatz in der Medizin sorgen kann und wie Beschäftigte die Einführung von KI in ihrem Betrieb mitgestalten können, sind Themen dieses Newsletters. Auch ohne böswillige Absichten könnten Menschen bei der Nutzung von KI Schäden verursachen, etwa indem sie unachtsam diskriminierende Vorschläge von KI-Systemen übernehmen oder gefälschte Videos verbreiten. Wichtig für einen verantwortungsvollen Umgang mit KI ist ein angemessenes Wissen über deren Funktionsweise. Mit unserem neuen Erklärfilm zu generativer KI leisten wir dazu einen Beitrag.

Data Literacy in der Bevölkerung zu fördern, ist auch eine Forderung unseres neuen Whitepapers. Es skizziert technische Lösungen für mehr Datenschutz bei der KI-Entwicklung und Wege für die selbstbestimmte und informierte Datennutzung.

Über Ihre Anregungen freuen wir uns!

Mit den besten Grüßen

Dr. Thomas Schmidt
Leiter der Geschäftsstelle Plattform Lernende Systeme | c/o acatech

Interview: EU-Verordnung zu KI birgt im Medizinsektor Vor- und Nachteile

Sind medizinische KI-Systeme fehlerhaft, können Menschen zu Schaden kommen. Mit dem sogenannten AI Act setzt die Europäische Union klare Rahmenbedingungen für das Inverkehrbringen KI-gestützter Medizinprodukte und schafft so Rechtssicherheit und einen harmonisierten europäischen Markt. Im Interview erläutert Abtin Rad von TÜV Süd, warum die Kontrolle von KI-Systemen in der Medizin unabdingbar ist und welche Schwierigkeiten die neue Regulierung mit sich bringen könnte.

Mehr Info

KI in Unternehmen: Rechtssicherheit ist für die Datennutzung essentiell

Zu diesem Ergebnis kommen die AutorInnen des neuen Whitepapers „Datenschatz für KI nutzen, Datenschutz mit KI wahren“. Viele Unternehmen setzen wertvolle Datenbestände nicht für die eigene Wertschöpfung ein, da die datenschutzrechtlichen Hürden häufig zu hoch sind. Dabei existieren technische Privacy-Ansätze, die es ermöglichen, personenbezogene Daten datenschutzkonform zu verarbeiten. ExpertInnen der Plattform fordern eine gesetzliche Anerkennung dieser Verfahren, um die Rechtssicherheit für Unternehmen beim Einsatz von KI zu stärken.

Mehr Info

Diskussion: Wie menschengerechte KI in der Industrie gelingt

Wie sich KI-Systeme sowohl im Sinne der Wettbewerbsfähigkeit als auch zum Wohl der Beschäftigten nutzen lassen, erörterten ExpertInnen aus Wissenschaft, Wirtschaft, Arbeitgeber- und Arbeitnehmervertretungen beim virtuellen Fachdialog „KI.Impulse“ der Plattform in Kooperation mit dem VDI. Wesentlich für die erfolgreiche KI-Einführung im Betrieb: Ängste der Beschäftigten verstehen, Partizipation ermöglichen und Kompetenzen entwickeln.

Mehr Info

Plattform Lernende Systeme beteiligt sich am Digital-Gipfel 2023

Plattform-ExpertInnen diskutieren beim diesjährigen Digital-Gipfel der Bundesregierung mit den Gästen in einem World Café über „Lernfähige Robotik: Perspektiven für Wirtschaft und Gesellschaft“. Darüber hinaus können sich BesucherInnen am Stand der Plattform auf dem „Markt der digitalen Möglichkeiten“ über aktuelle Schwerpunkte und Arbeitsergebnisse informieren. Ausrichter ist in diesem Jahr die Stadt Jena.

Mehr Info

KI als Alltagsbegleiter: Regulierung kann Vertrauen schaffen

Unter dem Schlagwort „Entlastend oder Entfremdend“ diskutierten Plattform-ExpertInnen bei „acatech am Dienstag“, welche ethischen Fragestellungen sich aus dem Miteinander von Mensch und Maschine künftig ergeben. KI bietet vielfältige Chancen, beispielsweise in den Bereichen Medizin oder Mobilität. Wichtig ist aber, dass die Technologie stets als Ergänzung zum Menschen fungiert und diesen nicht ersetzt. Klare, auch global wirksame Regeln zum Einsatz von KI können die Akzeptanz fördern.

Mehr Info

Nachgefragt zu KI: Datenschätze heben, Datenschutz sichern

Begleitend zum neuen Whitepaper der Plattform Lernende Systeme erläutert Co-Autor Detlef Houdeau, Senior Director Business Development in der Abteilung Digital Security Solution bei Infineon, im Videointerview, welche Rolle der Schutz personenbezogener Daten bei industriellen KI-Anwendungen spielt, wie sich industrielle KI-Lösungen datenschutzkonform gestalten lassen und was eine Verlagerung von Künstlicher Intelligenz in Endgeräte verspricht.

Mehr Info