AG 3: IT-Sicherheit, Privacy, Recht und Ethik

Lernende Systeme haben das Potenzial, viele Prozesse effizienter, für den Menschen komfortabler und sicherer zu machen. Voraussetzung: Sie funktionieren stets verlässlich und sind robust gegenüber Störungen, gezielten Angriffen oder unerwarteten Ereignissen. Denn mit ihrer zunehmenden Verbreitung werden auch vernetzte Lernende Systeme, ähnlich wie klassische Softwareanwendungen, zu potenziellen Angriffszielen für Attacken. Zudem stellen sich – wie bei nahezu allen technischen Innovationen – neue rechtliche Fragen, die in einen juristischen Rahmen gefasst werden müssen. Sie betreffen etwa die Haftung oder den Umgang mit persönlichen Daten. Was es aus ethisch-moralischer Sicht bedeutet, menschliche Kontrolle an Maschinen abzugeben, ist ebenso zu bewerten wie die Anforderungen an Fairness und Diskriminierungsfreiheit von KI-Entscheidungen.

Themen und Organisation der Arbeitsgruppe

Die Arbeitsgruppe „IT-Sicherheit, Privacy, Recht und Ethik“ thematisiert in zwei Unterarbeitsgruppen Fragen zur Sicherheit (Security), Zuverlässigkeit (Safety) und zum Umgang mit Privatheit (Privacy) bei der Entwicklung und Anwendung von Lernenden Systemen. Sie analysiert zudem rechtliche sowie ethische Anforderungen und steht in engem Austausch mit allen weiteren Arbeitsgruppen.

Jörn Müller-Quade

Jessica Heesen

Mitglieder der Unterarbeitsgruppe IT-Sicherheit und Privacy

  • Prof. Dr. Bernhard Beckert
  • Karlsruher Institut für Technologie (KIT)
  • Prof. Dr. Werner Damm
  • OFFIS Institut für Informatik e.V. / Carl von Ossietzky Universität Oldenburg
  • Prof. Dr. Michael Decker
  • Karlsruher Institut für Technologie (für das Lenkungskreis-Mitglied Holger Hanselka)
  • Prof. Dr. habil. Claudia Eckert
  • Fraunhofer AISEC
  • Joachim Hechler
  • Kobil Systems GmbH
  • Prof. Dr. Thorsten Holz
  • Ruhr-Universität Bochum
  • Dr. Detlef Houdeau
  • Infineon Technologies AG
  • Prof. Dr. Konrad Rieck
  • Technische Universität Braunschweig
  • Peter Rost
  • Secunet Security Networks AG
  • Prof. Dr.-Ing. Ahmad-Reza Sadeghi
  • Technische Universität Darmstadt
  • Thomas Schauf
  • Deutsche Telekom AG
  • Prof. Dr. Werner Schindler
  • Bundesamt für Sicherheit und Informationstechnik
  • Dr. Dirk Wacker
  • Giesecke+Devrient GmbH

Von den aufgeführten Personen liegt uns ein schriftliches Einverständnis zur Veröffentlichung ihrer Daten gemäß DSGVO vor. Diese Mitgliederliste stellt einen Auszug dar und wird laufend vervollständigt.

Mitglieder der Unterarbeitsgruppe Recht und Ethik

  • Prof. Dr. Susanne Beck
  • Gottfried Wilhelm Leibniz Universität Hannover
  • Prof. Dr. Christoph Bieber
  • Center for Advanced Internet Studies
  • Dr. Angelika Christoph
  • HUK-COBURG
  • Prof. Dr. Gerd Gigerenzer
  • Max-Planck-Institut für Bildungsforschung
  • Prof. Dr. Armin Grunwald
  • Karlsruher Institut für Technologie (KIT) / Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
  • Prof. Dr. Klaus Heine
  • Erasmus University Rotterdam
  • Prof. Dr. Thomas Hoeren
  • Westfälische Wilhelms-Universität Münster
  • Prof. Dr. Jan Cornelius Joerden
  • Micha Klapp
  • Deutscher Gewerkschaftsbund DGB
  • Prof. Dr. Tobias Matzner
  • Universität Paderborn
  • Prof. Dr. Catrin Misselhorn
  • Georg-August-Universität Göttingen
  • Prof. Dr. Alexander Roßnagel
  • Universität Kassel
  • Prof. Dr. Judith Simon
  • Universität Hamburg
  • Prof. Dr. Louisa Specht-Riemenschneider
  • Rheinische Friedrich-Wilhelms-Universität Bonn
  • Dr. Susann Wolfgram
  • SAP SE
  • Prof. Dr. Katharina Anna Zweig
  • Technische Universität Kaiserslautern

Von den aufgeführten Personen liegt uns ein schriftliches Einverständnis zur Veröffentlichung ihrer Daten gemäß DSGVO vor. Diese Mitgliederliste stellt einen Auszug dar und wird laufend vervollständigt.

Leitfragen der Arbeitsgruppe

IT-Sicherheit und Privacy

  • Wie kann KI zum Schutz von IT-Systemen eingesetzt werden?
  • Welche neuen Bedrohungen entstehen, wenn Angreifer KI benutzen?
  • Was kann passieren, wenn KI-Systeme angegriffen werden und wie lassen sie sich schützen?
  • Wie kann ein flexiblerer Umgang mit (personenbezogenen) Daten für KI-Anwendungen ermöglicht und gleichzeitig das Recht auf informationelle Selbstbestimmung gewahrt bleiben?

Recht und Ethik

  • Welche Herausforderungen stellen Lernende Systeme in puncto Haftung, strafrechtlicher Verantwortung sowie juristischer und ethischer Grundlagenfragen?
  • Wie müssen sie gestaltet sein, damit sie menschliche Autonomie und Grundrechte wahren, Chancengleichheit sichern und Diskriminierung vermeiden?
  • Ist es sinnvoll, ein Recht auf Dateneigentum einzuführen?
  • Wie kann die Gesellschaft im Sinne der Teilhabe an der Implementierung Lernender Systeme mitwirken?

Ergebnisse und Beiträge der Arbeitsgruppe

  • Publikationen

  • Expertise

  • Videos

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Koordination der Arbeitsgruppe in der Geschäftsstelle der Plattform Lernende Systeme: Jan Biehler (UAG IT-Sicherheit und Privacy) und Alexander Mihatsch (UAG Recht und Ethik)