AG 3: IT-Sicherheit, Privacy, Recht und Ethik

Lernende Systeme haben das Potenzial, viele Prozesse effizienter, für den Menschen komfortabler und sicherer zu machen. Voraussetzung: Sie funktionieren stets verlässlich und sind robust gegenüber Störungen, gezielten Angriffen oder unerwarteten Ereignissen. Denn mit ihrer zunehmenden Verbreitung werden auch vernetzte Lernende Systeme, ähnlich wie klassische Softwareanwendungen, zu potenziellen Angriffszielen für Attacken. Zudem stellen sich – wie bei nahezu allen technischen Innovationen – neue rechtliche Fragen, die in einen juristischen Rahmen gefasst werden müssen. Sie betreffen etwa die Haftung oder den Umgang mit persönlichen Daten. Was es aus ethisch-moralischer Sicht bedeutet, menschliche Kontrolle an Maschinen abzugeben, ist ebenso zu bewerten wie die Anforderungen an Fairness und Diskriminierungsfreiheit von KI-Entscheidungen.

Themen und Organisation der Arbeitsgruppe

Die Arbeitsgruppe „IT-Sicherheit, Privacy, Recht und Ethik“ thematisiert in zwei Unterarbeitsgruppen Fragen zur Sicherheit (Security), Zuverlässigkeit (Safety) und zum Umgang mit Privatheit (Privacy) bei der Entwicklung und Anwendung von Lernenden Systemen. Sie analysiert zudem rechtliche sowie ethische Anforderungen und steht in engem Austausch mit allen weiteren Arbeitsgruppen.

Jörn Müller-Quade

Jessica Heesen

Mitglieder der Unterarbeitsgruppe IT-Sicherheit und Privacy

  • Prof. Dr. Bernhard Beckert
  • Karlsruher Institut für Technologie (KIT)
  • Prof. Dr. Werner Damm
  • OFFIS Institut für Informatik e.V. / Carl von Ossietzky Universität Oldenburg
  • Prof. Dr. habil. Claudia Eckert
  • Fraunhofer AISEC
  • Joachim Hechler
  • Kobil Systems GmbH
  • Prof. Dr. Thorsten Holz
  • Ruhr-Universität Bochum
  • Dr. Detlef Houdeau
  • Infineon Technologies AG
  • Prof. Dr. Konrad Rieck
  • Technische Universität Braunschweig
  • Thomas Schauf
  • Deutsche Telekom AG
  • Prof. Dr. Werner Schindler
  • Bundesamt für Sicherheit und Informationstechnik

Von den aufgeführten Personen liegt uns ein schriftliches Einverständnis zur Veröffentlichung ihrer Daten gemäß DSGVO vor. Diese Mitgliederliste stellt einen Auszug dar und wird laufend vervollständigt.

Mitglieder der Unterarbeitsgruppe Recht und Ethik

  • Prof. Dr. Susanne Beck
  • Gottfried Wilhelm Leibniz Universität Hannover
  • Dr. Angelika Christoph
  • HUK-COBURG
  • Prof. Dr. Gerd Gigerenzer
  • Max-Planck-Institut für Bildungsforschung
  • Prof. Dr. Armin Grunwald
  • Karlsruher Institut für Technologie (KIT) / Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
  • Ralf-Peter Hayen
  • Deutscher Gewerkschaftsbund DGB
  • Prof. Dr. Klaus Heine
  • Erasmus University Rotterdam
  • Prof. Dr. Thomas Hoeren
  • Westfälische Wilhelms-Universität Münster
  • Prof. Dr. Jan Cornelius Joerden
  • Prof. Dr. Tobias Matzner
  • Universität Paderborn
  • Catrin Misselhorn
  • Georg-August-Universität Göttingen
  • Prof. Dr. Alexander Roßnagel
  • Universität Kassel
  • Thomas Schauf
  • Deutsche Telekom AG
  • Prof. Dr. Judith Simon
  • Universität Hamburg
  • Prof. Dr. Katharina Anna Zweig
  • Technische Universität Kaiserslautern

Von den aufgeführten Personen liegt uns ein schriftliches Einverständnis zur Veröffentlichung ihrer Daten gemäß DSGVO vor. Diese Mitgliederliste stellt einen Auszug dar und wird laufend vervollständigt.

Leitfragen der Arbeitsgruppe

IT-Sicherheit und Privacy

  • Wie kann KI zum Schutz von IT-Systemen eingesetzt werden?
  • Welche neuen Bedrohungen entstehen, wenn Angreifer KI benutzen?
  • Was kann passieren, wenn KI-Systeme angegriffen werden und wie lassen sie sich schützen?
  • Wie kann ein flexiblerer Umgang mit (personenbezogenen) Daten für KI-Anwendungen ermöglicht und gleichzeitig das Recht auf informationelle Selbstbestimmung gewahrt bleiben?

Recht und Ethik

  • Welche Herausforderungen stellen Lernende Systeme in puncto Haftung, strafrechtlicher Verantwortung sowie juristischer und ethischer Grundlagenfragen?
  • Wie müssen sie gestaltet sein, damit sie menschliche Autonomie und Grundrechte wahren, Chancengleichheit sichern und Diskriminierung vermeiden?
  • Ist es sinnvoll, ein Recht auf Dateneigentum einzuführen?
  • Wie kann die Gesellschaft im Sinne der Teilhabe an der Implementierung Lernender Systeme mitwirken?

Ergebnisse und Beiträge der Arbeitsgruppe

  • Publikationen

  • Expertise

  • Videos

Susanne Beck
Professorin für Strafrecht, Universität Hannover zum Whitepaper der AG 3.

Jörn Müller-Quade
Professor für IT-Sicherheit, Karlsruher Institut für Technologie, zur Frage, wie es beim Thema KI um Sicherheit und Privacy steht.

Peter Rost
Director Business Development and Strategy, Rohde & Schwarz Cybersecurity GmbH, zur Frage, wie es beim Thema KI um Sicherheit und Privacy steht.