AG 3: IT-Sicherheit, Privacy, Recht und Ethik

Lernende Systeme haben das Potenzial, viele Prozesse effizienter, für den Menschen komfortabler und sicherer zu machen. Voraussetzung: Sie funktionieren stets verlässlich und sind robust gegenüber Störungen, gezielten Angriffen oder unerwarteten Ereignissen. Denn mit ihrer zunehmenden Verbreitung werden auch vernetzte Lernende Systeme, ähnlich wie klassische Softwareanwendungen, zu potenziellen Angriffszielen für Attacken. Zudem stellen sich – wie bei nahezu allen technischen Innovationen – neue rechtliche Fragen, die in einen juristischen Rahmen gefasst werden müssen. Sie betreffen etwa die Haftung oder den Umgang mit persönlichen Daten. Was es aus ethisch-moralischer Sicht bedeutet, menschliche Kontrolle an Maschinen abzugeben, ist ebenso zu bewerten wie die Anforderungen an Fairness und Diskriminierungsfreiheit von KI-Entscheidungen.

Themen und Organisation der Arbeitsgruppe

Die Arbeitsgruppe „IT-Sicherheit, Privacy, Recht und Ethik“ thematisiert in zwei Unterarbeitsgruppen Fragen zur Sicherheit (Security), Zuverlässigkeit (Safety) und zum Umgang mit Privatheit (Privacy) bei der Entwicklung und Anwendung von Lernenden Systemen. Sie analysiert zudem rechtliche sowie ethische Anforderungen und steht in engem Austausch mit allen weiteren Arbeitsgruppen.

Jörn Müller-Quade

Detlef Houdeau

Jessica Heesen

Frauke Rostalski

Mitglieder der Unterarbeitsgruppe IT-Sicherheit und Privacy

  • Prof. Dr. Bernhard Beckert
  • Karlsruher Institut für Technologie (KIT)
  • Prof. Dr. Michael Decker
  • Karlsruher Institut für Technologie (für das Lenkungskreis-Mitglied Holger Hanselka)
  • Prof. Dr. habil. Claudia Eckert
  • Fraunhofer-Institut für Angewandte und Integrierte Sicherheit (AISEC)
  • Marian Gläser
  • Brighter AI Technologies GmbH
  • Prof. Dr. Thorsten Holz
  • Ruhr-Universität Bochum
  • Prof. Michael Huth
  • Imperial College London, Xayn AG
  • Dr. Katharina Krombholz
  • CISPA – Helmholtz-Zentrum für Informationssicherheit
  • Andrea Martin
  • IBM Watson Center Munich
  • Prof. Dr. Konrad Rieck
  • Technische Universität Berlin
  • Peter Rost
  • Secunet Security Networks AG
  • Prof. Dr.-Ing. Ahmad-Reza Sadeghi
  • Technische Universität Darmstadt
  • Prof. Dr. Werner Schindler
  • Bundesamt für Sicherheit und Informationstechnik
  • Dr. Dirk Wacker
  • Giesecke+Devrient GmbH

Von den aufgeführten Personen liegt uns ein schriftliches Einverständnis zur Veröffentlichung ihrer Daten gemäß DSGVO vor. Diese Mitgliederliste stellt einen Auszug dar und wird laufend vervollständigt.

Mitglieder der Unterarbeitsgruppe Recht und Ethik

  • Prof. Dr. Susanne Beck
  • Gottfried Wilhelm Leibniz Universität Hannover
  • Prof. Dr. Christoph Bieber
  • Center for Advanced Internet Studies
  • Prof. Dr. Peter Dabrock
  • Friedrich-Alexander-Universität Erlangen-Nürnberg
  • Prof. Dr. Michael Decker
  • Karlsruher Institut für Technologie
  • Prof. Dr. Gerd Gigerenzer
  • Max-Planck-Institut für Bildungsforschung
  • Prof. Dr. Armin Grunwald
  • Karlsruher Institut für Technologie (KIT) / Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
  • Prof. Dr. Klaus Heine
  • Erasmus University Rotterdam
  • Bernhard Hüngsberg
  • Deutsche Telekom AG
  • Anna Kaiser
  • Tandemploy GmbH
  • Andrea Martin
  • IBM Watson Center Munich
  • Prof. Dr. Anne Lauber-Rönsberg
  • Technische Universität Dresden
  • Prof. Dr. Tobias Matzner
  • Universität Paderborn
  • Prof. Dr. Catrin Misselhorn
  • Georg-August-Universität Göttingen
  • Prof. Dr. Christoph Neuberger
  • Freie Universität Berlin, Weizenbaum-Institut e.V.
  • Prof. Dr. Alexander Roßnagel
  • Universität Kassel
  • Sebastian Schreiber
  • SySS GmbH
  • Prof. Dr. Judith Simon
  • Universität Hamburg, Deutscher Ethikrat
  • Prof. Dr. Louisa Specht-Riemenschneider
  • Rheinische Friedrich-Wilhelms-Universität Bonn
  • Prof. Dr. Antje von Ungern-Sternberg
  • Universität Trier
  • Prof. Dr. Sandra Wachter
  • University of Oxford
  • Dr. Susann Wolfgram
  • SAP SE
  • Prof. Dr. Katharina Anna Zweig
  • Technische Universität Kaiserslautern

Von den aufgeführten Personen liegt uns ein schriftliches Einverständnis zur Veröffentlichung ihrer Daten gemäß DSGVO vor. Diese Mitgliederliste stellt einen Auszug dar und wird laufend vervollständigt.

Leitfragen der Arbeitsgruppe

IT-Sicherheit und Privacy

  • Wie kann KI zum Schutz von IT-Systemen eingesetzt werden?
  • Welche neuen Bedrohungen entstehen, wenn Angreifer KI benutzen?
  • Was kann passieren, wenn KI-Systeme angegriffen werden und wie lassen sie sich schützen?
  • Wie kann ein flexiblerer Umgang mit (personenbezogenen) Daten für KI-Anwendungen ermöglicht und gleichzeitig das Recht auf informationelle Selbstbestimmung gewahrt bleiben?

Recht und Ethik

  • Welche Herausforderungen stellen Lernende Systeme in puncto Haftung, strafrechtlicher Verantwortung sowie juristischer und ethischer Grundlagenfragen?
  • Wie müssen sie gestaltet sein, damit sie menschliche Autonomie und Grundrechte wahren, Chancengleichheit sichern und Diskriminierung vermeiden?
  • Ist es sinnvoll, ein Recht auf Dateneigentum einzuführen?
  • Wie kann die Gesellschaft im Sinne der Teilhabe an der Implementierung Lernender Systeme mitwirken?
  • Welche Auswirkungen haben KI-Systeme auf die demokratische Ordnung in Gesellschaften?

Ergebnisse und Beiträge der Arbeitsgruppe

  • Publikationen

  • Expertise

  • Videos

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Koordination der Arbeitsgruppe in der Geschäftsstelle der Plattform Lernende Systeme: Dr. Erduana Wald (UAG IT-Sicherheit und Privacy) und Alexander Mihatsch (UAG Recht und Ethik)