AG 3: IT-Sicherheit, Privacy, Recht und Ethik

Rafe Swan/Getty Images

Die Arbeitsgruppe thematisiert Fragen zur Sicherheit (Security), Zuverlässigkeit (Safety) und zum Umgang mit Privatheit (Privacy) bei der Entwicklung und Anwendung von Lernenden Systemen. Sie analysiert auch damit verbundene rechtliche sowie ethische Anforderungen und steht in engem Austausch mit allen weiteren Arbeitsgruppen.

Eric Hilgendorf

Universität Würzburg

Jörn Müller-Quade

Karlsruher Institut für Technologie (KIT)

Leitfragen der Arbeitsgruppe

IT-Sicherheit und Privacy

  • Wie kann KI zum Schutz von IT-Systemen eingesetzt werden?
  • Welche neuen Bedrohungen entstehen, wenn Angreifer KI benutzen?
  • Was kann passieren, wenn KI-Systeme angegriffen werden und wie lassen sie sich schützen?
  • Wie kann ein flexiblerer Umgang mit (personenbezogenen) Daten für KI-Anwendungen ermöglicht und gleichzeitig das Recht auf informationelle Selbstbestimmung gewahrt bleiben?

Recht und Ethik

  • Welche Herausforderungen stellen Lernende Systeme in puncto Haftung, strafrechtlicher Verantwortung sowie juristischer und ethischer Grundlagenfragen?
  • Wie müssen sie gestaltet sein, damit sie menschliche Autonomie und Grundrechte wahren, Chancengleichheit sichern und Diskriminierung vermeiden?
  • Ist es sinnvoll, ein Recht auf Dateneigentum einzuführen?
  • Wie kann die Gesellschaft im Sinne der Teilhabe an der Implementierung Lernender Systeme mitwirken?