Auf einen Blick: Whitepaper „Der Staat im digitalen Dialog. KI in der Interaktion zwischen Staat, Bürgerinnen und Bürgern sowie Unternehmen“

Künstliche Intelligenz (KI) verändert die Interaktion zwischen Staat, Bürgerinnen und Bürgern sowie Unternehmen. Ziel ist eine vernetzte, leistungsfähige Verwaltung, die sich an den Bedürfnissen der Menschen orientiert – durch automatisierte Verfahren, intelligente Datenanalysen und personalisierte Services. Dafür braucht es klare rechtliche und ethische Rahmenbedingungen, digitale Kompetenzen in Behörden und offene Kommunikation, um Vertrauen und Akzeptanz zu stärken. Das Papier der Plattform Lernende Systeme zeigt anhand von Beispielen wie dem KI-Chatbot „Frag den Michel“, automatisierter Dokumentenbearbeitung und KI-basierter Steuerveranlagung, wie staatliches Handeln effizienter und nutzerfreundlicher werden kann. Es macht deutlich, dass ein verantwortungsvoller Einsatz von KI eine moderne, transparente und partizipative digitale Verwaltung ermöglicht.

Zentrale Ergebnisse der Publikation

KI kann die Interaktion zwischen Staat, Bürgerinnen und Bürgern sowie Unternehmen effizienter, zugänglicher und nutzerfreundlicher gestalten.
KI-gestützte Verwaltungsangebote gehen über klassische Digitalisierung hinaus, indem sie Informationen mit Rücksicht auf den jeweiligen Kontext aufbereiten, natürliche Sprache verarbeiten und individuelle Unterstützung ermöglichen.
Die untersuchten Szenarien zeigen unterschiedliche Einsatzformen von KI: von Hilfestellung bei Anträgen über Chatbots in der Bürgerkommunikation bis hin zu automatisierten Verfahren mit rechtlicher Wirkung.
Je stärker ein KI-System in Rechte oder Pflichten von Bürgerinnen und Bürgern oder auch Unternehmen eingreift, desto transparenter, kontrollierter und rechtlich abgesicherter muss es sein.
Bürgerinnen und Bürger sowie Unternehmen müssen erkennen können, wann KI in Verwaltungsverfahren eingesetzt wird und wie automatisierte Entscheidungen zustande kommen.
Bei KI-gestützten Entscheidungen mit erheblichen rechtlichen oder wirtschaftlichen Auswirkungen muss es möglich sein, dass Menschen die Entscheidung überprüfen und jederzeit Widerspruch eingelegt werden kann.
KI-Systeme in der Verwaltung sollten barrierefrei, adressatengerecht und nutzerzentriert gestaltet werden. Nutzt die Verwaltung externe technische Lösungen, bleibt sie dennoch für Rechtmäßigkeit, Qualität, Datenschutz und Überprüfbarkeit verantwortlich.
Für einen vertrauenswürdigen KI-Einsatz im Staat müssen Politik, Verwaltung, Bürgerinnen und Bürger sowie Unternehmen zusammenarbeiten.

Fragen und Antworten zum Whitepaper „Der Staat im digitalen Dialog. KI in der Interaktion zwischen Staat, Bürgerinnen und Bürgern sowie Unternehmen“

1. Wie kann KI den Kontakt mit Behörden verbessern?

KI kann Verwaltungsangebote einfacher, schneller und nutzerfreundlicher machen. Sie kann dabei helfen, Informationen verständlicher aufzubereiten, Anträge auszufüllen oder Bürgerinnen und Bürger sowie Unternehmen gezielter durch Verwaltungsverfahren zu begleiten.

2. Was unterscheidet KI in der Verwaltung von normalen Online-Formularen?

KI kann über klassische Digitalisierung hinausgehen, indem sie natürliche Sprache verarbeitet, Informationen kontextbezogen einordnet und individuelle Unterstützung ermöglicht. Dadurch können digitale Verwaltungsangebote stärker auf konkrete Fragen und Bedürfnissen der Nutzenden eingehen.

3. Entscheidet KI künftig über Anträge oder Behördenverfahren?

KI kann Verwaltungsverfahren unterstützen oder einzelne Prozesse automatisieren. Je stärker ein KI-System jedoch in Rechte, Pflichten oder wirtschaftliche Interessen eingreift, desto wichtiger sind Transparenz, rechtliche Absicherung, menschliche Kontrolle und einfache Möglichkeiten zum Widerspruch.

4. Wie können Bürgerinnen und Bürger erkennen, ob eine Behörde KI einsetzt?

Bürgerinnen und Bürger sowie Unternehmen sollten durch klare Hinweise im digitalen Verwaltungsverfahren erkennen können, wenn KI eingesetzt wird. Dazu gehören verständliche Informationen darüber, welche Aufgaben das KI-System übernimmt, wie Ergebnisse zustande kommen und welche Möglichkeiten zur menschlichen Überprüfung oder zum Widerspruch bestehen.

5. Welche Voraussetzungen braucht ein vertrauenswürdiger KI-Einsatz im Staat?

Vertrauenswürdige KI in der Verwaltung braucht klare rechtliche und ethische Rahmenbedingungen, Datenschutz, digitale Kompetenzen in Behörden und eine nutzerzentrierte Gestaltung. Wichtig ist außerdem, dass die Verwaltung für Qualität, Rechtmäßigkeit und Überprüfbarkeit verantwortlich bleibt, auch wenn sie externe technische Lösungen nutzt.

Beteiligte Personen

Hauptautoren
(Primary Authors)
Mitwirkende
(Contributors)

Diese Personen tragen die inhaltliche Gesamtverantwortung der Publikation „Der Staat im digitalen Dialog. KI in der Interaktion zwischen Staat, Bürgerinnen und Bürgern sowie Unternehmen“.

Prof. Dr. Jessica Heesen (Universität Tübingen)
Prof. Dr. Susanne Boll (Universität Oldenburg)

Beitragende aus der Arbeitsgruppe „IT-Sicherheit, Privacy, Recht und Ethik“

Prof. Dr. Christoph Bieber (Center for Advanced Internet Studies)
Prof. Dr. Peter Dabrock (Friedrich-Alexander-Universität Erlangen-Nürnberg)
Andrea Martin (IBM Deutschland GmbH)
Prof. Dr. Dr. Frauke Rostalski (Universität zu Köln)
Prof. Dr. Judith Simon (Universität Hamburg, Deutscher Ethikrat)

Beitragende aus der Arbeitsgruppe „Innovation, Geschäftsmodelle und -prozesse“

Dr. Corina Apachiţe (Continental Automotive Technologies GmbH)
Prof. Dr. Michael Dowling (Münchner Kreis)
Prof. Dr. Svenja Falk (Accenture Dienstleistungen GmbH)
Dr. Andreas Liebl (UnternehmerTUM GmbH, applied.AI)
Olga Mordvinova (incontext.technology GmbH)
Dr. Markus Schnell (Infineon Technologies AG)
Prof. Dr. Stefanie Schwaar (Hochschule für Technik und Wirtschaft HTW Berlin)
Prof. Dr. Orestis Terzidis (Karlsruher Institut für Technologie KIT)
Dr.-Ing. Eric Veith (OFFIS – Institut für Informatik e.V.)
Luise Weißflog (Mittelstand-Digital Zentrum Chemnitz, TU Chemnitz)
Ingmar Wolff (heliopas.ai GmbH)

Über das Whitepaper

Das Whitepaper „Der Staat im digitalen Dialog. KI in der Interaktion zwischen Staat, Bürgerinnen und Bürgern sowie Unternehmen“ wurde von Mitgliedern der Arbeitsgruppen „IT-Sicherheit, Privacy, Recht und Ethik“ und „Innovation, Geschäftsmodelle und -prozesse“ der Plattform Lernende Systeme verfasst. Es steht zum kostenfreien Download bereit.

Die Pressemitteilung zum Whitepaper sowie ein Kurzinterview mit Stefanie Schwaar, Mitwirkende des Whitepapers und Mitglied der Plattform Lernende Systeme, stehen zur redaktionellen Verwendung zur Verfügung.