Frau Schwaar, wo liefern KI-basierte Systeme heute schon Mehrwert in der Interaktion zwischen Staat und Bürgerinnen und Bürgern – und wo würden Sie bewusst auf diese verzichten?
Stefanie Schwaar: Bei der Betrachtung des Einsatzes von KI-basierten Systemen in der Interaktion zwischen Staat und Bürgerinnen und Bürgern ist es wichtig, unterschiedliche Ebenen zu unterscheiden. Derzeit kommen solche Systeme vor allem über mobile Anwendungen zum Einsatz. Viele Apps ermöglichen oder verbessern beispielsweise die Kommunikation zwischen Personen mit unterschiedlichen Sprachkompetenzen in Echtzeit. In diesem Bereich könnten standardisierte Lösungen in Behörden sinnvoll sein, um eine erste, niedrigschwellige Verständigung zu erleichtern. Ebenso ist denkbar, Bürgerinnen und Bürger beim Ausfüllen von Anträgen durch KI-gestützte Hilfsfunktionen zu unterstützen. Erste Ansätze existieren bereits, etwa durch einfache Chatbots wie Beratung-Bot Bobbi, Mia oder Theo.
Nach meiner Erfahrung können diese Systeme – ähnlich wie klassische FAQ-Bereiche – allerdings vor allem standardisierte Anfragen bearbeiten. Sobald individuelle oder komplexere Sachverhalte vorliegen, bleibt die direkte Kommunikation zwischen Menschen unverzichtbar. Vor diesem Hintergrund bieten insbesondere Prozesse, die einem klaren und wiederholbaren Muster folgen oder große Datenmengen betreffen, ein erhebliches Potenzial zur Effizienzsteigerung durch KI-basierte Systeme. Gleichzeitig muss jedoch sichergestellt werden, dass keine automatisierten Entscheidungen getroffen werden, die das Leben oder die Lebensumstände von Menschen wesentlich beeinflussen. Insbesondere im Umgang mit sensiblen Gesundheitsdaten sind besondere Schutzmaßnahmen erforderlich. Das bekannte Problem der „Halluzinationen“ von KI-Systemen macht deutlich, dass eine automatisierte Bewertung sensibler Daten nur mit streng geprüften, spezialisierten Algorithmen zulässig ist.
Darüber hinaus ist zu berücksichtigen, dass es in staatlichen Abläufen durchaus Prozesse gibt, die einfach überprüfbaren Regeln folgen. Für solche Vorgänge sollten ebenso einfache algorithmische Lösungen eingesetzt werden, um Effizienz zu steigern, Fehler zu reduzieren und die Bearbeitungszeiten zu verkürzen.
Welche technischen Mindestanforderungen an Transparenz und Widerspruch sollten bei KI-gestützten Verwaltungsprozessen gelten?
Stefanie Schwaar: In der öffentlichen Verwaltung bestehen bereits heute etablierte Mechanismen zur Sicherstellung von Transparenz und Rechtsschutz, darunter klare Widerspruchsrechte und nachvollziehbare Entscheidungswege, wie sie etwa bei digital erzeugten Bescheiden Anwendung finden. Diese Grundprinzipien bilden
das Fundament vertrauenswürdigen Verwaltungshandelns und sollten auch bei der Einführung KI-gestützter Verfahren unverändert gelten. Bürgerinnen und Bürger müssen weiterhin alle entscheidungserheblichen Informationen sowie die zugrunde liegenden Rechtsnormen in verständlicher Form erhalten.
Ebenso ist es wichtig, transparent darzulegen, wenn ein Verwaltungsakt im Rahmen eines automatisierten Verfahrens erstellt wurde. Eine entsprechende Kennzeichnung dient nicht nur der Nachvollziehbarkeit, sondern stärkt auch das Vertrauen in neue digitale Prozesse. Die Information, dass ein Algorithmus eingesetzt wurde und keine unmittelbare menschliche Sachbearbeitung stattgefunden hat, ermöglicht es den Betroffenen, das Ergebnis angemessen einzuordnen und bei Bedarf aktiv zu werden.
Ein Vergleich aus dem Gesundheitsbereich verdeutlicht die Bedeutung solcher Transparenz: Auch bei Arzneimitteln erhalten Bürgerinnen und Bürger Hinweise zu Anwendungsbereichen und möglichen Risiken, damit sie im Bedarfsfall rechtzeitig handeln können. In ähnlicher Weise unterstützt die Kenntnis über automatisierte Entscheidungsprozesse die sachgerechte Bewertung eines Bescheids. Ist erkennbar, dass ein Schreiben maschinell erstellt wurde, können Bürgerinnen und Bürger besonders aufmerksam prüfen und gegebenenfalls Korrekturen anstoßen. Umgekehrt ermöglicht die Kenntnis einer menschlichen Bearbeitung oftmals eine direkte Klärung im persönlichen Austausch.
Auf diese Weise kann der Einsatz von KI in der Verwaltung sowohl Effizienzgewinne schaffen als auch das Vertrauen der Bevölkerung erhalten – vorausgesetzt, Transparenz und nachvollziehbare Informationen bleiben zentrale Bestandteile des Verwaltungshandelns. Moderne Technologien bieten große Chancen, doch sie müssen stets im Einklang mit den Rechten, Erwartungen und dem Sicherheitsbedürfnis der Bürgerinnen und Bürger stehen.
Wie kann sichergestellt werden, dass KI die Verwaltung inklusiver macht?
Stefanie Schwaar: Inklusivität beginnt bei der grundlegenden Erreichbarkeit der Verwaltungsdienste. Dazu gehören barrierefreie Webseiten, verständliche digitale Nutzerführung sowie klare Orientierung und Beschilderung in den Gebäuden. Viele dieser Bereiche stellen heute noch Hürden dar, die eine gleichberechtigte Teilhabe erschweren.
KI-basierte Systeme können hier gezielt unterstützen, indem sie Bürgerinnen und Bürgern bedarfsgerechte digitale Werkzeuge bereitstellen – beispielsweise Übersetzungs- und Vorlesefunktionen, vereinfachte Sprache oder assistive Apps für Menschen mit körperlichen oder kognitiven Einschränkungen. So hilft KI dabei, individuelle Barrieren abzubauen und Verwaltungsleistungen selbstständig nutzen zu können.
Gleichzeitig muss Inklusion bereits in der Planung von digitalen Angeboten und Räumen verankert sein. KI kann dabei als Prüf- und Analysewerkzeug eingesetzt werden, etwa durch digitale Zwillinge, die simulieren, wie inklusiv ein Angebot oder eine Umgebung ist. Auf diese Weise lassen sich Schwachstellen frühzeitig erkennen und gezielt verbessern.
Damit kann KI einen wichtigen Beitrag leisten, die Verwaltung zugänglicher, verständlicher und gerechter zu gestalten – vorausgesetzt, Inklusion bleibt ein verbindliches Leitprinzip.
Das Whitepaper „Der Staat im digitalen Dialog - KI in der Interaktion zwischen Staat, Bürgerinnen und Bürgern sowie Unternehmen“ steht hier zum Download zur Verfügung.
Das Interview ist für eine redaktionelle Verwendung freigegeben (bei Nennung der Quelle © Plattform Lernende Systeme).