KI in der Verwaltung: Praxisbeispiele für mutigeren KI-Einsatz

Ein Gastbeitrag von Susanne Boll, Professorin für Medieninformatik und Multimedia-Systeme an der Carl von Ossietzky Universität Oldenburg und Mitglied der Plattform Lernende Systeme

Schneller und effizienter soll die Verwaltung werden, aber gleichzeitig bürgernah und transparent bleiben. Wie ein KI-System zum Beispiel die Finanzverwaltung entlasten kann, haben sich Wissenschaftlerinnen der Plattform Lernende Systeme in Nordrhein-Westfalen angeschaut. Sie leiten daraus Empfehlungen für Bürger, Staat und Unternehmen ab.

Mit der Steuererklärung haben oft nicht nur Bürger:innen zu kämpfen, sondern auch die Verwaltungsbehörden. Zur Bearbeitung einfacher Steuerfälle setzt Nordrhein-Westfalen daher als erstes Bundesland ein KI-Modul ein. Das System erkennt zum Beispiel Einkünfte aus nichtselbstständiger Arbeit oder Kapitalerträge und bearbeitet diese automatisch weiter. Das Modell wird in den Finanzämtern Brühl, Bielefeld-Außenstadt, Hamm und Lübbecke seit Mai dieses Jahres getestet.

Wie KI die Finanzverwaltung unterstützen kann, ist eines von drei Beispielen, die sich Wissenschaftler:innen der Plattform Lernende Systeme (PLS), ein Expert:innen-Netzwerk zum Thema KI, genauer angeschaut haben. Das Whitepaper „Staat im digitalen Dialog – KI in der Interaktion zwischen Staat, Bürgerinnen und Bürgern und Unternehmen“ wurde am gestrigen Dienstag veröffentlicht und lag Tagesspiegel Background vorab vor.

Bisher wenig KI-Einsatz in Verwaltung

Die Wissenschaftler:innen wollen wissen, wie KI Verwaltung schneller und einfacher machen, aber gleichzeitig vertrauenswürdig und effizient eingesetzt werden kann. „KI-gestützte Verfahren müssen nachvollziehbar, überprüfbar und fair gestaltet sein – unabhängig davon, ob es um einen Wohnberechtigungsschein oder einen Subventionsantrag geht“, schreiben die Hauptautorinnen Susanne Boll, Professorin für Medieninformatik und Multimediasysteme an der Carl von Ossietzky Universität Oldenburg und Jessica Heesen, Leiterin der Forschungsgruppe Medienethik, Technikphilosophie & KI an der Eberhard Karls Universität Tübingen.

Bisher wird KI in der Verwaltung noch wenig eingesetzt. „Die Beispiele für KI in der Verwaltung in Deutschland sind noch rar gesät, wir haben ganz gezielt nach unterschiedlichen Eingriffstiefen gesucht und betrachtet: Vom Chatbot der Stadt mit einer niedrigen Kritikalität, zum Wohnberechtigungsschein mit einer etwas höheren, bis zum Eingriff in die Finanzverwaltung“, sagt Susanne Boll.

Aus den Beispielen haben die Wissenschaftlerinnen Empfehlungen abgeleitet. Dabei unterscheiden sie nochmals zwischen der Interaktion Staat und Bürger:innen sowie Staat und Unternehmen. Zu den fünf übergeordneten Dimensionen zählen Transparenz und Erklärbarkeit, Kontrollierbarkeit und Widerspruchsmöglichkeiten, Verhältnismäßigkeit und Eingriffsintensität, Inklusion und Nutzerzentrierung sowie Verantwortlichkeit und Überprüfbarkeit.

NRW-Beispiel als richtungsweisend bewertet

Beim KI-Einsatz in der Finanzverwaltung gehen die Autorinnen zum Beispiel von einer hohen Eingriffsintensität aus, denn die automatisch erstellten Steuerbescheide sind für Bürger:innen rechtlich bindend. Die Folgen können für die Betroffenen gravierend sein, wie finanzielle Nachteile oder Rechtsstreitigkeiten. Daher wird die KI nur bei strukturierten Standardfällen eingesetzt, nicht bei komplexeren Fällen. Ansonsten wird an die menschliche Sachbearbeitung zurückübergeben.

Die Autorinnen bewerten das NRW-Beispiel als richtungsweisend „für die Integration von KI in rechtsverbindliche Verwaltungsentscheidungen – mit großem Effizienzpotenzial, aber auch hohen Anforderungen an rechtsstaatliche Absicherung und Vertrauen“. Nötig seien daher klare Hinweise im Bescheid, robuste Qualitätssicherungsmechanismen, ein strukturierter Umgang mit Fehlentscheidungen sowie ein begleitendes Monitoring des Systems.

Weniger starker KI-Einsatz

Auch in anderen Bundesländern wird KI zur Unterstützung der Steuerverwaltung eingesetzt, wie zu Beispiel in Baden-Württemberg, Bayern, Hessen und Niedersachsen. Anders als in NRW zielten diese Modelle allerdings in Form von Assistenz- und Analyseanwendungen eher auf die interne Unterstützung und effizientere Abläufe ab, schreiben die Expertinnen. NRW prüft derzeit auch bei Vergabeverfahren den Einsatz von KI (Tagesspiegel Background berichtete).

Die Autorinnen haben sich außerdem zwei weitere KI-Einsatzmöglichkeiten angeschaut, die sie jedoch als deutlich weniger eingriffsintensiv bezeichnen. Zum einen zählt dazu die bürgerfreundliche Dokumentenausfüllung (Buki) der Stadt Oldenburg, die Bürger:innen mit sprachlichen Schwierigkeiten beim Ausfüllen von Dokumenten hilft. Zum anderen setzt die Stadt Hamburg den KI-basierten Chatbot „Frag-den-Michel“ ein, um Informationen aus dem städtischen Serviceportal zugänglich zu machen.

„Wir wollten aufzeigen, dass es ganz unterschiedliche Möglichkeiten für den KI-Einsatz gibt, mit unterschiedlichen Anforderungen und Risiken“, sagt Boll. Daher müsse KI in der Verwaltung differenziert betrachtet werden. „Im Detail wird dies zu unterschiedlichen Lösungen und Qualitätsanforderungen führen müssen“, sagt die Informatikerin.

Bürger aktiv und fortlaufend beteiligen

Bürger:innen sollten an diesem Prozess aktiv beteiligt werden. „Begriffe wie „menschenzentriert“ und „vertrauenswürdig“ sind im Diskurs um KI allgegenwärtig – bleiben jedoch oft vage“, kritisierten sie. Daher brauche es gemeinschaftliche Aushandlungsprozesse, um diese Leitbegriffe mit Leben zu füllen. „Einmal fragen reicht nicht, sondern Bürger:innen müssen kontinuierlich immer wieder einbezogen werden“, sagt Boll. Es gehe darum, die Beteiligung anzureizen, gute Apps zu bauen, Plakate aufhängen, Bürgerlotsen einbeziehen – auf allen Ebenen mitzudenken: Wie kann ich Bürger:innen besser mitnehmen? Dazu zähle auch, Schulungen über KI-Systeme anzubieten, damit Funktionsweise und Grenzen dieser Systeme besser verstanden werden können.

Genauso sollten Unternehmen interne Kompetenzen für KI in der Verwaltung aufbauen. Auch sie könnten „aktive Mitgestalter“ werden, indem sie ihre Erfahrungen weitergeben und Verwaltungen auf Fehlentwicklungen aufmerksam machen.

Staat sollte Reallabore fördern

Staat und Politik haben hingegen die Aufgabe, den KI-Einsatz laufend mit den Betroffenen zu evaluieren. Außerdem sollten sie Möglichkeiten zum Praxistest von KI-Anwendungen schaffen. „Der Staat muss beweglicher und mutiger werden, wenn es darum geht, neue KI-gestützte Dienste zu entwickeln und zugänglich zu machen. Das geht vor allem über Reallabore und Modellregionen“, findet Boll. Als Informatikerin plädiert sie dafür, früh auszuprobieren mit einfachen, noch unfertigen Lösungen und sie in Kommunen vor Ort zu erproben. „Das ist wie bei den Start-up-Ideen: Es braucht mehrere Schritte der Verfeinerung bis wir in den Markt kommen.“

Vom Bundesdigitalministerium (BMDS) wünscht Boll sich vor allem Strahlkraft: Dass es im Bund signalisiert, dass sich etwas ändern wird. Konkret sollte sich das Ministerium bei Verwaltungslösungen um mehr Einheitlichkeit bemühen. „In der Vergangenheit hatten die Kommunen große Gestaltungsfreiheit bei der Wahl ihrer Digitallösungen, konnten sich eigene Digitalanbieter suchen und unterschiedliche Datenformate nutzen." Hier müssten Bund, Länder und Kommunen wieder für mehr Standardisierung und Vereinheitlichung sorgen.

Beitrag erschienen in:

Tagesspiegel
November 2025