Der Staat im digitalen Dialog. KI in der Interaktion zwischen Staat, Bürgerinnen und Bürgern sowie Unternehmen

Abstract

Künstliche Intelligenz (KI) verändert die Interaktion zwischen Staat und seinen Bürgerinnen und Bürgern sowie Unternehmen zunehmend. Das Ziel: Eine leistungsfähige, vernetzte Verwaltung, die sich an den Bedürfnissen der Menschen und Unternehmen orientiert – etwa durch automatisierte Verfahren, intelligente Datenanalyse und personalisierte Services. Staatliche Dienstleistungen sollen aber nicht nur schneller und ein facher digital verfügbar sein, sondern auch vertrauenswürdig und effizient eingesetzt werden. Dazu braucht es klare rechtliche und ethische Rahmenbedingungen. Ebenso wichtig sind der Aufbau digitaler Kompeten zen in den Behörden sowie eine offene Kommunikation gegenüber den Interaktionspartnern, um Akzeptanz und Vertrauen zu stärken. So kann ein modernes digitales Ökosystem entstehen, das Effizienz, Teilhabe und gesellschaftliche Verantwortung im Kontext digitaler Staat miteinander verbindet. Die Autorinnen und Autoren der Arbeitsgruppe „Innovation, Geschäftsmodelle und -prozesse“ sowie der Arbeitsgruppe „IT-Sicherheit, Privacy, Recht und Ethik“ der Plattform Lernende Systeme gehen in diesem Papier der Frage nach, wie sich staatliches Handeln durch den Einsatz von KI-Technologien effizienter, zugäng licher und nutzerfreundlicher gestalten lässt – dies mit Blick auf Bürgerinnen und Bürger sowie Unternehmen. Dazu klären sie zunächst, welche rechtlichen, normativen und zielgruppenspezifischen Voraussetzungen für eine KI-basierte Interaktion im staatlichen Kontext gegeben sein müssen. Anhand der drei Szenarien – KI-Chatbot „Frag-den-Michel“, bürgerfreundliche Dokumentenausfüllung und KI-basiertes Steuerveranla- gungssystem – wird veranschaulicht, wie eine solche KI-gestützte Interaktion heute bereits gestaltet ist oder zukünftig gestaltet sein könnte – und welche Herausforderungen, Potenziale und Konfliktlinien sich dabei auftun. Zentrale Kriterien lassen sich auf Grundlage der rechtlichen und normativen Rahmenbedingungen sowie der induktiven Fallanalysen der vorgestellten Szenarien ableiten, die als Leitplanken für den legitimen und verantwortungsvollen KI-Einsatz in der öffentlichen Verwaltung dienen. Die aus den Ergebnissen abgeleiteten Gestaltungsoptionen zeigen Wege für einen erfolgreichen Einsatz von KI im staatlichen Kontext auf, der letztlich die Teilhabe aller Beteiligten einschließt und einfordert: Staat und Politik, Bürgerinnen und Bürger sowie Unternehmen in einem digitalen Dialog. Datei-Upload durch TIB