ZUKUNFTSBILDER 02 | Welche Rolle kann Künstliche Intelligenz in der Verwaltung übernehmen?

„Die Zukunft ist offen, aber nicht beliebig.“ (Hans-Peter Dürr)

Neulich erwarb ich etwas im Internet und bekam folgende E-Mail mit meiner Bestellbestätigung: „Sehr geehrter Rainer Sauer, vielen Dank für Ihre Bestellung. Ich bin der intelligente Roboter Thomas und es ist mir eine Freude, Ihnen zu dienen. Ich möchte Ihnen mitteilen, dass Ihr Paket versandt wurde und die ungefähre Lieferzeit 2 – 4 Werktage beträgt. Ich hoffe auf Ihre Geduld. Wenn Sie weitere Fragen haben, können Sie sich gerne an mich wenden. Ich würde Ihnen gerne weiterhelfen. Ich wünsche Ihnen einen schönen Tag! Mit freundlichen Grüßen Thomas“

Wer mich kennt, ahnt, dass ich daraufhin mit Thomas in direkten Kontakt getreten bin, um herauszufinden, was es mit ihm auf sich hat und wie er mir konkret dienen wird, denn nichts hasse ich mehr wie vorhersehbare leere Versprechungen. Gleichwohl ist der Einsatz Künstlicher Intelligenz (KI) eines der Zukunftsbilder der öffentlichen Verwaltung. Wie ich in Teil 1 des Artikels bereits erwähnt hatte, kann es beispielsweise die Auswertung umweltorientierter Daten mithilfe von KI der Verwaltung möglich machen, ganz neue Lösungsvorschläge für Klima- und Umweltproblematiken zu durchdenken. Aber ist es auch denkbar, dass ganz normale Verwaltungsvorgänge, wie etwa die Verlängerung von Personalausweisen durch KI einfacher werden können?

„Ja“ sagen Nicole Opiela, Resa Mohabbat Kar, Basanta Thapa und Dr. Mike Weber als AutorInnen einer Studie des Kompetenzzentrum Öffentliche IT am Fraunhofer-Institut für Offene Kommunikationssysteme in Berlin. In „Künstliche Intelligenz in der öffentlichen Verwaltung 2030“ befassten sie sich bereits 2018 mit Fragen wie „Wo macht die Anwendung von KI in der öffentlichen Verwaltung Sinn?“ und „Was erschwert ihren Einsatz?“ So kommen Opiela, Mohabbat Kar, Thapa und Weber zu dem Schluss, dass die Entscheidungshoheit auch unter Nutzung von Künstlicher Intelligenz weiterhin bei den Verwaltungsmitarbeitenden liegen müsse, da die KI – wertfrei betrachtet – lediglich Empfehlungen vorbereitet. Auch deshalb, weil bei Fehlentscheidungen die zuständigen Mitarbeitenden in der Verantwortung stünden anstelle der bei rein maschinellen Entscheidungen haftbaren Gesamtbehörde.

Ohne Frage könnten Computer auch direkt beispielsweise über Bewilligungs- oder Versagungsvorgänge entscheiden, wie dies in der Wirtschaft vielerorts schon heute der Fall ist, und die SachbearbeiterInnen würden dann ausschließlich bei Widersprüchen aktiv werden. Allein schon aus Haftungsgründen scheint mir dies für die Verwaltung kein praktikables Modell zu sein, das spätestens vor Gericht fehlerhafte KI-Entscheidungen ohne Zweifel dazu führen werden, dass entweder der Einsatz von KI untersagt wird oder teure Controlling-Upgrades verpflichtend werden. Da ist es unerlässlich und zudem verwaltungstechnisch wesentlich einfacher, Verwaltungsmitarbeitende final entscheiden zu lassen. Durch Verschlankungen in der Verwaltung könnte die Arbeitsbelastung der Mitarbeitenden jedoch so hoch werden, dass diese wiederum Empfehlungen der KI ohne eigene Prüfung folgen. Hier sind also politische Entscheidungsebenen gefragt und solches effektiv zu verhindern.

Bereits in absehbarer Zeit werden die ersten KI-Systeme Einzug in die öffentliche Verwaltung erhalten – wenn auch wegen der vielen verschiedenen Aufgaben in unterschiedlicher Intensität. Doch welche Rahmen-Szenarien könnte es geben, die zu einem Nicht-Einsatz von Künstlicher Intelligenz führen? Da wäre zum einen die gesellschaftlich hinreichende Akzeptanz. Falls hier Bedenken hinsichtlich systematischer Diskriminierung gesellschaftlicher Gruppen durch KI-Systeme auftreten, senkt dies den gesellschaftliche Zuspruch drastisch. Ebenso gilt dies für mangelnde Transparenz des KI-Einsatzes und fehlerhafte Kommunikation mit den BürgerInnen sowie deren fehlende Beteiligung bei der Formulierung von Prinzipien und Zielen des KI-Einsatzes.

Ebenso nicht zu unterschätzen ist der mit dem Einsatz nicht-menschlicher, sprich: maschineller, Komponenten in der Verwaltungsarbeit verbundene Kulturwandel in der Zusammenarbeit von Mensch und Behörde, der schnell in Misstrauen oder Frust umschlagen kann und so die Interaktion zwischen Verwaltungsmitarbeitenden und den Bürgerinnen und Bürgern hemmt oder erschwert. Auch könnten Insellösungen bei KI-Anwendungen in der öffentlichen Verwaltung den notwendigen Erfahrungsaustausch der Verwaltungen erschweren und so die Wahrscheinlichkeit von negativen Auswirkungen erhöhen. Für den Einsatz in der Verwaltung gilt es daher, die zunächst attraktiv erscheinenden Potenziale von Künstlicher Intelligenz kritisch und realistisch einzuschätzen. Dies setzt zwingend eine kontinuierliche Prüfung voraus, für welche öffentlichen Aufgaben welche KI-Anwendungen sinnvoll erscheinen.

Entscheidend hierbei ist wes jedoch, ob ihre Verwendung zweckmäßig, begründet und transparent erfolgt. Zeichnen sich Anwendungsoptionen ab, in denen ein KI-Einsatz aus verschiedensten Gründen unzweckmäßig erscheint, sollte von ihm Abstand genommen oder er sogar ganz untersagt werden. Findet man jedoch Bereiche, in denen Künstliche Intelligenz der Verwaltungsarbeit an Präzision (Stichwort: Echtzeit-Monitoring) oder Ressourcen-Effizienz überlegen ist, könnte an diesen Stellen ein Einsatz empfohlen werden.

Übrigens hatte mir Thomas natürlich geantwortet. Und zwar so, wie es zu befürchten war: „Sehr geehrter Rainer Sauer, es freut mich Ihr Email zu bekommen. Bitte haben Sie keine Sorge, wir haben das gut ausgepackt. Wenden Sie sich andere Probleme oder Fragen haben uns weiter, wir sind immer bereit, Ihnen behilflich zu sein. Wünsche ihnen einen schönen tag bei bester gesundheit Mit freundlichen Grüßen Thomas“ – Bleibt nur noch die Frage, ob dort bei Tongle Co LTD in der Nationale Armee Schmuck-Dragon-Street, District 11 705, 7. Stock, Gebäude B, 518000 Shenzhen tatsächlich der intelligente Roboter Thomas am/im Computer saß oder der rührige Herr Wang mit einem google-Übersetzer.

Geschrieben von und © 2021 für Rainer W. Sauer / CBQ Verwaltungstraining