KI ist die Zukunft der öffentlichen Verwaltung

Hunderttausende Stellen werden in den nächsten Jahren in öffentlichen Verwaltungen fehlen. Und die Aufgaben wachsen. Zeit für die Verwaltungen, sich anders aufzustellen, umzudenken und resilienter zu werden. Das heißt schon jetzt: Bestimmte Verwaltungsvorgänge werden in Zukunft automatisiert ablaufen und künstliche Intelligenz wird vermehrt Einzug halten in die Amtsstuben. Dabei ist KI kein Allheilmittel, aber ein mögliches Tool, um diese Herausforderungen zu schultern. Dass solche Umstellungen funktionieren, haben wir bei Dataport in den letzten Jahren erfolgreich bewiesen.

Künstliche Intelligenz allein ist (k)eine Lösung

KI unterscheidet sich von reiner Automatisierung dadurch, dass sie in der Lage ist, etwa Anfragen soweit zu analysieren, dass sie selber Antworten finden kann.

Ein Beispiel: Ilona arbeitet in der Wohngeldstelle ihrer Kommune und hat Urlaub. Eine Anfrage wird in ihrer Abwesenheit gestellt, die nach der Höhe der Unterstützung und möglicher anderer Beihilfen fragt. Eine rein automatisierte Antwort würde so lauten: „Ich bin zurzeit nicht am Platz und kann ihre Mail erst nach meiner Rückkehr beantworten.“ Möglicherweise folgt noch der Hinweis auf einen Kollegen - für dringende Fälle.

Eine KI-gestützte Antwort würde zurückfragen können, wie hoch die Einkünfte sind, und wieviel Wohnraum für wieviele Menschen in welchem Alter zur Verfügung steht. Daraus könnte die KI schon mal eine Antwort vorbereiten, die dann von Ilona nach ihrer Rückkehr begutachtet und überprüft wird.

Die KI kann in diesem Fall aus Tausenden von ähnlichen Antragsverfahren eine Lösung oder sogar Varianten anbieten. Sie wurde darauf trainiert, Muster zu erkennen und kann, anders als manche Mitarbeiter*in, aus einer viel größeren Datenmenge schöpfen, vorausgesetzt, dass ähnliche Verfahren auch schon digital vorliegen.

Bedingt selbstlernend

Auch weil wir von Dataport die Beschäftigten des Integrationsamtes frühzeitig in die Entwicklung von InA einbezogen haben, konnten diese das Angebot positiv aufnehmen. Langfristig entwickeln wir InA weiter – mit Projekten zur Sprach- und Schrifterkennung. Um die öffentliche Verwaltung bei Routineaufgaben zu entlasten, soll InA dann in großen Textdateien suchen und Antworten finden können. Die Daten werden zuvor von den Mitarbeiter*innen des Integrationsamtes ausgewählt, denn die künstliche Intelligenz (KI), die hinter InA steckt, ist keine selbstlernende KI, die sich ihre Informationen ungeprüft aus dem Netz zieht oder nur nach Wahrscheinlichkeit und Häufigkeit aussucht.

Hinter InA und anderen Anwendungen steckt Rasa, ein sogenanntes Open-Source-Framework, mit dem Chatbots entwickelt werden. Die Inhalte, mit denen Rasa arbeitet, sind allerdings händisch eingepflegt. Die von uns entwickelten Bots lassen wir aktuell nicht autonom weiterlernen, weil wir das nicht kontrollieren können. Nur so ist es möglich Fehler rechtzeitig zu erkennen und zu korrigieren anstatt sie autonom zu verstärken. Denn, wenn man falsche Informationen reinsteckt, kommen auch nur falsche Informationen heraus.

KI-Anwendungen werden heute in fast allen Bereichen der Verwaltung eingesetzt:

Das beginnt bei Chatbots wie "Frag den Michel", die immer wiederkehrende Fragen beantworten und die so geschult wurden, dass sie rund um die Uhr Bürgeranliegen beantworten können.

Ein weiteres Anwendungsgebiet sind sogenannte Robotic Process Automations (RPA). Sie sind so eingerichtet worden, dass sie der Verwaltung zum Beispiel beim Sortieren von Anträgen helfen. Anträge müssen nicht mehrfach ausgefüllt werden und Sachbearbeiter können sich voll und ganz auf Fachfragen konzentrieren.

Künstliche Intelligenz wird heute schon erfolgreich bei der Klima-Überwachung eingesetzt und hilft bei richterlichen Entscheidungsfindungen.

Seegras mit KI überwachen

Schon seit einigen Jahren beteiligen wir uns auch an einem anderen umweltpolitisch wichtigen Projekt. BOLKI ist eine KI für bildbasierte Objekterkennung. Dahinter steckt die Überwachung von Seegras in der Ostsee. Denn: Geht es dem Seegras gut, geht es auch der Ostsee gut.

Der Zustand von Seegras wird dabei anhand von Bildern ausgewertet, die aus Satellitenfotos stammen. Trainiert haben wir die KI mit exakten Vorort-Aufnahmen, anhand derer die Qualität der Fotos aus dem All überprüft wurde. Auch hier sind viele Daten notwendig, damit die KI lernt, immer besser und treffsicherer Seegras von fast gleichfarbigen Grünalgen zu unterscheiden. Ein lernendes System, das mittlerweile ein so geschultes Auge entwickelt hat, dass es kaum weiteren manuellen Aufwand benötigt.

Fast immer geht es bei diesen Anwendungen um Arbeitserleichterungen und -verbesserungen. Unsere KI soll helfen, fundierte Entscheidungen zu treffen. Und: Ihr Einsatz wird von Woche zu Woche umfangreicher.

Wie KI die Arbeit der Justiz erleichtert

Für Torsten Koß, unseren Vorstand für Digitale Transformation, ist klar, dass KI „unsere Prozesse und Arbeitsweisen definitiv verändern wird.“ Er folgert daraus, dass „wir uns einen verantwortungsvollen Umgang mit generativer KI kümmern müssen und darum, dass generative KI einen großen belastbaren Nutzen erzeugt.“

Das gilt auch für die Unterstützung der Justiz. Arbeitsüberlastungen von Richter*innen führen oft dazu, dass Verfahren sich über Jahre hinziehen, wo schnellere Entscheidungen für alle Beteiligten schnellere Klarheit bedeuten würde.

Ein Beispiel ist eine Recherche-Anwendung unserer KI-Plattform Data[port]aifür das Land Niedersachsen. Es geht um das Thema Asyl. Richter*innen müssen in Asylverfahren häufig beurteilen, wie die aktuelle Gefährdungslage der Asylsuchenden zu bewerten ist. Dazu gibt es verschiedene Datenquellen im Internet, die unabhängig geprüft und somit autorisiert sind.

Unsere KI-Anwendung liefert eine Zusammenfassung. Und sie benennt die Quellen, aus denen sie ihre Erkenntnisse schöpft. Das ist für uns selbstverständlich, damit Richter*innen schnell überprüfen können, woher eine Information kommt. Bei anderen KI-Anwendungen ist so viel Transparenz eher die Ausnahme. Torsten Koß: „Ich denke, dass das schon ein wesentlicher Fortschritt und eine deutliche Arbeitserleichterung für die Richterinnen und Richter ist.“

Auch mit einem anderen Thema haben wir uns bei Dataport intensiv beschäftigt: Dem Thema „Cybersicherheit“.

Europa ist im Fadenkreuz der Internetkriminellen. Mehr als 800 Unternehmen und Institutionen in Deutschland waren 2023 von ihren Angriffen betroffen - zunehmend aus dem Ausland. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) warnt deshalb in seinem letzten Jahresbericht:„Die Bedrohung im Cyberraum ist so hoch wie nie zuvor.“ Und das Problem hat sich verschärft: „Nicht mehr nur große, zahlungskräftige Unternehmen stehen im Mittelpunkt, sondern zunehmend auch kleine und mittlere Organisationen sowie staatliche Institutionen und Kommunen".

Die meisten und folgenreichsten Angriffe sind sogenannte Ransomware-Angriffe. Hacker gelangen in die Firmensoftware und verschlüsseln sie. Das ist vergleichbar mit einem Einbruch, bei dem die Räuber in einem Haus alle Schlösser austauschen. Die Schlüssel erhält, wer Lösegeld zahlt. Wer das tatsächlich macht, kann allerdings vor weiteren Übergriffen nicht sicher sein. Wenn sich eine Firma weigert, braucht sie oft Monate, um die Systeme wiederherzustellen.

KI nutzt solchen Kriminellen, um ihre Angriffe wirkungsvoller zu gestalten. Sie macht beispielsweise Phishing-Angriffe immer wirkungsvoller. Andererseits hilft KI-Technik auch im Kampf gegen Cyberkriminelle.

Keine KI-gestützten Angriffe auf unser Rechenzentrum

Bei uns im Haus ist Andreas Reichel als Vorstand Technik für die Sicherheit zuständig. „Wir geben 60 bis 70 Millionen Euro im Jahr allein für Security aus", rechnet er vor. Die Rechenzentren und alle Prozesse sind in vollem Umfang vom BSI zertifiziert.Eher eine Ausnahme in Europa.

„Es finden keine KI-gestützten Angriffe auf unser Rechenzentrum statt. Wir bemerken zwar, dass Phishing Mails durch KI immer perfekter werden, unsere Mitarbeiter*innen und Kund*innen sind aber gewarnt und werden geschult", erläutert Reichel. Etwa 60 Prozent unserer eingehenden Mails sortiert das System sowieso schon als Spam aus. Wir erkennen Schwachstellen frühzeitig und haben effiziente Werkzeuge im Einsatz. Diese erkennen laufende Angriffe und können vor allem jedwede Anomalie feststellen. „Wir haben ein Cyber Security Operations Center mit etwa 20 Spezialisten. Da sind auch zertifizierte - also ethische - Hacker dabei. Die sind einmal im Monat im Alarmeinsatz, wenn irgendetwas Verdächtiges auftaucht und reagieren dann entsprechend schnell“, sagt Reichel.

Zertifiziertes Rechenzentrum: Sichere Grundlage für KI-Anwendungen

Wir sind für die öffentlichen Verwaltungen im Einsatz und helfen bei der Nutzung von KI. Unser leistungsfähiges Twin Data Centerist BSI-zertifiziert und mehrfach ausgezeichnet worden.

Unsere Kund*innen können darin oder in einer Cloud eigene KI-Anwendungen auf der Basis von Large Language Models (LLMs) erstellen, wie man sie etwa von Chat-GPT kennt. LLMs sind Module, die mit natürlicher Sprache funktionieren und die menschenähnliche Texte erzeugen und zum Teil auch übersetzen können. Wir bei Dataport nutzen je nach Anwendungsfall verschiedene LLMs aus der Cloud oder aus dem eigenen Rechenzentrum.

Wie genau man mit der KI kommuniziert, damit sie passende Ergebnisse liefert, auch dazu bietet unsere Plattform Lösungen. „Prompts“ heißen diese Kommunikationsmodule, die es bei uns für Fachanwendungen in der Justiz oder Sozialverwaltung schon vorgefertigt gibt. Sie sind standardisiert, lassen sich aber auf jede andere Anwendung zuschneiden.

Leistungsfähige Plattform für KI-Anwendungen

Unsere Plattform data[port]ai ist eine generative AI-Plattform. Das bedeutet sie hat eine KI-Ebene, die Texte versteht und verständliche Antworten generiert. Alle KI-Modelle werden mit möglichst vielen Daten trainiert und können dann mit dieser Erfahrung und ihren Algorithmen Antworten formulieren. Herzstück unserer Plattform ist die sogenannte Retrieval Augmented Generation (RAG). Sie kann mehr, weil sie sich über die antrainierte Datenbasis hinaus auch Daten aus anderen verlässlichen Quellen nutzen kann. Damit stehen den generativen KI-Anwendungen auf unserer Plattform vielfältige Datenquellen zur Verfügung.

So weitreichend die Möglichkeiten von KI sind und für die Verwaltungen in den nächsten Jahren nutzbar gemacht werden, so wichtig ist von Anfang an, dass jede auf KI-basierte Verwaltungsentscheidung transparent bleiben muss. Wir müssen wissen, woher eine Information kommt und wer sie verantwortet, egal ob es um Wohngeld oder die Situation in einem anderen Land geht, dessen Einwohner bei uns um Asyl nachsuchen.

Datenschutz mag da manchmal lästig sein, aber er schützt wesentliche Grundrechte und darf auch durch eine KI nicht außer Kraft gesetzt werden. Für uns aber besonders wichtig: Eine KI ist ein Hilfsmittel, sie entscheidet niemals autonom. Bei uns jedenfalls liegt die letztendliche Entscheidungshoheit bei den Mitarbeiter*innen in Behörden. Sie sind verantwortlich. Sie haben das Sagen.

Auf der virtuellen Dataport Hausmesse 2024 erklärt Lajla Fetic, Expertin für KI Governance und Digitalpolitik, was künstliche Intelligenz ist, wofür wir sie in der Verwaltung brauchen und wie wir verantwortungsvoll mit KI umgehen.