Generative KI in der Verwaltung
„Künstliche Intelligenz ist das Weltraumrennen unserer Generation"
Lesedauer4 min
Generative Künstliche Intelligenz (KI) ist eine Schlüsseltechnologie für die Digitalisierung der Verwaltung. Torsten Koß, Vorstand für Digitale Transformation bei Dataport erläutert im Interview mit der Online-Redaktion die Chancen und Herausforderungen von generativer KI, also der Art von KI, die Inhalte aus verschiedensten Quellen generieren kann.
Herr Koß, beim Thema generative künstliche Intelligenz bekommen manche Leute leuchtende Augen, andere aber auch Angst. Wie ist die Bedeutung grundsätzlich einzuordnen?
Es gab schon lange keine technologische Entwicklung mehr, die so rasant, so schnell und so dynamisch ist wie die Entwicklung von generativer KI. 2023 war ein historisches Jahr in der Technologie-Entwicklung. Vergleichbar ist das vielleicht mit dem Aufkommen der Internetwirtschaft Ende der 90er Jahre. Die Aufbruchstimmung ist ähnlich, nur die Geschwindigkeit ist viel höher als zur Zeit des Internet Booms. Generative KI ist ein modernes Wunderwerk, das für unsere Generation ein Technologie-Rennen ausgelöst hat, das mit dem Rennen in den Weltraum der 50er und 60er Jahre vergleichbar ist.
Wie kommt es, dass der Start von ChatGPT Ende 2022 so etwas ausgelöst hat?
Der Launch von ChatGPT Ende 2022 war nicht der Anfang von generativer KI. Darauf haben viele Forscherinnen und Forscher Jahrzehnte hingearbeitet. Wir haben sechs Jahrzehnte Entwicklungsarbeit, die uns die Rechenleistung gegeben hat, um Exa-Flops, also Trillionen von Rechenschritten in einer Sekunde, zu verarbeiten. Wir haben vier Jahrzehnte Internet, in denen wir Billionen von Trainingsdaten erhalten haben. Und wir haben zwei Jahrzehnte des Mobilen und des Cloud-Computing, die heute fast jedem Menschen auf der Welt einen Supercomputer in die Hand gegeben hat. Jahrzehnte des technologischen Fortschritts haben die Voraussetzungen dafür geschaffen, dass sich generative KI nun entfalten kann. Aber ChatGPT war der Funke, der ein Feuerwerk von Innovationsdichte und Begeisterung ausgelöst hat, wie wir es seit 20 Jahren nicht erlebt haben. Die Dynamik der generativen KI lässt sich an den Nutzerzahlen ablesen: Über 100 Millionen Nutzer haben sich binnen sechs Wochen bei ChatGPT registriert. Zum Vergleich: Instagram hat für so viele Nutzer zweieinhalb Jahre gebraucht, WhatsApp dreieinhalb und YouTube sogar vier Jahre.
„KI ist auch eine politische Standortfrage und ein Aspekt der digitalen Souveränität. Dafür müssen wir hier in Europa sicherlich mehr machen.“
Generative KI eröffnet also so viele Möglichkeiten und damit auch Begehrlichkeiten. Wer ist bei dem Rennen um diese Technologie alles am Start?
Das Rennen um die Nutzung generativer KI ist eröffnet. Nur dass es, anders als beim Rennen in den Weltraum, heute nicht zwischen der Sowjetunion und den USA ausgetragen wird, sondern zwischen vielen Teilnehmenden. Es sind nicht nur die großen Big Player der IT-Branche wie Google, Apple, Amazon, Microsoft und OpenAI dabei. Es ist auch die Open Source Community und es sind auch Startups aus aller Welt am Start. Es gibt zum Beispiel auch ein sehr leistungsfähiges Open-Source-Sprachmodell von Falcon aus den Vereinigten Arabischen Emiraten. Und es gibt auch in Europa spannende Startups, die KI-Sprachmodelle erstellen: Aleph Alpha aus Heidelberg und Mistral aus Frankreich. Das macht Hoffnung, dass das Rennen um generative KI nicht nur in den USA stattfindet. Schließlich ist das auch eine politische Standortfrage und ein Aspekt der digitalen Souveränität, für die wir hier in Europa sicherlich mehr machen müssen.
Bislang sind die Nutzungsszenarien für KI in der öffentlichen Verwaltung noch überschaubar. Da kann man an der Nachhaltigkeit durchaus zweifeln.
In der Tat kann man die Nachhaltigkeit und die Dynamik von Innovationsprozessen schwer einschätzen. Zum Nutzen von Sprachmodellen gab es im vergangenen Jahr intensive Diskussionen. Momentan gibt es zwei Gruppen von Anwenderinnen und Anwendern, die den größten Nutzen haben: Die erste Gruppe sind die Softwareentwickler, weil Sprachmodelle wirklich gut Programmcode erzeugen können. Und die zweite Gruppe sind die Studierenden, für die Sprachmodelle gute Texte generieren. Der Nutzen von Sprachmodellen in der öffentlichen Verwaltung liegt momentan im Schwerpunkt ebenfalls auf Generierung von Texten, auf Zusammenfassung und auf Auswertung von Dokumenten. Also auf das Erzeugen von Vorlagen, Protokollen und Bescheiden oder auf die Unterstützung bei der Bearbeitung des Maileingangs. Daneben auch auf Chatbots, die Online-Dienste der Verwaltung unterstützen.
Torsten Koß
ist seit 2018 Vorstand für Digitale Transformation bei Dataport. Der studierte Wirtschaftswissenschaftler treibt bereits seit 30 Jahren die digitale Entwicklung im öffentlichen Sektor voran. Als Führungskraft bei SAP ebenso wie beim Beratungsunternehmen Roland Berger. Unter anderem für Bundes- und Landesbehörden, Kommunen und Hochschulen.
data[port]ai: Die Plattform für KI-Anwendungen
KI braucht leistungsfähige und vertrauenswürdige Infrastrukturen und Plattformen – so wie data[port]ai.
Okay, es gibt also viele Einsatzfelder. Worin aber liegen die direkten Herausforderungen?
Wenn generative KI zum Beispiel Mails erzeugt, stellt sich die Frage, ob es dann nicht auch eine KI braucht, um eben diese Mails zu lesen. Wenn wir mit von KI erzeugten Mailinhalten überschüttet werden, wie kriegen wir dann die Flut von Informationen noch bewältigt? Wer will die ganzen Inhalte lesen und verarbeiten? Und bringt uns das dann am Ende wirklich weiter? Am Beispiel des wissenschaftlichen Betriebs wird das auch deutlich: Wenn die Studierenden ihre Studienarbeiten mit generativer KI erzeugen, steht durchaus der nachhaltige Nutzen in Frage. Und die Antwort der Lehrenden ist dann auch generative KI, die überprüft, ob ein Text mit einer KI erzeugt wurde. Da drehen wir uns dann im Kreis. Die Beispiele zeigen zwei Dinge: Einmal, dass KI unsere Prozesse und Arbeitsweisen definitiv verändern wird. Das passiert und damit müssen wir uns auseinandersetzen. Und zweitens müssen wir uns um einen verantwortungsvollen Umgang mit generativer KI kümmern und darum, dass generative KI einen großen belastbaren Nutzen erzeugt.
Das klingt gut. Aber wie kümmern wir uns konkret um einen verantwortungsvollen Umgang mit generativer KI?
Wie das gehen kann, zeigt eine Anwendung von unserer KI-Plattform data[port]ai für das Land Niedersachsen. Richterinnen und Richter müssen in Asylverfahren häufig beurteilen, wie die aktuelle Gefährdungslage der Asylsuchenden zu bewerten ist. Dazu gibt es dann verschiedene Datenquellen im Internet, die sozusagen autorisiert sind. Die KI-Anwendung liefert eine Zusammenfassung und liefert Quellenangaben, die von den Richterinnen und Richtern direkt geprüft werden können. Dabei übersetzt das Sprachmodell die englischen Quellen auch ins Deutsche. Ich denke, dass das schon ein wesentlicher Fortschritt und eine deutliche Arbeitserleichterung für die Richterinnen und Richter ist.
„KI wird definitiv unsere Prozesse und Arbeitsweisen verändern.Wir müssen uns um einen verantwortungsvollen Umgang mit KI kümmern.“
Wenn wir mit generativer KI in ein neues technologisches Zeitalter in der Verwaltung unterwegs sind: Wo stehen wir 2024 gerade?
Ich gehe davon aus, dass wir am Beginn einer Entwicklung stehen. 2023 war die Phase des Ausprobierens. Es wurde experimentiert und Anwendungsmöglichkeiten wurden erprobt. 2024 werden wir sehen, dass zunehmend Sprachmodell-Anwendungen in die produktive Nutzung genommen werden. Dabei werden wir häufig noch isolierte Anwendungen betrachten, die eher als Solitär genutzt werden. Aber es zeichnet sich bereits ab, dass Sprachenmodelle und Fachanwendungen immer mehr integriert werden. Die ersten Modelle haben dafür Schnittstellen geschaffen. Man kann also zum Beispiel einen Chatbot für Wohngeld dann direkt in den Onlineantrag eines Onlinedienstes für Wohngeld einbinden und diesen Antrag auch an das Fachverfahren übergeben. Das ist noch ein bisschen Vision, aber der Antrag erfolgt dann nicht mehr über den Onlinedienst, sondern über das Sprachmodell. Das heißt, das Sprachmodell wird zu einem interaktiven KI-Assistenten und verbindet die verschiedenen Komponenten und Verfahren und stellt so einen besseren, interaktiven und möglicherweise auch stärker automatisierten Service zur Verfügung. Ich vermute, dass wir solche Dinge mittelfristig in fünf Jahren sehen werden.
Bei aller technischen Begeisterung machen sich viele Menschen beim Thema KI auch Sorgen.
Bei allem ist entscheidend, dass KI verantwortungsvoll eingesetzt wird. Wir müssen sicherstellen, dass KI determiniert wahr ist, dass sie bestimmbar ist, dass sie relevant ist, dass sie verlässlich ist, dass Ergebnisse transparent und nachvollziehbar sind und dass sie nur zur Unterstützung von Entscheidungen eingesetzt wird, aber nicht um Entscheidungen zu treffen. Wir müssen rechtliche Anforderungen einhalten und wir müssen natürlich auch unsere ethischen Werte und Prinzipien bei der Nutzung von KI abbilden. Es darf keine Diskriminierung geben.
Da sind also noch viele Fragen zu beantworten. Wie geht man da vor?
Wir haben bei Dataport im Vorstand dazu ein KI-Board eingerichtet, das rechtliche und ethische Fragen zum Einsatz von KI bündelt. Das ist als Daueraufgabe eingerichtet, weil wir davon ausgehen, dass es immer neue Fragen geben wird, die zu klären sind. In jedem Fall möchte ich auch der Verwaltung empfehlen, sich in ihren Organisationen mit diesen Themen zu befassen.