Die Freie und Hansestadt Hamburg hat das KI-Pilotprojekt „LLMoin“ erfolgreich abgeschlossen und setzt den neuen KI-Assistenten nun produktiv ein. Die Anwendung soll Mitarbeiter*innen der Verwaltung in ihrer täglichen Arbeit unterstützen, etwa bei der Texterstellung und bei Rechercheaufgaben.
LLMoin basiert auf einem Large Language Model (LLM) und läuft auf der GenAI-Plattform von data[port]ai, der KI-Abteilung von Dataport. Das Projekt wurde aus dem Amt für IT und Digitalisierung heraus initiiert und als innovativer KI-Pilot im Rahmen des InnoTecHH Fonds mit initialer Unterstützung durch Capgemini durch Dataport weiterentwickelt und umgesetzt.
„Als digitaler Verwaltungsassistent unterstützt LLMoin Mitarbeitende in der Hamburger Verwaltung bei der Generierung, Zusammenfassung und Auswertung von Texten und Dokumenten – und entlastet sie so bei ihrer täglichen Arbeit. Kurzfristig wird die Lösung auch anderen Verwaltungen zur Nachnutzung zur Verfügung stehen.“, sagt Torsten Koß, Vorstand Digitale Transformation bei Dataport.
LLMoin wurde in mehreren Hamburger Behörden getestet und bietet vier zentrale Funktionen:
- Textzusammenfassung: Hochgeladene Dokumente oder Inhalte werden nach Wunsch zusammengefasst, wobei Länge und Sprachstil flexibel wählbar sind.
- Recherche-Assistenz: LLMoin extrahiert gezielt Informationen aus verschiedenen Quellen und gibt sie in natürlicher Sprache mit Quellenverweis wieder.
- Textgenerierung: Aus Stichworten oder Vorgaben wie der persönlichen Anrede und der gewünschten Textart erstellt die Anwendung vollständige Texte, wie E-Mails oder Beschlussvorlagen.
- Expertenmodus für freies Prompting: Über eine offene Chat-Oberfläche können Mitarbeitende direkt mit dem Sprachmodell interagieren und Antworten bzw. Ergebnisse erhalten.
Der Roll-out von LLMoin erfolgt schrittweise, beginnend mit der Senatskanzlei. Weitere Behörden folgen nach agiler Vorgehensweise. Ziel ist es, durch die Nutzung des KI-Assistenten Effizienzgewinne zu realisieren und Verwaltungsmitarbeiter*innen zu entlasten. Zudem wird ein Lern- und Erfahrungsraum zu einer wichtigen Zukunftstechnologie für die Beschäftigten geschaffen. Hamburg plant, die Anwendung langfristig weiter auszubauen, um die Potenziale der Technologie voll auszuschöpfen.