MUUUH! x Stadt Osnabrück:
Hier kennt Toni die Antwort –
auch um 2 Uhr nachts
Wie die Stadt Osnabrück gemeinsam mit MUUUH! eine KI-Bürgerassistentin entwickelt hat, die Verwaltung neu denkt und wirklich ankommt.
Auf einen Blick
Verwaltungen und Bürgerämter haben nicht immer den besten Ruf: lange Wartezeiten, komplexe Formulare und Öffnungszeiten, die oft nicht zum Alltag der Bürger:innen passen. Dass es auch anders geht, zeigt Osnabrück: Für die Stadt hat MUUUH! eine KI-Bürgerassistentin entwickelt, die Fragen beantwortet, Termine bucht und durch das Serviceportal navigiert. Das hilft nicht nur den Bürger:innen, sondern entlastet die Mitarbeitenden des Bürgerservices spürbar.
KI-Assistenz
KI-gestützter Chat- und Phone-Agent „Toni" für den Bürgerservice der Stadt Osnabrück.
Technik
Large Language Model + geprüfte Wissensbasis der Stadt (Retrieval-Augmented Generation), Sprachplattform ElevenLabs.
Multilingual
7 Sprachen – Deutsch, Englisch, Spanisch, Türkisch, Ukrainisch, Russisch, Arabisch.
Ergebnis
4.200+ Konversationen pro Monat, 80 % First-Contact-Lösungsquote und CSAT von 4 von 5 im Chat.
Live seit Mai 2026
24/7 erreichbar – per Chat und Telefon.
Was ist Toni?
Toni ist ein KI-gestützter Chat- und Phone-Agent für den Bürgerservice der Stadt Osnabrück. Im Kern arbeitet Toni mit einem Large Language Model (LLM), also einem KI-Sprachmodell, das frei formulierte Fragen versteht, und greift dabei auf die geprüfte Wissensbasis der Stadtverwaltung zu. Statt starrer Frage-Antwort-Paare formuliert Toni ihre Antworten in natürlicher Sprache und führt Bürger:innen aktiv durch die passenden Prozesse.
Die Ausgangslage
Hohe Nachfrage, volle Auslastung
Etwa 100 Anrufe gehen jeden Werktag beim Bürgeramt ein. Drei Viertel davon betreffen allgemeine Anfragen, etwa zu Öffnungszeiten, Statusabfragen oder zur Terminvereinbarung. Innerhalb der Servicezeiten erhalten Anrufende kompetente Auskunft. Außerhalb dieser Zeiten sowie am Wochenende entstehen jedoch Wartezeiten. Mitunter verlängerten zudem Sprachbarrieren den Weg zur Lösung des Anliegens. Für die Bürger:innen führte dies oftmals zu Frust, für die Mitarbeitenden zu einem konstant hohen Anrufvolumen und entsprechend wenig Kapazität für jene Fälle, die tatsächlich individuelle Beratung erfordern.
Wie viele Städte und Kommunen hatte die Stadt Osnabrück bereits einen Chatbot im Einsatz. Doch dieser war regelbasiert: Er musste jede Frage exakt einem hinterlegten Muster zuordnen, konnte viele Anliegen nicht richtig erkennen und musste ständig nachtrainiert werden. Mit dem neu entwickelten KI-Assistenten konnte die Stadt Osnabrück genau diese Lücke schließen, denn Toni versteht auch frei formulierte Anliegen und zieht seine Antworten aus der Wissensbasis, statt auf starre Regeln angewiesen zu sein. So entsteht ein Service, der wirklich funktioniert. Per Stimme oder Chat, in der Muttersprache und genau dann, wenn es passt.
Wie funktioniert Toni?
Toni kombiniert ein Large Language Model mit der geprüften Wissensbasis der Stadt Osnabrück – ein Verfahren, das als Retrieval-Augmented Generation (RAG) bekannt ist. Der Ablauf:
- Intent Recognition (Anliegenerkennung): Das LLM identifiziert das Anliegen semantisch, unabhängig von Formulierung oder Sprache, und stellt bei Bedarf gezielte Rückfragen, um das Anliegen einwandfrei zu erfassen.
- Retrieval und Antwortgenerierung: Lässt sich das Anliegen anhand der im Serviceportal hinterlegten Inhalte klären, extrahiert Toni die relevanten Informationen und generiert daraus eine Antwort in natürlicher Sprache. Im Chat bietet Toni zusätzlich an, direkt zur entsprechenden Seite im Serviceportal zu navigieren, am Telefon erfolgt ein sprachlicher Verweis auf das Serviceportal.
- Terminbuchung: Betrifft das Anliegen einen Termin, initiiert Toni eigenständig die passende Terminbuchung im Bürgeramt und stellt gezielte Rückfragen, um die benötigten Angaben für den Termin aufzunehmen.
- Übergabe an den Rückrufservice: Reicht die verfügbare Wissensbasis nicht aus oder bestehen weiterführende Fragen, nimmt Toni einen Rückrufwunsch auf und übergibt den Vorgang an einen menschlichen Mitarbeiter.
Drei Prinzipien haben die Umsetzung geleitet:
Datenqualität bestimmt Antwortqualität.
Ein KI-Assistent ist nur so gut wie das Wissen, das ihm zur Verfügung steht. Deshalb haben wir die Wissensbasis gemeinsam mit der Stadt strukturiert, qualifiziert und laufend aktuell gehalten – eine aufwendige Präzisionsarbeit, die direkt über die Verlässlichkeit der Antworten entscheidet.
Verlässlichkeit vor Vermutung.
Findet Toni keine belastbare Antwort in der Wissensbasis, rät sie nicht, sondern leitet den Fall als Rückrufwunsch oder Ticket an einen menschlichen Mitarbeitenden weiter. So bleiben die Antworten verbindlich – ein zentrales Prinzip im Verwaltungskontext.
Anwenderzentrierung von der ersten Iteration an.
Leitgröße war durchgängig der tatsächliche Bedarf der Nutzenden. Noch vor dem Go-Live durchlief der Assistent ein mehrstufiges Testprogramm, von Pre-Tests über Funktions- und Qualitätstests bis zur finalen Abnahme, in dessen Verlauf gezielt Bürger:innen und Fachabteilungen einbezogen wurden. Ein iteratives Qualitätsmanagement, das aus der realen Performance lernt und den Service konsequent verbessert.
Als Conversational-AI-Plattform sowie für Sprachverstehen und Sprachausgabe setzen wir mit ElevenLabs bewusst auf eine etablierte, marktführende Plattform statt auf eine Eigenentwicklung. Das ermöglicht Sprachqualität auf Spitzenniveau und sorgt dafür, dass Toni von den fortlaufenden Innovationen der zugrunde liegenden KI-Plattform profitiert.
Das Ziel
Eine KI-Bürgerassistentin, die wirklich weiterhilft
Um den Bürgerservice zu modernisieren und für möglichst alle Bürger:innen zugänglich zu machen, wurde der bestehende Bot Toni abgelöst und als moderner KI-gestützter Chat- und Phone-Agent vollständig neu aufgesetzt. Die neue Toni sollte:
- Fragen zu allen Verwaltungsleistungen zuverlässig auf Basis echter Wissensdokumente beantworten – ohne starre Frage-Antwort-Paare.
- Im Serviceportal aktiv navigieren: nicht nur Antworten geben, sondern die passenden Seiten aufrufen, relevante Inhalte anzeigen und Bürger:innen Schritt für Schritt durch Prozesse führen.
- Termine im Bürgeramt vereinbaren und aktiv auf bestehende Online-Dienste hinweisen, damit Self-Service stärker genutzt und unnötige Wege vermieden werden.
- Anrufe automatisiert bearbeiten und nur die Fälle weitergeben, die wirklich menschliche Klärung brauchen.
- In sieben Sprachen funktionieren, inklusive automatischer Spracherkennung und nahtlosem Sprachwechsel mitten im Gespräch.
- per Text- oder Spracheingabe im Serviceportal der Stadt sowie in der Telefonhotline des Bürgeramts erreichbar sein.
Unser Vorgehen
Von der Ausschreibung zum GoLive
Nach dem gewonnenen Pitch starteten wir mit einer intensiven Workshop-Phase, um Detailanforderungen und Erwartungen der Stadt Osnabrück präzise aufzunehmen. Daraus entstanden:
Dialogkonzept
Ein Dialogkonzept, das beschreibt, wie Toni mit Bürger:innen spricht.
Datenqualität
Intensive Gespräche über Datenaktualität und Qualität, denn eine KI-Assistentin ist nur so gut wie ihr Wissen.
Reporting-Konzept
Welche Kennzahlen sind wichtig, wie werden sie gemessen, bereitgestellt und visualisiert?
Technische Anbindung
Die Anbindung an die Telefonanlage der Stadtverwaltung sowie die Integration der umfangreichen Wissensbasis (FAQ- und Fachdokumente).
Toni's Persönlichkeit
Eine Persona für Toni – Sprache, Ton, Haltung: verbindlich, klar, zugänglich.
Besondere Herausforderungen
Die richtige Stimme finden
Für jede der sieben Sprachen galt es, eine passende, natürlich klingende Stimme auszuwählen, denn Toni soll auf Arabisch genauso überzeugend klingen wie auf Deutsch.
Das richtige LLM auswählen
Leistung, Datenschutz, Kosten und Eignung für den Verwaltungskontext mussten sorgfältig abgewogen werden, wobei Verlässlichkeit zählte. Toni soll lieber weiterleiten als raten.
Wissensbasis in Breite und Tiefe
Die große Zahl an Wissensdokumenten zu strukturieren, zu qualifizieren und Toni zugänglich zu machen, war in Zusammenarbeit mit der Stadt aufwendige Präzisionsarbeit.
Enge Abstimmungszyklen, frühzeitige gemeinsame Entscheidungen und ein klares geteiltes Verständnis von Qualität sorgten dafür, dass der GoLive-Termin im Mai 2026 ohne eine einzige Verschiebung eingehalten wurde.
Das Ergebnis
Bürokratieabbau, der ankommt
Bereits in der ersten Phase nach dem Go-Live im Mai 2026 liefert Toni überzeugende Kennzahlen:
Toni ist an der Bürgeramt-Hotline und im Online-Portal rund um die Uhr im Einsatz, 24 Stunden am Tag, sieben Tage die Woche. Rund 80 Prozent aller Anrufe werden dabei eigenständig durch Toni gelöst oder bereits im Vorfeld durch Self-Service-Angebote beziehungsweise Rückrufvereinbarungen vermieden. Verbleibende Anliegen profitieren zudem von einer höheren Bearbeitungseffizienz, da die relevanten Informationen bereits vorliegen. Statt endlosem Warten erhalten Bürger:innen eine transparente Ansage zur Wartezeit sowie einen proaktiven Rückruf, häufig schneller als erwartet. So wissen sie jederzeit, woran sie sind. Für die Mitarbeitenden bedeutet dies eine spürbare Entlastung im Tagesgeschäft.
Das ist für die Bürgerinnen und Bürger ein Service, der rund um die Uhr funktioniert und den Mitarbeitenden gleichzeitig Zeit verschafft, etwa für Vor-Ort-Termine mit Bürgerinnen und Bürgern.
Katharina Pötter
Oberbürgermeisterin der Stadt Osnabrück
Was Toni für Osnabrück konkret bedeutet
Entlastung der Mitarbeitenden:
Mehr Zeit für den persönlichen Bürgerdialog.
Teilhabe durch Mehrsprachigkeit:
Die sieben Sprachen erhöhen direkt die Teilhabe nicht-deutschsprachiger Bürger:innen. Denn Verwaltung ist nur dann zugänglich, wenn sie verstanden wird.
Qualität, die nicht stehen bleibt:
Ständige Qualitätskontrollen zeigen der Stadt, wo Toni noch besser werden kann.
Bürokratieabbau, der ankommt:
Verwaltung wird nicht auf dem Papier schlanker, sondern im Alltag der Menschen.
Barrierefreiheit als Designprinzip:
Ob per Tastatur oder Stimme, im Online-Portal oder am Telefon – Toni ist für alle erreichbar.
Klingt interessant? Lassen Sie uns sprechen.
Unser Fazit
Lässt sich das auf andere Kommunen übertragen?
Ja. Mit der Kombination aus Chat, Voice, Telefon, aktiver Portalnavigation, Terminbuchung und echter Mehrsprachigkeit gehört Osnabrück zu den Vorreitern der Verwaltungsdigitalisierung. Für andere Städte und Gemeinden braucht es vor allem zwei Dinge: eine gepflegte, qualifizierte Wissensbasis und die Anbindung an die bestehende Telefonanlage. Den Rest – Dialogkonzept, Persona, LLM-Auswahl, Stimmen, Reporting und Qualitätssicherung – übernehmen wir. Die Erfahrungen aus dem Osnabrücker Projekt fließen direkt in die nächsten ein.
Toni ist live, aber nicht fertig. Geplant sind die Anbindung weiterer Fachverfahren, die Erweiterung der Themen, die Toni eigenständig klärt, und der Ausbau der Qualitätsanalyse.
So geht Verwaltung 2026
Vorreiter zu sein bedeutet nicht, der Lauteste zu sein. Es bedeutet, als Erste zu liefern: im echten Betrieb, mit echten Zahlen, für echte Menschen. Osnabrück hat das getan. Mit Toni hat die Stadt Osnabrück einen Schritt gewagt, den viele erst noch planen: KI nicht als Experiment, sondern als festen Bestandteil des Bürgerservice. Zugänglich für alle, rund um die Uhr, in der Sprache, die jede Person selbst mitbringt.
Was andere Städte und Kommunen heute noch diskutieren, ist in Osnabrück bereits Alltag.
Sie möchten wissen, was ein KI-Bürgerassistent für Ihre Stadt oder Gemeinde leisten kann? Wir zeigen Ihnen, wie Toni funktioniert – und was daraus für Ihre Verwaltung werden kann.