In Osnabrück kennt Toni die Antwort – auch sonntags um 2 Uhr nachts
Wie MUUUH! gemeinsam mit der Stadt Osnabrück einen KI-Bürgerassistenten entwickelt hat, der Verwaltung neu denkt und wirklich ankommt.
Auf einen Blick
- Was: KI-gestützter Chat- und Phone-Agent „Toni" für den Bürgerservice der Stadt Osnabrück
- Technik: Large Language Model + geprüfte Wissensbasis der Stadt (Retrieval-Augmented Generation), Sprachplattform ElevenLabs
- Sprachen: 7 (Deutsch, Englisch, Spanisch, Türkisch, Ukrainisch, Russisch, Arabisch)
- Ergebnis: 550+ Gespräche, 87 % eigenständige Klärung, > 27 Std./Woche entlastete Mitarbeitende
- Live seit Mai 2026, 24/7
Verwaltungen und Bürgerämter haben nicht immer den besten Ruf: lange Wartezeiten, komplexe Formulare und Öffnungszeiten, die oft nicht zum Alltag der Bürger:innen passen. Dass es auch anders geht, zeigt Osnabrück: Für die Stadt hat MUUUH! einen KI-Bürgerassistenten entwickelt, der Fragen beantwortet, Termine bucht und durch das Serviceportal navigiert. Das hilft nicht nur den Bürger:innen, sondern entlastet die Mitarbeitenden des Bürgerservices spürbar.
Was ist Toni?
Toni ist ein KI-gestützter Chat- und Phone-Agent für den Bürgerservice der Stadt Osnabrück. Im Kern arbeitet Toni mit einem Large Language Model (LLM), also einem KI-Sprachmodell, das frei formulierte Fragen versteht, und greift dabei auf die geprüfte Wissensbasis der Stadtverwaltung zu. Statt starrer Frage-Antwort-Paare formuliert Toni seine Antworten in natürlicher Sprache und führt Bürger:innen aktiv durch die passenden Prozesse.
Die Ausgangslage: Eine Hotline am Limit
Mehr als 100 Anrufe gehen jeden Tag beim Bürgeramt ein. Drei Viertel davon betreffen allgemeine Anfragen, etwa zu Öffnungszeiten, Statusabfragen oder zur Terminvereinbarung. Wer tagsüber anruft und durchkommt, bekommt kompetente Hilfe. Wer abends oder am Wochenende anruft oder kein Deutsch spricht, muss warten. Für Bürger:innen bedeutet das Frust, für die Mitarbeitenden ein hohes Anrufaufkommen und wenig Zeit für die wirklich klärungsbedürftigen Fälle.
Wie viele Städte und Kommunen hatte die Stadt Osnabrück bereits einen Chatbot im Einsatz. Doch dieser war regelbasiert: Er musste jede Frage exakt einem hinterlegten Muster zuordnen, konnte viele Anliegen nicht richtig erkennen und musste ständig nachtrainiert werden. Mit dem neu entwickelten KI-Assistenten konnte die Stadt Osnabrück genau diese Lücke schließen, denn Toni versteht auch frei formulierte Anliegen und zieht seine Antworten aus der Wissensbasis, statt auf starre Regeln angewiesen zu sein. So entsteht ein Service, der wirklich funktioniert. Per Stimme oder Chat, in der Muttersprache und genau dann, wenn es passt.
Wie funktioniert Toni?
Toni kombiniert ein Large Language Model mit der geprüften Wissensbasis der Stadt Osnabrück – ein Verfahren, das als Retrieval-Augmented Generation (RAG) bekannt ist. Der Ablauf:
- Verstehen: Das LLM erfasst das Anliegen, auch wenn es frei formuliert oder in einer anderen als in deutscher Sprache gestellt ist.
- Nachschlagen: Toni sucht in den Inhalten der Dienstleistungsseiten im Serviceportal die passenden Informationen heraus.
- Antworten: Aus diesen Inhalten formuliert Toni eine Antwort in natürlicher Sprache, ruft im Serviceportal die richtige Seite auf oder startet eine Terminbuchung.
Drei Prinzipien haben die Umsetzung geleitet:
Datenqualität bestimmt Antwortqualität.
Ein KI-Assistent ist nur so gut wie das Wissen, das ihm zur Verfügung steht. Deshalb haben wir die Wissensbasis gemeinsam mit der Stadt strukturiert, qualifiziert und laufend aktuell gehalten – eine aufwendige Präzisionsarbeit, die direkt über die Verlässlichkeit der Antworten entscheidet.
Verlässlichkeit vor Vermutung.
Findet Toni keine belastbare Antwort in der Wissensbasis, rät er nicht, sondern leitet den Fall als Rückrufwunsch oder Ticket an einen menschlichen Mitarbeiter weiter. So bleiben die Antworten verbindlich – ein zentrales Prinzip im Verwaltungskontext.
Datenschutz als Auswahlkriterium.
Bei der Wahl des LLM gaben Datenschutz und die Verarbeitung personenbezogener Daten im behördlichen Rahmen den Ausschlag, nicht allein die reine Leistung.
Als Conversational-AI-Plattform sowie für Sprachverstehen und Sprachausgabe setzen wir mit ElevenLabs bewusst auf eine etablierte, marktführende Plattform statt auf eine Eigenentwicklung. Das ermöglicht Sprachqualität auf Spitzenniveau und sorgt dafür, dass Toni von den fortlaufenden Innovationen der zugrunde liegenden KI-Plattform profitiert.
Das Ziel: Ein KI-Bürgerassistent, der wirklich weiterhilft
Um den Bürgerservice zu modernisieren und für möglichst alle Bürger:innen zugänglich zu machen, sollte der bereits vorhandene Bot Toni zu einem modernen KI-gestützten Chat- und Phone-Agent weiterentwickelt werden. Konkret sollte Toni:
- Fragen zu allen Verwaltungsleistungen zuverlässig auf Basis echter Wissensdokumente beantworten – ohne starre Frage-Antwort-Paare.
- Im Serviceportal aktiv navigieren: nicht nur Antworten geben, sondern die passenden Seiten aufrufen, relevante Inhalte anzeigen und Bürger:innen Schritt für Schritt durch Prozesse führen.
- Termine im Bürgeramt vereinbaren und aktiv auf bestehende Online-Dienste hinweisen, damit Self-Service stärker genutzt und unnötige Wege vermieden werden.
- Anrufe automatisiert bearbeiten und nur die Fälle weitergeben, die wirklich menschliche Klärung brauchen.
- In sieben Sprachen funktionieren, inklusive automatischer Spracherkennung und nahtlosem Sprachwechsel mitten im Gespräch.
- Per Chat und Telefon auf der Website der Stadt wie auch als Telefonhotline des Bürgeramts erreichbar sein.
Unser Vorgehen: Von der Ausschreibung zum GoLive
Nach dem gewonnenen Pitch starteten wir mit einer intensiven Workshop-Phase, um Detailanforderungen und Erwartungen der Stadt Osnabrück präzise aufzunehmen. Daraus entstanden:
- Ein Dialogkonzept, das beschreibt, wie Toni mit Bürger:innen spricht.
- Eine Persona für Toni – Sprache, Ton, Haltung: verbindlich, klar, zugänglich.
- Die Anbindung an die Telefonanlage der Stadtverwaltung sowie die Integration der umfangreichen Wissensbasis (FAQ- und Fachdokumente).
- Ein Reporting-Konzept: Welche Kennzahlen sind wichtig, wie werden sie gemessen, bereitgestellt und visualisiert?
- Intensive Gespräche über Datenaktualität und Qualität, denn ein KI-Assistent ist nur so gut wie sein Wissen.
Besondere Herausforderungen
Die richtige Stimme finden
Für jede der sieben Sprachen galt es, eine passende, natürlich klingende Stimme auszuwählen, denn Toni soll auf Arabisch genauso überzeugend klingen wie auf Deutsch.
Das richtige LLM auswählen
Leistung, Datenschutz, Kosten und Eignung für den Verwaltungskontext mussten sorgfältig abgewogen werden, wobei Verlässlichkeit zählte. Toni soll lieber weiterleiten als raten.
Wissensbasis in Breite und Tiefe
Die große Zahl an Wissensdokumenten zu strukturieren, zu qualifizieren und Toni zugänglich zu machen, war in Zusammenarbeit mit der Stadt aufwendige Präzisionsarbeit.
Enge Abstimmungszyklen, frühzeitige gemeinsame Entscheidungen und ein klares geteiltes Verständnis von Qualität sorgten dafür, dass der GoLive-Termin im Mai 2026 ohne eine einzige Verschiebung eingehalten wurde.
Das Ergebnis: Bürokratieabbau, der ankommt
Schon in der ersten Phase nach dem GoLive im Mai 2026 liefert Toni beeindruckende Zahlen:
Toni ist an der Bürgeramt-Hotline und im Online-Portal 24 Stunden am Tag, sieben Tage die Woche im Einsatz und klärt 87 Prozent der Anliegen komplett selbstständig. Für die Bürger:innen bedeutet das eine schnelle, unkomplizierte Lösung. Und für die Mitarbeitenden bringt Toni eine deutliche Entlastung: Mehr als 27 Stunden pro Woche werden frei für den persönlichen Bürgerdialog und die komplexeren Anliegen.
Das ist für die Bürgerinnen und Bürger ein Service, der rund um die Uhr funktioniert und den Mitarbeitenden gleichzeitig Zeit verschafft, etwa für Vor-Ort-Termine mit Bürgerinnen und Bürgern.
Katharina Pötter
Oberbürgermeisterin der Stadt Osnabrück
Was Toni für Osnabrück konkret bedeutet
- Entlastung der Mitarbeitenden: mehr Zeit für den persönlichen Bürgerdialog.
- Bürokratieabbau, der ankommt: Verwaltung wird nicht auf dem Papier schlanker, sondern im Alltag der Menschen.
- Teilhabe durch Mehrsprachigkeit: Die sieben Sprachen erhöhen direkt die Teilhabe nicht-deutschsprachiger Bürger:innen. Denn Verwaltung ist nur dann zugänglich, wenn sie verstanden wird.
- Barrierefreiheit als Designprinzip: Ob per Tastatur oder Stimme, im Online-Portal oder am Telefon – Toni ist für alle erreichbar.
- Qualität, die nicht stehen bleibt: Ständige Qualitätskontrollen zeigen der Stadt, wo Toni noch besser werden kann.
Lässt sich das auf andere Kommunen übertragen?
Ja. Mit der Kombination aus Chat, Voice, Telefon, aktiver Portalnavigation, Terminbuchung und echter Mehrsprachigkeit gehört Osnabrück zu den Vorreitern der Verwaltungsdigitalisierung. Für andere Städte und Gemeinden braucht es vor allem zwei Dinge: eine gepflegte, qualifizierte Wissensbasis und die Anbindung an die bestehende Telefonanlage. Den Rest – Dialogkonzept, Persona, LLM-Auswahl, Stimmen, Reporting und Qualitätssicherung – übernehmen wir. Die Erfahrungen aus dem Osnabrücker Projekt fließen direkt in die nächsten ein.
Toni ist live, aber nicht fertig. Geplant sind die Anbindung weiterer Fachverfahren, die Erweiterung der Themen, die Toni eigenständig klärt, und der Ausbau der Qualitätsanalyse.
So geht Verwaltung 2026
Vorreiter zu sein bedeutet nicht, der Lauteste zu sein. Es bedeutet, als Erste zu liefern: im echten Betrieb, mit echten Zahlen, für echte Menschen. Osnabrück hat das getan. Mit Toni hat die Stadt Osnabrück einen Schritt gewagt, den viele erst noch planen: KI nicht als Experiment, sondern als festen Bestandteil des Bürgerservice. Zugänglich für alle, rund um die Uhr, in der Sprache, die jede Person selbst mitbringt.
Was andere Städte und Kommunen heute noch diskutieren, ist in Osnabrück bereits Alltag.
Sie möchten wissen, was ein KI-Bürgerassistent für Ihre Stadt oder Gemeinde leisten kann? Wir zeigen Ihnen, wie Toni funktioniert und was daraus für Ihre Verwaltung werden kann.
Lassen Sie uns sprechen.
Häufige Fragen (FAQ)