Herausforderung.

Lässt sich KI in einer Stadtverwaltung einsetzen? Und das sicher und kontrolliert, ohne die Gefahr des Datenabflusses? Die Stadt Herrenberg wollte das scheinbar Unmögliche möglich machen. Doch welche Plattform bündelt Sprachmodelle, Bildgenerierung und städtisches Wissen, ohne mit anderen Diensten im Netz zu kommunizieren? Klar war: Die rund 500 Mitarbeitenden der Stadtverwaltung Herrenberg sollten ihre Fragen schneller beantwortet bekommen, Informationen aus dem Rats-Informationssystem direkt per Chat abrufen können und das Intranet durchsuchen, ohne lange Klickwege in Kauf zu nehmen. Kurz: eine KI-Umgebung, die in der eigenen Infrastruktur läuft, anpassungsfähig ist, sensible Daten dabei immer schützt und den digitalen Alltag der Mitarbeitenden merklich erleichtert.

Unsere Stadtverwaltung sollte und musste eine KI einsetzen, die vor allem sicher und kontrolliert ist – mit echtem Mehrwert für unsere Mitarbeitenden. Dank der Umsetzung durch Bechtle in unserer bestehenden Azure-Umgebung haben wir genau das erreicht und können jetzt noch dazu unsere eigenen Agenten aufbauen. Schritt für Schritt lässt sich durch uns die Plattform und eine sichere KI damit nachhaltig in unserer Verwaltung verankern.

Katja Scheck, Projektleitung MS365, Stadtverwaltung Herrenberg

Lösung.

Die klare technische Basis dafür gab es bereits: die Microsoft Azure Landschaft der Stadtverwaltung Herrenberg. Bechtle erweiterte diese um einen vollständig isolierten KI-Bereich. Kein externer Datenfluss, keine offenen Schnittstellen – ein eigener, geschützter Raum für Modelle, Dienste und Automationen. Bechtle baute die stadteigene KI mithilfe von Microsoft Foundry und Azure Logic Apps modular auf. So entstand zunächst das Kernsystem für alle KI-Funktionen. Darauf aufbauend entwickelte Bechtle unterschiedliche Konnektoren, die strukturierte und unstrukturierte Daten aus dem Intranet und dem Rats-Informationssystem der Stadt Herrenberg automatisiert vereinen.

Sie arbeiten im Hintergrund zu festgelegten Zeiten, prüfen Änderungszeitpunkte, erfassen neu hinzugekommene Inhalte und legen sie in einem eigenen Speicherbereich ab. Die KI erhält die Informationen erst nach genauer Prüfung – technisch sauber getrennt, nachvollziehbar und kontrolliert. Ein weiterer Baustein für die kommunale Sicherheit: rollenbasierte Zugriffe der KI, fein abgestuft und genau definiert, die automatisch und ohne administrativen Aufwand umgesetzt werden. Außerdem können die Mitarbeitenden individuell KI-Agenten erstellen. Sie strukturieren Aufgaben, bereiten Informationen auf oder übernehmen komplexe Aufgaben ganzheitlich. All das geschieht innerhalb der geschützten Stadtinfrastruktur – kontrolliert, nachvollziehbar und offen für künftige Erweiterungen.

Vorteile/Nutzen.

  • DSGVO-konforme Nutzung – damit alle KI-Abfragen innerhalb der EU-Datenschutzgrenzen verarbeitet werden.

  • Zentrale KI-Plattform bündelt sämtliche Use Cases an einem Ort und hält die Umgebung klar strukturiert.

  • Granulare Berechtigungen regeln exakt, was für welche Nutzergruppen freigegeben wird.

  • Verbrauchsbasierte Rechnung für transparente Kosten, da nur die tatsächlich genutzten Azure Dienste berechnet werden.

  • Individuelle KI-Agenten unterstützen Mitarbeitende mit personalisierten Abläufen und lassen sich flexibel erweitern.

  • Interner Betrieb behält alle Daten und Dienste vollständig in der städtischen Infrastruktur.

  • Einfache Erweiterbarkeit für die schnelle Aufnahme neuer KI-Funktionen und Use Cases ohne technische Anpassungen.

  • Robuste Architektur bildet eine stabile Basis für zukünftige digitale Entwicklungen der Verwaltung.