KI-KOLUMNE: Wer hat den Überblick? Das KI-Gateway als zentrale Schaltstelle

Denn es hat sich herumgesprochen. Inzwischen nutzt die eine Kollegin ChatGPT, der Kollege aus dem Bauamt schwört auf Claude, im Sekretariat läuft noch Microsoft Copilot, und jemand reicht ein privates Abo über die Spesen ein. Drei, vier verschiedene Rechnungen, drei, vier verschiedene Anbieter. Auf die Frage des Amtsleiters „Was geben wir eigentlich insgesamt aus, und wer nutzt was?” kann niemand wirklich antworten. Dann kommt der Tag, an dem auffällt, dass jemand in der Eile doch eine komplette Bürgerbeschwerde mit Namen und Adresse in ein Gratis-Tool kopiert hat. Die Datenschutzbeauftragte ist alarmiert. Und plötzlich steht die Frage im Raum: Wie bekommen wir das alles unter ein Dach?

Für genau diese Frage gibt es eine Antwort, über die bisher kaum jemand außerhalb der IT spricht: das Gateway. Schauen wir uns an, was das ist – und für wen es sich lohnt und für wen (noch) nicht.

Eine Tür statt vieler Leitungen 

Ein Gateway ist eine zentrale Stelle, durch die alle KI-Anfragen Ihrer Gemeinde hindurchlaufen, bevor sie nach außen zum jeweiligen Anbieter gehen. Statt dass jede Mitarbeiterin ihre eigene direkte Leitung zu OpenAI, Anthropic oder Google hat – mit eigenem Zugang, eigener Rechnung, eigenen Einstellungen – gibt es eine einzige Tür, durch die alles geht. Wie die Poststelle, durch die der gesamte amtliche Schriftverkehr geht. Oder wie eine zentrale Beschaffung, über die ab einer gewissen Schwelle jede Bestellung läuft. Nicht, um Leute zu kontrollieren, sondern damit überhaupt jemand den Überblick behält.

Und genau das ist der Punkt: Weil alles über eine Stelle läuft, kann diese Stelle vier Dinge tun, die vorher schlicht unmöglich waren. Man kann zählen, begrenzen, prüfen und umleiten.

Zählen – endlich ein Überblick 

Erinnern Sie sich an die offene Frage der letzten Kolumne: „Können Sie überhaupt erkennen, wer am meisten profitiert?” Ohne zentrale Stelle lautet die Antwort fast immer: nein. Jeder Anbieter hat seine eigene Rechnung, sein eigenes Dashboard, und niemand fügt das zusammen. Ein Gateway zählt mit. Es zeigt auf einen Blick, welche Abteilung wie viel nutzt, welche Aufgaben besonders viel verbrauchen und wo das Geld tatsächlich hingeht. Aus dem nebeligen „Wir geben irgendwas für KI aus” wird eine Tabelle, mit der man arbeiten kann. Das ist weniger spektakulär als es klingt, aber es ist die Grundlage für jede vernünftige Entscheidung.

Begrenzen – faire Grenzen statt Bauchgefühl 

Die zweite offene Frage war die nach der Verteilung: Wer bekommt wie viel, und wie vermeidet man Unmut zwischen den Abteilungen? Ein Gateway erlaubt Obergrenzen – pro Person, pro Abteilung, pro Monat. Wie eine Sicherung im Verteilerkasten: Niemand kann versehentlich die ganze Leitung überlasten, und wenn eine Grenze erreicht ist, wird nicht still und heimlich weiter abgerechnet.

Das macht die Verteilung nachvollziehbar und fair. Nicht „wer am lautesten ruft, bekommt am meisten”, sondern klare, vorab vereinbarte Kontingente. Genau die Art von Regelung, die eine Verwaltung sauber begründen kann.

Prüfen: ein Sicherheitsnetz für den Datenschutz 

Hier wird es für Gemeinden besonders interessant. In der Datenschutz-Kolumne war die goldene Regel: keine personenbezogenen Daten in die KI. Das ist richtig – aber es ist eine Regel, die Menschen in der Hektik des Alltags vergessen. Genau wie im Eingangsbeispiel.

Manche Gateways lassen sich so einstellen, dass sie eingehende Anfragen prüfen und auffällige Inhalte – Namen, Adressen, Versicherungsnummern – erkennen, schwärzen oder blockieren, bevor sie das Haus verlassen. Aus „Bitte denken Sie daran, keine Bürgerdaten einzugeben” wird ein technisches Sicherheitsnetz, das im Zweifel eingreift.

Aber – und das ist mir wichtig – ein Netz ist kein Mauer. Eine solche Prüfung fängt vieles ab, aber nicht alles. Sie ersetzt weder die Schulung der Mitarbeiterinnen noch den Auftragsverarbeitungsvertrag mit dem Anbieter, über den wir in der Datenschutz-Kolumne gesprochen haben. Das Gateway ist die zusätzliche Sicherung obendrauf, nicht der Ersatz für gesunden Hausverstand. KI denkt – Sie entscheiden, auch hier.

Umleiten: das Ende des ewigen Hin und Her 

Erinnern Sie sich an das „Pendeln”, das ich beschrieben habe? Mal heißt es „alle sollen das beste Modell nutzen”, mal „nehmen wir doch die billigere Variante, auch wenn sie schlechter ist”. Ein Gateway löst diesen Widerspruch auf, weil Sie sich gar nicht pauschal entscheiden müssen.

Es kann nämlich umleiten: einfache Routineaufgaben automatisch an ein günstiges oder sogar an ein lokales Modell schicken, anspruchsvolle Aufgaben an das starke (und teurere). Die einfache Standardantwort braucht keine Hochleistungs-KI; die Analyse einer 47-seitigen Förderausschreibung vielleicht schon. Statt einer einzigen Entscheidung für alle bekommt jede Aufgabe das passende Werkzeug und das spart oft erheblich, ohne dass die Qualität dort leidet, wo sie zählt.

Weil die Tür für Ihre Leute immer gleich aussieht, können Sie dahinter den Anbieter wechseln, ohne dass irgendjemand etwas umlernen muss. Sie sind nicht mehr an einen einzigen Hersteller gebunden. Wird ein Modell teurer oder ein anderes besser, stellen Sie im Hintergrund um – vorne bleibt alles, wie es war.

Für wen ist das – und für wen nicht?

Wenn in Ihrer Gemeinde drei Leute gelegentlich eine E-Mail formulieren lassen, brauchen Sie kein Gateway. Dann reicht ein ordentliches Team-Abo, fertig. Ein Gateway aufzusetzen und zu betreiben ist IT-Arbeit – nichts, was eine Sachbearbeiterin nebenbei erledigt.

Interessant wird es ab dem Punkt, an dem das Eingangsbeispiel zur Realität wird: viele Nutzerinnen, mehrere Tools nebeneinander, kein Überblick, ein nervöser Datenschutz. Und ganz besonders dann, wenn Sie anfangen zu automatisieren – Abläufe im Hintergrund, KI-Agenten, die mehrere Schritte selbstständig erledigen. Genau dort, wo der Verbrauch (und das Risiko) am stärksten steigt, zahlt sich eine zentrale Schaltstelle am meisten aus.

In der Praxis ist ein Gateway für eine einzelne kleine Gemeinde selten ein Projekt zum Selberbauen. Aber es ist genau das richtige Thema für die IT einer größeren Stadt, für einen IT-Dienstleister – und vor allem für den Gemeindeverband. Eine zentrale Schaltstelle für viele Gemeinden gemeinsam, womöglich kombiniert mit den lokalen Modellen aus einer früheren Kolumne: Das ist derselbe Skaleneffekt wie bei jeder gemeinsamen Beschaffung. Einer baut und betreibt es, viele profitieren.

Gemietet oder selbst betrieben

Es gibt grob zwei Wege. Den fertigen Mietdienst wo man Anbieter wie OpenRouter nutzt. Diese Anbieter bündeln viele Modelle hinter einem Zugang, liefern Abrechnung und Überblick gleich mit, und jemand anderer kümmert sich um den Betrieb. Schnell startklar, dafür läuft der Verkehr über einen externen Dienstleister.

Quelloffene Lösungen wie LiteLLM können Sie auf eigener Infrastruktur installieren. Sie haben so die maximale Kontrolle und diese Lösung ist gut kombinierbar mit lokalen Modellen, sodass sensible Daten Ihr Haus nie verlassen – aber eben mit dem entsprechenden Aufwand und IT-Wissen. Die Logik kennen Sie schon aus der Kostenfrage: bequem und berechenbar gegen aufwendig und maximal kontrolliert.

Was Sie konkret tun können

Machen Sie zuerst den Wildwuchs sichtbar. Welche KI-Tools sind bei Ihnen tatsächlich im Einsatz, wer zahlt sie, und gibt es irgendeine einzige Stelle, an der man die Summe sehen könnte? Wenn die Antwort „nein” lautet, kennen Sie schon die Lücke, die ein Gateway füllt.

Bauen Sie nichts selbst, wenn Sie klein sind. Fragen Sie stattdessen Ihren IT-Dienstleister, Ihren Gemeindeverband oder Ihr Land, ob es eine solche zentrale Lösung gibt – oder geben könnte. Sie müssen das Tor nicht zimmern, Sie müssen nur wissen, dass es existiert, und danach fragen.

Denken Sie es als Gemeinschaftsprojekt. Für Gemeindeverbände und größere Städte ist eine gemeinsame Schaltstelle für viele Gemeinden der naheliegende Weg – wie bei jeder anderen geteilten Infrastruktur.

Nutzen Sie das Umleiten zum Sparen. Einfache Aufgaben auf günstige oder lokale Modelle, schwierige auf die starken. Ein Gateway macht genau das möglich, ohne dass sich Ihre Leute mit der Technik beschäftigen müssen.

Behandeln Sie den Datenschutz als Plus, nicht als Ersatz. Ein Gateway kann ein wertvolles Sicherheitsnetz sein – aber Schulung, Anonymisierung und der richtige Vertrag mit dem Anbieter bleiben trotzdem nötig.

Ein Gateway ist Infrastruktur – im Grunde eine Schalttafel mit Zählern und Sicherungen. Es liefert Ihnen die Schalter: Es zeigt, wer was nutzt, setzt Grenzen, prüft auf Heikles und schickt jede Aufgabe zum passenden Modell. Aber wohin Sie diese Schalter stellen – wer wie viel bekommt, welche Aufgaben an welches Modell gehen, welche Regeln gelten – das bleibt eine Verwaltungs- und am Ende eine politische Entscheidung. Das Gateway ist das Werkzeug und macht Ihre Entscheidungen sichtbar und durchsetzbar. Es trifft sie nicht für Sie.

Kleine Hausaufgabe für diese Woche

Erstellen Sie eine kurze Liste: Welche KI-Werkzeuge werden in Ihrem Bereich gerade wirklich genutzt – auch die privaten, auch die kostenlosen? Wer zahlt jeweils dafür? Und gibt es einen einzigen Ort, an dem jemand die Gesamtnutzung sehen könnte? Sie müssen nichts ändern. Aber diese Liste zeigt Ihnen in fünf Minuten, ob Sie noch im berechenbaren Bereich sind – oder ob bei Ihnen längst ein Dach fehlt.