Die KI ist aus unserer Arbeitswelt kaum noch wegzudenken. Laut einer schnellen Kommunalnet-Umfrage verwenden zwei Drittel der Gemeindebediensteten KI bei der Arbeit:
Dass diese Praxis einem Regelwerk unterworfen wird, war nur eine Frage der Zeit. Seit August ist der AI Act der EU in Kraft – und er gilt auch für unsere Gemeinden. Dabei ist entscheidend, welches KI-System zu welchem Zweck und in welcher Rolle eingesetzt wird.
Was bedeutet das für Gemeinden?
Die wichtigsten Vorgaben die Gemeinden betreffend sind unter anderem die Kennzeichnungspflicht, die KI-Kompetenz des Gemeindepersonals, und die Prüfung von IT-Systemen auf bestimmte Voraussetzungen.
Was muss gekennzeichnet werden?
Im Rahmen der Kennzeichnungspflicht müssen Bilder, Texte und Videos, die mithilfe der KI erstellt wurden, in manchen Fällen gekennzeichnet werden. Wichtig ist das beispielsweise bei Chatbots auf der Gemeindeseite. Nicht gekennzeichnet werden müssen andererseits Texte, für deren Erstellung die KI verwendet wurde, die aber von einem Menschen geprüft bzw. überarbeitet wurden und für die eine Person die Verantwortung übernimmt.
KI-Offenlegung: Wer auf Nummer sicher gehen will, schreibt dazu, dass die KI zur Erstellung von Inhalten verwendet wurde – alternativ gibt es dazu Icons zum Download.
KI-Kompetenz: Wer muss was lernen?
Laut EU AI Act müssen alle Beschäftigten und externen Personen, die im Auftrag der Gemeinde unmittelbar mit KI-Systemen arbeiten, KI-Kompetenz nachweisen. Verantwortlich dafür ist die Gemeinde als Anbieterin oder Betreiberin. Zwar ist keine Überprüfung vorgeschrieben. Eine einmalige Schulung für alle Mitarbeiterinnen und Mitarbeiter bietet aber auch den Vorteil, KI-Betrug vorzubeugen.
Welche Pflicht trifft die Gemeinde bei KI-Systemen?
Bei KI-Systemen im Gemeinde-Einsatz steht die Frage im Vordergrund: Ist die Gemeinde Betreiberin oder Anbieterin? Dementsprechend unterscheiden sich die Pflichten. Besondere Vorsicht ist bei Systemen geboten, die Personendaten verarbeiten. Die nachfolgende Tabelle hilft, sich zu orientieren.
| Rolle | Wann liegt sie vor? | Kommunales Beispiel | Folge |
| Betreiberin | Gemeinde verwendet ein fremdes KI-System für eigene Aufgaben | Eingekaufter Chatbot, Textassistent oder Personalsoftware | Regelfall, Betreiberpflichten und sichere Nutzung prüfen |
| Anbieterin | Die Gemeinde lässt entwickeln oder entwickelt ein System unter eigenem Namen und bringt es in Verkehr oder nimmt es in eigenem Namen in Betrieb (zum Eigengebrauch). | Eignes kommunales Prognose- oder Assistenzsystem | Zusätzliche Anbieterpflichten, früh juristisch und technisch prüfen |
| Beides | Gemeinde entwickelt ein System und nutzt es selbst | Standardtool wird für Leistungsentscheidungen umgebaut | Anbieter- und Betreiberpflichten können kumulieren |
Softwares, die mittels KI die folgenden Daten auswerten, sind grundsätzlich verboten.
Verbotene Praktiken:
- Social Scoring: Bürgerinnen oder Bürger über verschiedene, sachfremde Kontexte hinweg bewerten und daraus ungerechtfertigte oder unverhältnismäßige Nachteile ableiten.
- Manipulation oder Ausnutzung besonderer Schutzbedürftigkeit: täuschende Techniken oder Ausnutzen von Alter, Behinderung oder sozialer Lage, wenn erheblicher Schaden dadurch verursacht wird oder wahrscheinlich ist.
- Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen: ist grundsätzlich verboten, nur in engen medizinischen oder sicherheitsbezogenen Gründen ausgenommen.
- Biometrische Kategorisierung: Rückschluss auf bestimmte besonders geschützte Merkmale wie politische Meinung, Religion, Gewerkschaftszugehörigkeit oder sexuelle Orientierung ist grundsätzlich verboten.
- Gesichtserkennungsdatenbanken: ungezieltes Auslesen von Internetbildern zum Aufbau oder Ausbau solcher Datenbanken ist verboten.
- Individuelle Kriminalitätsprognose allein auf Profiling oder Persönlichkeitsmerkmalen: ist ebenfalls grundsätzlich verboten, die gesetzlichen Ausnahmen sind eng.
Wer kontrolliert?
In Österreich ist die Sanktionsumsetzung im August 2026 noch nicht abgeschlossen. Allerdings sind die unmittelbar geltenden Pflichten des AI-Acts trotzdem zu beachten. Denn: Neben der schieren Verwendung von KI gelten weiterhin Datenschutz, Vergabekontrolle, Rechnungshof-Vorgaben sowie weitere Rechtsgebiete.
Fazit
Für das Gros der österreichischen Gemeinden werden die Anbieter-Pflichten kein Thema sein. Falls Sie als Gemeinde eine KI-betriebene Software – beispielsweise einen Chatbot auf der Gemeindewebseite oder eine Bezahlversion eines KI-Textprogramms (z.B. ChatGPT, Gemini, Claude etc.) – verwenden, so können Betreiberpflichten greifen. Diese sollten sich im Normalfall aber auf die Kennzeichnungspflicht sowie die KI-Kompetenz der Mitarbeiter beschränken.
Letztendlich wird die KI nämlich vor allem eines tun: die Arbeit vereinfachen. Der Leitfaden „Keine Angst vor KI – aber gewusst wie!“ des Österreichischen Gemeindebundes bietet einen kompakten Überblick über die rechtlichen Vorgaben des EU AI Act.
