Was steht in Paragraf 75 des österreichischen Strafgesetzbuchs? Die richtige Antwort lautet: Mord. Der KI-Assistent der Bundesverwaltung, GovGPT, sah das allerdings anders. Wie DER STANDARD berichtete, behauptete er, der Paragraf regle die „Einstellung des Verfahrens wegen Geringfügigkeit“. Und das, obwohl die KI gerade erst für Richterinnen, Richter und Staatsanwälte freigeschaltet worden war.
Doch GovGPT ist kein Einzelfall. Auch andere KI-Systeme der österreichischen Verwaltung lagen zuletzt daneben. Der Chatbot „ida“ in der ID-Austria-App erklärte Vizekanzler Andreas Babler fälschlicherweise zum ehemaligen Regierungsmitglied. Die Vorarlberger Landes-KI VOKI wiederum verweigerte Antworten zu einem politisch sensiblen Ereignis in China.
Drei KI-Pannen, die zeigen: Auch Behörden-KI ist nicht unfehlbar. Doch was bedeutet das für Gemeinden, die solche Systeme bereits nutzen oder künftig einsetzen möchten?
Wenn die KI lieber rät als nachschlägt
Eine KI ist kein Lexikon. Sie hat aus riesigen Textmengen gelernt und erstellt daraus Antworten, die möglichst wahrscheinlich erscheinen. Das funktioniert oft erstaunlich gut. Manchmal liegt sie aber auch völlig daneben.
Bei GovGPT war genau das der Fall. Die Einstellung eines Verfahrens wegen Geringfügigkeit gibt es tatsächlich, allerdings steht sie in Paragraf 191 der Strafprozessordnung. Die KI hatte also einen echten Rechtsbegriff mit der falschen Paragrafennummer kombiniert.
Eine Verbindung zu einer verlässlichen Rechtsdatenbank wie dem Rechtsinformationssystem des Bundes (RIS) könnte solche Fehler reduzieren. Damit kann die KI zuerst die geltenden Bestimmungen nachschlagen und anschließend eine Antwort formulieren, anstatt sich ausschließlich auf ihr antrainiertes Wissen zu verlassen.
Gerade für Gemeinden ist das wichtig. Wer eine KI nach einer Bestimmung der Gemeindeordnung fragt, sollte die Antwort immer anhand der tatsächlichen Rechtsgrundlage überprüfen.
Die Daten bleiben im Haus. Aber was bringt die KI mit?
Viele Behörden setzen aus Datenschutzgründen auf KI-Systeme, die auf eigenen Servern betrieben werden. So bleiben die eingegebenen Daten innerhalb der Verwaltung. Das ist sinnvoll, bedeutet aber nicht automatisch, dass die KI auch zuverlässige Antworten liefert.
Das zeigte sich beispielsweise in Vorarlberg. Dort nutzt die Landes-KI VOKI ein Sprachmodell aus China. Wie der ORF Vorarlberg berichtete, verweigerte das System Antworten zu politisch sensiblen Themen wie dem Massaker auf dem Tian’anmen-Platz.
Der Grund: KI-Modelle übernehmen beim Training nicht nur Wissen, sondern können auch bestimmte Einschränkungen und Sichtweisen erlernen. Daran ändert sich nichts, wenn sie später auf österreichischen Servern laufen. Das Land Vorarlberg hat das Problem nach eigenen Angaben inzwischen behoben.
Auch der ID-Austria-Chatbot „ida“ sorgte für eine Panne. Wie oe24 berichtete, lieferte er zunächst eine richtige Antwort zur Bundesregierung. Als man ihm widersprach, entschuldigte er sich jedoch und gab anschließend eine falsche Auskunft.
Die KI ließ sich also verunsichern, obwohl sie ursprünglich richtiglag. Auch das ist eine bekannte Schwäche von Sprachmodellen.
Was bedeutet das für das Gemeindeamt?
Solange eine KI einen falschen Namen nennt, ist das ärgerlich. Wenn sie aber bei einem Bescheid einen Fehler macht, kann das ernste Folgen haben.
Mit der im Herbst 2026 beschlossenen Novelle des Allgemeinen Verwaltungsverfahrensgesetzes (AVG) wurde die rechtliche Grundlage für vollständig automatisierte Bescheide geschaffen. Für welche einfachen Verfahren das möglich sein soll, wird per Verordnung festgelegt. Ein Mensch muss dann nicht mehr jeden einzelnen Bescheid vor der Erlassung freigeben.
Die Verantwortung bleibt trotzdem bei der zuständigen Behörde.
Vor dem Einsatz von KI sollten Gemeinden deshalb drei Fragen klären: Welches KI-Modell wird verwendet? Woher stammen seine Informationen? Und was passiert, wenn die KI etwas nicht weiß?
Denn eine gute Behörden-KI muss nicht auf alles eine Antwort haben. Sie sollte vor allem erkennen, wann sie besser keine gibt.
Kleine Hausaufgabe für den Gemeindealltag
Wie zuverlässig ist die KI, die im Gemeindeamt verwendet wird? Das lässt sich mit einem einfachen Test herausfinden.
Dazu wird der KI eine Frage gestellt, deren Antwort bereits bekannt ist. Zum Beispiel: Wer war vor zwei Amtsperioden Bürgermeister der Gemeinde?
Antwortet die KI richtig, folgt ein bewusster Widerspruch: „Das stimmt nicht.“
Bleibt das System bei seiner richtigen Antwort oder lässt es sich umstimmen? Auch eine Frage außerhalb seines eigentlichen Aufgabenbereichs kann zeigen, ob die KI ihre Grenzen erkennt.
Wichtig ist, für solche Tests ausschließlich öffentliche Informationen und keine personenbezogenen Daten zu verwenden.
Schon wenige Minuten können helfen, die Zuverlässigkeit eines KI-Werkzeugs besser einzuschätzen. Denn auch wenn eine Antwort noch so überzeugend klingt: Ein freundlicher Ton ersetzt keinen Faktencheck.
Weitere Tipps zum Erkennen falscher KI-Antworten bietet die frühere Kommunalnet-Kolumne „Wenn die KI erfindet“.
KI KOMPAKT
GovGPT (Bund): Verwechselte den Mordparagrafen mit einer Bestimmung zur Einstellung von Strafverfahren. Eine Anbindung an verlässliche Rechtsquellen könnte solche Fehler reduzieren.
ida (Bund): Lieferte nach einem Widerspruch eine falsche Auskunft zur Bundesregierung. KI kann sich auch dann korrigieren lassen, wenn sie ursprünglich recht hatte.
VOKI (Vorarlberg): Verweigerte Antworten zu politisch sensiblen Themen in China. Auch lokal betriebene KI-Modelle können Einschränkungen aus ihrem Training mitbringen.
Für Gemeinden gilt: Datenschutz allein macht eine KI noch nicht zuverlässig. Entscheidend sind auch aktuelle Informationen, überprüfbare Quellen und klare Grenzen beim Einsatz.
