KI-KOLUMNE: Das Terminator-Szenario – Kommt Skynet?

Beginnt hier der Aufstand der Maschinen?

Was ist tatsächlich passiert? Anfang Juni hat Anthropic, einer der weltweit führenden KI-Anbieter, einen Blogbeitrag mit dem Titel „When AI builds itself” („Wenn KI sich selbst baut”) veröffentlicht. Die Autoren – Mitgründer Jack Clark und Marina Favaro, die das hauseigene Forschungsinstitut leitet – warnen vor einem Szenario, das sie „rekursive Selbstoptimierung” nennen: KI-Systeme, die irgendwann ihre eigenen Nachfolger entwerfen, programmieren und trainieren, ohne dass ein Mensch jeden Schritt steuert. Vereinfacht gesagt: eine KI, die sich selbst verbessert.

Bemerkenswert ist, womit Anthropic das untermauert – mit Zahlen aus dem eigenen Haus. Stand heuer im Mai stammen rund 80 Prozent des Programmcodes, den das Unternehmen in seine eigene Software einbaut, bereits von der KI Claude. Anfang 2025 lag dieser Anteil noch im niedrigen einstelligen Prozentbereich. Clark sagt offen, der Wert könnte in wenigen Jahren auf 100 Prozent steigen. Die KI schreibt also schon heute einen Großteil der KI.

Und Skynet? Der Sprung zu Terminator und Skynet liegt nahe – und die Entwickler wissen das selbst. Auf den Science-Fiction-Vergleich angesprochen, sagte Clark sinngemäß: Ja, wir schauen hier auch Science-Fiction, das ist uns nicht entgangen. Die eigentliche Sorge ist allerdings nüchterner als ein Hollywood-Drehbuch. Es geht nicht um böswillige Roboter mit roten Augen. Es geht um Kontrolle: Wenn Systeme sich selbst bauen und schneller arbeiten, als Menschen sie überprüfen können, wird die menschliche Kontrolle zum Engpass – und könnte irgendwann ganz verloren gehen. Anthropic betont dabei ausdrücklich: Dieser Punkt ist noch nicht erreicht, und er ist auch nicht zwangsläufig. Aber er könnte früher kommen, als die Gesellschaft darauf vorbereitet ist.

Die vorgeschlagene Lösung klingt nach Kaltem Krieg: ein weltweit abgestimmtes Abkommen, das die Entwicklung verlangsamen oder pausieren kann, ähnlich wie Abrüstungsverträge. Mit einem Haken, den Anthropic gleich selbst nennt: Die Entwicklung von KI lässt sich leichter verstecken als ein Raketensilo. Und pausieren will man ohnehin nur, wenn die Konkurrenz nachweislich mitzieht.

Der Beigeschmack 

Die Warnung kommt zu einem auffälligen Zeitpunkt. Im selben Atemzug, in dem Anthropic zur Vollbremsung aufruft, bereitet das Unternehmen seinen Börsengang vor, bei einer Bewertung nahe der Billionen-Dollar-Marke. Das passt nicht ganz zusammen – oder vielleicht doch?

Man kann die Sache auf zwei Arten lesen, und beide haben etwas für sich. Erstens: Hier warnen ernstzunehmende Forscherinnen und Forscher vor einem realen technischen Risiko, über das die Fachwelt seit Jahren diskutiert. Das verdient Aufmerksamkeit. Zweitens: Die Botschaft „Unsere Technologie ist so mächtig, dass sie gefährlich werden könnte” ist auch hervorragende Werbung. Wer vor der eigenen Erfindung warnt, signalisiert vor allem eines – wie bedeutend diese Erfindung ist.

Aufrufe dieser Art hat es schon gegeben. 2023 forderte ein offener Brief eine sechsmonatige Zwangspause, unterschrieben von Tech-Prominenz wie Elon Musk und Steve Wozniak. Passiert ist: nichts. Und mancher Superlativ der Branche wurde später leise zurückgenommen – etwa, als OpenAI-Chef Sam Altman einräumte, die Folgen der KI für den Arbeitsmarkt doch überschätzt zu haben.

Was heißt das für Ihre Gemeinde?

Die Antwort auf „Kommt Skynet?” lautet für den Gemeindealltag: Nein – jedenfalls nicht heute und nicht in Ihrem Amtszimmer. Die KI, die Ihnen beim Entwurf einer Bürger-Antwort hilft, will nichts. Sie verfolgt keine Absichten, sie wartet auf Ihren Auftrag, und ohne Ihren Prompt tut sie gar nichts. Sie ist ein Werkzeug – ein erstaunlich fähiges, aber eben ein Werkzeug.

Die große, weltweite Sorge und Ihre ganz konkrete Gemeindepraxis drehen sich um exakt dasselbe Prinzip. Die ganze Debatte handelt davon, dass der Mensch aus den Entscheidungen herausfällt. Ihre tägliche Arbeit beantwortet diese Bedenken bereits, und zwar ganz praktisch. Den Bescheid unterschreibt die Amtsleiterin, nicht die KI. Die Antwort an den Bürger gibt der Sachbearbeiter frei, nicht die KI. Der Gemeinderat entscheidet, die KI liefert höchstens die Unterlage dazu.

„KI denkt – Sie entscheiden” ist nicht nur ein netter Spruch, sondern genau jene Linie, um die in den großen Büros von San Francisco gerungen wird. In der Gemeinde ziehen Sie diese Linie längst – bei jeder Unterschrift, bei jeder Freigabe.

Lassen Sie sich von Schlagzeilen also weder in Panik noch in Gleichgültigkeit treiben. Die seriösen Fragen verdienen Aufmerksamkeit, die Marketing-Superlative ein gesunde Portion Skepsis. Und für Ihre Arbeit gilt, was schon in den letzten Kolumnen galt: Nutzen Sie das Werkzeug, prüfen Sie das Ergebnis, behalten Sie die Verantwortung. Skynet wird in Ihrem Gemeindeamt nicht ans Werk gehen, solange am Ende ein Mensch entscheidet. Und das tun Sie.

Kleine Hausaufgabe für diese Woche 

Wenn Ihnen das nächste Mal eine KI-Schlagzeile begegnet, besonders eine besonders dramatische oder besonders euphorische, dann lassen Sie sie von der KI selbst kritisch analysieren. Kopieren Sie die Schlagzeile oder gleich den ganzen Artikel in ChatGPT oder Claude und lassen Sie das Werkzeug drei Fragen beantworten: Wer sagt das? Was hat diese Person oder Firma davon, es zu sagen? Und was ändert sich dadurch konkret an meiner Arbeit von morgen?

Den fertigen Prompt dafür finden Sie gleich darunter – einfach kopieren und die Schlagzeile einsetzen. Und ganz im Sinne unseres Leitsatzes gilt auch hier: Die KI liefert die Analyse, ob sie überzeugt, prüfen und entscheiden Sie. Sie werden überrascht sein, wie oft die Antwort auf die dritte Frage lautet: erst einmal gar nichts.

Der Prompt dazu:

Diesen Prompt müssen Sie nicht einmal abtippen: Prompt direkt im Playground öffnen – dort ist er bereits vorausgefüllt, Sie ergänzen nur noch die Schlagzeile.