In einem aktuellen Anthropic-Blogeintrag zum Thema KI heißt es unmissverständlich: „Wir glauben, dass es gut für die Welt wäre, die Option zu haben, die Entwicklung besonders fortgeschrittener Modelle zu verlangsamen oder zu pausieren.“ Das Ziel einer solchen Pause sei laut dem KI-Unternehmen, gesellschaftliche Strukturen anzupassen und die KI-Sicherheitsforschung voranzutreiben. Vor allem sei eine solche Unterbrechung wichtig, um sicherzustellen, dass KI im Interesse der Menschen agiert. Und nicht gegen sie.

Anthropic weist darauf hin, dass KI-Systeme zunehmend Entwicklungs- und Forschungsaufgaben übernehmen, die bisher von Menschen erledigt wurden. Das Unternehmen verweist dabei auf eigene interne Daten: Mehr als 75 Prozent des in die Codebasis integrierten Codes würden inzwischen vom Chatbot Claude selbst geschrieben. Die Sorge von Anthropic ist nachvollziehbar. Wenn Maschinen ihre eigenen Nachfolger erschaffen, gibt der Mensch den Hebel aus der Hand.

Auch die Machtkonzentration der KI in den Händen weniger Akteure sei besorgniserregend. Dario Amodei, CEO von Anthropic, hatte bereits im Januar 2026  betont, dass er sich sehr unwohl dabei fühle, dass eine kleine Gruppe von Firmenchefs – einschließlich seiner selbst – faktisch über die Zukunft dieser Technologie entscheide.

KI ist nicht so leicht zu bremsen

Die größte Gefahr sei Amodei zufolge zudem, dass Autokraten KI nutzen könnten, um den Bürgern unter ihrer Kontrolle die Freiheit „dauerhaft zu rauben“ und „einen totalitären Staat zu errichten, dem sie nicht entkommen können“. Auch viele andere Experten und Ökonomen, die die Entwicklung mit Sorge beobachten, stimmen Amodei zu: Die KI-Entwicklung müsse ausgebremst werden.

Our internal data shows Claude is accelerating AI development—a possible path to recursive self-improvement, or AI autonomously building a more capable successor.

It’s happening faster than we thought, and the implications deserve greater attention. https://t.co/OVVPJO7VQx

— Anthropic (@AnthropicAI) June 4, 2026

So einfach ist das jedoch nicht. Amodei verweist darauf, dass einseitige Pausen nichts bewirken würden. Sie würden lediglich verändern, wer im Wettbewerb die Führung innehat. Große Technologiekonzerne investieren hohe Milliardensummen in Rechenzentren und die Entwicklung neuer KI-Modelle. Sie haben ihr gesamtes Geschäftsmodell auf diese Zukunftstechnologie ausgerichtet. Der Großteil dieser Unternehmen wird diesen Kurs kaum aufgeben wollen.

Anthropic ist nicht das erste Unternehmen, das vor den rasanten Fortschritten der Künstlichen Intelligenz warnt. Bereits im Jahr 2023 unterzeichneten mehr als tausend Technologieexperten, Forscher und Unternehmer einen offenen Brief. Darunter befanden sich auch Elon Musk und Apple-Mitgründer Steve Wozniak. Die Forderung: eine sechsmonatige Pause bei der Entwicklung besonders leistungsstarker KI-Systeme. Die Begründung lautete schon damals, dass die Menschheit die Kontrolle über die Entwicklung zu verlieren drohe und die Konsequenzen unabsehbar seien. Zu einer solchen Pause kam es jedoch nie. Und Musk, der den Brief mitunterzeichnet hatte, gründete kurz darauf sein eigenes KI-Unternehmen xAI.

Desinformationen können Gesellschaften destabilisieren

Einige Experten zogen persönliche Konsequenzen für ihre Karriere. Geoffrey Hinton, einer der großen Entwickler des modernen maschinellen Lernens und lange Zeit bei Google tätig, trat 2023 von seinem Posten zurück. Seine Botschaft war eindeutig: Er bereue einen Teil seiner Lebensarbeit. Die Geschwindigkeit, mit der sich KI entwickle, und die Unfähigkeit der Menschheit, sie wirksam zu regulieren, bereiteten ihm ernsthafte Sorgen.

Konkretere Kritik kam auch von den MIT-Ökonomen Daron Acemoglu und Simon Johnson. In ihrem Buch „Power and Progress“ machten sie auf die Gefahren aufmerksam, die mit der fortschreitenden Entwicklung moderner Technologien einhergehen. Ihr Argument: Technologischer Fortschritt verbessert nicht unbedingt das Leben der breiten Bevölkerung. Er verbessert vor allem die Situation jener, die ihn kontrollieren. Und Künstliche Intelligenz, so ihr Befund, sei in einem Ausmaß auf wenige Konzerne konzentriert.

Letztlich gibt es eine Vielzahl realer Gefahren, die in der öffentlichen Debatte häufig zu kurz kommen. Deepfakes und KI-generierte Desinformation können politische Prozesse destabilisieren, Personen diskreditieren sowie Betrug und andere Formen der Cyberkriminalität fördern. Bei autonomen Waffensystemen kann die Kontrolle schnell verloren gehen. Biometrische Massenüberwachung durch KI-gestützte Gesichtserkennung untergräbt die Privatsphäre und andere Freiheiten. Die Liste ließe sich nahezu endlos fortsetzen.

Künstliche Intelligenz macht Jobs überflüssig und schafft zugleich neue

Die unmittelbarste und für die Mehrheit der Menschen wohl relevanteste Gefahr – zumindest in naher Zukunft – ist der mögliche Verlust von Arbeitsplätzen. Das McKinsey Global Institute hat errechnet, dass ausgehend vom Jahr 2024 bis 2030 rund 30 Prozent der Arbeitsstunden in Europa und den USA mithilfe von KI und anderen Technologien automatisiert werden könnten. In Deutschland wären in diesem Szenario bis zu drei Millionen Arbeitsplätze von Veränderungen betroffen. Besonders stark betroffen seien administrative Berufe. Darunter fallen unter anderem zahlreiche Bürojobs. Bis zu 54 Prozent der in Deutschland erwarteten Veränderungen könnten auf diesen Bereich entfallen.

Während die Sorge vor dem Verlust von Arbeitsplätzen weltweit groß ist, könnte die Entwicklung jedoch auch anders verlaufen. Zwar dürften viele bisherige Tätigkeiten wegfallen, gleichzeitig entstehen aber auch neue Berufsfelder. Eine interessante Perspektive liefert Kanada.

Premierminister Mark Carney stellte am 5. Juni in Toronto die nationale KI-Strategie „AI for All“ vor. Ziel ist es, die KI-Adoptionsrate in kanadischen Unternehmen bis 2034 von zwölf auf 60 Prozent zu steigern und dabei bis 2031 rund 250.000 neue Arbeitsplätze im KI-Umfeld zu schaffen. Als Teil der Initiative will die Regierung bis zu 90.000 Arbeits- und Praktikumsplätze in dem Bereich speziell für junge Kanadier bereitstellen. Die wirtschaftlichen Erwartungen sind ambitioniert. Carney rechnet damit, dass die Strategie das kanadische Bruttoinlandsprodukt um rund drei Prozent erhöhen könnte. Das entspräche fast 200 Milliarden kanadische Dollar zusätzliches Wirtschaftswachstum. Klingt nicht so, als wolle Kanada derzeit auf eine KI-Pause setzen.