Der Sammelband „KI und Demokratie“ ist am 1. April 2026 erschienen:
Wenn Maschinen entscheiden, steht unsere Demokratie auf dem Spiel. In diesem Sammelband diskutieren führende Denker:innen, Wissenschaftler:innen und Praktiker:innen, wie Künstliche Intelligenz unsere freiheitliche Gesellschaft herausfordert und warum wir die Zukunft proaktiv gestalten müssen. […] Dieses Buch beleuchtet, wie wichtig es ist, im Zeitalter der KI unsere demokratischen Werte zu verteidigen.
Im Kapitel Künstliche Superintelligenz und das Ende der Demokratie diagnostizieren Adriano Mannino und ich die gefährliche Kulmination dreier Entwicklungsstränge:
Die Demokratien dieser Welt sind in den kommenden Jahren einem besonderen Existenzrisiko ausgesetzt, das sich aus der Kombination dreier Faktoren ergibt: agentische KI, die in mehr und mehr Dimensionen (über)menschliches Leistungsniveau erreicht, Überwachungskapitalismus und Autoritarismus. Im Brennpunkt stehen dabei die Vereinigten Staaten, denen als einzige Demokratie unter den Supermächten eine herausragende globale sicherheits- und technologiepolitische Bedeutung zukommt. Empirische Studien zeigen, dass die von KI-Agenten zuverlässig bewältigte „Task-Dauer“ seit 2019 (GPT-2) exponentiell zunimmt. Hält dieser Trend noch zwei bis fünf Jahre an, könnten wir uns mit KI-Agenten konfrontiert sehen, die in Minuten das Äquivalent einer menschlichen Arbeitswoche (40h) erledigen können. Wenn sich eine autoritäre US-Regierung Zugang zu Millionen solcher KI-Agenten verschafft und diese in den Überwachungs- und Polizeiapparat integriert, könnte die Kontrolle jedes einzelnen Bürgers – und aller politischen Widerstandsbewegungen – nie dagewesene Ausmaße annehmen. Angesichts des Schadenspotenzials dieses Szenarios genügt eine nicht-vernachlässigbare Eintrittswahrscheinlichkeit für das Urteil, dass sich engagierte Verfechter der Demokratie derzeit prioritär für den Erhalt der US-amerikanischen Demokratie einsetzen sollten. Es gibt auch für Nicht-Amerikaner rechtlich und ethisch einwandfreie Wege, dies mit knappen Zeit- und Geldressourcen kosteneffektiv zu tun. Mit der wachsenden Autonomie der KI-Agenten droht in etwas fernerer Zukunft zudem ein weiteres – gegenwärtig noch spekulatives – Risikoszenario: Einer Regierung, die KI-Agenten zunächst erfolgreich für ihre (womöglich antidemokratischen) Zwecke einsetzt, könnte die Kontrolle über die KI-Agenten selbst entgleiten. Zur Eindämmung auch dieser Gefahr ist es unerlässlich, zu verhindern, dass autoritäre und risikoethisch rücksichtslose Kräfte an der Macht sind, wenn KI-Agenten umfassend übermenschliches Niveau erreichen.