(Neue Zürcher Zeitung, 30.5.2025)

Massimo Mannino, Adriano Mannino und Nils Althaus

Künstliche Intelligenz könnte nicht nur die menschliche Denkarbeit automatisieren, sondern auch das Machtgefüge unserer Demokratien verändern. Wer jetzt noch von einem blossen «KI-Hype» spricht, verkennt das erwartbare Ausmass der Transformation.

Die Zunft der Ökonomen sticht derzeit durch eine besonders konservative Schätzung hervor: Künstliche Intelligenz (KI) werde die Wirtschaft nur wenig verändern. Der Wirtschaftsnobelpreisträger Daron Acemoglu und der Stanford-Ökonom Erik Brynjolfsson sehen in der aktuellen Entwicklung einen «KI-Hype». Dem widersprechen jedoch fast alle führenden KI-Forscher. Besonders jene, die akademisch tätig sind und sich frei von Interessenkonflikten äussern können, sind aufgrund der halsbrecherischen Geschwindigkeit der KI-Entwicklung alarmiert.

KI-Modelle sind so schlecht, wie sie nie wieder sein werden

Die Fortschritte der KI-Modelle der letzten Jahre gründen wesentlich auf Quantität, nicht auf Qualität: mehr Rechenleistung, mehr Daten, mehr Investitionen. Die führenden KI-Firmen planen weiterhin gigantische Rechenzentren, um grössere und potentere Modelle zu trainieren. OpenAI hat sich dafür in der grössten Finanzierungsrunde der Menschheitsgeschichte unlängst 40 Milliarden Dollar gesichert.

Neue «Denkmodelle» wie o3 und DeepResearch sind in vielen Bereichen in der Lage, Aufgaben auf Doktorandenniveau zu lösen, und bieten zusätzliche Skalierungsmöglichkeiten. Je mehr Rechenleistung man ihnen für die «Denkschritte» zur Verfügung stellt, desto besser werden ihre Antworten. In manchen Fachgebieten lassen sie Doktoranden sogar schon hinter sich: Das auf medizinische Fragen spezialisierte Modell AMIE von Google liefert bessere Diagnosen und Therapievorschläge als menschliche Ärzte.

Die KI-Systeme der Gegenwart beeindrucken. Gleichzeitig sind sie so schlecht, wie sie in Zukunft nie wieder sein werden. In allen Arbeitsbereichen, in denen erlernbare Erfolgskriterien bestehen, werden KI-Systeme laufend besser. Führende KI-Forscher erkennen keine Hürden, die verhindern könnten, dass das menschliche Leistungsniveau umfassend erreicht oder sogar übertroffen wird. Angesichts der beispiellosen privaten und staatlichen Investitionen ist es gut möglich, dass dies bald erfolgen wird.

Technische Innovationen führten bisher verlässlich zu mehr Wohlstand, weil sie die Produktivität der menschlichen Arbeitskraft steigerten. Die industrielle Revolution hat uns neuartige Maschinen gebracht, die physische Aufgaben effizienter erledigten als wir. Dadurch konnten wir wirtschaftlich produktivere Arbeiten übernehmen – etwa die Planung, Wartung oder Qualitätssicherung der Maschinen. Das löste eine massive Ausweitung des «kognitiven» Sektors aus, also eine Verschiebung der menschlichen Arbeit hin zu geistigen Tätigkeiten.

KI-Systeme ermöglichen es nun zunehmend, auch die kognitiven Arbeiten zu automatisieren. Die philosophisch bedeutsame Frage, ob hinreichend komplexe und integrierte KIs – wie unser Gehirn – gar über einen Geist verfügen werden oder dessen Output «geistlos» imitieren, ist ökonomisch irrelevant. Sollte es gelingen, den Löwenanteil unserer kognitiven Leistungen zu automatisieren, bleibt der menschlichen Arbeitskraft wohl kein Rückzugsgebiet. Sie würde ökonomisch weitgehend obsolet. Anton Korinek – einer der wenigen Ökonomen, die das revolutionäre Potenzial der KI anerkennen – prognostiziert in einem solchen Szenario rapide sinkende Löhne und eine Massenarbeitslosigkeit.

Selbst wenn die KI-Fähigkeiten wider Erwarten auf menschlichem Niveau oder darunter stagnieren sollten, müssen wir mit gesellschaftlichen Umwälzungen rechnen. KI-Systeme arbeiten mit übermenschlicher Geschwindigkeit, brauchen weder Schlaf noch Pausen, verfügen über eine schier grenzenlose Erinnerungsfähigkeit und können in milliardenfacher Ausführung per Knopfdruck erschaffen und nach erfolgter Arbeit wieder gelöscht werden.

Eine weitreichende Automatisierung der menschlichen kognitiven Arbeitskraft ist ein Szenario, das politische Risiken in sich trägt. Für die Herausbildung von Menschenrechten und liberalen Demokratien war es mitentscheidend, dass die Menschen ökonomisch gebraucht wurden. Der Lehnsherr war abhängig von den Bauern, weil sie seine Felder bewirtschafteten, und der Fabrikbesitzer von den Arbeitern, weil sie seine Maschinen bedienten.

Tritt KI an die Stelle von Arbeitnehmenden, verlieren diese nicht nur ihr Einkommen, sondern auch das entscheidende Verhandlungspfand zur Wahrung ihrer gesellschaftlichen Interessen. Die wenigen KI-Kapitaleigner könnten beispiellose Vermögen anhäufen und hätten keinen Anreiz, auf Forderungen der mittellos gewordenen menschlichen Arbeiter einzugehen, die in einer KI-Ökonomie auch als Konsumenten an Bedeutung verlieren würden.

Die demokratische Herausforderung

Eine solche Machtballung brächte die politischen Institutionen freiheitlicher Demokratien an ihre Grenzen. Autoritäre Politiker und Machthaber könnten die Machtkonzentration vorantreiben und Grundrechte aushebeln. KI-Technologien eröffnen schon heute nie da gewesene Möglichkeiten zur Massenüberwachung und -manipulation. Unter anderem deshalb kann man nicht auf die simple Lösung vertrauen, dass wir KI schon irgendwie politisch regulieren und im Zweifel verbieten werden.

Die Anreize, übermenschlich schnelle KIs in all unsere Systeme zu integrieren, werden immens sein. Staaten, die zu Recht vorsichtig agieren und viele menschliche Arbeitskräfte im «Loop» halten, könnten ihre ökonomische und geopolitische Wettbewerbsfähigkeit einbüssen.

Es trifft selbstredend zu, dass KI neben systemischen Risiken auch grosse Chancen birgt: personalisierte Bildung für alle, effizientere medizinische Diagnosen oder die Automatisierung vieler Arbeiten, die Menschen nicht als sinnstiftend empfinden. Allerdings beruht die Realisierung dieser Chancen auf der Annahme, dass wir die KI-Risiken, die unsere Gesellschaft destabilisieren könnten, erfolgreich eindämmen werden.

Menschen brauchen eine institutionelle Absicherung, die ihnen in einer KI-Ökonomie materielle Teilhabe und die Wahrung ihrer Interessen garantiert. Bricht der Marktwert der menschlichen Arbeitskraft ein, muss der liberal-demokratische Staat seinen Mitgliedern Ressourcen zusichern, die ihnen ein gutes Leben und politische Mitbestimmung ermöglichen.

Mehrere Länder – darunter die USA, das Vereinigte Königreich und Frankreich – haben nationale KI-Sicherheitsinstitute geschaffen. In Deutschland wird ein solches gefordert. Auch die Schweiz muss nachziehen. Auf internationaler Ebene kann sie ihre humanitäre Tradition nutzen, um sich für eine sozialverträgliche KI-Entwicklung und die Eindämmung der KI-Systemrisiken einzusetzen. Das kann nur gelingen, wenn das revolutionäre Potenzial der KI ernst genommen wird.

—

Massimo Mannino ist Ökonom, Dozent für KI-Methoden an der Universität Luzern und Gründer der Datenfirma Novalytica; Adriano Mannino ist KI-Ethiker an der University of California, Berkeley; Nils Althaus ist freier Autor und Wissenschaftsjournalist.