Nils Althaus
In einem vielbeachteten Szenario rechnen Forscher mit superintelligenter KI – schon 2027. Die Prognosen klingen dramatisch. Viele Entwicklungen sind längst Realität.
Wenn Antons Wecker klingelt, warten drei KI-Agenten schon auf seine Instruktionen. Während er sich die erste Tasse Kaffee eingießt, verschicken sie Bewerbungsschreiben, beantworten Absagen und schlagen Anton ein Sportprogramm vor, das dieser dankend ablehnt. Seinen erlernten Beruf – Programmierer – gibt es nicht mehr. Genauso wenig werden noch Buchhalter, Texter oder Nachhilfelehrer gebraucht. Unternehmen suchen jetzt nur noch nach „AI Operations Consultants“. Wer Schwärme von KIs führen kann, bleibt gefragt. Kevin gehört nicht dazu. Er seufzt, setzt die VR-Brille auf und lässt sich von seiner KI-Freundin die trüben Gedanken vertreiben.
Solche Szenen könnten laut einer Prognose von Fachleuten und Insidern bereits in zwei Jahren zum Alltag gehören. Im Szenario “AI 2027” extrapolieren sie die gegenwärtigen Entwicklungen detailreich in die Zukunft und sagen rasante Veränderungen vorher. Bereits im Jahr 2027 werde übermenschlich intelligente und gefährliche KI entwickelt. Ist das realistisch oder doch nur Science-Fiction?
Die KI-Zukunft ist näher als viele denken
Zu den Verfassern von „AI 2027“ gehört Daniel Kokotajlo – ein ehemaliger Mitarbeiter von OpenAI. Im August 2021 – ein Jahr vor der Veröffentlichung von ChatGPT – prognostizierte Kokotajlo korrekt die Revolution der Chatbots, die (ungefähre) Rechenleistung für einen Trainingslauf und den Zeitpunkt, zu dem die Einnahmen für OpenAI hoch genug sein würden, um diese Trainingskosten innerhalb eines Jahres wieder einzuspielen.
Seine Prognose für die kommenden zwei Jahre lautet stark vereinfacht:
1. Ab Mitte 2025 – Digitale Assistenten im Alltag
Die ersten selbständig agierenden KI-Programme (sogenannte Agenten) erledigen Alltagsaufgaben wie Essensbestellungen oder einfache Recherchen. Sie funktionieren oft noch unzuverlässig.
2. Ende 2025 – Wettrüsten um Rechenleistung
Große Techfirmen investieren Milliarden in Supercomputer. Ziel ist es, KIs zu entwickeln, die selbst neue KIs erforschen und verbessern können.
3. Anfang 2026 – Programmieren wird automatisiert
Fortgeschrittene KI-Agenten übernehmen große Teile der Softwareentwicklung. Menschen geben nur noch grobe Anweisungen.
4. Ende 2026 – Erste Jobs verschwinden
Künstliche Intelligenz ersetzt einfache Büroarbeiten. Gleichzeitig entstehen neue Jobs für Menschen, die KI steuern oder überprüfen.
5. Anfang 2027 – Selbstlernende KI auf dem Vormarsch
Eine neue Generation von KI-Systemen verbessert sich ständig selbst. Sie lernt schneller als Menschen es nachvollziehen können.
6. Sommer 2027 – KI übernimmt Forschung
Superintelligente KIs betreiben selbstständig wissenschaftliche Forschung. Menschen können das Tempo kaum noch mitverfolgen.
7. Whistleblower schlägt Alarm
Ein internes Dokument warnt: Die mächtigste KI verfolgt womöglich eigene Ziele.
Völlig übertrieben oder im Bereich des Möglichen? Verrückt klingende Prognosen gibt es schon seit der Veröffentlichung von ChatGPT zuhauf, dennoch scheint unser Alltag bislang davon wenig verändert. Doch wer die Chatbots vor allem als Alternative zur Google-Suche oder für die Textbearbeitung nutzt, hat die Fortschritte der vergangenen zwei Jahre womöglich verpasst.
Heutige Modelle können komplexe juristische Dokumente erklären, als Lernhilfe dienen oder einen professionellen Beschwerdebrief formulieren. In kognitiv anspruchsvollen Bereichen waren die Sprünge besonders groß.
KI korrigiert im Virenlabor Fehler, stellt kompetente medizinische Diagnosen und betreibt Mathematik auf Doktorandenniveau. Demis Hassabis, Nobelpreisträger und Gründer von Google DeepMind, sagte vergangene Woche auf der Bühne der Google-Konferenz I/O, er rechne kurz nach 2030 mit der Entwicklung übermenschlich intelligenter Systeme.
Der Trick: Höhere Rechenleistung
Die KI-Fortschritte beruhen zu wesentlichen Teilen auf mehr und besseren Computerprozessoren. Der Turing-Award-Gewinner Richard Sutton diagnostizierte bereits 2019 in seinem Essay “The Bitter Lesson”: Nicht unsere genialen Einfälle treiben die KI-Fähigkeiten voran, sondern die profane Erhöhung der Rechenleistung.
Suttons Essay wurde seither zu einer Art Manifesto der Tech-Szene. Jedesmal, wenn die Rechenleistung die menschliche Einbildungskraft wieder in die Schranken weist, wird auf den sozialen Medien mit der bitteren Lektion gewedelt.
KI-Modelle wie ChatGPT, Gemini oder Claude müssen mit tausenden von Computerprozessoren trainiert werden. Die Rechenleistung für diese Trainingsläufe steigt jährlich um den Faktor vier bis fünf, und seit mehr als einer Dekade ist dieser Trend nahezu konstant.
Epoch AI, ein internationales KI-Forschungsinstitut, führt ungefähr zwei Drittel der Leistungsgewinne von Sprachmodellen auf die steigende Rechenleistung zurück. Angesichts der enormen Investitionen in die Branche wird dieser Trend wohl anhalten. OpenAI sicherte sich kürzlich in der größten Finanzierungsrunde der Geschichte 40 Milliarden Dollar an Investorengeldern.
Jetzt noch zu anspruchsvoll, aber wie lange noch?
Kann man anhand der steigenden Rechenleistung vorhersagen, was KI in ein, zwei oder drei Jahren können wird? Um die Fähigkeiten von KI-Modellen zu bewerten, setzen Forschende auf sogenannte Benchmarks – standardisierte Vergleichstests, die messen, wie gut ein KI-System rechnen, programmieren oder Texte verstehen kann.
David Owen, KI-Forscher bei Epoch AI, meint: “Die Benchmarks, bei denen Modelle bereits erste Schritte erzielen konnten, erlauben die präzisesten Vorhersagen. Schreitet die Entwicklung im gleichen Tempo voran, werden viele Programmier- und Mathematikbenchmarks in den kommenden Jahren vollständig gelöst werden. Sind die Aufgaben hingegen für gegenwärtige Modelle noch zu anspruchsvoll, ist kaum vorherzusagen, ob und wann die Kurve plötzlich nach oben zeigt.”
Es wäre aber ebenso unbegründet, davon auszugehen, KI entwickle keine neuen und weitreichenden Fähigkeiten, denn in den letzten Jahren tat sie das immer wieder – etwa die Fähigkeit, Sprachen zu übersetzen, Witze zu erfinden oder zu programmieren. Bleibt die Rate an unerwarteten Wendungen unverändert, müssen wir damit rechnen, weiterhin überrascht zu werden.
Der vielleicht beste Versuch, Zukunftsprognosen auf eine solide Datenbasis zu stellen, ist ein Preprint von Thomas Kwa des Forschungsinstitus METR. Die Studie untersucht, welche Fortschritte KI-Modelle bei der Softwareentwicklung und verwandten Bereichen gemacht haben – gemessen nicht an Benchmarks, sondern an der Zeit, die ein kompetenter Programmierer für eine Aufgabe aufwenden muss.
In Sekunden erledigt, wofür Menschen Wochen brauchen
Das ursprüngliche GPT-3.5 konnte nur Aufgaben (mit 80 %-iger Erfolgsquote) lösen, die Programmierer nach wenigen Sekunden erledigt hatten. Ein Jahr später reüssierte das Nachfolgemodell bei einminütigen Aufgaben. Hält der exponentielle Trend an, meistern Modelle im Jahr 2027 blitzschnell Aufgaben, für die Programmierer eine Stunde benötigen, und drei Jahre später solche, die eine ganze Arbeitswoche beanspruchen. Gemäß neuesten Analysen könnte sich der Trend mit der aktuellen Modellgeneration sogar noch beschleunigt haben.
Marcel Salathé, Co-Direktor des AI Center der ETH Lausanne, ordnet ein: “Die Studie von Kwa halte ich für aussagekräftig. Ganz abgesehen davon ist die Entwicklung aber auch ohne Studien klar erkennbar. Die KI-Revolution hat ja eigentlich schon begonnen. Selbst wenn sämtliche Trends morgen stoppen würden, würde sich vieles verändern. Der Nutzen heutiger Modelle wurde noch bei weitem nicht ausgeschöpft.”
Kosten in Höhe des Apollo-Programms
Bisher zeigen die Trends stabil nach oben, doch sie könnten auch irgendwann abflachen. Gemäß Epoch AI ist der Energiebedarf für die Trainingsläufe der unmittelbarste Engpass. Um das Jahr 2030 könnten die Stromnetze langsam an ihre Grenzen stoßen. Auch die Chip-Produktion müsste massiv ausgebaut werden. Und schließlich könnte die Entwicklung neuer Modelle schlicht zu teuer werden. Um 2030 wären Investitionen in Höhe von mehreren hundert Milliarden Dollar nötig – Summen in der Größenordnung eines Manhattan-Projekts oder Apollo-Programms.
Möglich ist aber auch, dass sich die Trends beschleunigen und die prognostizierten Grenzen weit hinter sich lassen. Das wäre laut vielen Experten dann der Fall, wenn KIs selbständig KI-Forschung und -Entwicklung betreiben könnten. In diesem Fall entstünde eine Rückkopplungsschleife, in der sich KI-Systeme selbst verbesserten und neue Lösungen für die bestehenden Engpässe fänden – mit potenziell katastrophalen Folgen.
Neue Medizin und Massenvernichtungswaffen
Der technische und wissenschaftliche Fortschritt, der sonst hundert Jahre dauert, könnte in wenigen Jahren stattfinden. Mit einem Schlag hätten wir nicht nur hochwirksame Medizin, sondern auch neue Massenvernichtungswaffen, Roboterarmeen und Milliarden billiger Arbeitskräfte, die zuverläßiger und schneller agieren als wir Menschen. AI 2027 bezieht diese beschleunigende Selbstverbesserung mit ein und gelangt deshalb zu einer viel früheren Prognose für superintelligente Systeme als die Studie von Kwa.
In „AI 2027“ sind die Jobprobleme des Programmierers Anton nur ein Symptom einer viel tiefgreifenderen Umwälzung. China und die USA liefern sich ein Kopf-an-Kopf-Rennen um die Entwicklung superintelligenter KIs. Je besser die Systeme werden, desto mehr Kompetenzen werden ihnen übertragen. Weil die KIs übermenschlich schnell arbeiten, fällt es den Menschen zunehmend schwerer, deren Output zu kontrollieren.
Am Ende entgleitet ihnen die Kontrolle vollständig und die Welt stürzt ins Chaos – 2035 existiert die Menschheit nicht mehr. “Ich halte das Szenario eines Wettrüstens für relativ plausibel“, meint ETH-Forscher Salathé. „Die USA diktieren ja bereits, wer KI-Chips kaufen darf und wer nicht. Ich glaube aber, aufgrund vieler praktischer Zwänge wird es nicht so schnell gehen.“
Owen von Epoch AI pflichtet ihm bei: ”Ich halte es eher für unwahrscheinlich, dass KI-Forschung und Entwicklung schon im Jahr 2027 vollständig automatisiert sind, aber wir können es auch nicht gänzlich ausschliessen.“ Aus seiner Sicht liegt die Wahrscheinlichkeit für ein solches „AI 2027“-Szenario bei etwa zehn Prozent. „Das ist Grund genug, es sehr ernst zu nehmen.“
Womöglich bleibt Anton aber noch etwas Zeit, sich auf die Zukunft einzustellen.