Nein, das FLI fordert keine Pause der KI-Entwicklung
„Forscher fordern, die KI Entwicklung für sechst Monate zu Pausieren“, „Diese KI-Experten und Tech-Grössen fordern einen sofortigen Stopp für ChatGPT und Co.“ oder „Tausend Tech-Experten fordern sofortigen Stopp der KI-Entwicklung“ – so lesen sich gerade viele Schlagzeilen, die sich auf einen offenen Brief des „Future of Life Institute“ berufen, wir haben ihn hier dokumentiert.
Wenn man aber den offenen Brief liest, sieht man schnell, dass diese Schlagzeilen und ein Großteil der ihnen folgenden Berichterstattung nicht haltbar sind. Die entsprechende Passage in dem Aufruf lautet:
We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4. … This does not mean a pause on AI development in general.
Wir fordern alle KI-Labore auf, das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, sofort für mindestens 6 Monate zu unterbrechen. … Dies bedeutet nicht, dass die KI-Entwicklung im Allgemeinen pausiert.
Und das hört sich schon ganz anders an, als „Tech Experten fordern sofortigen Stopp der KI-Entwicklung“ oder eine Pause für ChatGPT. Ganz im Gegenteil.
Für mich ist dies jedenfalls wieder ein weiterer Beleg dafür, dass man heutzutage keinen journalistisch aufbereiteten Nachrichten mehr ungeprüft trauen kann, sondern immer die Primärquellen überprüfen sollte.
Braucht es diese KI-Pause?
Ich teile den Aspekt des offenen Briefs, dass wir eine breite gesellschaftliche Debatte über den Einsatz von KI und dessen Ziele brauchen.
Anders als der offene Brief suggeriert, sind wir noch weit von einer AGI (Artificial General Intelligence) entfernt, die der Menschheit mittelbar oder gar unmittelbar gefährlich werden könnte. Wir haben es streng genommen derzeit noch nicht einmal mit künstlicher, sondern allenfalls mit simulierter Intelligenz zu tun. Das Ziel einer AGI halte ich für erstrebenswert, aber sehe sie noch in so weiter Ferne, dass Forschung an ihr intensiviert und nicht eingeschränkt werden sollte.
Stand der Dinge braucht es diese vorgeschlagene KI-Pause also nicht.
Warum setzt sich Elon Musk so für diese Pause ein?
Elon Musk, Berater des FLI, gehört zu den ersten Unterzeichnern des offenen Briefs. Auch wenn über seine wahren Motive nur spekulieren kann, sollte man folgendes bedenken:
- Musk hat sich schon mehrfach drastisch über die möglichen Gefahren durch eine AGI geäußert. Auch wenn er weiß, dass wir von dieser noch entfernt sind, hat er hier sicher eine ehrliche Sorge.
- Kein Geheimnis ist aber auch, dass er sich schon mehrfach verärgert über OpenAI geäußert hat. Er gehörte zu den Mitbegründern, Geldgebern und führenden Köpfen des Unternehmens, hat es aber 2018 verlassen, um Interessenkonflikte mit Teslas Entwicklungen im Bereich Künstliche Intelligenz zu vermeiden. Insbesondere die Partnerschaft mit Microsoft sieht er ablehnend.
Er könnte also durchaus ein Interesse daran haben, dass im Fokus der Debatte stehende Player wie OpenAI, Microsoft, Google oder auch Meta ihre Forschung zumindest einschränken, während z.B. Teslas AI Forschung in ihrem engen Sektor weitergehen könnte.
Nicht überbewerten – und eine wichtige Debatte
Letztlich sollte der Brief also nicht überbewertet werden: Es wird darin nur ein Trainings-Moratorium für KI-Systeme gefordert, die es so noch gar nicht gibt. In der Presse wird das leider sensationsheischend und verfälschend dargestellt.
Viele der Unterzeichner mögen ehrliche Sorgen und Bedenken haben, bei anderen – wie Elon Musk – dürfen diese durchaus angezweifelt werden.
Unabhängig davon ist es aber natürlich richtig und wichtig, eine Diskussion über KI und deren Rolle für die Menschheit an sich zu diskutieren.
Das Bild zur Illustration wurde mit der Midjourney AI erstellt.