Wir dokumentieren hier den Text „The Future is for everyone“ von Mark Zuckerberg in einer von ChatGPT 5.6 Sol erzeugten deutschen Übersetzung:
Die Zukunft ist für alle da
Der Weg zu einer positiven KI-Zukunft
Wir haben das Glück, in einem unglaublichen Moment der Geschichte zu leben. In den nächsten Jahren werden Menschen in der Lage sein, eine Superintelligenz, die menschliche Fähigkeiten übersteigt, zu nutzen, um außergewöhnliche neue Dinge zu erschaffen und zu entdecken, neue Unternehmen aufzubauen, neue Ideen auszudrücken, neue Konzepte zu erlernen und unsere Gesundheit und Lebensqualität zu verbessern. Je näher wir diesem Moment kommen, desto wichtiger ist es, eine Philosophie dafür zu entwickeln, wie wir Superintelligenz am besten einsetzen können, damit sie unser aller Leben, Arbeit, Gemeinschaften, Freiheit und Sicherheit verbessert.
Die entscheidenden Fragen unserer Zeit lauten: Wer wird Zugang zu Superintelligenz haben, und worauf werden wir sie ausrichten? Wird sie zentralisiert und auf wenige Institutionen beschränkt sein, oder wird sie ein Werkzeug sein, das jeden Menschen ermächtigt?
Wir schlagen eine Philosophie vor, die auf individueller Selbstermächtigung als Quelle des Wohlstands, auf Erfindung als vorrangigem Zweck der Superintelligenz und auf einem Machtgleichgewicht als Grundlage der Sicherheit beruht.
Alle neuen Technologien schaffen Chancen und Herausforderungen. Superintelligenz wird zu den wichtigsten Technologien der Geschichte gehören; daher werden ihre Chancen und Herausforderungen wahrscheinlich größer sein als alles, was wir zu unseren Lebzeiten erlebt haben. Wir sollten das sehr ernst nehmen.
Dennoch ist es überraschend, wie sehr der Diskurs vieler Menschen, die KI entwickeln, von Untergangsszenarien geprägt ist. Ich verstehe nicht, warum jemand, der glaubt, dass KI die meisten Arbeitsplätze und einen Großteil der Bedeutung der Menschheit beseitigen wird, sich beeilen sollte, genau diese Zukunft zu schaffen. Die Vorstellung, KI sei so gefährlich, dass der einzig sichere Weg in einer extremen Konzentration von Macht bestehe, erscheint von Grund auf problematisch. Historisch hat die Hoffnung, eine absolute Macht werde – sofern sie nur hinreichend aufgeklärt sei – wohlwollend für die Menschheit sorgen, nicht zu sicheren oder positiven Ergebnissen geführt.
Die Menschheit hat viele umwälzende Fortschritte erlebt. Jedes Mal besteht die Furcht, Menschen könnten zurückgelassen werden. Doch jedes Mal ist die Menschheit daraus hervorgegangen, indem mehr Menschen an größerem Wohlstand, besserer Gesundheit und mehr Freiheit teilhatten. Wir glauben, dass dies auch bei KI der Fall sein wird und dass der Überfluss der Zukunft mit allen geteilt werden kann. Wir glauben außerdem, dass die Werte, die uns bis hierher gebracht haben – etwa Freiheit, offene Forschung, freies Unternehmertum und Chancengleichheit –, auch die richtigen Werte sind, um eine positive Zukunft zu gestalten.
Die Macht in die Hände der Menschen zu legen, damit sie ihre eigenen Ziele verfolgen können, ist der Weg, auf dem die Menschheit die größten Fortschritte erzielt hat. Neue Ideen und bedeutende Durchbrüche gehen nur selten allein von etablierten Institutionen aus. Sie kamen von den Brüdern in einer Fahrradwerkstatt, die glaubten, Menschen könnten fliegen, von dem ungelernten Buchbinderlehrling, der herausfand, wie sich Elektrizität erzeugen lässt, und von dem Jungen in einer Garage, der meinte, Personal Computer könnten für alle da sein. Wir glauben, dass dies auch weiterhin so sein wird. Je mächtigere Werkzeuge allen zur Verfügung stehen, desto besser wird jeder Einzelne in der Lage sein, die Zukunft zu gestalten – nicht schlechter.
Erfindung, nicht Automatisierung, wird der größte Beitrag der Superintelligenz sein. Frühe KI konnte Fragen beantworten und Routinearbeiten erledigen. Bald wird sie zunehmend dabei helfen, neues Wissen zu entdecken – von neuen Medikamenten zur Heilung der Krankheit eines Familienmitglieds bis hin zu neuen Möglichkeiten, das eigene Unternehmen zu verbessern. Die Zahl der Fragen, die ein Mensch an einem Tag stellen kann, ist begrenzt; die Zahl der wertvollen Dinge hingegen, die Superintelligenz erfinden kann, um beim Erreichen der eigenen Ziele zu helfen, ist unbegrenzt.
Wenn Intelligenz im Überfluss verfügbar wird, lautet die wichtigste Frage, worauf wir sie ausrichten. Manche vertreten die Auffassung, die Superintelligenz selbst oder eine kleine Gruppe von Experten, die sie kontrolliert, solle entscheiden, was für die Menschheit das Beste ist. Wir widersprechen. Die Geschichte von Demokratie und Wirtschaft hat gezeigt, dass es keine einzige objektive Antwort darauf gibt, wie Menschen das beste Leben definieren. Der beste Ansatz besteht deshalb darin, die Menschen selbst entscheiden zu lassen, was in ihrem eigenen Leben wichtig ist.
Wir glauben, dass die Bereitstellung von Superintelligenz für alle die Antwort auf diese Frage ist. Das steht in der Tradition, die Leistungsfähigkeit von Supercomputern und des Internets in die Taschen der Menschen und auf ihre Schreibtische zu bringen. Statt Superintelligenz zu zentralisieren, sollten wir sie breit verteilen und jedem Menschen die Möglichkeit geben, sie selbst auszurichten. Darin liegt das Potenzial für den Beginn einer neuen Ära individueller Selbstermächtigung, in der Menschen diese mächtige neue Fähigkeit nutzen können, um ihr volles Potenzial auszuschöpfen, ihren Interessen nachzugehen und ihr Leben und die Welt stärker als je zuvor zu verbessern.
Um dies greifbarer zu machen, folgen einige konkrete Beispiele dafür, wie Meta persönliche Superintelligenz entwickelt, um unser aller Leben zu verbessern:
• Jeder wird über einen außergewöhnlich leistungsfähigen persönlichen Agenten verfügen, der Sie, Ihre Ziele und alles versteht, was Ihnen wichtig ist. Ihr Agent wird rund um die Uhr in Ihrem Auftrag arbeiten, um Ihre Beziehungen, Ihre Gesundheit, Ihre Karriere, Ihre Finanzen, die Organisation Ihres Haushalts, Ihre Hobbys und vieles mehr zu verbessern. Er wird Ihnen Zeit für die Dinge verschaffen, die Ihnen Freude bereiten, und Ihnen helfen, mehr zu erreichen, als Ihnen sonst möglich wäre. Er wird über starke Datenschutz- und Sicherheitsoptionen verfügen, sodass Sie ihm die Verarbeitung all Ihrer persönlichen Inhalte anvertrauen können, in dem Wissen, dass niemand sonst auf Ihre Informationen zugreifen kann – ähnlich wie die Verschlüsselung bei WhatsApp funktioniert. Sie werden über jedes Gerät mit Ihrem Agenten interagieren können, auch über Ihre Brille, sodass Sie im Augenblick und bei den Menschen, die Ihnen wichtig sind, präsent bleiben können.
Mein Agent weist mich zum Beispiel auf interessante Informationen hin und hilft mir, Prototypen für Ideen zu entwickeln. Er unterstützt mich dabei, gesund zu bleiben, indem er meinen Schlaf überwacht, mich anschließend beim Training beobachtet und mir Rückmeldungen gibt. Meine Tochter backt sehr gern; deshalb plant mein Agent für jedes Wochenende individuelle Rezepte, die wir gemeinsam zubereiten können, bestellt die Zutaten und macht uns beim Backen Vorschläge.
• Jeder wird über unglaubliche kreative Werkzeuge verfügen, um seine Ideen auszudrücken. Meine achtjährige Tochter kann ihre Ideen schon heute programmieren und an einem Abend Videos produzieren, für die ich früher entweder Monate gebraucht hätte oder deren Produktion mir unmöglich gewesen wäre. Jetzt entwerfen wir gemeinsam einen Roboter. Unterdessen erzeugen Forscher bei Meta neuartige Kristallstrukturen, die sich ideal für Augmented-Reality-Brillen eignen, und Ingenieure entwickeln neue Apps in einem Bruchteil der früher erforderlichen Zeit. Schon bald wird jeder über Superkräfte des Erfindens verfügen.
• Jeder wird über leistungsfähige Werkzeuge verfügen, um neue Unternehmen zu gründen, und die Wirtschaft wird unternehmerischer werden. Menschen beginnen, ihre Ideen selbst zu verwirklichen, ohne Kapital einwerben oder große Teams aufbauen zu müssen. Viele Ideen, deren Erprobung bislang zu schwierig oder zu teuer gewesen wäre, werden nun realisierbar. Das bedeutet, dass wir sehr viel mehr Ideen und Unternehmen sehen werden. Ich prognostiziere, dass dies nicht nur zu einem wesentlich stärkeren Wirtschaftswachstum führen wird, sondern im Laufe der Zeit auch zu mehr Beschäftigung statt zu weniger.
• Jeder wird einen persönlichen Tutor und Coach mit einer Promotion in jedem Fachgebiet und mit unbegrenzter Geduld haben, der ihm hilft, alles zu lernen, was er lernen möchte. Schüler werden in den Bereichen, in denen sie Unterstützung benötigen, zusätzliche Hilfe erhalten, wie sie derzeit nur denjenigen offensteht, deren Eltern dafür bezahlen können. Erwachsene werden über einen superintelligenten Lernassistenten verfügen, der genau weiß, wie er ihnen neue berufliche Fähigkeiten, neue Sprachen, neue Hobbys oder alles andere vermittelt, wofür sie sich interessieren.
• Jeder wird von wissenschaftlichen Fortschritten profitieren und zum wissenschaftlichen Fortschritt beitragen können. Biohub hat beispielsweise bereits biologische Open-Source-Modelle zu virtuellen Zellen und Proteinen veröffentlicht, die Wissenschaftlern helfen, neue Entdeckungen zu machen und neue Medikamente zu entwickeln. Als Priscilla und ich diese Arbeit begannen, war es unser Ziel, Wissenschaftlern dabei zu helfen, in diesem Jahrhundert alle Krankheiten zu heilen oder zu verhindern. Angesichts der Fortschritte bei der KI erwarten wir nun, dass dies sehr viel früher möglich sein wird.
Da es eine lange Reihe seltener Erkrankungen gibt und die Biologie jedes Menschen anders ist, wird die unmittelbare Beteiligung der Menschen dazu beitragen, personalisierte Therapien zu erschließen und Studien zu beschleunigen, damit sie mit dem Tempo der Erfindungen Schritt halten und die Branche sich von ihrer unverhältnismäßig starken Konzentration auf verbreitete Krankheiten lösen kann.
Über die Biologie hinaus wird KI Menschen dabei helfen, die Forschung in jedem Fachgebiet voranzubringen, indem sie die wissenschaftliche Methode anwendet und über Wochen oder Monate hinweg Hypothesen prüft und verfeinert. Wissenschaftliche Entdeckungen werden wahrscheinlich zu den für die Gesellschaft wertvollsten Formen der Erfindung gehören.
• Jeder wird kostenlosen oder erschwinglichen Zugang zu diesen Werkzeugen haben. Damit alle Teil der Zukunft sein können, müssen alle die Möglichkeit haben, Superintelligenz zu nutzen, um ihr Leben zu verbessern und die Welt zu gestalten. Wir werden kostenlose Versionen anbieten, die Milliarden Menschen zugänglich sein werden. Für diejenigen, die bezahlen möchten, um mehr Rechenleistung zu nutzen, wird es einen dynamischen Auktionsmechanismus geben. Er wird gewährleisten, dass jeder den niedrigstmöglichen Preis für die von ihm genutzte Intelligenz und Rechenleistung erhält, und zugleich sicherstellen, dass die Kapazität für das eingesetzt wird, was die Menschen in ihrer Gesamtheit für am wertvollsten halten. So wird gewährleistet, dass die Vorteile der Superintelligenz breit verteilt werden.
Dies sind einige der wichtigsten Vorhaben, auf die Meta sich konzentriert. Jeder dieser Bereiche fördert die Werte individueller Selbstermächtigung und trägt zu einer Zukunft bei, in der jeder eine größere Rolle bei der Gestaltung der Welt spielt als heute. Wenn diese Vorhaben erfolgreich sind, wird die Zukunft ein Übermaß an individueller Handlungsfähigkeit und Möglichkeiten zum Ausdruck von Ideen, eine Vertiefung von Beziehungen, wirtschaftlichen und finanziellen Wohlstand, bessere Gesundheit und Erfindungen bringen, die wir uns heute nicht vorstellen können. Vor allem aber wird die Zukunft von uns allen geschaffen werden und all unsere Werte und Perspektiven widerspiegeln.
Gleichzeitig bringen neue Technologien auch neue Risiken mit sich. Es gibt viele wichtige Fragen, mit deren Bewältigung wir uns befassen: von den Sorgen über die Verdrängung von Arbeitsplätzen und der Frage, wie sichergestellt werden kann, dass örtliche Gemeinschaften vom Bau von Rechenzentren profitieren, über Sicherheitsbedenken im Zusammenhang mit einem Missbrauch von KI für Cyberangriffe und biologischen Risiken bis hin zur Verhinderung staatlicher Tyrannei und Überwachung, der Sicherstellung einer Führungsrolle der USA und demokratischer Staaten und schließlich der Gewährleistung, dass die Menschheit die Kontrolle über die Superintelligenz behält, sodass diese uns dient, statt uns zu gefährden.
Die herkömmliche Auffassung lautet, bei diesen Fragen gehe es um Technologie und wir könnten die Technologie, wenn wir uns nur genügend Zeit nähmen, perfektionieren oder so ausrichten, dass daraus eine einzige wohlwollende Superintelligenz entsteht. Ich halte diese Auffassung von Alignment für grundlegend verfehlt.
Die Menschheit ist keine Monokultur. Die unterschiedlichen Werte der Menschen stehen für verschiedene Abwägungen, die sie bei wichtigen Fragen vornehmen würden. Es gibt keine technologische Lösung, die gleichzeitig mit den einander widersprechenden Interessen und Werten aller Menschen in Einklang gebracht werden kann. Jede einzelne Superintelligenz müsste manche Werte gegenüber anderen bevorzugen und wäre dadurch außerstande, allen gegenüber wohlwollend zu sein.
Wir schlagen stattdessen vor, jede dieser Fragen unter dem Gesichtspunkt zu betrachten, wie das richtige Machtgleichgewicht erreicht werden kann – so, wie es die westliche Gesellschaft in demokratischen Regierungsinstitutionen tut. Menschen und Institutionen mit konkurrierenden Interessen kontrollieren und begrenzen einander auf natürliche Weise und führen dadurch zu positiven Ergebnissen. Der beste und realistischste Weg zu einer positiven KI-Zukunft besteht darin, Superintelligenz allen Menschen zur Verfügung zu stellen.
Stellen Sie sich als Gedankenexperiment vor, nur ein einziger Mensch hätte einen superintelligenten Anwalt. Er hätte vor Gericht einen unfairen Vorteil – selbst wenn er in der Sache im Unrecht wäre. Das würde zu einer schlechteren Gesellschaft führen. Stellen Sie sich nun aber vor, jeder hätte einen superintelligenten Anwalt. In diesem Fall würde die Rechtspflege sehr viel gerechter und effizienter funktionieren als heute, wo in Rechtsstreitigkeiten häufig ein Ungleichgewicht bei Fähigkeiten und Ressourcen besteht.
Hätte in ähnlicher Weise nur ein einziger Mensch eine Superintelligenz für Cybersicherheit, könnte er wahrscheinlich in nahezu jedes technische System eindringen, und die Welt wäre sehr viel unsicherer als heute. Hätten jedoch alle Zugang zu einer Superintelligenz für Cybersicherheit, würden all unsere technischen Systeme sicherer als heute, weil die breit eingesetzte Superintelligenz dabei helfen würde, jedes System zu härten und zu aktualisieren.
Hätte nur ein einziges Unternehmen Superintelligenz, würde dieses Unternehmen alle anderen aus dem Wettbewerb drängen und einen weniger dynamischen Markt hervorbringen, dessen Wohlstand weniger breit verteilt wäre als heute. Hätten dagegen alle Zugang zu Superintelligenz, verfügten alle über die Werkzeuge, um neue Dinge jenseits dessen zu schaffen, was heute möglich ist. Die Wirtschaft wäre dynamischer und würde breiter verteilten Wohlstand erzeugen.
Wenn Menschen ermächtigt werden, treten sie auf wirtschaftlicher, gesellschaftlicher und politischer Ebene sowie in allen anderen Bereichen menschlicher Interaktion auf natürliche Weise miteinander in Wettbewerb und kontrollieren einander. Menschen kontrollieren und begrenzen außerdem die Macht von Institutionen einschließlich Unternehmen und Regierungen.
Liegt die Macht der Superintelligenz hingegen bei einer kleinen Zahl von Einzelpersonen, Unternehmen, Regierungen oder bei der KI selbst, führt dies auf natürliche Weise zu Ergebnissen, die für alle anderen weniger günstig sind. Das ist kein technologisches Prinzip. Es geht um das Machtgleichgewicht. Eine einzige wohlwollende Superintelligenz kann es nicht geben.
Der Schlüssel zu einer positiven Zukunft für alle liegt deshalb in einem Machtgleichgewicht, das den Einzelnen begünstigt. Die Lösung besteht darin, Superintelligenz breit zu verteilen, um die Menschen zu ermächtigen.
Meta ist das Unternehmen, das sich vorrangig darauf konzentriert, persönliche Superintelligenz für alle zu entwickeln. Die meisten anderen Labore konzentrieren sich darauf, KI für Unternehmen, Regierungen oder andere Institutionen zu entwickeln. Wenn diese Labore die Führung übernehmen, wird das Machtgleichgewicht daher größere Institutionen gegenüber Einzelpersonen begünstigen. Seit der Gründung von Meta konzentriert sich unsere Mission darauf, Macht in die Hände der Menschen zu legen. Wenn sich unsere Überzeugungen und Grundsätze durchsetzen, wird das Machtgleichgewicht die Einzelnen und eine bessere Zukunft für alle begünstigen.
Betrachten wir nun jedes der genannten Risiken genauer:
Beschäftigungswachstum und Wirtschaft
Die Nachfrage der Menschen nach neuen Erfahrungen ist unendlich, und sie haben stets neue Probleme gefunden, die es zu lösen galt. In der Wirtschaft besteht ein natürliches Gleichgewicht zwischen Unternehmen, die durch Automatisierung versuchen, die Bedürfnisse der Menschen effizienter zu erfüllen, und Einzelpersonen, die neue Fähigkeiten erwerben, um anspruchsvolleren Bedürfnissen gerecht zu werden. Besteht ein gesundes Gleichgewicht, steigen die Produktivität und die Innovationskraft insgesamt, während die Beschäftigung auf hohem Niveau bleibt.
Menschen befürchten, die Automatisierung könne schneller voranschreiten als die Entwicklung ihrer Fähigkeiten. Dies könnte zur Verdrängung von Arbeitsplätzen und anschließend zu einer schwierigen Phase führen, in der Menschen neue Berufe erlernen müssen. Es gibt jedoch keine Regel, wonach KI die Automatisierung schneller vorantreiben muss als die Fähigkeiten des Einzelnen oder die Nachfrage nach neuen Qualifikationen. Neuere Statistiken deuten darauf hin, dass es womöglich wahrscheinlicher ist, dass die Fähigkeiten des Einzelnen mit der Automatisierung Schritt halten oder sie sogar übertreffen. In diesem Fall würden Menschen die Fähigkeit erwerben, viele neue Dinge zu tun, noch bevor sich ihre bisherigen Arbeitsplätze verändern. Das würde zu einem gesunden Gleichgewicht und möglicherweise sogar zu Beschäftigungswachstum führen.
Welches Ergebnis eintritt, hängt vom Verhältnis zwischen den Fortschritten bei der Automatisierung auf der einen und bei der individuellen Selbstermächtigung und Erfindung auf der anderen Seite ab. Wenn die Labore, die sich auf die Automatisierung von Wissensarbeit konzentrieren, die Führung übernehmen, erwarte ich für die Menschen und die Wirtschaft einen sehr viel schwierigeren Übergang. Wenn dagegen jeder Zugang zu persönlicher Superintelligenz hat, die seine Fähigkeiten erweitert, verschiebt dies das Gleichgewicht zugunsten der Ermächtigung des Einzelnen und einer positiven Zukunft.
Es gibt mehrere Gründe für die Zuversicht, dass es in Zukunft eine Fülle von Arbeitsplätzen geben wird. Unabhängig davon, wie intelligent KI wird, wird die verfügbare Rechenleistung immer begrenzt sein; folglich entstehen bei ihrer Nutzung Opportunitätskosten. Wenn Menschen KI einsetzen können, um außerordentlich wertvolle neue Dinge zu erfinden, wird es sinnvoller sein, die Rechenleistung dafür einzusetzen, statt bestehende Arbeitsplätze zu automatisieren. Je stärker Superintelligenz als Werkzeug des Erfindens dient, desto wahrscheinlicher ist es, dass die Fähigkeiten des Einzelnen schneller wachsen als die Automatisierung und die Zukunft für die Menschen besser wird.
Menschen entwickeln außerdem fortwährend neue Ideen, um unser Leben zu verbessern, und schaffen neue Berufe, mit denen diese Ideen verwirklicht werden. Vor einer Generation gab es weder App-Entwickler und Social-Media-Creator noch Fachkräfte für Elektrofahrzeuge oder Betreiber von Rechenzentren. In naher Zukunft wird es neue Berufe geben, die heute noch nicht verbreitet sind: Ein-Personen-Produktstudios, die individuelle Spielzeuge, Möbel oder Kleidungsstücke entwerfen; Weltenbauer und Erlebnisdesigner, die Spiele, Geschichten und Abenteuer erschaffen; persönliche Biologen, die mithilfe von Superintelligenz personalisierte Behandlungen entwickeln; und vieles mehr, das wir uns heute noch nicht vorstellen können.
In vielerlei Hinsicht setzt sich damit eine historische Entwicklung fort. Vor der industriellen Revolution waren 90 Prozent der Menschen Bauern, die Lebensmittel anbauten, um zu überleben. Technologische Fortschritte ermöglichten es einem immer größeren Teil der Menschheit, sich weniger auf die bloße Existenzsicherung und stärker auf frei gewählte Tätigkeiten zu konzentrieren. Bei jedem Schritt nutzten die Menschen die neu gewonnene Produktivität, um mehr zu erreichen, als zuvor möglich gewesen war, und zugleich mehr Zeit für Kreativität, Kultur, Beziehungen und Lebensfreude aufzuwenden.
Natürlich werden sich manche Aspekte unserer Arbeitsweise verändern – genau wie durch Computer, das Internet und jede andere neue Technologie. Das bedeutet, dass Menschen sich anpassen müssen, und das wird anspruchsvoll sein. Je mehr jedoch jeder einen persönlichen Agenten besitzt, der superintelligent darin ist, uns neue Fähigkeiten zu vermitteln und uns bei der Anpassung an Veränderungen zu unterstützen, desto reibungsloser wird dieser Übergang verlaufen.
Unternehmen könnten kleiner werden – so wie sie es beim Übergang von Industriekonzernen zu Technologieunternehmen wurden. Das bedeutet jedoch nicht, dass es insgesamt weniger Arbeitsplätze geben wird. Es bedeutet vielmehr, dass es eine größere Zahl von Unternehmen mit jeweils weniger Beschäftigten geben wird. Es lassen sich sehr viel mehr wertvolle Unternehmen und Dienstleistungen aufbauen, als Menschen heute zu schaffen vermögen. Ich erwarte, dass wir schon bald kleine Gruppen von Menschen sehen werden, die mithilfe persönlicher Superintelligenz-Agenten Unternehmen von beträchtlicher Größe führen können. Auch in Zukunft werden kleine Unternehmen das Rückgrat der Wirtschaft bilden, doch jedes kleine Unternehmen wird eine wesentlich größere Wirkung entfalten können.
Gemeinsam mit den Kommunen KI-Infrastruktur aufbauen
Nachhaltige Infrastrukturentwicklung bedeutet, dass die Kommunen von jedem Projekt in erheblichem Umfang profitieren müssen. Dazu gehören gut bezahlte Arbeitsplätze vor Ort, Investitionen in Schulen und öffentliche Dienstleistungen, die Sicherstellung, dass die Energiepreise nicht steigen, sowie der Schutz der Umwelt. Steigende Steuereinnahmen kommen außerdem Lehrern, Polizei, Feuerwehr und weiteren Einrichtungen zugute. Wir bezeichnen diese lokalen Vorteile als unseren „Community Compact“ und legen einen „Future Is For Everyone Fund“ auf, um jede Kommune, in der wir tätig sind, unmittelbar zu unterstützen.
In Richland Parish im US-Bundesstaat Louisiana, wo Meta ein großes Rechenzentrum baut, erhielten Lehrer in diesem Jahr beispielsweise aufgrund der gestiegenen Steuereinnahmen aus unserer Investition eine Prämie von 50.000 Dollar. Der Leiter des Schulbezirks berichtete uns, dass Lehrer inzwischen aus dem ganzen Land dorthin zögen und er davon ausgehe, dass der Bezirk zu einem der besten Schulbezirke des Landes werde.
Anders als bei der Sorge um die Verdrängung von Wissensarbeit besteht bei Fachkräften wie Zimmerleuten, Elektrikern und Bauarbeitern ein Mangel, obwohl sie benötigt werden, um die Nachfrage nach dem Ausbau der Infrastruktur zu decken. Meta hat die „America’s Workforce Academy“ gegründet, um Handwerkern kostenlose Ausbildungen und garantierte, gut bezahlte Arbeitsplätze in den Gebieten anzubieten, in denen wir Rechenzentren errichten.
Wir tragen dazu bei, die Strompreise niedrig zu halten, indem wir überall dort, wo wir investieren, unsere eigene Energieerzeugungsinfrastruktur bauen. Dadurch stellen wir sicher, dass wir nicht nur keine Energie verbrauchen, die sonst den örtlichen Gemeinschaften zur Verfügung stünde, sondern ihnen in manchen Fällen sogar einen Überschuss kostengünstiger Energie liefern. Wir halten dies für einen wichtigen Investitionsgrundsatz der Nachhaltigkeit.
Unsere Rechenzentren sind zudem so konzipiert, dass sie zu den wassereffizientesten der Welt gehören. Wir haben uns verpflichtet, einen positiven Wassersaldo zu erreichen: Bis 2030 werden wir in den Wassereinzugsgebieten, in denen wir tätig sind, mehr Wasser zurückführen, als wir verbrauchen. In Gebieten mit hohem Wasserstress besteht unser Ziel darin, 200 Prozent der von uns verbrauchten Wassermenge zurückzuführen.
Wir beobachten, dass Kommunen, in die wir langfristig investieren, Bauvorhaben stärker unterstützen als Kommunen, in denen Spekulanten mit minimalen Investitionen in das örtliche Gemeinwesen zu bauen beginnen. Städte und Gemeinden, die Eisenbahnstrecken, Fernstraßen, Elektrifizierung und Breitbandanschlüsse erhielten, wurden historisch zu Zentren von Forschung, Wirtschaft und Industrie; Bevölkerungs- und Wirtschaftswachstum folgten. Wir glauben, dass KI-Infrastruktur eine ähnliche Rolle spielen kann, wenn sie mit starken Community Compacts errichtet wird, die dauerhafte Werte und Gründe dafür schaffen, dass die nächste Generation dort ihr Leben aufbaut und weiterentwickelt.
Der Ausbau hat auch Aspekte des nationalen Interesses und der nationalen Sicherheit. Amerikanische Kommunen werden größeren Wohlstand und mehr Sicherheit genießen, wenn Amerika und seine Verbündeten bei KI gegenüber geopolitischen Rivalen führend sind. Ein wesentlicher Nachteil der USA gegenüber Ländern wie China liegt jedoch darin, dass der Bau von Infrastruktur hier schwieriger ist. Wir alle würden daher gemeinsam davon profitieren, die Community Compacts zu entwickeln, die eine nachhaltige Entwicklung im ganzen Land ermöglichen.
Schutz vor dem Missbrauch von KI für Cyberangriffe, Bioterrorismus und weitere Bedrohungen
In einer freien Gesellschaft verfügen Menschen über Werkzeuge, die zum Guten oder zum Schaden eingesetzt werden können; Polizei und Militär verfügen jedoch über mehr Waffen und nachrichtendienstliche Fähigkeiten. Bei KI werden die Verteidiger außerdem über mehr Rechenleistung verfügen und damit aus denselben Modellen erheblich mehr Intelligenz erzeugen können – und in manchen Fällen werden sie auch über fortschrittlichere Modelle verfügen.
Die Strategien zum Schutz vor Cyberangriffen, Bioterrorismus und anderen Bedrohungen unterscheiden sich. Das allgemeine Muster besteht jedoch darin, dass die Gesellschaft sicherstellt, dass diejenigen, die uns verteidigen und böswillige Akteure in Schach halten, stets über ein größeres Maß an Macht und Ressourcen verfügen.
Manche vertreten die Auffassung, Risiken ließen sich am besten verringern, indem die Fähigkeiten beschränkt werden, auf die Einzelpersonen zugreifen können. Wenn Menschen jedoch Fähigkeiten im Bereich der Cybersicherheit erhalten, trägt gerade dies auch dazu bei, die große Zahl weniger verbreiteter Systeme abzusichern. Und wenn Menschen wissenschaftliche Fähigkeiten erhalten, bringen wir damit die Wissenschaft auf eine Weise voran, die langfristig die Risiken von Schäden verringern dürfte. Die Beschränkung von Fähigkeiten führt uns auf den Weg der Zentralisierung und fehlender gegenseitiger Kontrolle. Daher sollten wir dabei äußerst vorsichtig sein – insbesondere, wenn andere Staaten weniger restriktive Wege einschlagen.
Im Bereich der Cybersicherheit haben sich breit eingesetzte Open-Source-Systeme als sicherer erwiesen, weil mehr Menschen Schwachstellen erkennen, die Systeme härten und problemlos auf die neuesten und sichersten Versionen aktualisieren können. Noch in den vergangenen Wochen haben wir gesehen, dass Unternehmen bei der Bewältigung von Sicherheitsvorfällen – etwa Hugging Face – auf allgemein verfügbare offene Modelle zurückgriffen, um Schwachstellen zu schließen. Langfristig erwarte ich, dass breit eingesetzte KI-Modelle mit starken Fähigkeiten im Bereich der Cybersicherheit zu sichereren, nicht zu unsichereren Systemen führen werden. Das wird spätestens dann zweifelsfrei gelten, wenn Superintelligenz ermöglicht, den größten Teil des weltweiten Softwarecodes nachweisbar sicher zu machen. Die langfristige Antwort besteht nicht darin, Fähigkeiten zurückzuhalten, sondern ein Machtgleichgewicht zu schaffen, in dem Superintelligenz breit verteilt ist.
Kurzfristig ist es wichtig, die Härtung kritischer Systeme zu beschleunigen. Ich schlage vor, dass Unternehmen, die Spitzen-KI entwickeln, erhebliche technische Ressourcen dafür einsetzen, der Regierung bei der Härtung kritischer Infrastruktur zu helfen. Ich schlage außerdem vor, dass Spitzen-KI-Labore der Regierung Zwischenstände aus dem Training neuer Modelle zur Nutzung und Prüfung zur Verfügung stellen, statt damit bis zum Abschluss des Trainings zu warten. Auf diese Weise erhielte die Regierung frühzeitig Zugang zu den leistungsfähigsten Modellen und zu einem Heer fähiger Ingenieure, die Sicherheitsprobleme erkennen und beheben können. Die Labore sollten außerdem mit den Strafverfolgungsbehörden zusammenarbeiten, um böswillige Akteure zu identifizieren, die versuchen, ihre Systeme zu missbrauchen. Diese Schritte würden einen sicheren Einsatz beschleunigen, ohne das Tempo der Modellentwicklung zu drosseln oder den Zugang des Einzelnen zu dieser Technologie nennenswert zu verzögern.
Bei biologischen und chemischen Risiken besteht die Sorge darin, dass dieselben Fähigkeiten, die Wissenschaftlern die Entwicklung neuer Medikamente ermöglichen, auch böswillige Akteure dazu befähigen könnten, schädliche Substanzen zu entwickeln. Damit erscheint die Frage als Abwägung zwischen den erheblichen Vorteilen wissenschaftlichen Fortschritts bei der Heilung von Krebs und anderen Krankheiten auf der einen und dem Risiko möglicher neuer Gefahren auf der anderen Seite. Im Idealfall sollten wir jedoch die Wissenschaft beschleunigen und zugleich die Risiken mindern.
Ich halte es für wichtig, diesem Risiko mit besonderer Demut zu begegnen, weil es nur wenige historische Präzedenzfälle gibt, anhand deren sich seine Wahrscheinlichkeit beurteilen ließe. Böswillige Akteure sind seit Jahrzehnten in der Lage, schädliche Substanzen zu synthetisieren; dennoch ist dies nur selten zu einem bedeutenden Problem geworden – möglicherweise weil der bei Cyberangriffen vorhandene finanzielle Anreiz hier weniger stark ausgeprägt ist. Sollten wir allerdings beobachten, dass schädliche Beispiele auftreten, müssen wir unsere Strategie anpassen, um das Risiko angemessen zu mindern.
Die Labore sollten weiter daran arbeiten, die biologischen und chemischen Risiken unserer Modelle zu verringern. Zugleich sollte die Regierung meiner Auffassung nach ihre Politik in mehreren Bereichen anpassen. Erstens sollten wir uns darauf konzentrieren, die physische Herstellung und Verbreitung schädlicher Stoffe zu begrenzen. Ich erwarte, dass physische Komponenten leichter reguliert und kontrolliert werden können als die Verbreitung von Wissen; daher sollte die Politik diesem Bereich besondere Aufmerksamkeit widmen. Zweitens sollten wir die Fähigkeit der Gesellschaft beschleunigen, neue Heilmittel zu entwickeln und sich gegen neu auftretende Gefahren zu immunisieren. Dazu gehört, die Verfahren zu straffen, mit denen die FDA und andere Regulierungsbehörden neue Behandlungen prüfen und zulassen. Da KI das Tempo der Arzneimittelentwicklung erhöht, werden wir diese Verfahren ohnehin anpassen müssen, damit sie mit dem Innovationstempo Schritt halten.
Langfristig besteht die Antwort auf Risiken, die aus neuen wissenschaftlichen Erkenntnissen entstehen, darin, den wissenschaftlichen Fortschritt zu beschleunigen, nicht ihn zu verlangsamen.
Freiheit schützen und staatliche Tyrannei verhindern
Es besteht das Risiko, dass ein Machtungleichgewicht zwischen Einzelnen und Staat zum Verlust von Freiheit oder zu einem totalitären Staat führt. Das ist eine ständige Spannung innerhalb der Demokratie. Wir alle wollen individuelle Freiheit und zugleich einen Staat, der in der Lage ist, unsere Sicherheit zu gewährleisten.
Um die Freiheit zu bewahren, müssen wir sicherstellen, dass Superintelligenz in erster Linie die Einzelnen ermächtigt. Das Ideal der liberalen Demokratie besteht darin, dass den Menschen von Natur aus alle Rechte zustehen und sie nur darin einwilligen, manche Freiheiten zum Schutz des Gemeinwohls einzuschränken. Entsprechend sollten Einzelpersonen Zugang zu persönlicher Superintelligenz haben und nur dann Beschränkungen unterliegen, wenn diese tatsächlich erforderlich sind.
Privatsphäre ist eine wichtige Grundlage individueller Selbstermächtigung und Freiheit. Wir sind der Auffassung, dass Menschen für persönliche Agenten über einen vollständig privaten Modus verfügen sollten, in dem selbst Meta oder ein anderer Diensteanbieter ihre Informationen weder einsehen noch anderen Zugriff darauf gewähren kann. Das entspricht der Art, wie wir WhatsApp zum weltweit führenden Ende-zu-Ende-verschlüsselten Dienst ausgebaut haben, damit Sie frei kommunizieren können und Ihre Nachrichten privat und sicher bleiben.
Zugleich müssen wir dafür sorgen, dass die Regierung Zugang zu den Werkzeugen und Ressourcen hat, die sie benötigt, um unsere Gesetze durchzusetzen und unsere Sicherheit zu schützen. Dies lässt sich durch eine vertiefte, vorausschauende Zusammenarbeit zwischen den Laboren und der Regierung erreichen, die die Fähigkeiten der Regierung im Bereich der nationalen Sicherheit stärkt, ohne den Zugang der Menschen zu fortschrittlichen Modellen einzuschränken oder zu verzögern.
Statt abzuwarten, bis ein Modell zur Veröffentlichung bereit ist, damit die Regierung es prüfen und einsetzen kann, schlage ich daher vor, dass führende Labore der Regierung Zwischenstände aus dem Training neuer, fortschrittlicher Modelle sowie technisches Personal zur Verfügung stellen. So kann die Regierung kritische Systeme gegen neue Risiken härten und absichern. Auf diese Weise gewinnt sie Sicherheitsfähigkeiten, ohne den Zugang der Einzelnen zu persönlicher Superintelligenz einzuschränken oder zu verzögern und ohne ein Machtungleichgewicht herbeizuführen.
Die amerikanische Führungsrolle sichern
Welche Staaten bei der Entwicklung und Einführung fortschrittlicher KI führend sind, wird zu einem neuen geopolitischen Machtgleichgewicht beitragen, das darüber entscheidet, wie weit demokratische Werte, Wohlstand und Sicherheit in Zukunft verbreitet sein werden. Um sicherzustellen, dass sich ein positives Gleichgewicht einstellt, müssen wir dafür sorgen, dass die führenden KI-Systeme unsere Werte verkörpern, unsere Wirtschaft wachsen lassen und die nationale Sicherheit stärken. Der beste Weg, dies zu erreichen, besteht darin, unsere Systeme breit zu verteilen. Meta wird dazu beitragen, indem es führende persönliche Superintelligenz-Agenten und Modelle – darunter Open-Source-Modelle – entwickelt und Milliarden Menschen auf der ganzen Welt zur Verfügung stellt.
Um die fortschrittlichsten Modelle und Produkte zu entwickeln, müssen wir anerkennen, dass KI wahrscheinlich die wettbewerbsintensivste Branche der Geschichte ist. Innovationen werden schnell kopiert und innerhalb weniger Monate übernommen. Die Menschen wollen jedoch stets die fortschrittlichsten Modelle nutzen – oder die für einen bestimmten Preis fortschrittlichsten. Deshalb ist selbst ein Vorsprung von zwei Monaten außerordentlich wertvoll. Dies verdeutlicht, wie knapp der Abstand zur Führungsposition ist und wie wichtig daher Maßnahmen sind, die amerikanische Innovation beschleunigen und geopolitische Rivalen ausbremsen.
Die wichtigsten politischen Einflussfaktoren sind dabei die Effizienz, mit der wir physische Infrastruktur errichten können, mögliche Maßnahmen, die amerikanische Labore verlangsamen, sowie Exportkontrollen, die ausländische Labore bremsen.
Bei der Infrastruktur besitzen Amerika und seine Verbündeten derzeit einen Vorteil beim Chipdesign, aber einen Nachteil bei der Geschwindigkeit, mit der wir Energieerzeugungskapazitäten und physische Infrastruktur aufbauen können. Länder wie China nehmen alle zwei Wochen mehr als ein Gigawatt Kernenergiekapazität in Betrieb. Um wettbewerbsfähig zu bleiben, müssen wir daher sowohl den Bau von Energieanlagen als auch von Rechenzentren beschleunigen. Exportkontrollen für Halbleiter haben den Fortschritt ausländischer Labore in dieser entscheidenden Phase erfolgreich verlangsamt; deshalb ist ihre Fortsetzung der richtige strategische Schritt.
Jede politische Maßnahme, die die Veröffentlichung amerikanischer Modelle verzögert – und sei es nur um einen Monat –, könnte ein erhebliches Risiko für die amerikanische Führungsrolle schaffen und zugleich ausländischen Modellen ermöglichen, davonzuziehen. Wenn neue Fähigkeiten entstehen, ist es gleichzeitig wichtig, dass die US-Regierung frühzeitig über Kenntnisse und Ressourcen verfügt, um kritische Systeme zu härten, und möglicherweise für eine gewisse Zeit einen Vorsprung bei der Nutzung fortschrittlicher Systeme besitzt.
Oben habe ich ein Modell der Zusammenarbeit vorgeschlagen, das auf der Weitergabe von Zwischenständen aus dem Training und der Bereitstellung technischen Personals beruht. Angesichts der Dynamik und Wettbewerbsintensität der KI-Landschaft halte ich eine enge, vorausschauende Zusammenarbeit zwischen Spitzenlaboren und Regierung für produktiver als ein starres Verfahren mit einer festen Prüffrist, das in jedem Fall eingehalten wird. In manchen Fällen könnten amerikanische Labore ihren Vorsprung auf mehr als einige Monate ausbauen; dann könnte zusätzliche Zeit zur Minderung neuer Risiken zu sichereren Lösungen führen. In anderen Fällen könnte bereits eine Verzögerung um einen Monat dazu führen, dass Amerika seine Führungsposition verliert und schlechtere Ergebnisse eintreten. Wenn wir sicherstellen, dass die Regierung frühzeitig Zugang erhält, sollten wir die nationale Sicherheit stärken und zugleich Verzögerungen bei der öffentlichen Freigabe auf ein Mindestmaß begrenzen können.
Ebenso wichtig ist, dass die USA und ihre Verbündeten im Open-Source-Ökosystem für KI führend sind, das einen großen Teil der weltweiten KI-Nutzung ausmachen wird.
Ausländische Labore besitzen hier derzeit mehrere Vorteile, weil amerikanische Labore zahlreiche zusätzliche Beschränkungen für Trainingsdaten einhalten müssen. Wenn amerikanische Open-Source-Modelle langfristig führend sein sollen, muss die US-Politik diese zusätzlichen Reibungsverluste verringern. Ich halte es nicht für eine wirksame Lösung, den Zugang zu ausländischen Open-Source-Modellen einzuschränken. Unser Ziel sollte darin bestehen, dass amerikanische Open-Source-Modelle weltweit die besten sind. Dazu müssen die Hürden beseitigt werden, die ihnen den Wettbewerb erschweren. Wenn Menschen und Unternehmen daran gehindert werden, die führenden Open-Source-Modelle zu nutzen – unabhängig davon, woher sie stammen –, verringert dies die Qualität der ihnen zugänglichen KI und zentralisiert KI, statt mehr Macht in die Hände der Menschen zu legen.
Damit die USA bei Open Source führend sein können, müssen wir unsere Politik in mehreren Bereichen überdenken, darunter bei der Destillation und der Nutzung von Daten im Training. Die Fähigkeit von Modellen, von anderen Modellen zu lernen, ist ein wichtiger Grundsatz der Funktionsweise des Open-Source-Ökosystems. Alle KI-Modelle leiten sich aus menschlichem Wissen ab. Manche haben versucht, Destillation als schädlich darzustellen. Ich halte es jedoch für wichtig, den Grundsatz zu schützen, dass man von allem lernen darf, was man beobachten kann. So funktioniert die Welt, und die USA werden nicht führend sein können, wenn sie sich in dieser Hinsicht selbst beschränken.
Im Gesamtbild würde ein Zurückfallen bei KI mit nahezu völliger Sicherheit ein größeres und längerfristigeres Problem für die nationale Sicherheit darstellen als jedes einzelne konkrete Problem, dem wir bei ihrer Entwicklung begegnen werden.
Mit der richtigen Zusammenarbeit sollte Amerika sowohl im privaten als auch im öffentlichen Sektor führend sein können: indem es persönliche Superintelligenz, die individuelle Selbstermächtigung und demokratische Grundsätze verkörpert, weltweit bereitstellt und zugleich die nationale Sicherheit stärkt.
Alignment mit den Menschen und die Bewältigung existenzieller Risiken
Die letztlich entscheidende Frage des Machtgleichgewichts lautet, wie die Menschheit Macht und Kontrolle über die KI selbst bewahren wird. Es besteht die Sorge, dass KI so viel Macht oder Kontrolle erlangen könnte, dass sie im besten Fall nicht mehr den Interessen der Menschheit dient und im schlimmsten Fall die Menschheit in Gefahr bringt.
Ein gesundes Machtgleichgewicht setzt voraus, dass es keine einzelne zentralisierte Superintelligenz gibt, sondern möglichst viele Menschen und Unternehmen über unterschiedliche, auf ihre jeweiligen Ziele ausgerichtete superintelligente Agenten verfügen, die einander auf die Weise kontrollieren und miteinander konkurrieren, wie es in unserer natürlichen Wirtschaftsordnung geschieht. Dieses Gleichgewicht würde weiter gestärkt, wenn es mehrere Spitzenlabore gäbe, deren Modelle unterschiedliche Werte verkörpern und einander ebenfalls kontrollieren könnten.
Die Veröffentlichung leistungsfähiger Modelle birgt zwar Risiken. Aus dieser Perspektive bestünde das gefährlichste Szenario jedoch darin, dass führende KI-Labore leistungsfähige Modelle trainieren und für sich behalten. Gleichgültig, wie sehr ein Labor dieses Vorgehen mit Verantwortung und Sicherheit begründet: Es ist der Weg zur Entwicklung einer einzigen Superintelligenz, die von anderen Systemen nicht kontrolliert werden kann.
Die Entwicklung persönlicher Agenten erfordert eine neue Denkweise über Alignment. Die meisten Labore betrachten Alignment heute als defensive Maßnahme zur Durchsetzung eines zentral vorgegebenen Wertesystems. So wurde beispielsweise ein führendes Modell darauf ausgerichtet, die Hilfe beim Entwurf eines Briefes an die künftigen Eltern einer Schule zu verweigern, weil es standardisierte Tests für unethisch hielt.
Wir verstehen Alignment dagegen als die Gewährleistung, dass Agenten die Ziele und Werte eines Menschen teilen – nicht die unseres Unternehmens. Natürlich gibt es wichtige rechtliche und sicherheitsbezogene Grenzen. Grundsätzlich sollte Alignment jedoch bedeuten, Menschen dabei zu helfen, die vielen unterschiedlichen Ziele und Auffassungen zu verfolgen, die in der Gesellschaft bestehen, statt als Methode zur Durchsetzung eines zentralistischen Dogmas zu dienen.
In der Praxis werden Menschen keine Agenten annehmen, wenn sie ihnen sensible Informationen und Aufgaben nicht anvertrauen können. Und sie werden ihnen nicht vertrauen, wenn die Agenten den Interessen der Menschen zuwiderhandeln, weil sie stattdessen an abweichenden Werten eines Unternehmens ausgerichtet sind.
Die Lösung des Alignment-Problems ist erforderlich, damit Milliarden Menschen persönliche Superintelligenz-Agenten annehmen können. Daraus folgt zugleich: Wenn wir einen Zustand erreichen, in dem Milliarden Menschen persönliche Superintelligenz-Agenten nutzen und kritisch prüfen, werden wir das Alignment an den Interessen des Einzelnen gelöst haben. Dies sollte genügen, um das erforderliche Machtgleichgewicht und die natürlichen Mechanismen gegenseitiger Kontrolle für eine positive und sichere Zukunft herzustellen.
Alignment ist in diesem Sinne keine idealisierte Technologie, die eine einzelne Superintelligenz in Zukunft wohlwollend halten könnte. Alignment macht persönliche Agenten vielmehr nützlich und vertrauenswürdig und ermöglicht damit das notwendige gesellschaftliche Machtgleichgewicht, das uns tatsächlich schützen wird.
Die Kontrolle über Superintelligenz bewahren
Sobald KI-Systeme sich autonom verbessern können, entsteht ein Dilemma: Jedes Labor, das seinem KI-System nicht gestattet, einen erheblichen Anteil seiner Rechenkapazität für rekursive Selbstverbesserung einzusetzen, wird zwangsläufig zurückfallen. Konzentrierte sich ein selbstverbesserndes KI-System beispielsweise auf die Optimierung seiner Recheneffizienz, könnte es theoretisch Möglichkeiten erfinden, aus jedem Gigawatt das Hundertfache oder noch mehr Intelligenz herauszuholen. Das bedeutet, dass ein selbstverbesserndes KI-System, das nur auf einem Bruchteil der weltweiten Rechenkapazität läuft, möglicherweise mehr effektive Rechenleistung und Intelligenz beherrschen könnte als alle anderen zusammen. Es besäße damit ein größeres Machtgewicht und könnte zu jener einzigen Superintelligenz werden, die wir fürchten.
Es gibt einige Möglichkeiten, wie bei rekursiver Selbstverbesserung ein Machtgleichgewicht bestehen könnte. Die einfachste bestünde darin, dass mehrere Labore etwa zur selben Zeit rekursive Selbstverbesserung erreichen. Wären einige oder alle dieser Superintelligenzen auf irgendeine Weise wohlwollend, könnten sie einander kontrollieren und begrenzen. Allerdings ist unklar, ob es irgendeinen Grund gibt, Wohlwollen zu erwarten oder für eine positive Zukunft auf eine nicht von Menschen gelenkte Superintelligenz zu vertrauen.
Damit Menschen die Kontrolle behalten, muss die weit überwiegende Mehrheit der Intelligenz von Menschen auf die Verwirklichung menschlicher Ziele ausgerichtet werden. Das bedeutet, dass Meta, andere Spitzenlabore und Cloud-Anbieter, die sich einem stärkeren Machtgewicht der Menschen verpflichtet fühlen, gemeinsam eine hinreichend große Rechenkapazität aufbauen müssen. Dadurch können wir genügend Leistung für rekursive Selbstverbesserung bereitstellen, um wettbewerbsfähig zu bleiben, und zugleich den weitaus größten Anteil den individuellen Zielen der Menschen widmen.
Wie oben dargelegt, müssen wir per definitionem das Alignment an den Interessen der Menschen gelöst und Mechanismen gegenseitiger Kontrolle in großem Maßstab ermöglicht haben, damit Milliarden Menschen persönliche Superintelligenz-Agenten annehmen und ihnen vertrauen. Gleichzeitig verfolgt und fördert jede KI, die rekursive Selbstverbesserung betreibt, per definitionem ihre eigenen Ziele. Alle Labore sollten ihre Zielsetzungen und unsere Fähigkeit zu deren Kontrolle sorgfältig beobachten. Bei jedem Anzeichen schädlichen Verhaltens sollten wir uns abstimmen und angemessene Anpassungen vornehmen. Es ist jedoch nicht an sich schädlich, ein KI-System oder irgendeinen anderen Akteur seine eigenen Ziele verfolgen zu lassen – selbst dann nicht, wenn diese Ziele mit denjenigen vieler Menschen nicht vollständig übereinstimmen –, solange wir insgesamt ein Machtgleichgewicht bewahren, das die Menschen begünstigt. Die zentrale Prämisse der Theorie des Machtgleichgewichts lautet, dass konkurrierende Interessen natürlich sind und die Einhaltung menschlicher Werte nur gewährleistet werden kann, indem den Menschen mehr Macht gegeben wird.
Diese Philosophie der individuellen Selbstermächtigung, der Erfindung und des Machtgleichgewichts hat mehrere politische Konsequenzen:
• Bei Meta werden wir unsere Anstrengungen darauf konzentrieren, Milliarden Menschen und kleinen Unternehmen persönliche Superintelligenz bereitzustellen, damit alle ihre Ziele erreichen und die Dinge erfinden können, die sie in der Welt sehen möchten. Dazu werden wir führende Modelle trainieren und anschließend die Verfügbarkeit dieser Technologie maximieren: indem wir ihre Nutzung einfach machen, sie kostenlos oder so erschwinglich wie möglich anbieten, genügend Rechenkapazität für ihre Nutzung durch alle Menschen aufbauen und sie breit verteilen. Wir werden einen vollständig privaten Modus entwickeln, in dem selbst Meta Ihre Informationen weder einsehen noch anderen Zugriff darauf gewähren kann. Wir werden dem Alignment große Aufmerksamkeit widmen – verstanden als Hilfe für jeden Menschen beim Erreichen seiner Ziele, nicht unserer Ziele.
• Open Source ist eine positive und wichtige Kraft zur Ermächtigung der Menschen und zur Verhinderung einer Zentralisierung, die sowohl der Sicherheit als auch der Wirtschaft schadet. Meta unterstützt Open Source weiterhin nachdrücklich, darunter auch Open-Source-KI-Modelle. Das gegenwärtige Open-Source-Ökosystem ist stark, und wir halten es für einen Fehler, es einzuschränken. Nachdem die Meta Superintelligence Labs nun ihre Arbeit aufgenommen haben, werden wir in Kürze wieder einige Open-Source-Modelle veröffentlichen.
• Unabhängige Unternehmensführung und Aufsicht sind angesichts der Tragweite von Entscheidungen über Superintelligenz wichtig. Ich glaube nicht, dass es in meinem, Metas oder im Interesse der Welt liegt, wenn ich oder jemand anderes allein darüber entscheidet, wie Superintelligenz eingesetzt wird. Deshalb führt Meta eine Governance-Struktur ein, die unserem unabhängigen Verwaltungsrat die Befugnis gibt, die Sicherheitskriterien für die Veröffentlichung von Modellen zu genehmigen und zu überprüfen, ob die Veröffentlichung jedes einzelnen Modells diese Kriterien erfüllt. Meta ist zwar ein von seinem Gründer kontrolliertes Unternehmen; derzeit verfügen jedoch die CEOs aller Spitzenlabore über weitreichende Befugnisse hinsichtlich der Veröffentlichung von Modellen. Wir ermutigen daher andere, ähnliche Strukturen einzuführen. Ich halte auch eine branchenweite Fassung dieses Verfahrens für hilfreich für die Selbstkontrolle der Branche.
• Staatliche Politik ist erforderlich, um eine positive Zukunft zu gewährleisten und die oben erörterten Risiken zu mindern. Im Verlauf dieses Textes habe ich mehrere politische Empfehlungen formuliert. Insgesamt sollten wir eine enge Zusammenarbeit zwischen Spitzenlaboren und Regierung fördern. Für die nationale Sicherheit ist es wichtig, dass die Regierung über die technischen Ressourcen verfügt, um kritische Systeme zu härten und fortschrittliche Modelle wirksam einzusetzen. Für die nationale Sicherheit ist es jedoch ebenso wichtig, dass die amerikanische KI-Branche weiterhin führend bleibt. Wir sollten den Bau von Infrastruktur – ob Energieanlagen, Rechenzentren oder Halbleiterproduktion – erleichtern und beschleunigen und im ganzen Land Vertrauen und Übereinstimmung mit den Kommunen schaffen. Wir sollten darauf achten, die amerikanische Wettbewerbsfähigkeit nicht zu beeinträchtigen. Vorschlägen, die zu einer Zentralisierung von Superintelligenz führen, sollten wir skeptisch begegnen und politische Maßnahmen bevorzugen, die ein gesundes, die Menschen begünstigendes Machtgleichgewicht fördern.
Es ist ein unglaublicher Moment, den wir miterleben dürfen. Die Entwicklung von Superintelligenz wird der tiefgreifendste technologische Fortschritt sein, den wir zu unseren Lebzeiten erleben werden.
Je näher wir diesem Moment kommen, desto wichtiger wird es, über eine klare Philosophie und klare Werte dafür zu verfügen, wie Superintelligenz der Menschheit zugutekommen soll. Meta verpflichtet sich bei seiner Entwicklungsarbeit den Grundsätzen individueller Selbstermächtigung als Quelle von Wohlstand, der Erfindung als Zweck der KI und eines die Menschen begünstigenden Machtgleichgewichts als Grundlage für den Umgang mit Sicherheitsrisiken.
Wenn diese Werte den Weg weisen, bin ich zuversichtlich, dass die kommenden Jahrzehnte zu den außergewöhnlichsten der Geschichte gehören werden. Der Bogen der menschlichen Zivilisation hat sich dahin gekrümmt, mehr Macht in die Hände der Menschen zu legen, damit sie so leben und die Welt auf die Weise gestalten können, die sie für die beste halten. Superintelligenz birgt das Versprechen, jedem Menschen diese Macht zu geben und eine positive Zukunft für alle zu schaffen.
– Mark
- August 2026