Was ist das Future of Life Institute?

Das Future of Life Institute (FLI) ist eine gemeinnützige Organisation, die sich für die Verringerung globaler katastrophaler und existenzieller Risiken für die Menschheit einsetzt, insbesondere für die existenziellen Risiken, die von fortgeschrittener künstlicher Intelligenz (KI) ausgehen. Die Arbeit des Instituts gliedert sich in drei Hauptbereiche:

  • Vergabe von Zuschüssen zur Risikominderung,
  • Bildungsarbeit und
  • Lobbyarbeit bei den Vereinten Nationen, der US-Regierung und den Institutionen der Europäischen Union.

Zu den Gründern des Instituts gehören der MIT-Kosmologe Max Tegmark und der Skype-Mitbegründer Jaan Tallinn, zu den Beratern gehört Elon Musk.

Die Aufgabe des FLI ist die Verringerung globaler katastrophaler und existenzieller Risiken, die von leistungsstarken Technologien ausgehen. Das FLI konzentriert sich dabei insbesondere auf die potenziellen Risiken für die Menschheit, die sich aus der Entwicklung künstlicher Intelligenz (AGI) auf menschlichem Niveau oder mit Superintelligenz ergeben, befasst sich aber auch mit den Risiken, die sich aus der Biotechnologie, den Atomwaffen und dem Klimawandel ergeben.

Die Arbeit des Instituts besteht aus der Vergabe von Zuschüssen für die Risikominderung, der Aufklärungsarbeit und der Lobbyarbeit bei den Vereinten Nationen, der US-Regierung und den Institutionen der Europäischen Union.

Das Institut wurde im März 2014 von dem MIT-Kosmologen Max Tegmark, dem Skype-Mitbegründer Jaan Tallinn, der DeepMind-Forscherin Viktoriya Krakovna, der Postdoktorandin Meia Chita-Tegmark von der Tufts University und dem UCSC-Physiker Anthony Aguirre gegründet. Zu den Beratern des Instituts gehören die Informatiker Stuart J. Russell und Francesca Rossi, der Biologe George Church, der Kosmologe Saul Perlmutter, die Astrophysikerin Sandra Faber, der theoretische Physiker Frank Wilczek, der Unternehmer Elon Musk sowie die Schauspieler und Wissenschaftskommunikatoren Alan Alda und Morgan Freeman (sowie der Kosmologe Stephen Hawking bis zu seinem Tod im Jahr 2018).

Im Jahr 2014 fand die Eröffnungsveranstaltung des Future of Life Institute am MIT statt: eine Podiumsdiskussion zum Thema „Die Zukunft der Technologie: Benefits and Risks“ (Nutzen und Risiken), die von Alan Alda moderiert wurde. Zu den Diskussionsteilnehmern gehörten der synthetische Biologe George Church, der Genetiker Ting Wu, der Wirtschaftswissenschaftler Andrew McAfee, der Physiker und Nobelpreisträger Frank Wilczek und der Skype-Mitbegründer Jaan Tallinn.

Seit 2015 organisiert das FLI alle zwei Jahre Konferenzen, die führende KI-Entwickler aus Wissenschaft und Industrie zusammenbringen. Bislang haben folgende Konferenzen stattgefunden:

Die Konferenz „The Future of AI: Opportunities and Challenges“ in Puerto Rico (2015). Ziel war es, vielversprechende Forschungsrichtungen zu ermitteln, die dazu beitragen können, den künftigen Nutzen der KI zu maximieren. Auf der Konferenz verbreitete das Institut einen offenen Brief zur KI-Sicherheit, der anschließend von Stephen Hawking, Elon Musk und vielen Experten für künstliche Intelligenz unterzeichnet wurde.

Die Beneficial AI-Konferenz in Asilomar, Kalifornien (2017), ein privates Treffen von, wie die New York Times es nannte, „Schwergewichten der KI“. (darunter Yann LeCun, Elon Musk und Nick Bostrom). Das Institut veröffentlichte eine Reihe von Grundsätzen für eine verantwortungsvolle KI-Entwicklung, die aus den Diskussionen auf der Konferenz hervorgingen und von Yoshua Bengio, Yann LeCun und vielen anderen KI-Forschern unterzeichnet wurden. Diese Grundsätze beeinflussten die Regulierung der künstlichen Intelligenz und nachfolgende Initiativen wie die OECD-Grundsätze für künstliche Intelligenz.
Die Nützliche AGI-Konferenz in Puerto Rico (2019). Dieses Treffen konzentrierte sich auf langfristige Fragen, wie sichergestellt werden kann, dass Künstliche Allgemeine Intelligenz für die Menschheit nützlich ist.
Globales Forschungsprogramm

Das FLI-Forschungsprogramm begann 2015 mit einer ersten Spende von 10 Millionen Dollar von Elon Musk. Im Gegensatz zu typischer KI-Forschung konzentriert sich dieses Programm darauf, KI sicherer oder nützlicher für die Gesellschaft zu machen, anstatt sie einfach nur leistungsfähiger zu machen.In dieser ersten Runde wurden insgesamt 7 Millionen Dollar an 37 Forschungsprojekte vergeben. Im Juli 2021 kündigte das FLI an, dass es ein neues Förderprogramm in Höhe von 25 Millionen Dollar starten würde, das von dem russisch-kanadischen Programmierer Vitalik Buterin finanziert wird.

Angela Merkel CLXVII

Angela Merkel CLXVII.

Am 29. März 2010 besucht Angela Merkel Recep Tayyip Erdoğan in Ankara.

Die Stimmung ist besser als erwartet, wenn auch nicht perfekt.

Karikatur mit Midjourney erstellt.