OpenAI lehrt Künstliche Intelligenz, die physische Welt in Bewegung zu verstehen und zu simulieren, mit dem Ziel, Modelle zu entwickeln, die Menschen bei der Lösung von Problemen unterstützen, welche reale Interaktionen erfordern.
San Francisco, 15. Februar 2024 – OpenAI führt Sora ein, ein Text-zu-Video-Modell, das in der Lage ist, Videos von bis zu einer Minute Länge zu generieren und dabei sowohl eine hohe visuelle Qualität als auch die Einhaltung der Nutzervorgaben zu gewährleisten.
Aktuell macht OpenAI Sora für Red-Teamer zugänglich, um kritische Bereiche hinsichtlich möglicher Schäden oder Risiken zu bewerten. Zudem erhalten ausgewählte visuelle Künstler, Designer und Filmemacher Zugang zu Sora, um durch ihr Feedback zur Weiterentwicklung des Modells beizutragen, sodass es insbesondere für kreative Berufe nützlich ist.
OpenAI teilt seine Forschungsergebnisse frühzeitig, um mit Personen außerhalb von OpenAI zusammenzuarbeiten und Feedback zu sammeln sowie der Öffentlichkeit einen Ausblick auf zukünftige KI-Fähigkeiten zu geben.
Sora kann komplexe Szenen mit mehreren Charakteren, spezifischen Bewegungsarten und genauen Details zu Objekt und Hintergrund generieren. Das Modell versteht nicht nur die Nutzervorgaben, sondern auch, wie diese Dinge in der physischen Welt existieren.
Das Modell hat ein tiefgreifendes Verständnis für Sprache, was es ihm ermöglicht, Vorgaben präzise zu interpretieren und überzeugende Charaktere zu erzeugen, die lebendige Emotionen ausdrücken. Sora kann auch mehrere Aufnahmen innerhalb eines einzigen generierten Videos erstellen, die Charaktere und visuellen Stil genau beibehalten.
Das aktuelle Modell hat Schwächen. Es könnte Schwierigkeiten haben, die Physik einer komplexen Szene genau zu simulieren, und spezifische Ursache-Wirkungs-Zusammenhänge nicht verstehen. Zum Beispiel könnte eine Person einen Bissen aus einem Keks nehmen, aber danach könnte der Keks keine Bissmarke aufweisen.
Das Modell könnte auch räumliche Details einer Vorgabe verwechseln, zum Beispiel links und rechts vertauschen, und es könnte Schwierigkeiten mit präzisen Beschreibungen von Ereignissen haben, die sich über die Zeit erstrecken, wie das Befolgen einer spezifischen Kameratrajektorie.
Sicherheit
OpenAI ergreift mehrere wichtige Sicherheitsmaßnahmen, bevor Sora in den Produkten von OpenAI verfügbar gemacht wird. Das Unternehmen arbeitet mit Red-Teamern zusammen – Experten in Bereichen wie Fehlinformation, Hassinhalte und Voreingenommenheit – die das Modell adversativ testen.
OpenAI entwickelt auch Werkzeuge zur Erkennung irreführender Inhalte, wie einen Erkennungs-Classifier, der feststellen kann, wann ein Video von Sora generiert wurde. In Zukunft plant OpenAI, C2PA-Metadaten einzubeziehen, sollte das Modell in einem OpenAI-Produkt eingesetzt werden.
Zusätzlich zur Entwicklung neuer Techniken für die Bereitstellung nutzt OpenAI bestehende Sicherheitsmethoden, die bereits für Produkte entwickelt wurden, die DALL·E 3 verwenden und die auch für Sora gelten.
Beispielsweise wird, sobald es in einem OpenAI-Produkt verfügbar ist, ein Textklassifizierer Texteingabeaufforderungen überprüfen und ablehnen, die gegen die Nutzungsrichtlinien verstoßen, wie solche, die extreme Gewalt, sexuelle Inhalte, hasserfüllte Bilder, Ähnlichkeit mit Prominenten oder das geistige Eigentum anderer anfordern. OpenAI hat auch robuste Bildklassifizierer entwickelt, die dazu dienen, die Frames jedes generierten Videos zu überprüfen, um sicherzustellen, dass sie den Nutzungsrichtlinien entsprechen, bevor sie dem Nutzer gezeigt werden.
OpenAI wird sich mit politischen Entscheidungsträgern, Pädagogen und Künstlern weltweit austauschen, um deren Bedenken zu verstehen und positive Einsatzmöglichkeiten für diese neue Technologie zu identifizieren. Trotz umfangreicher Forschung und Tests kann OpenAI nicht alle nützlichen Anwendungen seiner Technologie vorhersagen, noch alle Missbrauchsmöglichkeiten. Deshalb ist das Unternehmen der Ansicht, dass das Lernen aus der realen Nutzung ein kritischer Bestandteil der Entwicklung und Freigabe zunehmend sicherer KI-Systeme über die Zeit ist.
Hintergrund
Sora ist ein Diffusionsmodell, das ein Video generiert, indem es von einem anfänglichen Zustand, der wie statisches Rauschen aussieht, ausgeht und dieses Rauschen über viele Schritte hinweg reduziert.
Sora ist in der Lage, ganze Videos auf einmal zu generieren oder generierte Videos zu verlängern. Durch die Voraussicht vieler Frames auf einmal hat OpenAI ein herausforderndes Problem gelöst, sicherzustellen, dass ein Subjekt gleich bleibt, auch wenn es vorübergehend aus dem Blickfeld verschwindet.
Ähnlich wie bei GPT-Modellen verwendet Sora eine Transformer-Architektur, die eine überlegene Skalierungsleistung ermöglicht.
Videos und Bilder werden als Sammlungen kleinerer Dateneinheiten, sogenannter Patches, dargestellt, die jeweils einem Token in GPT ähneln. Durch die Vereinheitlichung der Datendarstellung kann OpenAI Diffusionstransformer mit einer breiteren Palette visueller Daten als zuvor trainieren, die unterschiedliche Dauern, Auflösungen und Seitenverhältnisse umfassen.
Sora baut auf früheren Forschungen zu DALL·E und GPT-Modellen auf. Es verwendet die Re-Captioning-Technik aus DALL·E 3, die darin besteht, hochbeschreibende Bildunterschriften für die visuellen Trainingsdaten zu generieren. Dadurch kann das Modell den textuellen Anweisungen der Nutzer im generierten Video treuer folgen.
Neben der Fähigkeit, ein Video allein aus Textanweisungen zu generieren, kann das Modell auch ein vorhandenes Standbild nehmen und daraus ein Video generieren, indem es den Inhalt des Bildes mit Genauigkeit und Augenmerk auf kleine Details animiert. Das Modell kann auch ein vorhandenes Video erweitern oder fehlende Frames auffüllen. Weitere Informationen finden sich im technischen Papier.
Sora dient als Grundlage für Modelle, die die reale Welt verstehen und simulieren können, eine Fähigkeit, die OpenAI als wichtigen Meilenstein auf dem Weg zur Erreichung von Allgemeiner Künstlicher Intelligenz (AGI) ansieht.
Mehr Videos und Infos gibt es hier.