Wir dokumentieren hier das Google interne Memo von Sundar Pichai zu den Problemen von Google Gemini.
Die deutsche Übersetzung ist weiter unten.
Hi everyone
I want to address the recent issues with problematic text and image responses in the Gemini app (formerly Bard). I know that some of its responses have offended our users and shown bias — to be clear, that’s completely unacceptable and we got it wrong.
Our teams have been working around the clock to address these issues. We’re already seeing a substantial improvement on a wide range of prompts. No Al is perfect, especially at this emerging stage of the industry’s development, but we know the bar is high for us and we will keep at it for however long it takes. And we’ll review what happened and make sure we fix it at scale.
Our mission to organize the world’s information and make it universally accessible and useful is sacrosanct. We’ve always sought to give users helpful, accurate, and unbiased information in our products. That’s why people trust them. This has to be our approach for all our products, including our emerging Al products.
We’ll be driving a clear set of actions, including structural changes, updated product guidelines, improved launch processes, robust evals and red-teaming, and technical recommendations. We are looking across all of this and will make the necessary changes.
Even as we learn from what went wrong here, we should also build on the product and technical announcements we’ve made in Al over the last several weeks. That includes some foundational advances in our underlying models e.g. our 1 million long-context window breakthrough and our open models, both of which have been well received.
We know what it takes to create great products that are used and beloved by billions of people and businesses, and with our infrastructure and research expertise we have an incredible springboard for the Al wave. Let’s focus on what matters most: building helpful products that are deserving of our users’ trust.
Deutsche Übersetzung
Hallo zusammen,
ich möchte auf die jüngsten Probleme mit problematischen Text- und Bildantworten in der Gemini-App (früher als Bard bekannt) eingehen. Ich weiß, dass einige der Antworten unsere Nutzer verletzt und Voreingenommenheit gezeigt haben – um es klar zu sagen, das ist absolut inakzeptabel und wir haben einen Fehler gemacht.
Unsere Teams haben rund um die Uhr gearbeitet, um diese Probleme anzugehen. Wir sehen bereits eine deutliche Verbesserung bei einer Vielzahl von Eingabeaufforderungen. Kein KI-System ist perfekt, besonders nicht in dieser frühen Phase der Entwicklung unserer Branche, aber wir wissen, dass die Anforderungen an uns hoch sind und wir werden so lange daran arbeiten, wie es nötig ist. Und wir werden überprüfen, was passiert ist, und sicherstellen, dass wir es im großen Maßstab korrigieren.
Unsere Mission, die Informationen der Welt zu organisieren und allgemein zugänglich und nützlich zu machen, ist heilig. Wir haben schon immer danach gestrebt, den Nutzern hilfreiche, genaue und unvoreingenommene Informationen in unseren Produkten zu bieten. Deshalb vertrauen die Menschen ihnen. Dies muss unser Ansatz für all unsere Produkte sein, einschließlich unserer sich entwickelnden KI-Produkte.
Wir werden eine klare Reihe von Maßnahmen vorantreiben, einschließlich struktureller Veränderungen, aktualisierter Produktleitlinien, verbesserten Einführungsprozessen, robusten Bewertungen und Red-Teaming sowie technischen Empfehlungen. Wir sehen uns all dies genau an und werden die notwendigen Änderungen vornehmen.
Selbst wenn wir aus dem lernen, was hier schiefgelaufen ist, sollten wir auch auf den Produkt- und technischen Ankündigungen aufbauen, die wir in den letzten Wochen im Bereich KI gemacht haben. Dazu gehören einige grundlegende Fortschritte in unseren zugrundeliegenden Modellen, z. B. unser Durchbruch mit dem 1 Millionen langen Kontextfenster und unsere offenen Modelle, die beide gut aufgenommen wurden.
Wir wissen, was nötig ist, um großartige Produkte zu schaffen, die von Milliarden von Menschen und Unternehmen genutzt und geliebt werden, und mit unserer Infrastruktur und Forschungsexpertise haben wir ein unglaubliches Sprungbrett für die KI-Welle. Lasst uns uns auf das konzentrieren, was am wichtigsten ist: hilfreiche Produkte zu bauen, die das Vertrauen unserer Nutzer verdienen.