Hier dokumentieren wir das Statement von Mark Zuckerberg zur Content Moderation bei Meta vom 7. Januar 2025:
Hey, everyone.
I want to talk about something important today, because it’s time to get back to our roots around free expression on Facebook and Instagram.
I started building social media to give people a voice. I gave a speech at Georgetown five years ago about the importance of protecting free expression, and I still believe this today. But a lot has happened over the last several years. There’s been widespread debate about potential harms from online content. Governments and legacy media have pushed to censor more and more.
A lot of this is clearly political, but there’s also a lot of legitimately bad stuff out there: drugs, terrorism, child exploitation. These are things that we take very seriously, and I want to make sure that we handle responsibly.
So we built a lot of complex systems to moderate content. But the problem with complex systems is they make mistakes. Even if they accidentally censor just 1% of posts, that’s millions of people. And we’ve reached a point where it’s just too many mistakes and too much censorship.
The recent elections also feel like a cultural tipping point towards once again prioritizing speech. So we’re going to get back to our roots and focus on reducing mistakes, simplifying our policies, and restoring free expression on our platforms.
More specifically, here’s what we’re going to do:
First, we’re going to get rid of fact checkers and replace them with community notes, similar to X, starting in the U.S. After Trump first got elected in 2016, the legacy media wrote nonstop about how misinformation was a threat to democracy. We tried in good faith to address those concerns without becoming the arbiters of truth. But the fact checkers have just been too politically biased and have destroyed more trust than they’ve created, especially in the U.S. So, over the next couple of months, we’re going to phase in a more comprehensive community note system.
Second, we’re going to simplify our content policies and get rid of a bunch of restrictions on topics like immigration and gender that are just out of touch with mainstream discourse. What started as a movement to be more inclusive has increasingly been used to shut down opinions and shut out people with different ideas — and it’s gone too far. So I want to make sure that people can share their beliefs and experiences on our platforms.
Third, we’re changing how we enforce our policies to reduce the mistakes that account for the vast majority of censorship on our platforms. We used to have filters that scanned for any policy violation. Now, we’re going to focus those filters on tackling illegal and high severity violations; and for lower severity violations, we’re going to rely on someone reporting an issue before we take action. The problem is that the filters make mistakes, and they take down a lot of content that they shouldn’t. So, by dialing them back, we’re going to dramatically reduce the amount of censorship on our platforms. We’re also going to tune our content filters to require much higher confidence before taking down content. The reality is that this is a tradeoff. It means we’re going to catch less bad stuff, but it will also reduce the number of innocent people’s posts and accounts that we accidentally take down.
Fourth, we’re bringing back civic content. For awhile the community asked to see less politics because it was making people stressed. So, we stopped recommending these posts. But it feels like we’re in a new era now, and we’re starting to get feedback that people want to see this content again. So we’re going to start phasing this back into Facebook, Instagram, and Threads, while working to keep the communities friendly and positive.
Fifth, we’re going to move our trust and safety and content moderation teams out of California, and our U.S.-based content review is going to be based in Texas. As we work to promote free expression, I think that it will help us build trust to do this work in places where there is less concern about the bias of our teams.
Finally, we’re going to work with President Trump to push back on governments around the world that are going after American companies and pushing to censor more. The U.S. has the strongest constitutional protections for free expression in the world. Europe has an ever-increasing number of laws institutionalizing censorship and making it difficult to build anything innovative there. Latin American countries have secret courts that can order companies to quietly take things down. China has censored our apps from even working in the country. The only way that we can push back on this global trend is with the support of the U.S. government.
And that’s why it’s been so difficult over the past four years — when even the U.S. government has pushed for censorship by going after us and other American companies. It has emboldened other governments to go even further. But now we have the opportunity to restore free expression and I am excited to take it. It’ll take time to get this right. And these are complex systems. They’re never going to be perfect. There’s also a lot of illegal stuff that we still need to work very hard to remove.
But the bottom line is that after years of having our content moderation work focused primarily on removing content, it is time to focus on reducing mistakes, simplifying our systems, and getting back to our roots about giving people a voice.
I’m looking forward to this next chapter.
Stay good out there.
And more to come soon.
Deutsche Übersetzung
Hallo zusammen!
Ich möchte heute über etwas Wichtiges sprechen, denn es ist an der Zeit, zu unseren Wurzeln zurückzukehren, was die freie Meinungsäußerung auf Facebook und Instagram betrifft.
Ich habe damit begonnen, soziale Medien aufzubauen, um Menschen eine Stimme zu geben. Vor fünf Jahren habe ich in Georgetown eine Rede über die Bedeutung des Schutzes der freien Meinungsäußerung gehalten, und daran glaube ich auch heute noch. Aber in den letzten Jahren ist viel passiert. Es gab eine breite Debatte über mögliche Schäden durch Online-Inhalte. Regierungen und traditionelle Medien drängen auf immer mehr Zensur.
Vieles davon ist eindeutig politisch motiviert, aber es gibt auch eine Menge wirklich schlimme Dinge da draußen: Drogen, Terrorismus, Ausbeutung von Kindern. Das sind Dinge, die wir sehr ernst nehmen, und ich möchte sicherstellen, dass wir verantwortungsvoll damit umgehen.
Deshalb haben wir viele komplexe Systeme zur Moderation von Inhalten entwickelt. Das Problem bei komplexen Systemen ist jedoch, dass sie Fehler machen. Selbst wenn sie nur 1 % der Beiträge versehentlich zensieren, sind das Millionen von Menschen. Und wir haben einen Punkt erreicht, an dem es einfach zu viele Fehler und zu viel Zensur gibt.
Die jüngsten Wahlen scheinen auch einen kulturellen Wendepunkt darzustellen, an dem die Meinungsfreiheit wieder an erster Stelle steht. Wir werden also zu unseren Wurzeln zurückkehren und uns darauf konzentrieren, Fehler zu reduzieren, unsere Richtlinien zu vereinfachen und die freie Meinungsäußerung auf unseren Plattformen wiederherzustellen.
Konkret werden wir Folgendes tun:
Zunächst werden wir die Faktenprüfer abschaffen und sie durch Community-Notizen ersetzen, ähnlich wie X, beginnend in den USA. Nach der ersten Wahl von Trump im Jahr 2016 schrieben die traditionellen Medien ununterbrochen darüber, dass Fehlinformationen eine Bedrohung für die Demokratie darstellen. Wir haben in gutem Glauben versucht, diese Bedenken auszuräumen, ohne uns zum Schiedsrichter der Wahrheit aufzuschwingen. Aber die Faktenprüfer waren einfach zu politisch voreingenommen und haben mehr Vertrauen zerstört als geschaffen, insbesondere in den USA. In den nächsten Monaten werden wir daher schrittweise ein umfassenderes Community-Notizsystem einführen.
Zweitens werden wir unsere Inhaltsrichtlinien vereinfachen und eine Reihe von Einschränkungen zu Themen wie Einwanderung und Geschlecht abschaffen, die einfach nicht mehr dem allgemeinen Diskurs entsprechen. Was als Bewegung für mehr Inklusion begann, wurde zunehmend dazu genutzt, Meinungen und Menschen mit anderen Ideen auszuschließen – und das geht zu weit. Ich möchte daher sicherstellen, dass Menschen ihre Überzeugungen und Erfahrungen auf unseren Plattformen teilen können.
Drittens ändern wir die Art und Weise, wie wir unsere Richtlinien durchsetzen, um die Fehler zu reduzieren, die für den Großteil der Zensur auf unseren Plattformen verantwortlich sind. Früher hatten wir Filter, die nach Verstößen gegen die Richtlinien suchten. Jetzt werden wir diese Filter auf die Bekämpfung illegaler und schwerwiegender Verstöße konzentrieren; und bei weniger schwerwiegenden Verstößen werden wir uns darauf verlassen, dass jemand ein Problem meldet, bevor wir Maßnahmen ergreifen. Das Problem ist, dass die Filter Fehler machen und viele Inhalte entfernen, die sie nicht entfernen sollten. Indem wir sie also zurückfahren, werden wir die Zensur auf unseren Plattformen drastisch reduzieren. Wir werden auch unsere Inhaltsfilter so einstellen, dass sie eine viel höhere Zuverlässigkeit erfordern, bevor sie Inhalte entfernen. Die Realität ist, dass dies ein Kompromiss ist. Das bedeutet, dass wir weniger schlechte Inhalte abfangen werden, aber es wird auch die Anzahl der Beiträge und Konten unschuldiger Menschen verringern, die wir versehentlich entfernen.
Viertens: Wir bringen wieder Inhalte mit gesellschaftlicher Relevanz zurück. Eine Zeit lang hat die Community darum gebeten, weniger Politik zu sehen, weil es die Menschen gestresst hat. Also haben wir aufgehört, diese Beiträge zu empfehlen. Aber es fühlt sich an, als wären wir jetzt in einer neuen Ära, und wir bekommen allmählich Feedback, dass die Menschen diese Inhalte wieder sehen wollen. Also werden wir damit beginnen, diese Inhalte wieder auf Facebook, Instagram und in Threads einzuführen, während wir daran arbeiten, die Communitys freundlich und positiv zu halten.
Fünftens werden wir unsere Teams für Vertrauen und Sicherheit sowie für die Moderation von Inhalten aus Kalifornien abziehen und unsere in den USA ansässige Inhaltsüberprüfung wird in Texas angesiedelt sein. Da wir uns für die Förderung der freien Meinungsäußerung einsetzen, denke ich, dass es uns helfen wird, Vertrauen aufzubauen, um diese Arbeit an Orten zu leisten, an denen weniger Bedenken hinsichtlich der Voreingenommenheit unserer Teams bestehen.
Schließlich werden wir mit Präsident Trump zusammenarbeiten, um Regierungen auf der ganzen Welt zurückzudrängen, die amerikanische Unternehmen verfolgen und auf mehr Zensur drängen. Die USA haben den stärksten verfassungsmäßigen Schutz für freie Meinungsäußerung in der Welt. In Europa gibt es immer mehr Gesetze, die Zensur institutionalisieren und es erschweren, dort etwas Innovatives aufzubauen. In lateinamerikanischen Ländern gibt es Geheimgerichte, die Unternehmen anweisen können, Dinge stillschweigend zu entfernen. In China wurden unsere Apps sogar so zensiert, dass sie im Land nicht funktionieren. Wir können diesem globalen Trend nur mit Unterstützung der US-Regierung entgegenwirken.
Und deshalb war es in den letzten vier Jahren so schwierig, als sogar die US-Regierung auf Zensur drängte, indem sie uns und andere amerikanische Unternehmen verfolgte. Das hat andere Regierungen ermutigt, noch weiter zu gehen. Aber jetzt haben wir die Möglichkeit, die freie Meinungsäußerung wiederherzustellen, und ich freue mich darauf, sie zu ergreifen. Es wird Zeit brauchen, um das richtig hinzubekommen. Und es handelt sich um komplexe Systeme. Sie werden nie perfekt sein. Es gibt auch eine Menge illegaler Inhalte, an deren Entfernung wir noch sehr hart arbeiten müssen.
Aber das Entscheidende ist, dass wir uns nach Jahren, in denen sich unsere Arbeit im Bereich der Inhaltsmoderation hauptsächlich auf das Entfernen von Inhalten konzentriert hat, nun darauf konzentrieren müssen, Fehler zu reduzieren, unsere Systeme zu vereinfachen und zu unseren Wurzeln zurückzukehren, nämlich den Menschen eine Stimme zu geben.
Ich freue mich auf dieses nächste Kapitel.
Passt auf euch auf!
Bald gibt es mehr zum Thema.