Oversight Board bestätigt Sperrung von Präsident Trump und befindet Strafe von Facebook für nicht angemessen | Oversight Board

Das Oversight Board hat die am 7. Januar 2021 von Facebook getroffene Entscheidung bestätigt, die Berechtigung des damaligen US-Präsidenten Donald Trump einzuschränken, Inhalte auf seiner Facebook-Seite und seinem Instagram-Konto zu veröffentlichen.

Es war jedoch unangemessen seitens Facebook, die unbestimmte und standardlose Strafe einer unbefristeten Sperrung zu verhängen. Zu den üblichen Sanktionen von Facebook gehören die Entfernung unzulässiger Inhalte, die Verhängung einer zeitlich begrenzten Sperrung oder die dauerhafte Deaktivierung der Seite und des Kontos.

Das Board verlangt, dass Facebook diese Angelegenheit überprüft, um eine verhältnismäßige Reaktion zu bestimmen und zu rechtfertigen, die mit den Regeln übereinstimmen, die für andere Nutzer der Plattform gelten. Facebook ist verpflichtet, die Überprüfung dieser Angelegenheit innerhalb von sechs Monaten nach dem Datum dieser Entscheidung abzuschließen. Das Board formulierte darüber hinaus Richtlinienempfehlungen für Facebook, die das Unternehmen einhalten muss, um klare, notwendige und verhältnismäßige Richtlinien zu entwickeln, die die öffentliche Sicherheit fördern und das Recht auf freie Meinungsäußerung respektieren.

Zum Fall

Wahlen sind wesentlicher Bestandteil einer Demokratie. Am 6. Januar 2021, während der Auszählung der Wahlmännerstimmen 2020, verschaffte sich ein Mob gewaltsam Zugang zum Kapitol in Washington, D.C. Diese Gewalt bedrohte den Verfassungsprozess. Bei den Ausschreitungen kamen fünf Menschen ums Leben, viele weitere wurden verletzt. Während dieser Ereignisse postete der damalige Präsident Donald Trump zwei Inhalte.

Um 16:21 Uhr Eastern Standard Time postete Herr Trump während des Aufruhrs ein Video auf Facebook und Instagram:

I know your pain. (Ich verstehe euren Schmerz.) I know you’re hurt. (Ich weiß, dass ihr verletzt seid.) We had an election that was stolen from us. (Uns wurde eine Wahl gestohlen.) It was a landslide election, and everyone knows it, especially the other side, but you have to go home now. (Es war ein Erdrutschsieg und jeder weiß es, vor allem die Gegenseite, aber ihr müsst jetzt nach Hause gehen.) We have to have peace. (Wir brauchen Frieden.) We have to have law and order. (Wir brauchen Gesetz und Ordnung.) We have to respect our great people in law and order. (Wir müssen unsere großartigen Gesetzeshüter schützen.) We don’t want anybody hurt. (Wir wollen keine Verletzten.) It’s a very tough period of time. (Dies ist eine sehr schwere Zeit.) There’s never been a time like this, where such a thing happened, where they could take it away from all of us – from me, from you, from our country. (So etwas wie das hier gab es noch nie, dass sie uns alles wegnehmen konnten – mir, euch, unserem Land.) This was a fraudulent election, but we can't play into the hands of these people. (Diese Wahl war geschmiert, aber wir dürfen diesen Leuten nicht in die Hände spielen.) We have to have peace. (Wir brauchen Frieden.) So go home. (Also geht nach Hause.) We love you. (Wir lieben euch.) You're very special. (Ihr seid etwas sehr Besonderes.) You've seen what happens. (Ihr habt gesehen, was passiert.) You see the way others are treated that are so bad and so evil. (Ihr seht, wie andere behandelt werden, die so schlecht und böse sind.) I know how you feel. (Ich weiß, wie ihr euch fühlt.) But go home and go home in peace. (Aber geht heim, geht friedlich heim.)“

Um 17:41 Uhr EST entfernte Facebook den Beitrag wegen Verstoßes gegen den Facebook-Gemeinschaftsstandard zu gefährlichen Personen und Organisationen.

Um 18:07 Uhr Eastern Standard Time, als die Polizei das Kapitol sicherte, postete Herr Trump eine schriftliche Erklärung auf Facebook:

These are the things and events that happen when a sacred landslide election victory is so unceremoniously viciously stripped away from great patriots who have been badly unfairly treated for so long. (Solche Dinge und Ereignisse passieren, wenn ein unantastbarer erdrutschartiger Wahlsieg großen Patrioten, die lange schrecklich unfair behandelt wurden, kurzerhand und brutal weggenommen wird.) Go home with love in peace. (Geht in Liebe und Frieden nach Hause.) Remember this day forever! (Erinnert euch für immer an diesen Tag!)“

Um 18:15 Uhr EST entfernte Facebook den Beitrag wegen Verstoßes gegen den Facebook-Gemeinschaftsstandard zu gefährlichen Personen und Organisationen. Außerdem wurde Herr Trump für 24 Stunden für Beiträge auf Facebook oder Instagram gesperrt.

Nach einer weiteren Prüfung von Herrn Trumps Beiträgen, seiner jüngsten Äußerungen außerhalb von Facebook und zusätzlicher Informationen zur Schwere der Gewalt am Kapitol, verlängerte Facebook am 7. Januar die Sperrung seiner Konten „indefinitely and for at least the next two weeks until the peaceful transition of power is complete“ (auf unbestimmte Zeit und für mindestens zwei weitere Wochen, bis die friedliche Machtübergabe abgeschlossen ist).

Ab dem 20. Januar, mit der Amtseinführung von Präsident Joe Biden, war Herr Trump nicht länger Präsident der USA.

Am 21. Januar gab Facebook bekannt, dass dieser Fall an das Board übergeben wurde. Facebook fragte, ob die Entscheidung vom 7. Januar richtig war, Herrn Trump die Veröffentlichung von Beiträgen auf Facebook und Instagram auf unbestimmte Zeit zu verbieten. Das Unternehmen bat außerdem um Empfehlungen zu Sperrungen, wenn der Nutzer eine politische Führungsperson ist.

Zusätzlich zu den beiden Beiträgen vom 6. Januar stellte Facebook zuvor fünf Verstöße gegen seine Gemeinschaftsstandards in Zusammenhang mit organischen Inhalten fest, die auf der Facebook-Seite von Donald J. Trump gepostet wurden, drei davon innerhalb des letzten Jahres. Zwar wurden die fünf betreffenden Beiträge entfernt, es wurden aber keine Sanktionen auf Kontoebene verhängt.

Wichtige Erkenntnisse

Das Board stellte fest, dass die beiden Posts von Herrn Trump am 6. Januar einen schwerwiegenden Verstoß gegen die Gemeinschaftsstandards von Facebook und die Gemeinschaftsrichtlinien von Instagram darstellten. „We love you. You’re very special“ (Wir lieben euch. Ihr seid etwas ganz Besonderes) im ersten Beitrag und „great patriots (große Patrioten)“ und „remember this day forever“ (erinnert euch für immer an diesen Tag)" im zweiten Beitrag verletzten die Facebook-Regeln, die das Gutheißen oder die Unterstützung von Menschen, die Gewalt ausüben, verbieten.

Das Board war der Meinung, dass Herr Trump durch die Aufrechterhaltung haltloser Berichte über Wahlbetrug und beharrliche Aufrufe zum Handeln eine Umgebung schuf, von der ein ernsthaftes Risiko für Gewalt ausging. Zum Zeitpunkt von Herrn Trumps Beiträgen bestand eine klare, unmittelbare Gefahr von Schaden und seine unterstützenden Worte für die an den Unruhen Beteiligten legitimierten deren gewalttätige Aktionen. Als Präsident hatte Herr Trump ein hohes Maß an Einfluss. Mit 35 Millionen Abonnenten auf Facebook und 24 Millionen auf Instagram hatten seine Beiträge eine enorme Reichweite.

Angesichts der Schwere der Verstöße und der anhaltenden Gefahr von Gewalttätigkeiten war es gerechtfertigt, dass Facebook die Konten von Herrn Trump am 6. Januar sperrte und diese Sperrung am 7. Januar verlängerte.

Es war jedoch nicht angemessen, dass Facebook eine unbefristete Sperre verhängte.

Es ist nicht zulässig, dass Facebook einen Nutzer für einen unbestimmten Zeitraum von der Plattform fernhält, ohne Kriterien dafür zu haben, wann oder ob das Konto wiederhergestellt wird.

Bei der Auferlegung dieser Strafe ist Facebook keinem klaren, veröffentlichten Verfahren gefolgt. „Unbefristete“ Sperrungen werden in den Inhaltsrichtlinien des Unternehmens nicht beschrieben. Zu den üblichen Sanktionen von Facebook gehören die Entfernung unzulässiger Inhalte, die Verhängung einer zeitlich begrenzten Sperrung oder die dauerhafte Deaktivierung der Seite und des Kontos.

Es ist die Aufgabe von Facebook, notwendige und verhältnismäßige Sanktionen zu schaffen, die als Reaktion auf schwere Verstöße gegen die Inhaltsrichtlinien angewendet werden. Das Board muss sicherstellen, dass die Regeln und Prozesse von Facebook den Inhaltsrichtlinien, Werten und der Verpflichtung zur Achtung der Menschenrechte entsprechen.

Durch die Anwendung einer unbestimmten und standardlosen Strafe und die anschließende Übergabe dieses Falls an das Board versucht Facebook, sich seiner Verantwortung zu entziehen. Das Board lehnt den Antrag von Facebook ab und besteht darauf, dass Facebook eine definierte Strafe anwendet und begründet.

Die Entscheidung des Oversight Boards

Das Oversight Board hat die Entscheidung von Facebook bestätigt, den Zugang von Herrn Trump zum Posten von Inhalten auf Facebook und Instagram am 7. Januar 2021 zu sperren. Da Facebook jedoch die Konten von Herrn Trump „auf unbestimmte Zeit“ gesperrt hat, muss das Unternehmen diese Strafe neu bewerten.

Facebook muss innerhalb von sechs Monaten nach dieser Entscheidung die willkürliche Strafe, die am 7. Januar verhängt wurde, erneut prüfen und eine angemessene Strafe festlegen. Diese Strafe muss sich an der Schwere des Verstoßes und dem Risiko für zukünftigen Schaden orientieren. Zudem muss sie den Regeln von Facebook für schwerwiegende Verstöße entsprechen, die wiederum klar, notwendig und verhältnismäßig sein müssen.

Wenn Facebook beschließt, die Konten von Herrn Trump wiederherzustellen, sollte das Unternehmen seine Regeln bei dieser Entscheidung anwenden, einschließlich aller Änderungen, die als Reaktion auf die nachstehenden Richtlinienempfehlungen des Boards vorgenommen werden. In diesem Szenario muss Facebook alle weiteren Verstöße umgehend und in Übereinstimmung mit den bestehenden Inhaltsrichtlinien bestrafen.

Eine Minderheit des Boards betont, dass Facebook Maßnahmen ergreifen sollte, um die Wiederholung negativer Auswirkungen auf die Menschenrechte zu verhindern und sicherzustellen, dass Nutzer, die nach einer Sperrung eine Aufhebung der Sperrung beantragen, ihr Fehlverhalten anerkennen und sich verpflichten, die Regeln in Zukunft einzuhalten.

In der Weiterleitung dieser Angelegenheit an das Board bat Facebook ausdrücklich um „observations or recommendations from the board about suspensions when the user is a political leader“ (Beobachtungen oder Empfehlungen des Boards zu Sperrungen, wenn der Nutzer eine politische Führungsperson ist).

In einer Stellungnahme zu den Richtlinien gab das Board eine Reihe von Empfehlungen ab, um die Richtlinien von Facebook in Bezug auf ernsthafte Schadensrisiken zu ändern, die von politischen Führungspersonen und anderen einflussreichen Personen ausgehen.

Das Board stellte fest, dass es nicht immer sinnvoll ist, eine klare Unterscheidung zwischen politischen Führungspersonen und anderen einflussreichen Nutzern zu treffen, da auch andere Nutzer mit einem großen Publikum zu ernsthaften Risiken beitragen können.

Zwar sollten für alle Nutzer dieselben Regeln gelten, doch bei der Beurteilung der Wahrscheinlichkeit und Unmittelbarkeit eines Schadens kommt es auch auf den Kontext an. Wenn Beiträge von einflussreichen Nutzern eine hohe Wahrscheinlichkeit von drohendem Schaden darstellen, sollte Facebook schnell handeln, um seine Regeln durchzusetzen. Obwohl Facebook erklärte, dass es die Ausnahmeregelung für den Nachrichtenwert in diesem Fall nicht angewandt hat, forderte das Board Facebook auf zu klären, wie Entscheidungen in Bezug auf einflussreiche Nutzer getroffen werden. Das Board betonte, dass Überlegungen zum Nachrichtenwert nicht im Vordergrund stehen sollten, wenn dringende Maßnahmen erforderlich sind, um erheblichen Schaden zu verhindern.

Facebook sollte öffentlich erläutern, nach welchen Regeln Sanktionen auf Kontoebene gegen einflussreiche Nutzer verhängt werden. Diese Regeln müssen Folgendes sicherstellen: Wenn Facebook eine zeitlich begrenzte Sperrung eines Kontos einer einflussreichen Person verhängt, um das Risiko eines erheblichen Schadens zu verringern, muss vor Ablauf der Sperrfrist geprüft werden, ob das Risiko weiterhin besteht. Wenn Facebook feststellt, dass von dem Nutzer zu diesem Zeitpunkt ein ernsthaftes Risiko ausgeht, zu unmittelbar drohender Gewalt, Diskriminierung oder anderen gesetzeswidrigen Handlungen anzustiften, sollte eine weitere zeitlich begrenzte Sperrung verhängt werden, wenn solche Maßnahmen zum Schutz der öffentlichen Sicherheit notwendig und dem Risiko angemessen sind.

Das Gremium merkte an, dass Staatsoberhäupter und andere hohe Regierungsbeamte mehr Schaden anrichten können als andere Personen. Wenn das Staatsoberhaupt oder der hohe Regierungsbeamte wiederholt Nachrichten gepostet hat, die nach internationalen Menschenrechtskonventionen ein Risiko für Schaden darstellen, sollte Facebook das Konto für einen bestimmten Zeitraum sperren, der ausreicht, um vor drohendem Schaden zu schützen. Die Dauer der Sperrung muss lang genug sein, um eine abschreckende Wirkung zu haben, und kann unter Umständen auch die Löschung des Kontos oder der Seite beinhalten.

In weiteren Empfehlungen schlug das Board vor, dass Facebook folgende Maßnahmen ergreift:

• Schnelle Eskalation von Inhalten, die politische Äußerungen von höchst einflussreichen Nutzern enthalten, an spezialisierte Mitarbeiter, die mit dem sprachlichen und politischen Kontext vertraut sind. Diese Mitarbeiter sollten von politischer und wirtschaftlicher Einmischung sowie unzulässiger Beeinflussung abgeschirmt sein.
• Bereitstellung angemessener Ressourcen und Fachkenntnisse, um das Risiko von Schäden durch einflussreiche Nutzer weltweit zu bewerten.
• Bereitstellung weiterer Informationen, um den Nutzern zu helfen, den Prozess und die Kriterien für die Anwendung der Ausnahmeregelung für den Nachrichtenwert zu verstehen und zu bewerten, einschließlich der Frage, wie sie auf einflussreiche Nutzer angewendet wird. Das Unternehmen sollte auch die Gründe, Standards und Prozesse der Gegenprüfung klar darlegen und über die relativen Fehlerquoten der durch die Gegenprüfung getroffenen Feststellungen im Vergleich zu den normalen Durchsetzungsverfahren berichten.
• Durchführen einer umfassenden Überprüfung des potenziellen Beitrags von Facebook zum Narrativ des Wahlbetrugs und der verschärften Spannungen, die in der Gewalt am 6. Januar in den Vereinigten Staaten gipfelten. Dies sollte eine offene Reflexion über die Design- und Richtlinienentscheidungen sein, die Facebook getroffen hat und die möglicherweise den Missbrauch seiner Plattform ermöglicht haben.
• Klarstellung in seiner Unternehmensrichtlinie zu Menschenrechten, wie Facebook Informationen sammelt, aufbewahrt und gegebenenfalls weitergibt, um die Untersuchung und mögliche Verfolgung von schweren Verstößen gegen internationales Strafrecht, Menschenrechte und humanitäres Recht zu unterstützen.
• Erläuterung das Verfahrens für Verwarnungen und Sanktionen zur Einschränkung von Profilen, Seiten, Gruppen und Konten in den Facebook-Gemeinschaftsstandards und in den Gemeinschaftsrichtlinien von Instagram.
• Aufnahme der Anzahl der Profil-, Seiten- und Kontobeschränkungen in die Transparenzberichte, wobei die Informationen nach Regionen und Ländern aufgeschlüsselt werden.
• Bereitstellung von zugänglichen Informationen für die betroffenen Nutzer darüber, wie viele Verstöße, Sanktionen und Strafen gegen sie festgestellt bzw. verhängt wurden und welche Konsequenzen auf zukünftige Verstöße folgen werden.
• Entwicklung und Veröffentlichung einer Richtlinie, die die Reaktion von Facebook auf Krisen oder neuartige Situationen regelt, in denen seine regulären Prozesse einen drohenden Schaden nicht verhindern oder vermeiden würden. Dieser Leitfaden sollte geeignete Parameter für solche Maßnahmen festlegen, einschließlich der Verpflichtung, Entscheidungen innerhalb einer bestimmten Zeit zu überprüfen.

Weitere Informationen:

Die vollständige Fallentscheidung (Fall 2021-001-FB-FBR) findest du hier.

Lies hier eine Zusammenfassung der öffentlichen Kommentare zu diesem Fall.