Citação nazista

Resumo do caso

O Comitê de Supervisão anulou a decisão do Facebook de remover uma publicação que a empresa alega violar Padrões da Comunidade sobre Organizações e indivíduos perigosos. O Comitê concluiu que essas regras não ficaram suficientemente claras para os usuários.

Sobre o caso

Em outubro de 2020, um usuário postou uma citação que foi atribuída indevidamente a Joseph Goebbels, o Ministro da Propaganda do Reich na Alemanha nazista. A citação, em inglês, afirmava que, ao invés de apelar para intelectuais, os argumentos deveriam apelar para emoções e instintos. A citação afirmava que a verdade não importa e está subordinada à tática e à psicologia. Não havia fotos de Joseph Goebbels ou símbolos nazistas na publicação. Em sua declaração ao Comitê, o usuário disse que sua intenção era fazer uma comparação entre o sentimento na citação e a presidência de Donald Trump.

O usuário tinha publicado o conteúdo há dois anos e foi lembrado de compartilhá-lo novamente pela função “lembrança” do Facebook, que permite que os usuários vejam as publicações de um dia específico de anos anteriores e com a opção de compartilhar a publicação novamente.

O Facebook removeu a publicação por violar os Padrões da Comunidade sobre Organizações e indivíduos perigosos.

Principais conclusões

Em resposta ao Comitê, o Facebook confirmou que Joseph Goebbels está na lista de indivíduos perigosos da empresa. O Facebook alegou que as publicações que compartilham uma citação de um indivíduo perigoso são tratadas como expressão de apoio a eles, a menos que o usuário apresente contexto para tornar a intenção explícita.

O Facebook removeu a publicação porque o usuário não deixou claro que compartilhava a citação para condenar Joseph Goebbels, para combater o extremismo ou discurso de ódio ou para fins acadêmicos ou de notícias.

Após a revisão do caso, o Comitê concluiu que a citação não apoiava a ideologia do partido nazista ou os atos de ódio e violência do regime. Os comentários na publicação de amigos do usuário apoiaram a alegação do usuário de que tentava comparar a presidência de Donald Trump ao regime nazista.

De acordo com os padrões internacionais de direitos humanos, qualquer regra que restrinja a liberdade de expressão deve ser clara, precisa e acessível ao público, para que os indivíduos possam se comportar em conformidade. O Comitê não acredita que as regras do Facebook sobre Organizações e indivíduos perigosos atendam a essa exigência.

O Comitê observou uma brecha entre as regras publicadas nos Padrões da Comunidade do Facebook e regras adicionais não publicadas usadas pelos moderadores de conteúdo da empresa. Nas regras disponíveis para o público, o Facebook não esclarece o suficiente que o usuário, que fizer publicações de uma citação atribuída a um indivíduo perigoso, deve deixar claro que não está o exaltando ou apoiando.

A política do Facebook sobre Organizações e indivíduos perigosos também não mostra exemplos claros que explicam os termos como "enaltecimento" e "apologia", o que dificulta para os usuários entenderem este Padrão da Comunidade.

Embora o Facebook tenha confirmado ao Comitê que Joseph Goebbels foi classificado como um indivíduo perigoso, a empresa não fornece uma lista pública ou exemplos de indivíduos e organizações perigosas. O Comitê também verificou que, neste caso, o usuário não parece ter sido informado de qual Padrão da Comunidade violou seu conteúdo.

Decisão do Comitê de Supervisão

O Comitê de Supervisão revoga a decisão do Facebook de remover o conteúdo e exige que a publicação seja recuperada.

Em uma declaração de parecer consultivo, o Comitê recomenda ao Facebook:

• Confirme se os usuários serão sempre notificados sobre os motivos de qualquer execução dos Padrões da Comunidade contra eles, inclusive a regra específica aplicada pelo Facebook.
• Explique e forneça exemplos do uso de termos-chave da política de Organizações e indivíduos perigosos, inclusive os significados de "enaltecimento", "apologia" e "representação". Os Padrões da Comunidade também devem informar melhor os usuários sobre como deixar clara sua intenção ao discutir as organizações e indivíduos perigosos.
• Fornecer uma lista pública das organizações e indivíduos classificados como "perigosos" segundo os Padrões da Comunidade de Organizações e indivíduos perigosos ou, pelo menos, uma lista de exemplos.

*Os resumos de caso dão uma visão geral da ocorrência e não têm valor precedente.

Decisão completa sobre o caso

1.Resumo da decisão

O Comitê de Supervisão anulou a decisão do Facebook de remover uma publicação que a empresa alega violar Padrões da comunidade sobre Organizações e indivíduos perigosos. O Comitê concluiu que essas regras não ficaram suficientemente claras para os usuários.

2. Descrição do caso

Em outubro de 2020, um usuário publicou uma citação que foi atribuída indevidamente a Joseph Goebbels, o Ministro da Propaganda do Reich na Alemanha nazista. A citação, em inglês, afirmava que, não adianta apelar para os intelectuais, pois eles não se converterão e, em todo caso, se renderão ao homem mais forte. Assim, afirma a citação, os argumentos devem apelar para emoções e instintos. Terminou afirmando que a verdade não importa e está subordinada à tática e à psicologia. Não havia fotos de Joseph Goebbels ou símbolos nazistas na publicação. O usuário tinha publicado o conteúdo há dois anos e foi lembrado de compartilhá-lo novamente pela função “lembrança” do Facebook, que permite que os usuários vejam as publicações de um dia específico de anos anteriores e com a opção de compartilhar a publicação novamente. Não houve relatórios do usuário sobre o conteúdo. O Facebook removeu a publicação por violar os Padrões da Comunidade sobre Organizações e indivíduos perigosos.

A publicação contém a citação e a atribuição apenas a Goebbels. Não há comentários adicionais na publicação que indicam a intenção do usuário em compartilhar o conteúdo. Na declaração ao Comitê, os usuários explicaram que a citação envolvia questões sociais importantes e que o conteúdo da citação era "MUITO IMPORTANTE agora em nosso país, pois temos um “líder” cuja presidência segue um modelo fascista.” A intenção era fazer uma comparação entre o sentimento na citação e a presidência de Donald Trump. Os comentários na publicação sugerem que os amigos do usuário entenderam que esse é o caso.

3. Autoridade e Escopo

O Comitê tem autoridade para analisar a decisão do Facebook de acordo com os termos do Artigo 2 (Autoridade para análise) do Regimento do Comitê e pode manter ou reverter essa decisão de acordo com o Artigo 3, Seção 5 (Procedimentos de análise: Resolução) do Regimento. O Facebook não apresentou motivos para o conteúdo ser excluído de acordo com o Artigo 2, Seção 1.2.1 (Conteúdo não disponível para análise do Comitê) dos Estatutos do Comitê, nem o Facebook indicou que considera o caso inelegível de acordo com o Artigo 2, Seção 1.2.2 (Obrigações legais) do Estatuto Social.

4.Padrões relevantes

Em sua decisão, o Comitê de Supervisão considerou os seguintes padrões:

I. Padrões da Comunidade do Facebook:

os Padrões da Comunidade sobre Organizações e indivíduos perigosos determinam que "em um esforço para prevenir e impedir danos reais, não permitimos que nenhuma organização ou indivíduo que anuncie uma missão violenta ou esteja envolvida com violência esteja presente no Facebook". Afirma ainda que o Facebook “removerá conteúdo que expresse apoio ou exalte a grupos, líderes ou indivíduos envolvidos nessas atividades”.

II. Valores do Facebook:

Os valores do Facebook relevantes a este caso são descritos na introdução aos Padrões da Comunidade. O primeiro padrão é "Vozes", descrito como "fundamental":

o objetivo de nossos Padrões da Comunidade sempre foi criar um local de expressão e dar voz às pessoas. [...] Queremos que as pessoas possam falar abertamente sobre os assuntos importantes para elas, ainda que sejam temas que geram controvérsias e objeções.

O Facebook limita "Vozes” com base em quatro outros valores. O Comitê considerou que o valor "Segurança" é relevante para esta decisão:

Segurança: temos o compromisso de fazer com que o Facebook seja um lugar seguro. Manifestações contendo ameaças podem intimidar, excluir ou silenciar pessoas, e isso não é permitido no Facebook.

III. Padrões de direitos humanos considerados pelo Comitê:

Os Princípios Orientadores da ONU sobre Empresas e Direitos Humanos ( UNGPs), sancionados pelo Conselho de Direitos Humanos da ONU em 2011, estabelecem uma estrutura voluntária de responsabilidades sobre direitos humanos por parte das empresas privadas. Com base nos UNGPs, os seguintes padrões internacionais de direitos humanos foram considerados neste caso:

• O direito de liberdade de expressão: Pacto Internacional dos Direitos Civis e Políticos ( PIDCP), Artigos 19 e 20; Comentário Geral N° 34, Comitê de Direitos Humanos (2011) ( Comentário Geral 34); Relator Especial da ONU sobre os relatórios de liberdade de opinião e expressão: A/69/335 (2014); A/HRC/38/35 (2018); A/73/348 (2018) e A/HRC/44/49 (2020); Declaração Conjunta sobre Liberdade de Expressão e Eleições na Internet (2020); e o Plano de Ação de Rabat;
• Direito a não discriminação: PIDCP Artigos 2 e 26; Convenção Internacional sobre a Eliminação de Todas as Formas de Discriminação Racial ( ICERD), Artigos 1, 4 e 5; Comitê para a Eliminação da Discriminação Racial, Recomendação Geral N° 35 (2013) ( GR35); Relator Especial da ONU sobre Racismo, relatório: A/HRC/38/53 (2018);
• Direito à vida: PIDCP Artigo 6; Comentário Geral N° 36, Comitê de Direitos Humanos (2018) (GC36);
• Direito à segurança das pessoas: O Artigo 9 do PIDCP; conforme interpretado pelo Comentário Geral N° 35, parágrafo 9, Comitê de Direitos Humanos (2014).

5. Declaração do usuário

O usuário tinha publicado o conteúdo há dois anos e foi lembrado para compartilhá-lo novamente pela função “lembrança” do Facebook. Ele explicou que a publicação era importante porque os Estados Unidos têm um líder na presidência que segue um modelo fascista. Afirmou ainda que sua capacidade de usar o Facebook foi restringida após a publicação do conteúdo.

6. Explicação sobre a decisão do Facebook

O Facebook afirma que trata o conteúdo de citações ou atribuição de citações (independentemente de sua precisão), a um indivíduo perigoso designado como uma expressão de apoio a esse indivíduo, a menos que o usuário forneça contexto adicional para tornar sua intenção explícita. O Facebook disse que, neste caso, o usuário não forneceu nenhum contexto adicional explicando que a citação foi compartilhada para condenar Goebbels, para combater o extremismo ou discurso de ódio ou como parte de um discurso acadêmico ou interessante. O Facebook disse que não teria removido esse conteúdo se a publicação do usuário deixasse clara que foi compartilhado por esses motivos. Embora os comentários feitos por outras pessoas na publicação do usuário indicassem que não tinham a intenção de elogiar ou apoiar Joseph Goebbels, o Facebook explicou que apenas analisaram a publicação em si depois de tomar uma decisão de moderação. O conteúdo não foi removido quando publicado originalmente porque não havia relatórios de usuário sobre ele e não foi detectado automaticamente.

O Comitê também observa que, quando o Facebook informou ao usuário que sua publicação tinha sido removida, a empresa não informou o tipo de Padrões da Comunidade que foi violado pela publicação.

7. Envios de terceiros

O Comitê de Supervisão considerou 12 comentários públicos relacionados a este caso. Três dos comentários foram enviados da Europa e nove da região dos Estados Unidos e Canadá.

Os envios incluíram os seguintes temas: conformidade com os Padrões da Comunidade; caso constitua discurso político; o papel da função “lembrança” do Facebook; o efeito das sanções sobre os usuários; e feedback sobre como melhorar o processo de comentários públicos.

8. Análise do Comitê de Supervisão

8.1 Conformidade com os Padrões da Comunidade

O Comitê conclui que a decisão do Facebook de remover a publicação do usuário não está em conformidade com os Padrões da Comunidade sobre Organizações e indivíduos perigosos .

O Facebook afirma que, para prevenir e impedir os danos reais, proíbe que organizações e indivíduos (vivos ou falecidos) envolvidos no ódio organizado tenham presença no Facebook. Também proíbe conteúdo que expresse apoio ou exalte tais grupos, seus líderes ou indivíduos envolvidos nessas atividades. O Facebook não publicou uma lista de indivíduos e organizações classificados como perigosos.

Na justificativa de decisão fornecida ao Comitê, o Facebook esclareceu certos aspectos da política de Organizações e Indivíduos Perigosos que não estão descritos nos Padrões da Comunidade. Em primeiro lugar, o Facebook confirmou que o partido nazista (o Partido Socialista dos Trabalhadores Alemães, ativo entre 1920 e 1945) foi declarado uma organização de ódio desde 2009 internamente pelo Facebook. Joseph Goebbels, um dos líderes do partido, foi declarado um indivíduo perigoso. Em segundo lugar, o Facebook trata todo o conteúdo que supostamente cita um indivíduo perigoso declarado como uma expressão de elogio ou apoio a esse indivíduo, a menos que o usuário forneça contexto adicional para tornar sua intenção explícita. Terceiro, o Facebook determina a conformidade com a política exclusivamente com base no texto e/ou imagens da própria publicação, sem avaliar reações ou comentários à publicação.

Nesse caso, o conteúdo envolveu uma única citação atribuída a Joseph Goebbels. O Comitê concluiu que a citação não promovia a ideologia do partido nazista e não aprovava os atos de ódio e violência do regime. Os comentários na publicação de amigos do usuário pareciam apoiar a alegação do usuário de que tentava comparar a presidência de Donald Trump ao regime nazista.

O Comitê observa uma brecha nas informações entre o texto disponível para o público da política de Organizações e indivíduos perigosos e as regras internas adicionais aplicadas pelos moderadores de conteúdo do Facebook. O texto público não esclarece o suficiente que o usuário, que fizer publicações de uma citação atribuída a um indivíduo perigoso, deve fornecer contexto adicional em sua publicação para tornar explícito que não está elogiando ou apoiando um indivíduo ou organização envolvida em ódio organizado. Os Padrões da Comunidade estabelecem um requisito semelhante para publicações incluindo símbolos de organizações e indivíduos designados, mas não afirmam o mesmo para conteúdo de apoio e elogios. Conforme ilustrado neste caso, resulta na supressão da fala, o que não representa risco de dano. Embora o Comitê reconheça a importância de combater a propagação da ideologia nazista e do discurso de ódio, bem como a dificuldade de adotar tais objetivos em grande escala, neste caso, a remoção da publicação está claramente fora do espírito da política.

8.2 Conformidade com os valores do Facebook

O Comitê considera que a remoção não está de acordo com os valores do Facebook. Depois de considerar o conteúdo removido de acordo com a política de Organizações e indivíduos perigosos, o valor de "Segurança" é conciliado com o valor "primordial" de "Vozes". O Facebook explica que a “Segurança” pode ter mais peso quando o conteúdo pode causar danos físicos. Neste caso, no entanto, considerando o benefício mínimo de valor de "Segurança" da publicação do usuário, o Comitê concluiu que a remoção prejudicou desnecessariamente o valor de "Vozes".

8.3 Conformidade com os Padrões de Direitos Humanos

1. Liberdade de expressão (Artigo 19 do PIDCP)

Ao adotar os padrões internacionais de direitos humanos sobre o direito à liberdade de expressão, o Comitê concluiu que o conteúdo deveria ser restaurado. O valor atribuído ao direito à liberdade de expressão é particularmente grande no debate público sobre figuras políticas, que foi o assunto desta publicação (Artigo 19 do PIDCP, parágrafo 2, Comentário Geral 34, parágrafo 34).

O direito de liberdade de expressão não é absoluto. Qualquer restrição do direito deve, entretanto, atender aos requisitos de legalidade, objetivo legítimo e necessidade e proporcionalidade. A remoção do conteúdo pelo Facebook foi reprovada na primeira e na terceira parte deste teste.

a. Legalidade

Quaisquer regras que restrinjam a expressão devem ser claras, precisas e acessíveis ao público (parágrafo 25 do Comentário geral n.º 34) e permitem que as pessoas mudem a sua conduta da forma apropriada. A política do Facebook sobre organizações e indivíduos perigosos é insuficiente para o padrão de legalidade. A política carece de exemplos claros que explicam o uso de “suporte”, “elogio” e “representação”, o que dificulta para os usuários compreenderem este Padrão da Comunidade. Desta forma, aumenta as preocupações em relação à legalidade e pode criar uma percepção de aplicação arbitrária entre os usuários. O Comitê também está preocupado com o fato de que, neste caso, o usuário não parece ter sido informado sobre o tipo de Padrão da Comunidade violado quando o conteúdo foi removido.

O Facebook também não fornece uma lista de indivíduos e organizações designadas como perigosas ou, pelo menos, exemplos de grupos ou indivíduos designados como perigosos. Por último, a política não explica como determina a intenção de um usuário, o que dificulta para os usuários saberem como e quando a política será aplicada e se comportarem em conformidade.

b. Objetivo legítimo

O artigo 19, parágrafo 3 do PIDCP afirma que os objetivos legítimos incluem o respeito pelos direitos ou reputações de terceiros, bem como a proteção da segurança nacional, ordem pública ou saúde pública ou princípios morais. A justificativa do Facebook indica que o objetivo da política de Organizações e indivíduos perigosos em relação ao que denomina como "organizações de ódio" é proteger os direitos de outras pessoas. O Comitê está convencido de que as disposições específicas sobre “organizações de ódio” visam proteger os indivíduos contra a discriminação e protegê-los de ataques à vida ou atos intencionais previsíveis que resultem em lesões físicas ou mentais.

c. Necessidade e Proporcionalidade

Qualquer restrição “deve ser apropriada para cumprir sua função protetora e deve ser o instrumento menos intrusivo entre aqueles que podem cumprir sua função protetora e ser proporcional ao interesse a ser protegido” (Comentário Geral 34, parágrafo 34).

O contexto é essencial para avaliar a necessidade e a proporcionalidade. O Comitê concluiu que supostamente houve um aumento global no apoio e aceitação da ideologia neonazista e no desafio que o Facebook enfrenta ao restringir a presença de "organizações de ódio" na plataforma (Relatório A/HRC/38/53, 2018). O Comitê considera que pode ser necessário, na moderação do conteúdo sobre organizações perigosas em grande escala, remover publicações onde o contexto é insuficiente. Nesse caso, o conteúdo da citação e as respostas de outros usuários, a localização do usuário e o momento da publicação em uma campanha eleitoral são todos relevantes. O método do Facebook de exigir que os moderadores de conteúdo analisem o conteúdo, sem levar em conta essas dicas contextuais, resultou em uma restrição desnecessária e desproporcional à expressão.

d. Igualdade e não discriminação

Quaisquer restrições à expressão devem respeitar o princípio de igualdade e não discriminação (Comentário Geral 34, parágrafos 26 e 32). O Comitê reconhece a importância do Facebook no combate à ideologia nazista na plataforma, particularmente no contexto do aumento documentado no apoio a tais ideias e ao antissemitismo em todo o mundo. No entanto, a remoção de um conteúdo que buscava criticar um político comparando seu estilo de governança ao dos mestres da ideologia nazista não promove igualdade e não discriminação.

9. Decisão do Comitê de Supervisão

9.1 Decisão de conteúdo

O Comitê de Supervisão revoga a decisão do Facebook de remover o conteúdo e exige que a publicação seja recuperada.

9.2 Declaração de Orientação de Política

O Comitê recomenda que o Facebook:

• Confirme se os usuários serão sempre notificados sobre os motivos de qualquer execução dos Padrões da Comunidade contra eles, inclusive a regra específica aplicada pelo Facebook (por exemplo, para apoio de uma organização de ódio).
• Explique e forneça exemplos do uso de termos-chave usados na política de Organizações e indivíduos perigosos, inclusive os significados de "enaltecimento", "apologia" e "representação". Devem estar alinhados com as definições usadas nos Padrões de Implementação Interna do Facebook. Os Padrões da Comunidade devem fornecer uma orientação mais clara aos usuários sobre como mostrar sua intenção ao discutir sobre indivíduos ou organizações designadas como perigosas.
• Fornecer uma lista pública das organizações e indivíduos classificados como "perigosos" segundo os Padrões da Comunidade de Organizações e indivíduos perigosos. Pelo menos, devem ser fornecidos exemplos ilustrativos. Desta forma, ajudaria os usuários a compreender melhor a política e a se comportar em conformidade.

*Nota processual:

As decisões do Comitê de Supervisão são preparadas por painéis de cinco membros e devem ser aprovadas pela maioria do Comitê. As decisões do Comitê não representam, necessariamente, as opiniões pessoais de todos os membros.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas