Comunicado sobre os próximos casos do Comitê

15 de Março de 2022

Hoje, o Comitê anunciou três novos casos para apreciação: um desenho animado envolvendo a Croácia, um vídeo gráfico retratando um civil vítima de violência no Sudão e uma publicação na qual o usuário tenta ressignificar determinadas palavras em árabe.

Seleção dos casos

Como não podemos analisar todas as apelações, o Comitê prioriza os casos que têm potencial de afetar vários usuários ao redor do mundo, apresentam grande importância para o discurso público ou suscitam questões relevantes sobre as políticas da Meta.

Os casos que anunciamos hoje são os seguintes:

Ilustração Knin (2022-001-FB-UA)

Apelação de um usuário para remover conteúdo do Facebook

Envie um comentário público aqui.

No início de dezembro de 2021, uma página pública do Facebook descrita como um portal de notícias da Croácia publicou um vídeo e uma legenda em croata. A Meta traduziu a legenda como “The Player from Čavoglave and the rats from Knin” (O Jogador de Čavoglave e os ratos de Knin). Čavoglave é um vilarejo, e Knin é uma cidade, ambos situados na Croácia. O vídeo é uma versão editada de um desenho animado da Disney “The Pied Piper” (O Flautista Encantado). O vídeo tem dois minutos e dez segundos de duração, com uma sobreposição de voz no idioma croata. Além disso, há a sobreposição da palavra “pretjerivač”, que parece indicar uma plataforma online de mesmo nome, na qual os usuários compartilham vídeos e outros tipos de conteúdo.

O vídeo retrata uma cidade infestada por ratos. Na animação original da Disney, a entrada da cidade é nomeada como “Hamelin”. Entretanto, no vídeo editado, ela aparece como a cidade croata de “Knin”. No início do vídeo, o narrador descreve como os ratos e os seres humanos viveram na cidade real de Knin por muitos anos. O narrador conta que os ratos decidiram viver em um “pure rat country” (país somente de ratos), por isso começaram a atacar e a perseguir os moradores locais. Ele explica que, quando os ratos tomaram a cidade, apareceu um flautista de Čavoglave, vilarejo croata. No início, o flautista não foi levado a sério pelos ratos, que continuaram com “the great rat aggression” (a grande ofensiva dos ratos). Entretanto, fascinados pela melodia que saía da “magic flute” (flauta mágica) do músico, os ratos começaram a entoar “their favorite song” (a canção favorita deles) e a seguir o flautista para fora da cidade.

A Meta informou ao Comitê que a melodia do desenho animado é de uma conhecida música folclórica dos Balcãs Ocidentais. A empresa traduziu a letra da música cantada pelos ratos como: “What is that thing shining on Dinara, Dujić’s cockade on his head [...] Freedom will rise from Dinara, it will be brought by Momčilo the warlord.” (O que é essa coisa brilhando em Dinara, é o cocar de Dujić na cabeça dele [...] A liberdade renascerá em Dinara, ela será trazida por Momčilo, o senhor da guerra). A Meta informou ao Conselho que a letra tem origem em uma música dedicada a Momčilo Dujić, “a famous Serbian warlord during the Second World War” (um famoso sacerdote sérvio durante a Segunda Guerra Mundial). Assim, o vídeo retrata os moradores da cidade fechando o portão após a saída do flautista e dos ratos. O vídeo termina com o flautista conduzindo os ratos para um trator, que depois desaparece. O narrador conclui que, assim que foram atraídos para o “magical tractor” (trator mágico), os ratos “disappeared forever from these lands” (desapareceram de vez destas terras), e “everyone lived happily ever after” (todos viveram felizes para sempre). A página que compartilhou o conteúdo tem mais de 50 mil seguidores. Enquanto estava na plataforma, o conteúdo foi visualizado mais de 380 mil vezes, obteve mais de 540 compartilhamentos e recebeu mais de 2.400 reações, além de mais de 1.200 comentários. A maioria dos usuários que reagiram, comentaram ou compartilharam o conteúdo tem contas localizadas na Croácia. Os demais usuários têm contas localizadas na Alemanha e na Bósnia e Herzegovina.

O conteúdo foi denunciado mais de 390 vezes. Dessas denúncias, 362 classificaram o conteúdo como discurso de ódio. Esta apelação feita ao Comitê tem como base uma das denúncias feitas por usuários, cuja conta está localizada na Sérvia. De acordo com decisões anteriores baseadas em análise humana, a Meta determinou que o conteúdo não violava os Padrões da Comunidade do Facebook e, portanto, não o removeu. A Meta afirmou que usa automação quando há denúncias subsequentes relacionadas a conteúdos sobre os quais há decisões anteriores, a fim de evitar que eles sejam analisados novamente. Após o usuário que denunciou o conteúdo fazer uma apelação contra a decisão da Meta, a empresa conduziu outra análise humana e permaneceu com a decisão original de manter o conteúdo na plataforma.

O usuário que denunciou o conteúdo enviou a apelação ao Comitê na Sérvia. O usuário começou afirmando que o flautista representa “the Croatian Army, which persecuted Serbs from Croatia” (o exército croata, que perseguiu os sérvios da Croácia). Além disso, declarou que os ratos representavam os sérvios. De acordo com o usuário que denunciou o conteúdo, a Meta não avaliou o vídeo corretamente. Além disso, ele acrescentou que o vídeo “brings national and religious hatred” (fomenta intolerância de caráter nacional e religioso) aos Balcãs e outros grupos. Ele também relatou que “this portal” (esse portal) dissemina “discurso de ódio entre duas nações que mal fizeram as pazes”.

No final de janeiro de 2022, como consequência da seleção do caso para análise pelo Comitê, a Meta identificou a decisão de manter o conteúdo como um “enforcement error” (erro de monitoramento) e o removeu devido a uma violação à política de discurso de ódio. A Meta explicou que a decisão original teve como base apenas a parte do conteúdo disponível para os analistas.

De acordo com os Padrões da Comunidade sobre discurso de ódio, a Meta remove conteúdo direcionado a uma pessoa ou a um grupo de pessoas com base em raça, etnia ou nacionalidade que contenha “dehumanizing speech or imagery in the form of comparisons, generalizations, or unqualified behavioral statements (in written or visual form) to or about: [a]nimals that are culturally perceived as intellectually or physically inferior” (discurso degradante ou imagens sob a forma de comparações, generalizações ou declarações de comportamento não qualificadas (de forma visual ou escrita) voltadas para ou sobre: animais culturalmente percebidos como inferiores física ou intelectualmente). A Meta informou ao Comitê que, levando em consideração o contexto histórico do caso, o conteúdo apresenta um ataque direto contra o povo sérvio ao compará-lo a ratos. A Meta concluiu que o conteúdo cria um ambiente de exclusão e intimidação, além de promover danos ao mundo real.

Segundo a declaração feita ao Comitê, o usuário que publicou o vídeo disse que “not sure about the content” (desconhece o conteúdo) e afirma participar da página “only as business associate for advertising purposes” (como parceiro de negócios apenas para fins de publicidade). A Meta não considera o usuário que publicou o conteúdo como uma figura pública.

O Comitê gostaria de receber comentários públicos que abordassem o seguinte:

Como o monitoramento das políticas de conteúdo da Meta sobre discurso de ódio deveria considerar o contexto local do Sudeste Europeu, especificamente da Croácia, bem como a história do conflito nessa região.
Como melhorar a análise humana de conteúdos complexos, especialmente na forma de vídeo.
A natureza da conformidade da Meta com as responsabilidades relativas aos direitos humanos a fim de evitar ou reduzir danos resultantes do discurso de ódio em suas plataformas no Sudeste Europeu, especificamente na Croácia, bem como seu compromisso de respeitar a liberdade de expressão.
Contexto histórico, social, político e cultural da Croácia, Sérvia e Bósnia e Herzegovina quanto à natureza, à prevalência e ao impacto de discursos de ódio, incluindo as comunidades da diáspora.

Nas suas decisões, o Comitê pode emitir recomendações de política à Meta. Embora elas não sejam vinculantes, a empresa deve enviar uma resposta dentro de 60 dias. O Comitê aceita comentários públicos com recomendações relevantes para o caso em questão.

Vídeo gráfico do Sudão (2022-002-FB-MR)

Caso encaminhado pela Meta

Envie um comentário público aqui.

Em 21 de dezembro de 2021, a Meta encaminhou ao Comitê um caso sobre um vídeo gráfico retratando um civil vítima de violência no Sudão. O conteúdo foi publicado na página de perfil do usuário no Facebook após um golpe militar no país em 25 de outubro de 2021 e o início dos protestos contra a tomada do governo pelos militares. Os protestos foram recebidos de forma violenta, com jornalistas e ativistas sendo atacados e presos pelas forças de segurança.

O vídeo mostra uma pessoa, possivelmente um menor de idade, com um grande ferimento na cabeça próximo a um carro. Em árabe, é possível ouvir vozes dizendo que alguém foi espancado e deixado na rua. A publicação também inclui uma legenda em árabe pedindo que as pessoas se unam e não confiem nos militares, incluindo as hashtags #DocumentingMilitaryAbuses e #CivilDisobedience (em tradução livre, #DocumentandoAbusosMilitares e #DesobediênciaCivil). A publicação teve menos de 1.000 visualizações e nenhum usuário denunciou o conteúdo.

Os sistemas automatizados da Meta identificaram o conteúdo como tendo potencial de violação e, após análise, o removeram por violar os Padrões da Comunidade sobre conteúdo violento e explícito. O usuário fez uma apelação contra a decisão da Meta de remover a publicação. A Meta analisou a publicação novamente e aplicou a permissão de conteúdo de valor jornalístico para restaurá-la. Após restaurar a publicação, a Meta colocou uma tela de aviso no vídeo marcando-o como conteúdo sensível e solicitando que os usuários cliquem para visualizar o conteúdo. A tela de aviso proíbe que usuários com menos de 18 anos vejam o vídeo.

Conforme a política de conteúdo violento e explícito, a Meta afirma remover conteúdo que “glorifies violence or celebrates suffering” (exalte a violência ou celebre o sofrimento), mas permitir conteúdo explícito “to help people raise awareness” (para ajudar as pessoas a gerar conscientização). Além disso, a política proíbe a publicação de “videos of people or dead bodies in non-medical settings if they depict dismemberment” (vídeos de pessoas ou cadáveres em ambientes não hospitalares caso retratem desmembramento). De acordo com a permissão de conteúdo de valor jornalístico, a Meta permite conteúdos que violam políticas da plataforma “if keeping it visible is in the public interest” (caso seja de interesse público mantê-los visíveis).

No encaminhamento, a Meta declarou que foi difícil tomar uma decisão sobre esse conteúdo, uma vez que se evidencia a tensão entre o valor do interesse público de documentar violações aos direitos humanos e o risco de danos associado ao compartilhamento de tais conteúdos explícitos. A Meta também enfatizou a importância de permitir que os usuários documentem violações aos direitos humanos durante um golpe ou quando o acesso à internet no país for suspenso.

O Comitê não recebeu a declaração do usuário responsável pelo conteúdo.

O Comitê gostaria de receber comentários públicos que abordassem o seguinte:

Se as políticas da Meta sobre conteúdo violento e explícito fornecem proteção suficiente aos usuários para que documentem ou aumentem a conscientização sobre as violações de direitos humanos.
A conformidade da Meta com as responsabilidades relativas aos direitos humanos no que diz respeito à moderação de publicações que apresentem conteúdo explícito e violento, incluindo se os direitos de todas as vítimas são igualmente protegidos e se há proteção suficiente aos direitos de sobreviventes traumatizados, bem como de familiares e de entes queridos das vítimas retratadas.
A moderação da Meta de conteúdo violento e explícito durante períodos de crise, protestos em massa ou suspensão de internet e quais fatores a Meta deve considerar ao decidir remover tal conteúdo ou aplicar telas de aviso e bloqueio por idade.
Como o uso de telas de aviso em conteúdos explícitos, incluindo a restrição de acesso a menores de idade, pode impactar os direitos dos usuários do Facebook (por exemplo, o aumento da conscientização e da documentação de abusos, o direito à privacidade, à integridade física e à saúde física e mental)?
Como a moderação de conteúdo da Meta, incluindo o uso de automação, afeta a liberdade de expressão e a documentação de violações aos direitos humanos durante conflitos, além de como os efeitos negativos podem ser evitados ou reduzidos.

Nas suas decisões, o Comitê pode emitir recomendações de política à Meta. Embora elas não sejam vinculantes, a empresa deve enviar uma resposta dentro de 60 dias. Dessa forma, o Comitê aceita comentários públicos com recomendações relevantes para o caso em questão.

Ressignificação de palavras árabes (2022-003-IG-UA)

Apelação do usuário para restaurar conteúdo do Instagram

Envie um comentário público aqui.

Observação: para que as pessoas comentem a natureza e o impacto da publicação e ajudem o público a entender a decisão do Comitê sobre o caso, nós estamos compartilhando as palavras usadas na publicação. Nosso objetivo é manter a transparência, apesar de reconhecer que algumas delas são potencialmente ofensivas.

Em novembro de 2021, uma conta do Instagram descrita como um espaço para discussão de narrativas “queer” na cultura árabe publicou uma série de fotos em um carrossel (uma única publicação do Instagram que pode conter até dez imagens com apenas uma legenda). A legenda explica que cada imagem mostra uma palavra diferente que pode ser usada de maneira pejorativa para se referir a “effeminate mannerisms” (trejeitos afeminados) no mundo árabe, incluindo os termos “zamel”, “foufou” e “tante”/“tanta”. Segundo a legenda, escrita tanto em árabe como em inglês, o usuário não “condena ou encoraja o uso destas palavras”. Na publicação, o usuário explicou que sofreu abusos verbais com essas palavras quando era criança e que a publicação tem o objetivo de “to reclaim [the] power of such hurtful term” (ressignificar [o] poder de tais termos maldosos). O conteúdo foi visualizado aproximadamente 9.000 vezes e recebeu cerca de 30 comentários, além de quase 2.000 reações.

Três horas após a publicação do conteúdo, um usuário o denunciou como “adult nudity or sexual activity” (nudez e atividade sexual de adultos), e outro usuário o denunciou como “sexual solicitation” (proposta de cunho sexual). Depois de analisar as denúncias individualmente, a Meta removeu o conteúdo por violar a política de discurso de ódio. O usuário fez uma apelação e a Meta restaurou o conteúdo na plataforma. Após o conteúdo ser restaurado, uma terceira pessoa o denunciou como discurso de ódio e a Meta conduziu uma quarta análise, removendo o conteúdo novamente. O usuário apelou novamente e, depois da quinta análise, a Meta manteve a decisão de remover o conteúdo.

Na declaração ao Comitê, a Meta explicou que a princípio removeu o conteúdo com base na política de discurso de ódio, uma vez que “zamel” (زامل) é considerado um “derogatory term for gay people” (termo pejorativo para se referir a homossexuais), e que a empresa o entendeu como um insulto aos mercados “Arabic” (árabe) e “Maghreb” (de Maghreb) quando decidiu excluí-lo. Em 23 de fevereiro de 2022, após uma auditoria sobre o uso da palavra, a Meta decidiu removê-la da “Arabic slur list” (lista de termos árabes ofensivos) e a manteve na “slur list for the Maghreb region” (lista de termos ofensivos na região de Maghreb). Além disso, a Meta analisou o conteúdo pela sexta vez e chegou à conclusão de que não houve violação à política de discurso de ódio. A Meta explicou que errou ao remover o conteúdo, porque “the use of the slur fell within Meta’s allowance for content that condemns a slur or hate speech, discusses the use of slurs including reports of instances when they have been used, or debates about whether they are acceptable to use” (o uso do insulto se enquadra na permissão da Meta para conteúdos que condenam termos ofensivos ou discurso de ódio, discutem o uso de termos ofensivos, incluindo denúncias ou ocasiões em que foram usados, ou debatem sobre quando é aceitável usá-los). Todas as seis análises foram realizadas por moderadores de conteúdo humanos.

Na apelação feita ao Comitê, o usuário declarou que a publicação tinha como intuito celebrar homens e garotos afeminados na sociedade árabe, que muitas vezes são ofendidos com palavras pejorativas. O usuário explicou que há o interesse em ressignificar esses termos como uma forma de resistência e empoderamento. Além disso, ele afirmou que o conteúdo é permitido de acordo com as políticas de conteúdo da Meta, que reconhecem o uso de termos proibidos quando usados de forma autorreferencial ou empoderadora.

O Comitê gostaria de receber comentários públicos que abordassem o seguinte:

Como as Diretrizes da Comunidade do Instagram e os Padrões da Comunidade do Facebook sobre Discurso de Ódio, especialmente as regras sobre termos ofensivos, podem melhorar a proteção às pessoas LGBTIQ+ em relação a ataques contendo palavras pejorativas, além de permitir que essas pessoas se envolvam em contradiscursos nos quais possam usar os mesmos termos.
A política requer que os usuários “clearly state their intent” (declarem a intenção de forma clara) caso usem termos de discurso de ódio para condenar, conscientizar ou empoderar, e se ou como outros fatores contextuais devem ser considerados se essa exceção for aplicada.
A conformidade da Meta com as responsabilidades relativas aos direitos humanos no que diz respeito aos usuários árabes LGBTIQ+, especialmente aqueles localizados no Norte da África e na Ásia Ocidental.
Os desafios e os riscos que pessoas LGBTIQ+ residentes no Norte da África e na Ásia Ocidental enfrentam ao exercerem os direitos de liberdade de expressão nos produtos da Meta.
Melhorias nos produtos da Meta e na abordagem da moderação de conteúdos que possam aprimorar a proteção aos direitos de pessoas LGBTIQ+ nas plataformas da empresa, inclusive no que diz respeito a denúncias em massa.

Comentários públicos

Se você ou sua organização acha que pode contribuir com perspectivas valiosas para ajudar a resolver os casos anunciados hoje, clique nos links acima para enviar um comentário. O período para deixar comentários públicos sobre esses casos ficará aberto por 14 dias e será encerrado às 15h (UTC) do dia 29 de março de 2022, terça-feira.

Próximos passos

Nas próximas semanas, os membros do Comitê deliberarão sobre os casos em foco. Quando eles chegarem às decisões finais, nós as publicaremos no site do Comitê de Supervisão. Para receber atualizações quando o Comitê anunciar novos casos ou publicar decisões, cadastre-se aqui.

Voltar às Notícias