O Comitê de Supervisão anuncia uma análise da abordagem da Meta para lidar com o termo “shaheed”

9 de Março de 2023

Hoje, o Comitê de Supervisão anunciou ter aceitado uma solicitação da Meta para realizar um parecer consultivo sobre a abordagem de moderação do termo árabe “shaheed” quando usado para se referir a indivíduos que a empresa classifica como perigosos, incluindo terroristas. Por esse motivo, convidamos pessoas e organizações a enviar comentários públicos.

Além de analisar casos individuais de remoção ou de restauração de conteúdo, o Comitê também pode aceitar solicitações da Meta para enviar orientações sobre as políticas de conteúdo mais amplas da empresa. Após receber a solicitação da Meta e as contribuições das partes interessadas externas, o Comitê apresenta recomendações detalhadas sobre alterações que a Meta deveria fazer em determinado tópico de suas políticas.

A Meta deve enviar essas recomendações do Comitê por meio de seu processo oficial de desenvolvimento de políticas e fazer atualizações constantes sobre o assunto, inclusive por meio do Newsroom. Embora o parecer consultivo do Comitê não seja vinculativo, a Meta deve dar uma resposta pública e tomar medidas de acompanhamento em 60 dias após o recebimento de nossas recomendações.

Até o momento, o Comitê emitiu três pareceres consultivos. O primeiro foi publicado em fevereiro de 2022 e tratou o compartilhamento de informações residenciais privadas no Facebook e no Instagram. O segundo, em dezembro de 2022, lidou com o programa de verificação cruzada da Meta. Em julho de 2022, o Comitê começou a analisar as políticas da Meta contra a desinformação sobre COVID-19.

Envie um comentário público aqui.

“Shaheed” e indivíduos designados como perigosos

(PAO 2023-01)

O Comitê de Supervisão aceitou uma solicitação da Meta para realizar um parecer consultivo sobre a abordagem de moderação da palavra árabe “shaheed” quando usada para se referir a indivíduos que a empresa classifica como “perigosos”, incluindo terroristas. O termo tem diversos significados, mas geralmente é traduzido como “mártir” e gerou mais remoções de conteúdo de acordo com os Padrões da Comunidade do que qualquer outra palavra ou frase nas plataformas da Meta. A empresa reconhece que a abordagem atual pode levar a uma aplicação excessiva das políticas, especialmente em países de língua árabe, e está em busca de alternativas. Ainda assim, relata dificuldades e tensões para moderar o uso do termo em grande escala.

A solicitação da Meta ao Comitê está disponível em inglês e em árabe.

A Meta estima que a palavra “shaheed” e suas variações geraram mais remoções de conteúdo de acordo com os Padrões da Comunidade do que qualquer outra palavra ou frase nas plataformas da empresa.

Na solicitação, a Meta pergunta ao Comitê se deve continuar a remover o conteúdo que usa a palavra “shaheed” para se referir a indivíduos designados como perigosos, conforme a política sobre organizações e indivíduos perigosos, ou se outra abordagem se alinharia melhor com os valores e as responsabilidades de direitos humanos da empresa. Além disso, a Meta solicita orientações sobre problemas de conteúdo parecidos que possam acontecer no futuro.

A Meta afirma remover o conteúdo que se refere a indivíduos perigosos como “shaheed” porque o termo é traduzido como “mártir” , que, em seu entendimento, é uma forma de elogio. De acordo com a política sobre organizações e indivíduos perigosos, isso é proibido. Entretanto, a empresa reconhece que o significado de “shaheed” pode variar.

Na solicitação, a Meta descreve a palavra “shaheed” como um título “honorífico” em uso em muitas comunidades no mundo inteiro, de diversas culturas, religiões e idiomas. A empresa afirma que o termo tem “vários significados” e “é usado para descrever alguém que morre inesperada ou prematuramente, por vezes se referindo a uma morte honrosa, como quando alguém morre em um acidente, em um conflito ou em uma guerra”. A Meta declara que o termo é comumente traduzido ao inglês como “martyr” (mártir) e adota esse significado para fins de moderação de conteúdo, em todos os contextos. Ainda assim, observa que “o termo não tem um equivalente direto em inglês”.

A política sobre organizações e indivíduos perigosos proíbe “elogios, apoio substancial e representação de entidades [e de indivíduos designados]”. A definição de elogio inclui “[a]tribuir uma sensação de conquista a uma entidade ou evento designado”, “[l]egitimar a causa de uma entidade designada” e “[a]linhar-se ideologicamente com uma entidade ou evento designado”. A definição foi adicionada seguindo a recomendação do Comitê (recomendação dois do caso “Citação nazista”). Como a Meta entende o significado de “shaheed” como “mártir”, o termo é considerado como uma forma de elogio quando usado para se referir a uma entidade designada. Anteriormente, o Comitê recomendou que a Meta publicasse uma lista de entidades designadas ou exemplos ilustrativos (recomendação três do caso “Citação nazista”). A Meta não publicou a lista nem deu mais atualizações sobre essa recomendação após uma avaliação de viabilidade.

A remoção da palavra “shaheed” pode resultar em “advertências” ou sanções graves para os usuários. A empresa reconhece que a abordagem atual pode levar a uma aplicação excessiva das políticas, especialmente em países de língua árabe. Devido aos vários significados da palavra “shaheed” e às dificuldades em lidar com diferentes contextos em grande escala, a Meta admite que talvez esteja removendo discursos que “não têm a intenção de elogiar um indivíduo designado”, como nos casos em que a palavra “shaheed” é usada para se referir a uma morte prematura ou a uma pessoa que faleceu em vez de glorificar a conduta em si. A Meta não aplica a exceção de política a jornalismo neutro à palavra “shaheed”, pois não a considera como tal.

Em 2020, devido a essas preocupações, a Meta começou a desenvolver uma política para reavaliar o uso do termo “shaheed”. Isso incluiu revisar pesquisas e consultar as partes interessadas. De acordo com a Meta, as principais descobertas do engajamento com as partes interessadas foram que o significado de “shaheed” depende do contexto e que, em determinadas situações, o termo não se qualifica como um elogio. Durante esse processo, a empresa identificou duas opções de política para o uso da palavra “shaheed” que podem ser ampliadas. Porém, como cada uma tem suas desvantagens, não há consenso entre as partes interessadas. Por isso, a Meta ainda não decidiu uma nova abordagem. A empresa ressalta que, devido ao volume de conteúdo nas plataformas, uma das principais preocupações é se o monitoramento vai funcionar em grande escala.

Perguntas da Meta ao Comitê:

A Meta mostrou as seguintes opções de política ao Comitê para consideração:

1. Continuar com a abordagem atual e remover o conteúdo que usa “shaheed” para se referir a indivíduos designados como perigosos de acordo com a políticas sobre organizações e indivíduos perigosos. A Meta reconhece que essa opção pode restringir a voz dos usuários e levar a uma grande quantidade de conteúdo removido. Além disso, a empresa reconhece que a abordagem pode resultar em “advertências” graves para os usuários, que podem levar à desativação de contas. Essa abordagem também pode afetar desproporcionalmente “as comunidades em que ‘shaheed’ é uma palavra comum”, levantando questões sobre igualdade e justiça. Entretanto, a Meta afirma que essa opção está de acordo com o valor de “segurança” e que é a mais fácil de colocar em prática.

2. Permitir o conteúdo que se refere a um indivíduo designado como “shaheed” quando os seguintes requisitos são cumpridos: (i) o termo é usado em um contexto permitido conforme a política sobre organizações e indivíduos perigosos (como condenações, reportagens jornalísticas, debates acadêmicos); (ii) não há outros elogios ou representações de um indivíduo designado, tampouco apoio adicional a ele, (por exemplo, a publicação não elogia explicitamente um terrorista nem legitima a violência dele); e (iii) não há sinal de violência no conteúdo (como uma representação visual de armas, linguagem militar ou referências à violência no mundo real). Segundo a Meta, mesmo com um possível impacto ao valor de “segurança”, isso respaldaria o valor de “voz” e se alinharia melhor com a política sobre organizações e indivíduos perigosos, que permite discutir sobre indivíduos designados. Essa opção também reduziria os impactos negativos nas comunidades em que “shaheed” é comumente usado e “pode permitir que os meios de comunicação [...] façam uma cobertura jornalística mais objetiva”. A Meta observa, no entanto, que os alvos de terrorismo e de violência podem se opor à mudança da política nesse sentido. Além disso, afirma que essa opção poderia tornar o monitoramento mais complexo e, consequentemente, mais propenso a erros.

3. Remover o conteúdo que usa “shaheed” para se referir a um indivíduo designado como perigoso de acordo a política sobre organizações e indivíduos perigosos da Meta apenas nas publicações em que há outros elogios, representações ou apoio ou em que há um sinal de violência. A Meta acredita que essa opção se “alinharia melhor com o valor de ‘voz’ e os princípios do direito internacional”, mas que “poderia ser entendida como a promoção do valor de ‘voz’ acima do de segurança”. Essa opção “maximiza a forma como o termo ‘shaheed’ pode ser usado”, permitindo que as pessoas “usem a palavra de acordo com a cultura ou o idioma delas”. No entanto, a opção pode trazer às plataformas o conteúdo que pretende legitimar o terrorismo. A Meta afirma que essa opção seria mais fácil de colocar em prática do que a segunda.

Embora o Comitê considere as opções específicas que a Meta trouxe, as recomendações e o parecer consultivo do Comitê podem não se restringir a essas opções.

O Comitê solicita comentários públicos que abordem o seguinte:

  • Exemplos de como a abordagem atual da Meta para lidar com o termo “shaheed” como elogio impacta a liberdade de expressão no Facebook e no Instagram, especialmente para a sociedade civil, os jornalistas e os ativistas de direitos humanos em regiões onde essa palavra é comumente usada.
  • Pesquisas sobre a conexão entre a restrição de elogios a indivíduos associados a organizações terroristas nas redes sociais e a prevenção eficaz de atos terroristas.
  • A forma como a Meta deve lidar com a variedade de significados e de contextos culturais para dar conta do uso do termo “shaheed” em diferentes regiões, idiomas e dialetos, dadas as contrapartidas inerentes à aplicação das políticas de conteúdo em grande escala e as implicações na responsabilidade da Meta de respeitar os direitos humanos.
  • Os processos e as proteções legais que devem ser adotados para diminuir os riscos da aplicação insuficiente ou excessiva da política sobre organizações e indivíduos perigosos, considerando especialmente a variedade de culturas, idiomas e dialetos.
  • O modo como medir a precisão com a qual a política está sendo aplicada nessa área, incluindo o uso de automação, para combater conteúdo tendencioso ou discriminatório em potencial e como refletir isso em relatórios de transparência e/ou permitir que pesquisadores independentes tenham acesso a dados relevantes.

Decisões anteriores

O Comitê já abordou a política sobre organizações e indivíduos perigosos em diversos casos, incluindo os seguintes:

Comentários públicos

A coleta de informações adicionais e especializadas de pessoas e de organizações representa uma parte importante do processo do Comitê para a elaboração de um parecer consultivo. Com essas contribuições, os membros do Comitê têm uma visão mais ampla e entendem como as políticas da Meta afetam diferentes pessoas em todo o mundo.

Se você ou sua organização acha que pode contribuir com perspectivas valiosas para essa solicitação de parecer consultivo, envie sua contribuição por aqui.

O período para deixar comentários públicos sobre essa solicitação vai terminar às 12h (BRT) no dia 10 de abril, uma segunda-feira.

Esse período é mais longo do que o destinado a novos casos, pois o processo de parecer consultivo não tem as mesmas restrições de tempo. Além disso, os comentários públicos podem ter, no máximo, seis páginas. Para o parecer consultivo em questão, os comentários podem ser enviados em bengali, bem como em qualquer outro idioma disponível no site do Comitê, como árabe, farsi, urdu, bahasa indonésio e turco. A lista completa de idiomas está disponível no link acima.

Próximos passos

Como o Comitê aceitou a solicitação de parecer consultivo, estamos coletando as informações necessárias, inclusive por meio da convocação para envio de comentários públicos que fizemos hoje. Após as deliberações, o Comitê vai votar no parecer consultivo. Se for aprovado, ele vai ser publicado no site do Comitê.

Anexos

Meta's request to the Board - English

Meta's request to the Board - Arabic

Voltar às Notícias