O Comitê de Supervisão anula a decisão da Meta no caso do vídeo em uma delegacia no Haiti
5 de Dezembro de 2023
OComitê de Supervisão anulou a decisão da Meta de remover um vídeo do Facebook que mostrava pessoas entrando em uma delegacia de polícia no Haiti, tentando arrombar uma cela onde estava um suposto membro de uma gangue e ameaçando-o com violência. O Comitê considera que o vídeo violou a Política sobre Violência e Incitação da empresa. No entanto, a maioria do Comitê discorda da avaliação da Meta sobre a aplicação da permissão para conteúdo de interesse jornalístico nesse caso. Para a maioria, o atraso de quase três semanas da Meta na remoção do conteúdo fez com que o risco de dano no meio físico diminuísse o suficiente para que uma permissão a conteúdo de interesse jornalístico fosse aplicada. Além disso, o Comitê recomenda que a Meta avalie a eficácia e o tempo das suas respostas ao conteúdo encaminhado por meio do Programa de Parceiros Confiáveis.
Sobre o caso
Em maio de 2023, um usuário do Facebook publicou um vídeo mostrando pessoas à paisana entrando em uma delegacia, tentando arrombar uma cela em que estava um homem — que é suspeito de ser membro de uma gangue, segundo a Meta — e gritando “we’re going to break the lock” (vamos quebrar a fechadura) e “they’re already dead” (eles já estão mortos). Perto do final do vídeo, alguém grita “bwa kale na boudaw”, que a Meta interpretou como um apelo ao grupo para “tomar medidas contra a pessoa no estilo ‘bwa kale’ — em outras palavras, para linchá-la”. Ela também interpretou “bwa kale” como uma referência ao movimento civil no Haiti que envolve pessoas que fazem justiça com as próprias mãos. O vídeo é acompanhado por uma legenda em crioulo haitiano que inclui a afirmação: “the police cannot do anything” (a polícia não pode fazer nada). A publicação foi vista mais de 500 mil vezes, e o vídeo, cerca de 200 mil vezes.
O Haiti vive um momento de insegurança sem precedentes, com gangues assumindo o controle do território e aterrorizando a população. Com a polícia incapaz de lidar com a violência e, em alguns casos, considerada cúmplice, surgiu um movimento que já levou a “mais de 350 pessoas linchadas por populações locais e grupos de justiceiros” num período de quatro meses este ano, de acordo com o Alto Comissariado da ONU para os Direitos Humanos. Em retaliação, as gangues se vingaram daqueles que supostamente integram ou defendem o movimento.
Um parceiro confiável sinalizou o vídeo para a Meta como potencialmente violador 11 dias após sua publicação, alertando que o conteúdo poderia incitar mais violência. O Programa de Parceiros Confiáveis da Meta é uma rede de organizações não governamentais, agências humanitárias e pesquisadores de direitos humanos de 113 países. A Meta disse ao Comitê que, “quanto maior o nível de risco [de violência em um país], maior será a prioridade para o desenvolvimento de relações com Parceiros Confiáveis”, que podem denunciar conteúdo à empresa. Cerca de oito dias após a denúncia do Parceiro Confiável nesse caso, a Meta determinou que o vídeo incluía uma declaração de intenção de cometer violência de alta gravidade, incluindo um apelo a isso, e removeu o conteúdo do Facebook. A Meta indicou esse caso ao Comitê para abordar as difíceis questões de moderação levantadas pelo conteúdo relacionado ao movimento “Bwa Kale” no Haiti. Ela não aplicou a permissão para conteúdo de interesse jornalístico porque a empresa concluiu que o risco de dano era elevado e superava o valor de interesse público da publicação, observando o padrão contínuo de represálias violentas e assassinatos no Haiti.
Principais descobertas
O Comitê conclui que o conteúdo violou o Padrão da Comunidade sobre Violência e Incitação do Facebook porque havia uma ameaça credível de dano no meio físico à pessoa na cela, bem como a outras pessoas. No entanto, a maioria do Comitê discorda da Meta sobre a aplicação da permissão para conteúdo de interesse jornalístico nesse caso. Dado o atraso de quase três semanas entre a publicação e a remoção, a Meta deveria ter aplicado essa permissão para manter o conteúdo na plataforma, pois o Comitê entende que o risco de dano e a utilidade pública envolvidos em qualquer análise de interesse jornalístico devem ser avaliados no momento em que a Meta considera conceder uma permissão, e não no momento em que um conteúdo é publicado. O Comitê considera que a Meta deveria atualizar o texto sobre a permissão para conteúdo de interesse jornalístico a fim de esclarecer isso aos usuários.
Para a maioria dos membros do Comitê, o atraso de quase três semanas da Meta na remoção do conteúdo fez com que o risco de dano no meio físico diminuísse o suficiente para que uma permissão a conteúdo de interesse jornalístico fosse aplicada. Esse grupo considerou o contexto no Haiti, a extensão e o alcance da publicação e a probabilidade de dano devido ao atraso na remoção. Naquele momento, quando o vídeo já tinha 200 mil visualizações, o risco que o conteúdo representava provavelmente já havia se concretizado. Além disso, em uma situação de violência prolongada e generalizada e colapso na ordem pública, compartilhar informações se torna ainda mais importante para permitir que as comunidades reajam aos acontecimentos. Sendo assim, o vídeo tem o potencial de informar as pessoas dentro e fora do Haiti sobre a realidade no país.
Por outro lado, uma minoria de membros do Comitê considera que a Meta teve razão em não aplicar a permissão. Como o conteúdo foi publicado durante um período de risco elevado, a possibilidade de o vídeo levar a uma retaliação e mais violência ainda existia quando a Meta analisou o conteúdo. Esses membros do Comitê consideram a remoção necessária para reduzir esses riscos.
O Comitê está preocupado com a capacidade da Meta de moderar conteúdo no Haiti em tempo hábil durante esse período de risco elevado. O atraso nesse caso parece ser o resultado da falha da empresa em investir recursos adequados na moderação de conteúdo no Haiti. A Meta não conseguiu fornecer uma avaliação oportuna da denúncia do seu parceiro confiável. As denúncias de parceiros confiáveis são uma das principais ferramentas que a Meta utiliza no Haiti para identificar conteúdo potencialmente violador. Uma denúncia recente de um parceiro confiável mostrou que a Meta não fornece recursos adequados às próprias equipes para analisar o conteúdo identificado pelos parceiros confiáveis e que há uma irregularidade significativa nos tempos de resposta.
Finalmente, o Comitê observa que a Meta não conseguiu ativar seu Protocolo de Política sobre Crise no Haiti. Embora a empresa tenha dito ao Comitê que já tinha medidas de mitigação de riscos em vigor, ele está preocupado com o fato de o longo atraso nesse caso indicar que as medidas existentes são inadequadas. Se a empresa não utilizar esse protocolo nessas situações, ela não fornecerá uma moderação oportuna ou baseada em princípios, prejudicando a capacidade dela e do público de avaliar a eficácia do protocolo no cumprimento dos seus objetivos.
A decisão do Comitê de Supervisão
O Comitê de Supervisão revoga a decisão da Meta de remover esse conteúdo e exige que a publicação seja restaurada.
O Comitê recomenda que a Meta faça o seguinte:
- Avalie o tempo e a eficácia de suas respostas ao conteúdo encaminhado por meio do Programa de Parceiros Confiáveis, para reduzir o risco de dano, especialmente quando a Meta não possui ou tem limitação de ferramentas, processos ou medidas de moderação proativa para identificar e avaliar o conteúdo.
- O Comitê também aproveita a oportunidade para lembrar à Meta uma recomendação anterior, do caso Poema russo, que pede que a empresa torne pública uma exceção à sua Política sobre Violência e Incitação. Essa exceção permite conteúdo que “condena ou conscientiza sobre a violência”, mas a Meta exige que o usuário deixe claro que está publicando o conteúdo por um desses dois motivos.
Mais informações
Para ler a decisão na íntegra, clique aqui.
Para ler um resumo dos comentários públicos sobre o caso, clique aqui.
