Comitê de Supervisão revoga decisão original do Facebook: Caso 2021-006-IG-UA
8 de Julho de 2021
O Comitê de Supervisão revogou a decisão original do Facebook de remover uma publicação no Instagram que incentiva as pessoas a discutir o confinamento em solitária de Abdullah Öcalan, membro fundador do Partido dos Trabalhadores do Curdistão (PKK). Depois que o usuário fez a apelação e o Comitê selecionou o caso para análise, o Facebook concluiu que o conteúdo foi removido por engano e o restaurou. A preocupação do Comitê é que o Facebook não tenha considerado uma exceção da política interna por três anos e que isso tenha levado à remoção equivocada de várias outras publicações.
Sobre o caso
Este caso está relacionado a Abdullah Öcalan, membro fundador do PKK. Esse grupo tem usado violência na tentativa de alcançar seu objetivo de estabelecer um estado curdo independente. O PKK e Öcalan são classificados como entidades perigosas segundo a política do Facebook sobre Organizações e Indivíduos Perigosos.
Em 25 de janeiro de 2021, um usuário do Instagram, nos Estados Unidos, publicou uma foto de Öcalan com as palavras em inglês: “y’all ready for this conversation” (vocês estão todos prontos para esta conversa). Em uma legenda, o usuário escreveu que aquele era o momento de falar sobre o fim do isolamento de Öcalan na prisão na Ilha Imrali, na Turquia. O usuário incentivava os leitores a falar sobre a prisão e a natureza desumana do confinamento em solitária de Öcalan.
Após avaliação por um moderador, a publicação foi removida em 12 de fevereiro, de acordo com as regras do Facebook sobre organizações e indivíduos perigosos, por ser uma chamada para ação em apoio a Öcalan e ao PKK. Quando o usuário fez uma apelação da decisão, foi informado de que não seria possível analisar a apelação dele por causa de uma redução temporária na capacidade de pessoal do Facebook devido à COVID-19. Entretanto, um segundo moderador fez uma análise do conteúdo e concluiu que violava a mesma política. O usuário então fez uma apelação ao Comitê de Supervisão.
Depois que o Comitê selecionou o caso e o atribuiu ao painel, o Facebook concluiu que uma orientação interna na política sobre Organizações e Indivíduos Perigosos foi “equivocadamente não transferida” para um novo sistema de análise, em 2018. Essa orientação, desenvolvida em 2017, de certa forma em resposta à preocupação sobre as condições do encarceramento de Öcalan, permite a discussão sobre as condições do confinamento de indivíduos classificados como perigosos.
De acordo com essa orientação, o Facebook restaurou o conteúdo no Instagram em 23 de abril. O Facebook disse ao Comitê que no momento está trabalhando em uma atualização das políticas para permitir que os usuários discutam os direitos humanos dos indivíduos classificados como perigosos. A empresa pediu ao Comitê para fornecer insight e orientação sobre como melhorar essas políticas. Embora o Facebook tenha atualizado seu Padrão da Comunidade sobre Organizações e Indivíduos Perigosos em 23 de junho de 2021, essas alterações não afetam diretamente a orientação que a empresa solicitou ao Comitê.
Principais descobertas
O Comitê concluiu que a decisão original do Facebook de remover o conteúdo não foi consistente com os Padrões da Comunidade da empresa. Como a orientação interna desconsiderada especifica que os usuários podem discutir as condições de confinamento de um indivíduo classificado como perigoso, a publicação era permitida segundo as regras do Facebook.
A preocupação do Comitê é que, por três anos, o Facebook perdeu orientações específicas sobre uma exceção de política importante. A política do Facebook de ter como padrão a remoção de conteúdo que demonstre “apoio” a indivíduos classificados, mantendo exceções importantes ocultas do público, permitiu que esse erro passasse despercebido por um período prolongado. O Facebook só descobriu que essa política não estava sendo aplicada por causa do usuário que decidiu fazer a apelação da decisão da empresa ao Comitê.
Embora o Facebook tenha dito ao Comitê que está realizando uma análise de como ocorreu a falha da transferência dessa orientação para seu novo sistema de análise, também declarou: “não é tecnicamente possível determinar quantos conteúdos foram removidos enquanto essa política esteve indisponível aos analistas”. O Comitê acredita que o erro do Facebook pode ter levado à remoção equivocada de muitas outras publicações e que o relatório de transparência do Facebook não é suficiente para avaliar se esse tipo de erro repercute um problema sistemático. Neste caso, a ação do Facebook indica que a empresa não está respeitando o direito ao recurso, violando sua Política Corporativa de Direitos Humanos (Seção 3).
Mesmo sem a descoberta da orientação desconsiderada, o conteúdo não deveria ter sido removido. Na publicação, o usuário não defendeu a violência nem expressou apoio à ideologia de Öcalan ou ao PKK. Em vez disso, ele procurou destacar as preocupações com os direitos humanos relacionadas ao confinamento prolongado em solitária de Öcalan, que também foram levantadas por órgãos internacionais. Como era improvável que a publicação resultasse em danos, sua remoção não era necessária nem adequada segundo os padrões internacionais de direitos humanos.
A decisão do Comitê de Supervisão
O Comitê de Supervisão revoga a decisão original do Facebook de remover o conteúdo. O Comitê menciona que o Facebook já restaurou o conteúdo.
Em uma declaração consultiva da política, o Comitê recomenda que o Facebook:
- Restaure imediatamente a orientação desconsiderada de 2017 aos Padrões de Implementação Interna e às Perguntas Conhecidas (a orientação interna para moderadores de conteúdo).
- Avalie os processos automatizados de moderação em relação à aplicação da política sobre Organizações e Indivíduos Perigosos. Onde for necessário, o Facebook deve atualizar classificadores para excluir dados de treinamento anteriores aos erros que resultaram na não aplicação da orientação de 2017.
- Publique os resultados do processo de análise contínua para determinar se alguma outra política foi perdida, incluindo descrições de todas as políticas perdidas, o período em que foram perdidas e as medidas tomadas para restaurá-las.
- Garanta que o “fundamento da política” sobre Organizações e Indivíduos Perigosos repercuta que o respeito pelos direitos humanos e pela liberdade de expressão pode promover o valor “Segurança”. O fundamento da política deve especificar detalhadamente os “danos do mundo real” que a política procura evitar e interromper quando a “Voz” é suprimida.
- Adicione à política uma explicação clara do que o “apoio” exclui. Os usuários devem ter a liberdade de discutir supostos abusos dos direitos humanos dos membros das organizações classificadas.
- Explique nos Padrões da Comunidade como os usuários podem deixar claro para o Facebook a intenção deles nas publicações.
- Garanta engajamento significativo de pessoas interessadas nas alterações propostas na política sobre Organizações e Indivíduos Perigosos por meio do Fórum de Política de Produtos, incluindo por meio de um convite público para envio de contribuições.
- Garanta que orientações e treinamento internos sejam fornecidos aos moderadores de conteúdo sobre qualquer alteração proposta da política.
- Garanta que os usuários sejam notificados quando o conteúdo deles for removido. A notificação deve indicar se a remoção é por causa de uma solicitação do governo, de uma violação dos Padrões da Comunidade ou de uma alegação do governo de que uma lei nacional foi violada (e o alcance jurisdicional de qualquer remoção).
- Esclareça aos usuários do Instagram que os Padrões da Comunidade do Facebook aplicam-se igualmente ao Instagram.
- Inclua, em seu relatório de transparência, informações sobre o número de solicitações de remoção de conteúdo recebidas dos governos com base em violações dos Padrões da Comunidade (não em violações da lei nacional) e os resultados dessas solicitações.
- Inclua, em seu relatório de transparência, informações mais abrangentes sobre taxas de erros na aplicação de regras sobre “exaltação” e “apoio” de organizações e indivíduos perigosos, detalhadas por região e idioma.
Para obter mais informações:
Para ler a decisão sobre o caso na íntegra, clique aqui.
Para ler um resumo dos comentários públicos sobre esse caso, clique aqui.
