Convocação das mulheres para protesto em Cuba

Resumo do caso

O Comitê de Supervisão revogou a decisão da Meta de remover um vídeo publicado por uma plataforma de notícias cubana no Instagram, no qual uma mulher protesta contra o governo cubano, chama outras mulheres para se juntarem a ela nas ruas e critica os homens, comparando-os com animais considerados culturalmente inferiores, por não defenderem os que foram reprimidos. O Comitê considera o discurso no vídeo uma afirmação comportamental com ressalvas que, segundo o Padrão da Comunidade sobre discurso de ódio da Meta, deveria ser permitida. Além disso, nos países onde há fortes restrições dos direitos das pessoas à liberdade de expressão e à reunião pacífica, é fundamental que as redes sociais protejam as vozes dos usuários, especialmente em momentos de protesto político.

Sobre o caso

Em julho de 2022, uma plataforma de notícias, que se descreve como crítica do governo cubano, publicou um vídeo em sua conta verificada do Instagram. O vídeo mostra uma mulher pedindo para outras se juntarem a ela nas ruas e protestar contra o governo. Em um determinado ponto, ela descreve os homens cubanos como “rats” (ratos) e “mares” (éguas) carregando mictórios, por não defenderem as pessoas contra a repressão do governo. Uma legenda em espanhol acompanhando o vídeo inclui hashtags que fazem referência à “dictatorship” (ditadura) e ao “regime” em Cuba, e pede atenção internacional sobre a situação no país usando a hashtag #SOSCuba.

O vídeo foi compartilhado na época do primeiro aniversário dos protestos por toda a nação que ocorreram em julho de 2021, quando os cubanos foram para as ruas em grandes números para lutar por seus direitos. Em resposta, a repressão do governo aumentou, o que continuou em 2022. O momento da publicação também foi significativo, pois foi compartilhado dias após um jovem cubano morrer em um incidente envolvendo a polícia. A mulher no vídeo parece fazer referência a esse fato quando menciona: “we cannot keep allowing the killing of our sons”(não podemos continuar permitindo o assassinato de nossos filhos). O texto sobreposto ao vídeo conecta a mudança política aos protestos das mulheres.

O vídeo foi reproduzido mais de 90 mil vezes e compartilhado menos de mil vezes.

Sete dias após a publicação, um classificador de discurso hostil identificou o conteúdo como uma possível violação e o enviou para análise humana. Embora um moderador humano tenha considerado que a publicação violava a política sobre discurso de ódio da Meta, o conteúdo continuou online enquanto eram realizadas rodadas adicionais de análise humana seguindo o sistema de verificação cruzada. Um intervalo de sete meses entre essas rodadas fez com que a publicação fosse removida em fevereiro de 2023. Nesse mesmo dia, em fevereiro, o usuário que compartilhou o vídeo fez uma apelação da decisão da Meta. A Meta manteve a decisão, sem encaminhar o conteúdo para seus especialistas no assunto ou em política. Uma advertência padrão foi aplicada à conta do Instagram, mas sem limite de recursos.

Principais conclusões

O Comitê considera que, quando lida como um todo, a publicação não tem intenção de desumanizar os homens com base no sexo, desencadear violência contra eles nem excluí-los das conversas sobre os protestos cubanos. A publicação pretende claramente chamar a atenção para a opinião da mulher sobre o comportamento dos homens cubanos no contexto dos protestos históricos que começaram em julho de 2021. Com a mulher usando linguagem como “rats” (ratos) ou “mares” (éguas) para insinuar a covardia nesse contexto específico e para expressar a frustração pessoal dela em relação ao comportamento deles, os especialistas regionais e os comentários públicos apontam para a publicação como uma chamada dos homens cubanos para a ação.

Fora do contexto e com uma leitura excessivamente literal, a comparação declarada dos homens com animais culturalmente considerados inferiores poderia ser considerada uma violação da política sobre discurso de ódio da Meta. Entretanto, a publicação, quando considerada como um todo, não é uma generalização que pretende desumanizar os homens, mas uma afirmação comportamental com ressalvas que, segundo a política, é permitida. Consequentemente, o Comitê considera a remoção do conteúdo inconsistente com a política sobre discurso de ódio da Meta.

Além disso, com os especialistas externos sinalizando a hashtag #SOSCuba, publicada pelo usuário para chamar a atenção para as crises econômicas, políticas e humanitárias que os cubanos enfrentam, os protestos são estabelecidos como um ponto importante da referência histórica. O Comitê está preocupado com a forma que as informações contextuais são consideradas nas decisões da Meta sobre conteúdo sem o benefício da análise humana adicional. Neste caso, embora o conteúdo sido analisado, um processo que supostamente deveria gerar resultados melhores, a empresa ainda não conseguiu agir certo.

A Meta deveria garantir que tanto seus sistemas automatizados quanto seus moderadores de conteúdo conseguissem considerar informações contextuais no processo de tomada de decisão.

Neste caso, era especialmente importante proteger o conteúdo. Cuba é um país caracterizado por espaços cívicos fechados, e, por isso, os riscos associados à dissidência são elevados e o acesso à internet é muito restrito. Neste caso, o contexto relevante pode não ter sido suficientemente considerado como parte do processo de escalation. A Meta deve considerar como o contexto influencia suas políticas e a maneira como elas são aplicadas.

Decisão do Comitê de Supervisão

O Comitê de Supervisão revoga a decisão da Meta de remover a publicação.

O Comitê não faz novas recomendações em relação a este caso, mas reitera algumas relevantes de decisões anteriores, para a Meta seguir atentamente:

• Ter um programa de prevenção de over-enforcement baseado em lista para proteger a expressão de acordo com as responsabilidades da Meta em relação aos direitos humanos, que deve ser diferente daquele que protege a expressão vista pela Meta como uma prioridade comercial (recomendação n.º 1 do parecer consultivo sobre política a respeito da verificação cruzada). O sistema separado também deve garantir que a empresa forneça camadas adicionais de análise do conteúdo publicado por, entre outros, defensores dos direitos humanos.
• Usar equipe especializada, com o benefício da contribuição local, para criar listas de prevenção de over-enforcement (recomendação n.º 8 do parecer consultivo sobre política a respeito da verificação cruzada).
• Melhorar a forma como seu fluxo de trabalho destinado a atender às responsabilidades em relação aos direitos humanos incorpora o conhecimento contextual e linguístico na análise detalhada, especificamente nos níveis de tomada de decisão (recomendação n.º 3 do parecer consultivo sobre política a respeito da verificação cruzada).
• Para garantir que o contexto seja devidamente considerado na moderação do conteúdo, atualizar as orientações para seus moderadores na escala com atenção específica às regras sobre qualificação, pois as orientações atuais tornam impossível para os moderadores tomar as decisões corretas (recomendação n.º 2 da decisão sobre violência contra as mulheres).

* Os resumos de caso dão uma visão geral da ocorrência e não têm valor precedente.

Decisão completa sobre o caso

1. Resumo da decisão

O Comitê de Supervisão revoga a decisão da Meta de remover uma publicação no Instagram feita na época do primeiro aniversário dos protestos nacionais históricos que ocorreram em julho de 2021, em Cuba. Na publicação, uma mulher protesta contra o governo e compara os homens cubanos a animais diferentes que são culturalmente considerados inferiores. Ela faz isso para reafirmar que os homens cubanos não são confiáveis, pois não agiram com a força necessária para defender aqueles que estão sendo reprimidos. A publicação faz um apelo às mulheres para irem às ruas e demonstrar que estão defendo a vida dos “our sons.” (nossos filhos). Segundo a política sobre discurso de ódio da Meta, essa é uma afirmação comportamental com ressalvas e, como tal, deve ser permitida. Nos países onde há fortes restrições dos direitos das pessoas à liberdade de expressão e à reunião pacífica, é fundamental que as redes sociais protejam as vozes dos usuários, especialmente em momentos de protesto político.

2. Descrição do caso e histórico

Em julho de 2022, uma conta do Instagram verificada de uma plataforma de notícias, que se descreve como crítica do governo em Cuba, publicou um vídeo no qual uma mulher faz um apelo para as mulheres se juntarem a ela nas ruas para protestar. Uma legenda em espanhol inclui citações do vídeo, hashtags que fazem referência à “dictatorship” (ditadura) e ao “regime” em Cuba, e pede atenção internacional sobre a situação humanitária no país, inclusive usando a hashtag #SOSCuba. Em certo ponto no vídeo, a mulher diz que os homens cubanos são “rats” (ratos) porque não se pode contar com eles para defender aqueles que estão sendo reprimidos pelo governo. Em outro ponto, ela diz que os homens cubanos são “mares” (éguas) carregando mictórios. O texto sobreposto ao vídeo conecta a mudança política aos protestos das mulheres. O vídeo foi reproduzido mais de 90 mil vezes e compartilhado menos de mil vezes.

Comentários públicos e especialistas familiarizados com a região, que foram consultados pelo Comitê, confirmaram que essas frases são entendidas coloquialmente pelos falantes de espanhol em Cuba como insinuação de covardia. Um comentário público (PC-13012) disse que os termos, embora insultem, “não devem ser interpretados como discurso violento ou desumanizante”. Especialistas externos disseram que o termo “mares” (éguas) normalmente é usado como insulto homofóbico ou para se referir às pessoas como não inteligentes. No entanto, quando combinado com a referência aos mictórios, os especialistas disseram que a frase: “assume a conotação de que os homens são ‘uns merdas’ e é utilizada aqui para mostrar o descontentamento das mulheres com as figuras masculinas”, no contexto da inação deles durante os protestos políticos. Nesse sentido, os comentários públicos destacam que a mulher não deprecia os homens chamando-os de “ratos” ou “éguas”, mas que usa essa linguagem para mobilizá-los no país. De acordo com esses comentários, os homens não são inimigos dela, ela está tentando despertar a consciência deles.

A publicação foi compartilhada na época do primeiro aniversário dos protestos nacionais históricos que ocorreram em julho de 2021, quando os cubanos foram às ruas no que a Comissão Interamericana dos Direitos Humanos (CIDH) descreveu como: “um protesto pacífico para reivindicar as liberdades civis e exigir mudanças na estrutura política do país”. A CIDH afirmou que os cubanos “também estavam protestando pela falta de acesso aos direitos econômicos, sociais e culturais, especialmente por causa da falta persistente de alimentos e medicamentos e os impactos agravantes da pandemia de COVID-19. Segundo a sociedade civil e órgãos internacionais, como o Parlamento Europeu, o protesto em massa de 11 de julho foi uma dos maiores protestos da história recente de Cuba. Eles desencadearam reações imediatas do estado contra os manifestantes”. (Comissão Interamericana dos Direitos Humanos, Relatório Anual 2022, parágrafo 43). Desde julho de 2021 e ao longo de 2022, a repressão do estado aumentou. A publicação foi feita no contexto da tensão social significativa. Além disso, ela foi compartilhada dias após um jovem cubano ser morto em um incidente envolvendo a polícia. Algumas partes desse incidente foram documentadas nas redes sociais e a mulher que fala no vídeo parece fazer referência ao incidente quando diz: “we cannot keep allowing the killing of our sons.” (não podemos continuar permitindo o assassinato de nossos filhos). Especialistas externos que analisaram as respostas nas redes sociais constaram um padrão mais amplo de usuários referindo-se à morte do adolescente como uma maneira de articular a crítica contra o governo e de pedir medidas civis: “o discurso nas seções de comentários das maiores publicações no Instagram concentravam-se em temas comuns como ditadura, brutalidade da polícia e falta de ação dos espectadores”.

Especialistas externos familiarizados com a região destacaram a importância das campanhas nas redes sociais que usam hashtags como #SOSCuba para aumentar a conscientização sobre crises econômicas, políticas e humanitárias que os cubanos enfrentam. Na sequência dos protestos de 2021, o governo intensificou a repressão virtualmente sobre todas as formas de crítica pública e dissidente. A CIDH documentou oito ondas de repressão do governo cubano, onde observou: “(1) o uso de força e intimidação e campanhas de difamação; (2) prisões arbitrárias, maus tratos e condições deploráveis de prisão; (3) criminalização dos manifestantes, perseguição judicial e violações do devido processo legal; (4) fechamento dos fóruns democráticos por meio de repressão e intimidação para desencorajar novas manifestações sociais; (5) confinamento contínuo, julgamentos sem garantias do devido processo legal e sentenças implacáveis; (6) propostas legislativas com o objetivo de restringir, vigiar e punir a dissidência e a crítica do governo e de criminalizar as ações de organizações de sociedade civil independentes; (7) assédio aos parentes das pessoas detidas e acusação de terem participado dos protestos; (8) interrupções deliberadas do acesso à internet” (CIDH, Relatório Anual 2022, parágrafo 44). A CIDH observou que, embora as ondas de repressão tenham começado no segundo semestre de 2021, elas continuaram em 2022, e que dezenas de pessoas foram feridas pelo uso desproporcional de força da polícia (CIDH, Relatório Anual de 2022, parágrafo 46). Em 11 de julho de 2022, a CIDH e seus relatores especiais condenaram a repressão persistente do estado de 2022 que ocorrem em resposta aos protestos de 2021.

As respostas do legislativo aos protestos de julho de 2021 também incluíram maior criminalização do discurso online, além de nova regulamentação do código penal estabelecendo penalidades maiores para alegações de crimes como disseminar “informações falsas” ou ofender a “honra” de alguém nas redes sociais ou na mídia online ou offline. Isso além das disposições já existentes do código penal, que abordam “desordem pública”, “resistência” e “desrespeito” e têm sido usadas historicamente para conter dissidências e criminalizar protestos. Segundo a CIDH: “o novo texto aplica penalidades mais rígidas e usa texto amplo e impreciso para definir transgressões, como tumulto e crimes contra a ordem constitucional” (CIDH, Relatório Anual de 2022, parágrafo 97). Apesar dessas exibições de força e ações legais do governo após julho de 2021, especialistas externos familiarizados com a região documentaram várias tentativas de organizar protestos localizados contra o governo, mas notaram os riscos significativos de participação.

O controle praticamente total do governo de Cuba sobre a infraestrutura técnica da internet, além da censura, da obstrução das comunicações e do custo extremamente alto de acesso à internet, “faz com que apenas uma pequena fração dos cubanos possa ler sites e blogs de notícias independentes” (CIDH, Relatório Anual de 2022, parágrafo 69). O Comitê também destaca as tentativas das redes vinculadas ao governo descritas pela Meta em seu Relatório de fevereiro de 2023 sobre ameaças antagônicas de: “criar uma percepção de apoio amplo do governo cubano em várias plataformas da internet, incluindo Facebook, Instagram, Telegram, Twitter, YouTube e Picta, uma rede social cubana”. Segundo a Meta, a investigação da empresa encontrou vínculos entre o governo cubano e as pessoas por trás de uma rede de 363 contas do Facebook, 270 páginas, 229 grupos e 72 contas no Instagram, que violaram a política da Meta contra comportamento inautêntico coordenado.

Sete dias após a publicação do vídeo na conta do Instagram, em julho de 2022, um classificador de discurso hostil identificou o conteúdo como uma possível violação e o enviou para análise humana. No dia seguinte, um moderador analisou o conteúdo e considerou a publicação uma violação da política sobre discurso de ódio da Meta. A Meta não considerou a mulher retratada no vídeo uma figura pública. Com base no status de verificação cruzada da conta, o conteúdo, neste caso, foi então encaminhado para análise secundária. O primeiro moderador do processo de análise secundária avaliou o conteúdo como violador, em 12 de julho de 2022. O segundo moderador avaliou o conteúdo como violador, em 24 de fevereiro de 2023. A Meta removeu o conteúdo do Instagram no mesmo dia, mais de sete meses depois de ele ter sido inicialmente sinalizado pelos sistemas automatizados da empresa. O atraso na análise foi causado por um acúmulo nas filas de análise da Meta devido ao sistema de verificação cruzada.

No mesmo dia em que o conteúdo foi removido, o usuário que compartilhou o vídeo recorreu da decisão da Meta. O conteúdo foi novamente analisado por um moderador que, em 26 de fevereiro de 2023, manteve a decisão original de removê-lo. Neste momento, ele não foi encaminhado para especialistas no assunto ou em políticas realizarem outra análise. Segundo a Meta, uma advertência padrão foi aplicada à conta do usuário. No entanto, nenhum limite de recursos foi aplicado à conta de acordo com os protocolos de restrição de conta da Meta. Em seguida, o usuário fez uma apelação do caso ao Comitê.

3. Escopo e autoridade do Comitê de Supervisão

O Comitê tem autoridade para analisar a decisão da Meta após uma apelação do usuário cujo conteúdo foi removido (Artigo 2, Seção 1 do Estatuto; e Artigo 3, Seção 1 dos Regulamentos Internos).

De acordo com o Artigo 3 da Seção 5 do Estatuto, o Comitê pode manter ou revogar a decisão da Meta, e a decisão é vinculante para a empresa, nos termos do Artigo 4 do Estatuto. A Meta também deve avaliar a viabilidade de aplicar sua decisão do Comitê no que diz respeito a conteúdo idêntico em contexto paralelo, segundo o Artigo 4 do Estatuto. As decisões do Comitê podem incluir sugestões não vinculantes às quais a Meta deve responder, de acordo com o Artigo 3 do Estatuto, Seção 4; Artigo 4 do Estatuto. Quando a Meta se compromete a agir de acordo com as recomendações, o Comitê monitora sua implementação.

4. Fontes de autoridade e diretrizes

Os seguintes padrões e as decisões precedentes fundamentaram a análise do Comitê neste caso:

I. Decisões do Comitê de Supervisão

As decisões anteriores mais pertinentes do Comitê de Supervisão incluem as seguintes:

• Caso Violência contra as mulheres (2023-002-IG-UA; 2023-005-IG-UA)
• Caso Slogan de protesto no Irã (2022-013-FB-UA)
• Caso Animação Knin (2022-001-FB-UA)
• Caso Calúnias na África do Sul (2021-011-FB-UA)
• Caso Protestos na Colômbia (2021-010-FB-UA)
• Caso Protestos a favor de Navalny na Rússia (2021-004-FB-UA)
• Caso Representação de Zwarte Piet (2021-002-FB-UA)
• Programa de verificação cruzada da Meta (PAO-2021-02)

II. Políticas de Conteúdo da Meta

As Diretrizes da Comunidade do Instagram afirmam que todo conteúdo que inclua discurso de ódio será removido. Sob o título “Respeite os outros membros da comunidade do Instagram”, as diretrizes afirmam que “nunca é aceitável incentivar a violência ou atacar alguém com base em raça, etnia, nacionalidade, sexo, gênero, identidade de gênero, orientação sexual, religião, deficiências ou doenças”. As Diretrizes da Comunidade do Instagram vinculam as palavras “discurso de ódio” ao Padrão da Comunidade sobre discurso de ódio do Facebook.

O fundamento da política sobre discurso de ódio o define como um ataque direto contra pessoas com base em características protegidas, o que inclui sexo, gênero e nacionalidade. A Meta não permite discurso de ódio em sua plataforma por “criar um ambiente de intimidação e de exclusão que, em alguns casos, pode promover violência no meio físico”. As regras proíbem discurso “violento” ou “desumanizante” contra pessoas com base nessas características, incluindo os homens.

O Nível 1 da política sobre discurso de ódio proíbe: “imagem ou discurso degradante sob a forma de comparações, generalizações ou declarações de comportamento não qualificadas (de forma visual ou escrita) voltadas para ou sobre: [...] Animais em geral ou tipos específicos de animais culturalmente considerados inferiores física ou intelectualmente”. Além disso, as diretrizes internas da Meta para moderadores de conteúdo sobre como aplicar a política definem afirmações comportamentais “com ressalvas” e “sem ressalvas” e dão exemplos. De acordo com elas, as “afirmações com ressalvas” não violam a política, enquanto as “afirmações sem ressalvas” a violam e são removidas. A Meta observa que as afirmações comportamentais com ressalvas usam estatísticas, referenciam indivíduos ou descrevem experiências diretas. A Meta também afirma que, segundo a política sobre discurso de ódio, a empresa permite que as pessoas publiquem conteúdo com afirmações comportamentais com ressalvas sobre grupos de característica protegida quando a afirmação discute um evento histórico específico (por exemplo, fazendo referência a estatísticas ou padrões). De acordo com a Meta, as afirmações comportamentais sem ressalvas “atribuem explicitamente um comportamento a todas ou à maioria das pessoas definidas por uma característica protegida”.

A análise do Comitê foi informada pelo compromisso da Meta com o valor “Voz”, que a empresa descreve como fundamental, bem como seus valores “Segurança” e “Dignidade”.

III. Responsabilidades que a Meta tem com os direitos humanos

Os Princípios Orientadores da ONU sobre Empresas e Direitos Humanos (UNGPs, na sigla em inglês), endossados pelo Conselho de Direitos Humanos da ONU em 2011, estabelecem uma estrutura voluntária de responsabilidades das empresas privadas em relação aos direitos humanos. Em 2021, a Meta anunciou sua Política Corporativa de Direitos Humanos, em que reafirmou seu compromisso em respeitar os direitos humanos de acordo com os UNGPs.

Ao analisar as responsabilidades da Meta com os direitos humanos no caso em questão, o Comitê levou em consideração as seguintes normas internacionais:

• Os direitos à liberdade de opinião e de expressão: Artigos 19 e 20, Pacto Internacional dos Direitos Civis e Políticos (PIDCP). Comentário Geral n.º 34, Comitê de Direitos Humanos 2011. Relatórios do Relator Especial da ONU (UNSR) sobre a liberdade de opinião e expressão: A/HRC/38/35 (2018), A/74/486 (2019), A/76/258 (2021); e Plano de Ação de Rabat, Alto Comissariado das Nações Unidas para os Direitos Humanos, relatório: A/HRC/22/17/Add.4 (2013).
• O direito à liberdade de reunião pacífica: Artigo 21 do PIDCP. Comentário geral n.º 37, Comitê de Direitos Humanos, 2020.
• Direito a não discriminação: Artigo 2, parágrafo 1 e Artigo 26 PIDCP;

5. Envios de usuário

Na apelação para o Comitê, o criador de conteúdo pediu para as empresas de redes sociais entenderem melhor a “critical situation” (situação crítica) em Cuba, sinalizando que o vídeo faz referência aos protestos de julho de 2021. O criador de conteúdo também explicou que a mulher no vídeo está pedindo para os homens cubanos “do something to solve” (fazerem algo para resolver) a crise.

6. Envios da Meta

A Meta removeu a publicação de acordo com o Nível 1 do seu Padrão da Comunidade sobre discurso de ódio por ela atacar os homens comparando-os com ratos e cavalos carregando excrementos humanos. A empresa explicou que os ratos são um “exemplo clássico” de “animais que são culturalmente percebidos como inferiores intelectual ou fisicamente”. Embora a empresa não conheça nenhum clichê específico ou tradução cultural com associação a “éguas carregando penicos ou vasos sanitários”, a frase viola a política sobre discurso de ódio, segundo a Meta, por comparar os homens com a “imagem repulsiva de animais presumivelmente carregando fezes e urina humanas”.

A Meta explicou que “as comparações com ratos e cavalos carregando vasos sanitários desumaniza os homens por causa do sexo deles”. A empresa também afirmou que “ela exclui os homens da conversa e poderia fazer com que se sentissem silenciados”.

Na resposta às perguntas do Comitê, a Meta disse que a empresa considerou a aplicação de uma tolerância à política ao conteúdo. A empresa faz exceções à política para permitir conteúdo quando uma aplicação estrita do Padrão da Comunidade relevante produz resultados inconsistentes com o respectivo fundamento e objetivos. No entanto, a Meta concluiu que a tolerância não era apropriada porque o conteúdo viola a intenção da política.

A Meta também explicou que, segundo o Padrão da Comunidade sobre discurso de ódio, ela trata igualmente todos os grupos definidos por características protegidas. Segundo a empresa, os ataques com discurso de ódio de um grupo de característica protegida marginalizado dirigido a outro grupo de característica protegida serão removidos se violarem a política. A Meta explicou que, como parte de sua política sobre discurso de ódio, a empresa encara todos os grupos de características protegidas da mesma maneira, para que recebam globalmente tratamento igual e para que a política possa ser aplicada em grande escala. A empresa refere-se a essa abordagem como “agnosticismo de característica protegida”. A Meta declarou que, quando o conteúdo é encaminhado para análise adicional por moderadores humanos, ela não permite discurso de ódio ou tolerância à política com base em dinâmicas assimétricas de poder (ou seja, quando o alvo do discurso de ódio é um grupo mais poderoso), “pelo mesmo motivo que temos uma política de agnosticismo de característica protegida”, e declarou ainda que “não pode e não deve classificar quais grupos de característica protegida são mais marginalizados”. Em vez disso, a Meta concentra-se em: “se há um ataque contra um grupo de pessoas com base nas características protegidas delas”. A empresa confirmou que algumas partes interessadas disseram que a política sobre discurso de ódio deveria diferenciar o conteúdo percebido como “ataque a minorias”, que deveria ser removido, em relação ao conteúdo que é “ataque a grupos poderosos”, que deveria ser permitido por poder indicar temas de justiça social. Contudo, a Meta afirmou que “há pouco consenso entre as partes interessadas sobre o que seria considerado ‘ataque a minorias em relação a poderosos’”.

O Comitê também perguntou como informações contextuais, dinâmica de poder assimétrica entre grupos de característica protegida e informações sobre o ambiente político no qual uma publicação é feita interferem na decisão do classificador de discurso de ódio de enviar o conteúdo para análise humana. Em resposta, a Meta disse que: “o contexto que um classificador considera está na própria publicação” e que ele: “não considera outras informações contextuais de eventos globais”. Neste caso, um classificador de discurso hostil identificou o conteúdo como uma possível violação das políticas da Meta e o enviou para análise humana.

O Comitê fez 17 perguntas por escrito. As perguntas estavam relacionadas a problemas sobre a abordagem de moderação de conteúdo da Meta em Cuba, a influência das dinâmicas assimétricas de poder sobre o Padrão da Comunidade sobre discurso de ódio, bem como sua aplicação após a análise humana e automatizada; e oportunidades de avaliação de contexto, especificamente na parte do sistema de verificação cruzada da Meta chamado Análise Secundária de Resposta Inicial (ERSR). A ERSR é um tipo de verificação cruzada que fornece níveis adicionais de análise humana a determinadas publicações inicialmente identificadas como violadoras das políticas da Meta, mas mantendo o conteúdo online. Todas as 17 perguntas foram respondidas pela Meta.

7. Comentários públicos

O Comitê de Supervisão recebeu 19 comentários públicos relacionados ao caso. Nove comentários foram enviados dos Estados Unidos e do Canadá; três da América Latina e do Caribe; cinco da Europa, um da Ásia-Pacífico; e um do Oriente Médio e da África do Norte. Os envios abordaram os seguintes temas: a situação dos direitos humanos em Cuba; a importância de uma abordagem para moderação de conteúdo que reconheça nuances linguísticas, culturais e políticas nas convocações para protestos; assimetrias de poder baseadas em gênero em Cuba; a interseção do discurso de ódio e convocações para protestos; e dinâmicas de protestos online e offline em Cuba.

Para ler os comentários públicos enviados sobre esse caso, clique aqui.

8. Análise do Comitê de Supervisão

O Comitê examinou se esse conteúdo deveria ser restaurado analisando as políticas de conteúdo, responsabilidades em relação aos direitos humanos e valores da Meta. O Comitê também avaliou as implicações desse caso quanto à abordagem mais ampla da Meta em relação à governança de conteúdo.

O Comitê selecionou a apelação pela oportunidade de entender melhor como a política sobre discurso de ódio da Meta e sua aplicação afetam a convocação para protestos nos contextos caracterizados por espaços cívicos restritos.

8.1 Conformidade com as políticas de conteúdo da Meta

I. Regras sobre conteúdo

O Comitê, neste caso, considera o conteúdo não como um discurso de ódio segundo os Padrões da Comunidade da Meta, mas como uma afirmação comportamental com ressalvas e, como tal, não se enquadra na política de discurso de ódio. Consequentemente, a remoção do conteúdo é inconsistente com a respectiva política. É verdade que as declarações nas quais os homens são comparados a “rats” (ratos) ou “mares” (éguas) carregando mictórios, em uma leitura literal e fora de contexto, poderiam ser interpretadas como em violação da política sobre discurso de ódio da Meta. No entanto, a publicação, quando considerada em sua totalidade, não é uma generalização que pretende desumanizar ou incitar a violência contra todos os homens ou até mesmo a maioria deles. Na visão do Comitê, as declarações dirigidas aos homens têm ressalvas por terem a intenção clara de chamar a atenção para o comportamento dos homens cubanos no contexto dos protestos históricos que começaram em julho de 2021 em Cuba e que foram seguidas por repressão do governo que continuou em 2022 em resposta as subsequentes convocações para protestos. O criador de conteúdo refere-se explicitamente aos eventos na publicação usando a hashtag #SOSCuba. O conteúdo é um comentário sobre como um grupo identificável de pessoas agiu e não uma declaração sobre falhas de caráter inerentes a um grupo.

Segundo comentários públicos e especialistas consultados pelo Comitê, epítetos como “rats” (ratos) ou “mares” (éguas) são palavras do linguajar falado em Cuba usadas em discussões acaloradas no sentido de covardia. Sendo assim, os termos não devem ser interpretados literalmente e não indicam que os homens têm características inerentemente negativas por serem homens. Em vez disso, elas querem dizer que os homens cubanos não agiram com a força necessária na defesa daqueles que estavam sofrendo repressão do governo no contexto dos protestos.

A publicação foi compartilhada no contexto de uma onda de repressão do governo na época do primeiro aniversário dos protestos nacionais históricos, que ocorreram em julho de 2021. Especialistas externos sinalizaram a hashtag #SOSCuba, usada pelo criador de conteúdo, como uma hashtag importante adotada por campanhas nas redes sociais para chamar a atenção para as crises econômicas, políticas e humanitárias que os cubanos estão enfrentando. O uso da hashtag, somado à declaração de aviso da mulher no vídeo (“we cannot keep allowing the killing of our sons”[não podemos continuar permitindo o assassinato de nossos filhos]) e ao apelo dela para “to the streets” (ir às ruas), demonstra como os eventos que começaram em julho de 2021 estabelecem-se como um ponto importante da referência histórica para os esforços subsequentes dos cidadãos de se mobilizarem em relação aos problemas sociais e políticos que continuaram em 2022. Portanto, a publicação reflete a opinião do usuário sobre o comportamento de um grupo definido de pessoas, homens cubanos, no contexto específico de um evento histórico.

Para concluir, o Comitê considera que, quando interpretada como um todo, a publicação não tem a intenção de desumanizar os homens, gerar violência contra eles nem excluí-los das conversas sobre os protestos cubanos. Ao contrário, a mulher no vídeo está questionando, na opinião dela, o comportamento dos homens cubanos no contexto preciso dos protestos e tem como objetivo incitá-los a participar desses eventos históricos. Neste caso, o conteúdo é, portanto, uma afirmação comportamental com ressalvas sobre uma questão de utilidade pública significativa relacionada aos protestos históricos e à onda de repressão que se seguiu.

Em resposta ao caso, uma minoria do Comitê questionou a aplicação agnóstica da política sobre discurso de ódio da Meta, especialmente em situações em que a aplicação pode levar a mais silenciamento dos grupos historicamente marginalizados. Para esses membros do Comitê, uma política simétrica sobre discurso de ódio deve reconhecer a existência das assimetrias de poder para evitar a supressão das vozes das minorias.

Por fim, o Comitê concorda que a publicação se enquadra perfeitamente no valor “Voz” da Meta. Portanto, sua remoção não foi consistente com os valores da Meta. Uma abordagem semelhante foi adotada pelo Comitê em relação a uma das publicações analisada nos casos de Violência contra as mulheres, quando o Comitê concordou com a conclusão final da Meta de que o conteúdo deveria ser considerado como um todo e avaliado como uma afirmação comportamental com ressalvas.

II. Ação de aplicação

Segundo a Meta, após um classificador de discurso hostil identificar o conteúdo como uma possível violação das políticas da Meta, ele foi envido para análise humana. Entre a primeira análise humana e o primeiro nível da análise secundária, em 12 de julho de 2022, ambos tendo considerado o conteúdo uma violação das políticas sobre discurso de ódio da Meta, e o segundo nível da análise secundária, em 24 de fevereiro de 2023, quando outro moderador considerou o conteúdo uma violação e removeu a publicação, passaram-se mais de sete meses. Como descrito na Seção 2, o atraso na análise foi causado por um acúmulo no sistema de verificação cruzada da Meta. Como parte do parecer consultivo sobre política a respeito da verificação cruzada, a Meta divulgou que o sistema de verificação cruzada estava operando com um acúmulo de conteúdo que atrasava as decisões. Nas informações que a Meta forneceu ao Comitê, o período mais longo que um conteúdo ficou na fila de ERSR foi de 222 dias; o atraso de mais de sete meses observado neste caso é semelhante a esse período. Segundo a empresa, a partir de 13 de junho de 2023, a análise do conteúdo acumulado na fila do programa de ERSR foi concluída em resposta à recomendação n.º 18 do parecer consultivo sobre política a respeito da verificação cruzada, que afirma que a Meta não deveria operar o programa com pendências.

O Comitê observa o atraso de sete meses neste caso, que fez com que o conteúdo ficasse na plataforma aguardando a fase final da análise secundária da verificação cruzada. Isso está em conformidade com a análise do Comitê da aplicação do Padrão da Comunidade sobre discurso de ódio. Entretanto, o resultado não estava de acordo com o entendimento da Meta de que o conteúdo era prejudicial.

O histórico de aplicação, neste caso, também traz preocupações sobre como as informações contextuais são levadas em consideração nas decisões sobre conteúdo sem o benefício da análise humana adicional. O Comitê já reconheceu que avaliar o uso de contexto de discurso de ódio e contexto relevante em larga escala é um desafio (consulte o caso Animação Knin). Especificamente, o Comitê enfatizou que o discurso desumanizante, por meio de ações ou discursos discriminatórios implícitos ou explícitos, tem, em algumas circunstâncias, resultado em atrocidades (consulte o caso Animação Knin). O Comitê também considerou que, em determinadas circunstâncias, moderar o conteúdo com o objetivo de abordar danos cumulativos causados pelo discurso de ódio em grande escala pode ser consistente com as responsabilidades da Meta em relação aos direitos humanos, mesmo quando itens de conteúdo específicos, considerados isoladamente, não pareçam incitar diretamente a violência ou a discriminação (consulte o caso Representação de Zwarte Piet).

Para não conter inadequadamente o debate público sobre questões altamente relevantes, como violência contra as mulheres (consulte os casos Violência contra as mulheres) ou, como neste caso, o discurso político sobre eventos históricos, a Meta estabeleceu exceções como a das afirmações comportamentais com ressalvas. Garantir que os moderadores de conteúdo estejam aptos a diferenciar com precisão entre afirmações comportamentais com e sem ressalvas é, portanto, necessário para que a Meta reduza as taxas de falsos positivos (remoção errônea de conteúdo que não viola suas políticas) na aplicação da política sobre discurso de ódio. Pelo mesmo motivo, é importante que a Meta garanta que tanto seus sistemas automatizados, incluindo classificadores de machine learning que analisam aquilo que a Meta considera “discurso hostil”, quanto moderadores humanos de conteúdo consigam considerar informações contextuais nas determinações e nas decisões. É especialmente importante reiterar isso em situações em que, como neste caso, os moderadores de conteúdo da Meta não consideram o contexto e removem uma publicação quando é particularmente urgente protegê-la. Na verdade, mecanismos e processos operacionais com o objetivo de encontrar insights contextuais são especialmente significativos para países ou regiões caracterizados por espaços cívicos fechados, onde os riscos associados à dissidência e à crítica do governo são muito maiores e o acesso à internet é muito restrito. O Comitê também enfatiza que as análises no nível de escalation devem produzir resultados melhores, mesmo nos casos difíceis, pois há ferramentas melhores de avaliação de contexto disponíveis. No entanto, mesmo após o conteúdo deste caso passar por análises escalonadas, a empresa não conseguiu agir certo e manter a publicação no Instagram.

Como parte do parecer consultivo sobre política a respeito da verificação cruzada, a Meta explicou que, geralmente para ERSR, a equipe de mercados (que inclui funcionários da Meta e prestadores de serviço em tempo integral) faz a primeira análise do conteúdo. Essa equipe tem conhecimentos idiomáticos e contextuais adicionais sobre um mercado geográfico específico. Segundo a Meta, o mercado cubano “não é um mercado à parte e está categorizado nas filas de ESLA (espanhol da América Latina) do idioma espanhol geral [da Meta]”, o que significa que o conteúdo de Cuba é analisado por moderadores de conteúdo do idioma espanhol geral e não especificamente voltado para aquele país. A empresa afirmou que “outros países estão divididos” nas filas para análise específica do país ou da região (por exemplo, filas de espanhol para Espanha, filas de VeCAM (Venezuela, Honduras e Nicarágua) para Venezuela e América Central). A equipe de Resposta Inicial ( uma equipe de escalation formada apenas por funcionários da Meta em tempo integral) pode então analisar para confirmar se o conteúdo é violador. De acordo com a empresa, essa equipe tem: “conhecimento mais profundo da política e a capacidade de compreender contexto adicional” e pode aplicar as tolerâncias a “conteúdo jornalístico” e à “política” da Meta. No entanto, para avaliar o conteúdo, a equipe de Resposta Inicial depende das traduções e informações contextuais fornecidas pela equipe de Mercado Regional relevante e não conta com especialistas regionais ou no idioma.

Devido à decisão da Meta neste caso, o Comitê está preocupado com informações contextuais relevantes, como o conteúdo integral da publicação, a hashtag #SOSCuba, os eventos na época do aniversário de um ano dos protestos históricos de julho de 2021, a onda de repressão denunciada por organizações internacionais na época em que a publicação foi feita e, entre outras coisas, a morte de um jovem cubano em um incidente envolvendo a polícia, podem não ter sido suficientemente considerados na avaliação do conteúdo como parte do processo de escalation para avaliação cruzada.

Em resposta, o Comitê reitera a recomendação n.º 3 do parecer consultivo sobre política a respeito da verificação cruzada, que pediu para a empresa “melhorar a forma como seu fluxo de trabalho destinado a atender às responsabilidades em relação aos direitos humanos incorpora o conhecimento contextual e linguístico na análise detalhada, especificamente nos níveis de tomada de decisão”. A Meta concordou em implementar integralmente essa recomendação. Na atualização do primeiro trimestre de 2023 da Meta, a empresa declarou já ter tomado determinadas iniciativas para incorporar especialistas em contexto e idioma no nível de ERSR. O Comitê espera que os especialistas em contexto e idioma ajudem a evitar a remoção de conteúdo semelhante ao da publicação aqui considerada.

8.2 Conformidade com as responsabilidades da Meta em relação aos direitos humanos

O Comitê considera que a decisão da Meta de remover o conteúdo neste caso era incompatível com as responsabilidades da empresa em relação aos direitos humanos.

Liberdade de expressão (artigo 19 do PIDCP)

O artigo 19 do PIDCP prevê ampla proteção da expressão, incluindo sobre políticas, relações públicas e direitos humanos, com a expressão sobre preocupações sociais e políticas recebendo uma proteção elevada (Comentário Geral 34, parágrafos 11-12). O artigo 21 do PIDCP prevê proteção da liberdade de reunião pacífica, e reuniões com uma mensagem política recebem proteção elevada (Comentário Geral 37, parágrafos 32 e 49). Restrições extremas à liberdade de expressão e reunião em Cuba tornam especialmente crucial que a Meta respeite esses direitos, em particular em momentos de protesto (decisão do caso Protestos na Colômbia; decisão sobre Slogan de protesto no Irã; Comentário Geral 37, parágrafo 31). A proteção do Artigo 21 estende-se às atividades associadas que ocorrem online (Ibid., parágrafos 6 e 34). Como destacado pelo Relator Especial da ONU (UNSR) sobre o direito à liberdade de expressão, “a Internet se tornou o novo campo de batalha na luta pelos direitos da mulher, amplificando as oportunidades para as mulheres se expressarem” (A/76/258, parágrafo 4).

A expressão em debate neste caso merece “proteção elevada”, pois envolve o pedido de protesto de uma mulher para defender os direitos daqueles que têm sido reprimidos, um pedido feito em um momento político significativo, quase um ano após os protestos históricos em Cuba, em julho de 2021. A raiva e a crítica públicas contra o governo cubano continuaram, pois as autoridades cubanas intensificaram as repressões legais e físicas sobre as expressões dos dissidentes no ano seguinte aos protestos de julho de 2021. Segundo especialistas, embora esses sentimentos possam se manifestar como protestos menores em resposta a eventos locais (como a morte do adolescente cubano neste caso), as preocupações persistentes dos cidadãos com economia, governança e liberdades fundamentais, combinadas com conectividade com a internet (embora restritas pelos custos altos e controle do governa da infraestrutura importante), deixaram claro que os protestos “vieram para ficar”.

Quando um Estado aplica restrições à expressão, elas devem atender aos requisitos de legalidade, objetivo legítimo e necessidade e proporcionalidade, segundo o parágrafo 3 do Artigo 19 do PIDCP. Esses requisitos costumam ser chamados de “teste tripartite”. O Comitê usa essa estrutura para interpretar os compromissos voluntários de direitos humanos da Meta, tanto em relação à decisão de conteúdo individual sob análise quanto ao que isso diz sobre a abordagem mais ampla da empresa à governança de conteúdo. Como afirmou o UNSR sobre liberdade de expressão, embora “as empresas não tenham obrigações governamentais, seu impacto é do tipo que exige que avaliem o mesmo tipo de questões sobre a proteção do direito de seus usuários à liberdade de expressão ”(A/74/486, parágrafo 41).

I. Legalidade (clareza e acessibilidade das regras)

O princípio da legalidade exige que as regras usadas para limitar a expressão sejam claras e acessíveis publicamente (Comentário Geral nº 34, parágrafo 25). O Comitê de Direitos Humanos observou também que as regras “não podem conceder liberdade de ação irrestrita para a restrição da liberdade de expressão aos encarregados de executá-las” (Ibid.). No contexto de discurso online, o UNSR sobre liberdade de expressão declarou que as regras deveriam ser específicas e claras (A/HRC/38/35, parágrafo 46). As pessoas que usam as plataformas da Meta devem ser capazes de acessar e entender as regras, e os moderadores de conteúdo devem ter orientações claras sobre a aplicação.

A política sobre discurso de ódio da empresa proíbe conteúdo que ataque grupos com base em características protegidas. A Meta define ataques como: “discursos violentos ou desumanizantes, estereótipos prejudiciais, declarações de inferioridade, expressões de desprezo, repulsa ou rejeição, xingamentos e incitações à exclusão ou segregação”. Discurso desumanizante inclui comparações, generalizações ou afirmações comportamentais sem ressalvas sobre ou para animais considerados culturalmente inferiores. No entanto, a mesma política permite declarações comportamentais com ressalvas. O erro de aplicação da Meta neste caso demonstra que o texto da política e as orientações internas fornecidas aos moderadores de conteúdo não estão suficientemente claras para que eles determinem com precisão quando uma afirmação comportamental com ressalvas foi feita.

De acordo com a empresa, as afirmações comportamentais sem ressalvas “atribuem explicitamente um comportamento a todas ou à maioria das pessoas definidas por uma característica protegida”. A Meta explicou que ela permite que as pessoas publiquem conteúdo com afirmações comportamentais com ressalvas sobre grupos de característica protegida quando a afirmação discute um evento histórico específico (por exemplo, fazendo referência a estatísticas ou padrões). No caso de Violência contra as mulheres, a Meta informou o Comitê de que “para os moderadores de conteúdo em escala pode ser difícil distinguir entre afirmações comportamentais com ressalvas e sem ressalvas sem levar em consideração uma cuidadosa leitura do contexto”. No entanto, a orientação para os moderadores, conforme o texto atual, limita significativamente a capacidade deles de fazer uma análise contextual adequada, mesmo quando há indícios claros no próprio conteúdo de que este inclua uma afirmação comportamental com ressalvas. Na verdade, a Meta afirmou que, pelo fato de ser desafiador determinar a intenção em escala, suas diretrizes internas instruem os moderadores a remover por padrão as afirmações comportamentais sobre grupos com características protegidas quando o usuário não tiver esclarecido se a afirmação é com ressalvas ou sem ressalvas.

No presente caso, a publicação, lida na íntegra, reflete claramente o julgamento crítico da mulher no vídeo quando ela se refere ao comportamento dos homens cubanos no contexto específico dos protestos cubanos históricos de 2021 e à onda de repressão que se seguiu em 2022. O conteúdo na íntegra, incluindo a hashtag #SOSCuba, e os eventos conhecidos publicamente no momento da publicação, deixam claro que a publicação era, na verdade, uma declaração discutindo eventos históricos e de conflito específicos por meio da referência ao que a mulher no vídeo entende como padrão.

Como discutido na decisão de Violência contra as mulheres e da Animação Knin, os moderadores de conteúdo devem ter oportunidades e recursos suficientes para considerar os sinais contextuais e aplicar as políticas da Meta com precisão. O Comitê considera que a linguagem da política em si e as diretrizes internas para os moderadores de conteúdo não estão suficientemente claras para garantir que afirmações comportamentais com ressalvas não sejam removidas erroneamente. As orientações confusas ou até contraditórias da empresa torna difícil para os moderadores chegarem a uma conclusão confiável, consistente e previsível. O Comitê reitera a recomendação n.º 2 da decisão do caso Violência contra as mulheres, que pedia para a Meta “atualizar as orientações para seus moderadores na escala com atenção específica às regras sobre ressalvas”.

II. Objetivo legítimo

Qualquer restrição da expressão deve defender um dos objetivos legítimos listados no PIDCP, que incluem os “direitos de terceiros”. Em várias decisões, o Comitê constatou que a política da Meta sobre discurso de ódio, que tem o objetivo de proteger as pessoas contra os danos causados pelo discurso de ódio, tem um objetivo legítimo reconhecido pelos padrões das leis internacionais de direitos humanos (veja, por exemplo, a decisão da Animação Knin).

III. Necessidade e proporcionalidade

O princípio da necessidade e da proporcionalidade mostra que qualquer restrição à liberdade de expressão “deve ser apropriada para cumprir sua função protetora; ser o instrumento menos intrusivo entre aqueles que podem cumprir sua função protetora [e] ser proporcional ao interesse a ser protegido” (Comentário Geral n.º 34, parágrafo 34). Embora o Comitê considere que o conteúdo neste caso não é um discurso de ódio e deve continuar no Instagram, ele não fica indiferente às dificuldades de moderação de discurso de ódio, que inclui comparações com animais (consulte a decisão da Animação Knin). O UNSR sobre liberdade de expressão enfatizou que nas redes sociais: “a dimensão e a complexidade de abordar a expressão de ódio apresenta desafios de longo prazo” (A/HRC/38/35, para. 28). O Comitê, com base nas orientações do Relator Especial, explicou anteriormente que, embora essas restrições geralmente não sejam consistentes com as obrigações do governo em relação aos direitos humanos (especialmente se aplicadas por meio de penalidades criminais ou civis), a Meta poderá moderar esse discurso se demonstrar a necessidade e a proporcionalidade da restrição dele (consulte a decisão de Calúnias na África do Sul). Se houver inconsistências entre as regras da empresa e os padrões internacionais, o Relator Especial pede para as empresas de redes sociais “darem uma explicação fundamentada da diferença da política antecipadamente, de uma maneira que articule a variação” ( A/74/486, parágrafo 48).

Como mencionado anteriormente na Seção 8.1, a política sobre discurso de ódio da Meta contém várias exceções, uma delas precisamente em debate neste caso: afirmações com ressalvas sobre comportamento.

A empresa entendeu que não havia exceções e removeu o conteúdo. O Comitê, no entanto, descobriu que, na aplicação de uma leitura excessivamente literal do conteúdo, a Meta ignorou contexto importante; desconsiderou uma conquista relevante da própria política; e adotou uma decisão que não alcançou, necessária nem proporcionalmente, o objetivo legítimo da política sobre discurso de ódio.

Neste caso, o Comitê considerou os fatores do Plano de Rabat em sua análise (OHCHR, A/HRC/22/17/Add.4, 2013) e as diferenças entre as obrigações do direito internacional dos Estados e as responsabilidades em relação aos direitos humanos da Meta, como empresa de redes sociais. Em sua análise, o Comitê se concentrou no contexto social e político, no autor, no conteúdo e na forma do discurso.

Como mencionado anteriormente nesta decisão, a publicação foi feita no contexto da tensão social elevada caracterizada por uma forte onda de repressão originada nos protestos históricos em Cuba que começaram em 2021. O Comitê também enfatiza a morte de um jovem cubano em um incidente envolvendo a polícia como contexto relevante, pois catalisou as convocações para protesto contra o governo, como a do conteúdo deste caso. Na publicação, uma mulher emite uma declaração sobre o que, na opinião dela, tem sido o comportamento dos homens cubanos durante os protestos e convoca as mulheres para irem às ruas defenderem as vidas dos “our sons” (nossos filhos). A publicação inclui referências explícitas aos protestos e a hashtag #SOSCuba. A análise linguística da publicação na íntegra e no contexto no qual foi publicada não deixa dúvidas do seu significado e escopo. A publicação não atribui um comportamento a todos os homens nem à maioria deles. Também não visa desumanizar todos ou a maioria dos integrantes de um grupo de característica protegida nem contribui para isso. A publicação não gera violência contra os homens nem os exclui das conversas públicas. Ao contrário, em meio à tensão social elevada, ela recorre à linguagem forte para incentivar os homens cubanos a participarem dos protestos dizendo que eles não têm cumprido com as responsabilidades deles. Entretanto, apesar de o conteúdo não contribuir para a geração de qualquer dano, sua remoção tem um impacto negativo significativo sobre a mulher retratada no vídeo, o usuário que o compartilhou e, em última análise, o debate político.

A decisão da Meta de remover a publicação provavelmente teve um impacto desproporcional sobre a mulher no vídeo, que superou muitas dificuldades que existem em Cuba, incluindo acesso à internet e os riscos de falar abertamente contra o governo. Além disso, a remoção provavelmente colocou um fardo desnecessário sobre o usuário, a plataforma de notícias, que teve que superar barreiras para disseminar informações sobre os acontecimentos em Cuba. A advertência que a Meta aplicou à conta do usuário após a remoção da publicação poderia ter agravado a situação e até mesmo resultado na suspensão da conta. Por fim, o Comitê também considera que a publicação é de utilidade pública e contém uma convocação exaltada para o protesto, mas que não defende a violência. Portanto, a remoção da publicação também afeta o debate público em um lugar no qual ele já é extremamente limitado.

O UNSR sobre a liberdade de expressão declarou, em relação ao discurso de ódio, que, “ao avaliar o contexto, pode-se decidir fazer uma exceção, em alguns casos, quando o conteúdo deve ser protegido, por exemplo, o discurso político” (A/74/486, para. 47 (d)).

O Comitê tem afirmado repetidamente a importância dessa afirmação. Na decisão sobre os Protestos na Colômbia, o Comitê analisou os desafios de avaliar a relevância política e a utilidade pública do conteúdo com uma calúnia homofóbica no contexto de um protesto. A decisão sobre o Slogan de protesto no Irã reconheceu que “a posição atual da Meta está levando à remoção excessiva de expressão política no Irã em um momento histórico, potencialmente criando mais riscos aos direitos humanos em vez de mitigá-los”. Finalmente, além dos sinais contextuais no próprio conteúdo, na decisão sobre Protestos a favor de Navalny na Rússia, o Comitê afirmou a importância do contexto externo, dizendo: “o contexto é essencial para avaliar a necessidade e a proporcionalidade (...) O Facebook deveria ter considerado o ambiente para a liberdade de expressão na Rússia como um todo, especificamente as campanhas governamentais de desinformação contra oponentes e seus apoiadores, inclusive no contexto dos protestos de janeiro”. Embora aquele caso estivesse ligado à política de bullying e assédio da Meta, as observações sobre o “ambiente para a liberdade de expressão” e protestos também se aplicam a este caso sobre discurso de ódio.

O Comitê enfatiza as restrições significativas sobre a liberdade de expressão em Cuba, assim como os riscos físicos e legais que correm as pessoas que falam contra o governo (Seção 2). Esses riscos, bem como o custo elevado do acesso a dados e à internet em Cuba, aumentam o significado da moderação de conteúdo das vozes dissidentes no país. Um comentário público (PC-13017) destacou a importância de “proteger os locais limitados de dissidência e organização dos protestos”.

Finalmente, o Comitê considerou o relatório de 2022 do CIDH, que enfatiza que a Comissão foi “informada de perseguição, violência política e ataques sexuais contra as mulheres por agentes do Estado no contexto dos protestos sociais; isso é considerado ainda mais grave no caso das ativistas e defensoras dos direitos humanos” (CIDH, Relatório Anual 2022, parágrafo 166). A cobertura da mídia independente sobre Cuba também destacou o impacto das respostas do governo aos protestos de julho de 2021 sobre as mulheres, com algumas organizações de sociedade civil argumentando que “a maior manifestação de violência de gênero no contexto cubano é a do governo e está explicitamente demonstrada na atualização da lista de mulheres destituídas de liberdade por motivos políticos”.

O Comitê recomenda que a Meta tenha mais atenção ao avaliar conteúdo de contextos geográficos em que expressão política e reunião pacífica sejam preventivamente suprimidas ou respondidas com violência ou ameaças de violência. As plataformas de redes sociais em Cuba representam um canal limitado, porém ainda significativo, para críticas do governo e ativismo social em face das autoridades que têm restringido liberdades civis básicas e oportunidades de mobilização cívica offline.

Embora a Meta tenha afirmado que tomou várias medidas para mitigar os riscos para os usuários durante os protestos de julho de 2021 em Cuba e, novamente, durante os protestos em massa planejados para novembro de 2021, ela não divulgou medidas de mitigação de riscos quando o conteúdo do caso foi publicado. Para se preparar para ocasiões futuras em que convocações para protestos podem ocorrer em lugares em que serão respondidos com violência ou ameaças de violência pelas autoridades públicas, e para garantir que essas convocações sejam avaliadas e monitoradas com precisão e nuance contextual, a empresa deve considerar como o contexto político poderia influenciar suas opções de política e aplicação.

Para lidar com essas preocupações relacionadas à moderação de conteúdo extraído de espaços cívicos fechados, o Comitê reitera as recomendações n.º 1 e n.º 8 do parecer consultivo sobre política a respeito da verificação cruzada, apontando a relevância dele para o contexto cubano e o conteúdo aqui considerado. A recomendação n.º 1 é que a Meta tenha um programa de prevenção de over-enforcement baseado em lista para proteger a expressão de acordo com as responsabilidades da empresa em relação aos direitos humanos. As listas de prevenção de over-enforcement dão aos usuários incluídos oportunidades adicionais de análise humana de suas publicações inicialmente identificadas como violadoras das políticas da Meta, com o objetivo de evitar o over-enforcement ou falsos positivos. A recomendação n.º 8 disse que a Meta deve criar essas listas com contribuição local. A Meta concordou em implementar ambas as recomendações parcialmente, com a implementação atualmente em andamento.

9. Decisão do Comitê de Supervisão

O Comitê de Supervisão revoga a decisão da Meta de remover a publicação.

10. Recomendações

O Comitê de Supervisão decidiu não emitir novas recomendações nesta decisão devido à relevância das recomendações anteriores emitidas em outros casos. O Comitê está ciente do status da verificação cruzada da conta do criador de conteúdo quando o conteúdo foi analisado e removido. No entanto, o Comitê ainda considera as recomendações n.º 1 e n.º 8 do parecer consultivo sobre política a respeito da verificação cruzada, nas quais o Comitê fornece à Meta orientações para criar listas de verificação cruzada, de grande importância neste caso devido ao contexto em Cuba. O Comitê acredita que a empresa deva seguir essas orientações rigorosamente para que outras contas que compartilham discurso político valioso, como aquela deste caso, sejam adicionadas à lista para que se beneficiem das camadas adicionais da análise de conteúdo. Para outras já incluídas na lista, o Comitê destaca a importância da recomendação n.º 3 do parecer consultivo sobre política a respeito da verificação cruzada, que tem o objetivo é melhorar a precisão da análise de conteúdo avançada dessas contas. Estender a oportunidade de camadas adicionais de análise de conteúdo, e a possibilidade de informações contextuais serem incorporadas nas decisões de moderação de conteúdo a mais contas que mereçam a inclusão na lista, de um ponto de vista dos direitos humanos, é especialmente importante nos espaços cívicos fechados, como aquele considerado neste caso.

• A recomendação n.º 1, que indicou que a Meta tenha um programa de prevenção de over-enforcement baseado em lista para proteger a expressão de acordo com as responsabilidades da Meta em relação aos direitos humanos. Esse sistema deve ser daquele que protege a expressão que a Meta considera prioridade comercial e deve garantir que ela forneça camadas adicionais de análise ao conteúdo publicado por, entre outros, defensores dos direitos humanos.
• A recomendação n.º 8, que afirmou que a Meta deve usar equipe especializada, com o benefício da contribuição local, para criar listas de prevenção de over-enforcement.
• A recomendação n.º 3, que pediu para a Meta melhorar a forma como seu fluxo de trabalho destinado a atender às responsabilidades de direitos humanos da empresa incorpora o conhecimento contextual e linguístico na revisão detalhada, especificamente nos níveis de tomada de decisão.

O Comitê de Supervisão também reitera as orientações fornecidas à Meta ao longo desta e de decisões anteriores para garantir que o contexto seja devidamente considerado nas decisões de moderação de conteúdo e as políticas sejam suficientemente claras, tanto para os usuários quanto para os moderadores de conteúdo (casos sobre Violência contra as mulheres). Isso inclui atualização de orientações internas fornecidas aos moderadores de conteúdo onde for relevante para a empresa para abranger qualquer falta de clareza, lacunas ou inconsistências que possam resultar em erros de aplicação, como o que ocorreu neste caso.

• A recomendação n.º 2 dos casos de Violência contra as mulheres, que pediu para a Meta atualizar as orientações para seus moderadores na escala com atenção específica às regras sobre ressalvas, pois as orientações atuais tornam impossível para os moderadores tomar as decisões corretas.

*Nota processual:

As decisões do Comitê de Supervisão são preparadas por grupos com cinco membros e aprovadas pela maioria do Comitê. As decisões do Comitê não representam, necessariamente, as opiniões pessoais de todos os membros.

Para a decisão sobre o caso em apreço, contratou-se uma pesquisa independente em nome do Comitê. Um instituto de pesquisa independente com sede na Universidade de Gotemburgo, que tem uma equipe de mais de 50 cientistas sociais de 6 continentes, e mais de 3.200 especialistas do mundo inteiro auxiliaram o Comitê. A Memetica, uma organização dedicada à pesquisa de código aberto sobre tendências de redes sociais, também forneceu análises. A empresa Lionbridge Technologies, LLC, cujos especialistas são fluentes em mais de 350 idiomas e trabalham de cinco mil cidades pelo mundo, forneceu a consultoria linguística.