Social e Políticas Públicas

Protegendo a comunidade LGBTQIAPN+: a urgente necessidade de ação contra o ódio on-line

O discurso de ódio e a desinformação anti-LGBTQIAPN+ são um problema alarmante de saúde pública e segurança

Gabriela Benatti | Para Agência Gov
13/10/2024 10:30
Protegendo a comunidade LGBTQIAPN+: a urgente necessidade de ação contra o ódio on-line
Tomaz Silva/Agência Brasil

A retórica anti-LGBTQIAPN+ (Lésbicas, Gays, Bissexuais, Travestis, Transexuais, Queers, Intersexos, Assexuais, Pansexuais, Neutros + outras diversidades sexuais e de gênero) nas mídias sociais se traduz em danos no mundo real. Um exemplo é o efeito inibidor sobre a liberdade de expressão LGBTQIAPN+, que ocorre devido ao medo de possíveis ataques. Além disso, há impactos psicológicos relacionados à exposição frequente a calúnias e condutas de ódio (sejam elas direcionadas a um indivíduo diretamente, a celebridades LGBTQIAPN+ ou a outros membros da comunidade). Há também uma linha direta que pode ser traçada entre os ataques online, a violência e os danos físicos no mundo real.

Grande parte do conteúdo de ódio e desinformação é gerada por "superespalhadores" e amplificadores com um grande número de seguidoras(es). Estes buscam engajamento movidos pela raiva, gerando cliques, compartilhamentos, curtidas e impressões de anúncios.

Em 17 anos, a Central de Denúncias da SaferNet recebeu 163.008 denúncias anônimas de LGBT+fobia envolvendo 43.180 páginas (URL) distintas. Destas, mais de 30.000 páginas foram removidas. As denúncias envolveram sites hospedados em 45 países em cinco continentes e escritos em oito idiomas diferentes. No Brasil, no mesmo período, foram registradas 22.812 páginas denunciadas. As denúncias foram feitas através dos três hotlines brasileiros que integram a Central Nacional de Denúncias de Crimes Cibernéticos.

Com o avanço tecnológico, é importante que a proteção e fiscalização sejam ampliadas. No universo das Inteligências Artificiais (IA), temos um exemplo preocupante: em abril de 2023, um estudo do Center for Countering Digital Hate revelou que o chatbot de IA do Google ("Bard") estava gerando conteúdo de ódio extremo e informações incorretas, incluindo material anti-LGBTQIAPN+, antissemitismo, racismo e misoginia.

Plataformas digitais como YouTube, Facebook, Twitter, Tik Tok, Instagram e Facebook possuem regras para combater discursos de ódio, ameaças e discriminação. Aplicativos de transporte, como Uber e 99, e de relacionamento, como Tinder e Grindr, também têm adotado medidas para proteger a população LGBTQIAPN+. O Grindr é o maior aplicativo de relacionamentos especializado nesse público em todo o mundo e desenvolveu um Guia de Segurança, que abrange a segurança de forma holística, dividida em 3 áreas: segurança digital, segurança pessoal e autocuidado e bem-estar.

Apesar de alguns avanços, ainda é necessária uma maior transparência, proteção às(aos) usuárias(os) e comprometimento das empresas de internet. O ódio, o assédio e a desinformação anti-LGBTQIAPN+ continuam a se espalhar livremente, enquanto vozes legítimas são frequentemente silenciadas. As empresas de internet têm priorizado a maximização de lucros com algoritmos e IA, sem uma consideração adequada dos impactos negativos sobre as(os) usuárias(os) e a segurança pública.

Leia também
Governo cria comitê para monitorar Estratégia de Enfrentamento à Violência contra LGBTQIA+

Recomendações para que empresas de internet possam promover segurança digital à população LGBTQIAPN+

Há uma necessidade urgente de supervisão regulatória eficaz no setor de tecnologia, especialmente nas empresas de mídia social, para proteger as pessoas LGBTQIAPN+ e toda a população dos impactos perigosos de um setor que têm priorizado os lucros privados em detrimento do interesse público. Essa supervisão envolve, por exemplo, a implementação de mecanismos de transparência e responsabilidade para garantir a segurança pública.

É importante que as empresas interrompam o uso inadequado de comportamentos inautênticos, como deepfakes, bots, "exércitos de trolls" e "brigadas web", que manipulam as plataformas de maneira coordenada para espalhar ódio e desinformação. Quando não usadas para atividades odiosas, campanhas coordenadas online podem ser uma oportunidade para educar o público e obter apoio para causas sociais.

Projetos de lei propostos para responsabilizar as empresas de tecnologia devem ser cuidadosamente elaborados para evitar impactos negativos não intencionais sobre as(os) usuárias(os) LGBTQIAPN+, especialmente jovens.

Além disso, a responsabilidade pela segurança não deveria recair tanto sobre usuárias(os) das plataformas.

Cada empresa possui um modelo de negócios diferente, mas todas enfrentam o desafio de combater as práticas prejudiciais. As empresas de internet devem, então, ter estratégias de aplicação que reconheçam a amplitude do problema e demonstrem comprometimento em diminuir continuamente as atividades odiosas em seus serviços. Recomendações nesse sentido são:

• Fortalecer e aplicar as políticas existentes que protegem as pessoas LGBTQIAPN+ e outras pessoas contra o ódio, o assédio e a desinformação, e também contra a supressão da expressão LGBTQIAPN+ legítima.

• Treinar moderadoras(es) sobre as necessidades das(os) usuárias(os) LGBTQIAPN+ e moderar em todos os idiomas, contextos culturais e regiões.

• Ser transparente com relação à moderação de conteúdo, implementação da política de termos de serviço, projetos de algoritmos e relatórios de aplicação.

• Parar de violar a privacidade/respeitar a privacidade dos dados. As plataformas devem reduzir a quantidade de dados que coletam e retêm e interromper a prática de publicidade de vigilância direcionada, incluindo o uso de algoritmos poderosos para recomendar conteúdo.

• Promover discursos cidadãos de inclusão social e transmitir proativamente as expectativas de comportamento da(o) usuária(o), incluindo o respeito às políticas contra o ódio e o assédio na plataforma.

• Os relatórios de transparência precisam compartilhar dados pormenorizados sobre todas as remoções e apelações de usuárias(os) para também tornar visível o problema da moderação excessiva, supressão, desmonetização ou retirada de espaço de publicações e contas legítimas. A remoção de conteúdo violador não é a única maneira de as plataformas lidarem com o ódio e a desinformação anti-LGBTQIAPN+. A desmonetização de conteúdos e contas é um exemplo disso.

 O Pacto Nacional de Enfrentamento às Violações de Direitos Humanos na Internet – o Humaniza Redes –, lançado pelo Governo Federal em 2015, é uma ferramenta que busca orientar e ajudar vítimas de ofensas e crimes na internet. Seu objetivo é encaminhar denúncias dos cidadãos e cidadãs ao Judiciário e promover campanhas de prevenção de crimes. O contato pode ser realizado via telefone, chat no site do Pacto, mensagens no WhatsApp ou Telegram, além de videochamada em Língua Brasileira de Sinais (Libras).


Gabriela Benatti é formada em Relações Internacionais (Facamp), mestre e doutora em Desenvolvimento Econômico (Unicamp) e doutora em Biotecnologia e Sociedade (TU Delft). É pesquisadora do Instituto Veredas desde 2019. gabriela@veredas.org

SAIBA MAIS – Este artigo é informado por uma das diversas respostas rápidas realizadas de forma voluntária pelo Instituto Veredas para órgãos do governo federal que, no ano de 2023, estavam em busca de evidências para apontar os melhores caminhos para enfrentar alguns desafios. A pesquisa que inspirou este artigo, você encontra aqui. Ou role a apresentação a seguir.



A reprodução é gratuita desde que citada a fonte