Conteúdos nazistas e com discurso de ódio têm sido disseminados de forma exponencial no TikTok, rede social mais utilizada pelos adolescentes brasileiros, com estratégias de disfarce para driblar as ferramentas de moderação e assim alcançar maior número de usuários.

Com a tática conhecida como “apito de cachorro” (em referência ao apito canino inaudível para humanos e usado para adestrar cães), usuários da rede têm espalhado conteúdos nazistas por meio de expressões e símbolos aparentemente banais. Eles, no entanto, escondem mensagens de incitação ao ódio e violência e cooptam sobretudo jovens para grupos extremistas.

Essa é a conclusão de um estudo feito a partir da observação de duas semanas realizada pelas pesquisadoras Letícia Oliveira e Tatiana Azevedo. Para o relatório, elas criaram um perfil no TikTok que passou a seguir e curtir vídeos de perfis com conteúdo neonazista e que fazem parte da subcomunidade que cultua autores de massacres escolares.

Em pouco tempo, o algoritmo do TikTok reconheceu o conteúdo preferido do perfil e passou a fazer recomendações de vídeos e contas dessa temática na aba “Para você”.

Procurado pela Folha, o TikTok afirma que trabalha constantemente para garantir que a plataforma seja um ambiente em que todos se sintam seguros. Por isso, diz que as diretrizes deixam claro o que não pode ser publicado, como a propagação de violência e ódio.

As pesquisadoras alertam sobre o risco de esses conteúdos alcançarem os jovens, principalmente aqueles com transtornos mentais ou em sofrimento. Como é o caso do aluno de 16 anos que entrou armado na escola estadual Sapopemba, na zona leste de São Paulo, na última segunda (23). Ele matou uma adolescente e feriu outros três estudantes.

No inquérito policial sobre o ataque à escola, a mãe do adolescente atirador contou que ele era um usuário frequente do Tiktok e produzia conteúdo em situações controversas para alcançar mais seguidores e fama.

Em uma ocasião, ele publicou um vídeo com uma suástica desenhada no rosto e, às vésperas do ataque na escola, se automutilou na coxa com o símbolo. Para a polícia, o objetivo dele era se promover na internet.

Porém, vídeos como os do autor do ataque em Sapopemba não são os principais conteúdos de cunho neonazistas encontrados na rede social chinesa.

As pesquisadoras citam que os usuários têm se distanciado de símbolos mais conhecidos, como a suástica, optando por códigos nos nicknames e símbolos na foto do perfil.

Um deles é o símbolo do Sol Negro, que pesquisas apontam ser símbolo popular entre neonazistas e é composto por três elementos: a roda solar, a suástica e uma letra do alfabeto usado pelas antigas tribos germânicas.

Há, ainda, diversos nicknames que combinam os números 14 e 88. Isso porque o número 14 se refere às 14 palavras da frase do supremacista branco americano David Lane e o 88 significa “Heil Hitler”, uma vez que o número representa a letra H, a oitava no alfabeto.

“Para quem não está familiarizado, o conteúdo pode passar despercebido, e tem pessoas que acabam entrando em trends sem nem saber que aquele conteúdo é antissemita”, explica a pesquisadora Tatiana Azevedo.

Na pesquisa, é citada a trend “caça aos gnomos”, que foi denunciada em junho pela GNET (Global Network on Extremism and Technology) por fazer uma referência velada à “caça aos judeus”.

Nos posts que contêm a hashtag (palavra-chave), são encontradas postagens explicitamente neonazistas.

O relatório cita que o Tiktok possui uma ferramenta que coloca o usuário no chamado “shadowban”, que limita seu alcance caso ele viole os termos de uso da plataforma. Além disso, a plataforma pode excluir hashtags que propaguem conteúdo inadequado aos usuários. Porém, mostra que é comum que usuários adotem os termos similares aos banidos, o que funciona temporariamente até que a plataforma detecte o novo termo.

É o caso, por exemplo, de “Atomwaffen”, uma referência a uma célula neonazista e que não surte resultados de hashtags quando buscada na plataforma. Porém, quanso se procuram palavras similares, há diversas hashtags disponíveis.
Outra tática usada por esses usuários é publicar imagens ou vídeos sem hashtags. Assim, apesar de perder alcance, o post não será excluído da plataforma.

Dados da ONG Safernet mostram como a estratégia de disfarçar esse tipo de conteúdo funciona para driblar tanto a moderação como as denúncias. Após registrar dois anos de recordes consecutivos, as denúncias de conteúdos de neonazismo tiveram uma queda.

Em 2021, a Safernet registrou 14.476 denúncias desse tipo (elas são encaminhadas para o Ministério Público). O TikTok foi a segunda plataforma com mais registros naquele ano, com 16% das postagens denunciadas.

No ano seguinte, o número caiu para apenas 2.661. A ONG aponta que a queda se deve ao fato de esses grupos, responsáveis pela disseminação desse tipo de conteúdo, terem mudado a estratégia após se verem expostos.

Para fugir das denúncias, eles migraram para plataformas como o Discord, em que a moderação é mais frouxa, e passaram a usar as técnicas de disfarce em redes com maior visibilidade.
Para Luka Franca, pesquisadora do grupo Violência em Tempos Sombrios, do NEV (Núcleo de Estudos da Violência) da USP, a disseminação de conteúdos criminosos e de incitação a violência de forma disfarçada reforça a necessidade de o país regulamentar as redes sociais.

Como essas empresas não são obrigadas a divulgar como funcionam seus algoritmos, as autoridades de segurança não conseguem fiscalizar e coibir práticas criminosas.

“Sem uma legislação que obrigue as plataformas a dizer como funcionam seus algoritmos, elas se escondem de ter que explicar como conteúdos extremistas estão sendo entregues de forma direta aos usuários. Sem transparência, nós ficamos no escuro para achar uma solução para essa disseminação de incitação à violência.”

Ela também afirma que essas táticas dificultam o controle parental sobre o conteúdo acessado pelas crianças e adolescentes. “O governo federal fez uma ação muito importante de elaborar um guia com orientação para os pais. É um bom trabalho de letramento digital para os pais, mas tem uma limitação para conteúdos extremistas como esses, que cada vez mais se disseminam de forma mascarada.”

Em nota, o TikTok disse que 96,5% das remoções ocorrem antes de denúncias por meio do uso de tecnologia ou pela equipe de moderação. Além disso, afirmou que 90,8% das remoções acontecem dentro de 24 horas após a publicação e que 80,9% dos vídeos que infringem os termos de uso são deletados antes de qualquer visualização.
Glossário dos símbolos neonazistas usados de forma disfarçada:
Caveira com ossos cruzados: Era um dos símbolos das Waffen Schutzstaffel de Hitler, conhecida como SS e que era a polícia nazista. É ainda hoje usada por neonazistas e é usada por autores de autores de ataques a escolas, em máscaras e bandanas
Sol negro: Símbolo popular entre neonazistas e é composto por três elementos: a roda solar, a suástica e uma letra do alfabeto usado pelas antigas tribos germânicas
Well, well, well: A expressão, que na tradução para o português seria algo como “ora, ora, ora”, tem aparecido com frequência em comentários, hashtags e nomes de vídeos com conteúdo antissemita.
Símbolos numéricos de ódio: Os números 14 e 88 têm sido usados com frequência em nicknames nas redes sociais
O número 14 é uma referência ao slogan criado pelo líder de uma organização supremacista branca que contém 14 palavras: “We must secure the existence of our people and a future for white children”,.que significa “devemos garantir a existência do nosso povo e um futuro para as crianças brancas”. Já o número 88, é uma referência às duas letras H (Heil Hitler), a oitava letra do alfabeto

(Noticias ao Minuto)