O Facebook divulgou uma iniciativa nesta terça-feira (12) para detectar "memes de ódio", utilizando inteligência artificial e apoiada pelo crowdsourcing.

A principal rede social do mundo informou que já havia criado um banco de dados com 10.000 –memes imagens misturadas com texto– para intensificar os esforços contra discursos mal-intencionados.

O Facebook informou que os dados estavam sendo compartilhados com pesquisadores no "desafio dos memes de ódio", um incentivo ao desenvolvimento de algoritmos capazes de detectar estes tipos de mensagens, com um prêmio total de US$ 100.000.

"Esse desafio deve estimular pesquisadores em Inteligência Artificial a testar novos métodos, comparar seus trabalhos e resultados e acelerar a identificação de discursos de ódio multimodal", informou o Facebook.

A iniciativa é divulgada em um momento de grande apoio à IA para filtrar conteúdos questionáveis que driblaram grande parte dos moderadores humanos durante a pandemia do novo coronavírus.

Seu relatório trimestral de transparência indicou que o Facebook removeu cerca de 9,6 milhões de postagens por violar políticas de "discurso de ódio" nos três primeiros meses deste ano, incluindo 4,7 milhões de peças de conteúdo "ligadas ao ódio organizado".

O Facebook anunciou que a filtragem por IA foi se aprimorando à medida que a rede social recorreu mais às máquinas em consequência dos bloqueios pela pandemia.

Guy Rosen, vice-presidente de integridade do Facebook, disse que, com a IA, "somos capazes de encontrar mais conteúdo e agora podemos detectar quase 90% destas mensagens e as removemos antes que alguém as tenha reportado para nós".

O Facebook disse que se comprometeu a "interromper" o comportamento de ódio organizado há um ano, após os ataques mortais à mesquita na Nova Zelândia, que provocaram um "chamado à ação" dos governos para conter a disseminação do extremismo online.

Sistemas automatizados e inteligência artificial podem ser úteis, acrescentou o Facebook, para detectar conteúdo extremista em vários idiomas e analisar o texto adicionado a imagens e vídeos para entender todo o seu contexto.

Mike Schroepfer, diretor de tecnologia do Facebook, disse a jornalistas em uma videoconferência que uma das técnicas que ajudaram esses esforços foi um sistema para identificar imagens "quase idênticas", que permitem repostar imagens e vídeos com pequenas alterações para evitar a detecção. "Essa tecnologia pode detectar combinações quase perfeitas", disse Schroepfer.

Heather Woods, professora da Universidade Estadual do Kansas que estuda memes e conteúdo extremista, elogiou a iniciativa do Facebook e a inclusão de pesquisadores externos. "Os memes são notoriamente complexos, não apenas porque são multimodais, adicionando imagem e texto, como observa o Facebook, mas porque são contextuais", disse.

"Imagino que as nuances e a especificidade contextual dos memes continuem sendo um desafio para o Facebook e outras plataformas que buscam eliminar o discurso de ódio", acrescentou.