Você viu?

Instagram cria ferramenta antibullying que perguntará: 'Você tem certeza?'

Empresa usará inteligência artificial para identificar comentários abusivos antes de serem postados

A empresa espera que novas medidas ajudem a prevenir abusos
A empresa espera que novas medidas ajudem a prevenir abusos - PA/BBC News Brasil
Dave Lee

O Instagram acredita que sua nova ferramenta contra bullying – que pede para os usuários reconsiderarem o que estão escrevendo – possa ajudar a conter abusos na plataforma.

Ela também permitirá, em breve, que usuários sob ataque online restrinjam as interações com usuários que lhes causam problemas.

A empresa está sob pressão para lidar com o problema do bullying desde que diversos casos vieram à tona, como o suicídio da adolescente britânica Molly Russell.

O diretor-executivo do Instagram, Adam Mosseri, admitiu que a firma "poderia atuar mais" sobre o assunto em uma postagem do blog da plataforma.

"Podemos atuar mais para prevenir o bullying no Instagram, e podemos atuar mais para empoderar os alvos de bullying para que eles se defendam", escreveu Mosseri.

"Essas ferramentas são baseadas em uma compreensão profunda sobre como as pessoas atacam umas às outras e sobre como elas reagem ao bullying no Instagram, mas elas são apenas pequenos passos em um longo caminho."

'REPENSE'

O Instagram diz que está usando inteligência artificial para reconhecer textos parecidos com posts mais notificados como inapropriados.

Por exemplo, a pessoa escreve "você é tão feio e burro", e a plataforma a interrompe com uma mensagem: "Tem certeza que quer publicar isso? Entenda".

Se o usuário clica em "entenda", um aviso informa: "Estamos pedindo para os usuários repensaram comentários parecidos com outros que foram notificados como inapropriados."

O suicídio de Molly Russell após sofrer bullying pôs a plataforma sob pressão
O suicídio de Molly Russell após sofrer bullying pôs a plataforma sob pressão - Family Handout/PA Wire/BBC News Brasil

A pessoa pode ignorar a mensagem e comentar mesmo assim, mas o Instagram diz que testes preliminares indicam que a mensagem "incentiva algumas pessoas a não comentar aquilo e compartilhar algo menos ofensivo depois de ter tido a oportunidade de refletir".

Por enquanto, a ferramenta será disponibilizada primeiro para usuários que falam inglês, mas o Instagram disse à BBC que o plano é torná-la disponível para o mundo todo.

RESTRINGIR

A empresa disse que em breve também deve oferecer uma nova ferramenta, chamada "restringir", que permite aos adolescentes filtrarem comentários abusivos sem ter que bloquear ninguém (uma ação mais drástica, onde a pessoa não têm mais acesso às suas fotos).

"Ouvimos de jovens na nossa comunidade que existe uma resistência a bloquear, deixar de seguir ou denunciar a pessoa que a está atacando por medo de piorar a situação, especialmente se as pessoas convivem na vida real", disse Mosseri.

Uma vez que um usuário entre na lista de restritos, seus comentários aparecerão apenas para ele mesmo, e ele não saberá que foi restringido.

"Você pode permitir que outras pessoas vejam esses comentários aprovando cada um deles", explicou Mosseri.

"Pessoas restritas não poderão ver se você está ativo no Instagram ou quando você leu as mensagens diretas deles."

SEM DESCULPA

O bullying nas redes sociais, especialmente no Instagram, causou polêmica na Grã-Bretanha recentemente após a trágica morte de uma adolescente.

O pai da jovem britânica Molly Russell, que se suicidou aos 14 anos, disse que conteúdos perturbadores sobre depressão e suicídio no Instagram foram parcialmente responsáveis pela morte de sua filha.

Em abril, o governo britânico publicou um projeto de lei propondo a criação de um corpo regulador independente que monitorasse e orientasse as empresas de tecnologia sobre como lidar com toda espécie de abusos, inclusive bullying.

O projeto foi recebido com reações mistas, alguns questionaram sua eficácia, outros temem que ele extrapolaria sua função original.

O diretor-executivo da empresa, Adam Mosseri, disse que o Instagram "pode atuar mais" para combater o problema
O diretor-executivo da empresa, Adam Mosseri, disse que o Instagram "pode atuar mais" para combater o problema - BBC News Brasil

Em uma conferência de desenvolvedores do Facebook – que é dono do Instagram – Mosseri disse que um objetivo central do Instagram é lidar com a questão do bullying.

Alex Holmes, que comanda uma organização antibullying e atua contra o problema há anos, diz que é "muito encorajador que essa nova ferramenta tenha sido disponibilizada."

Sua organização, o Diana Award, recebeu recursos do Facebook para iniciativas contra o problema, atuando em escolas.

Holmes disse à BBC que as redes sociais poderiam fazer mais para ensinar os usuários sobre comportamento aceitável.

"Se você tem menos de 18, deveria passar por um processo de conscientização quando você entra para a plataforma", diz ele.

BBC News Brasil
Final do conteúdo

Comentários

Ver todos os comentários Comentar esta reportagem

Últimas Notícias