Como a Google está usando Machine Learning para combater o cyber-bulling | Cannes Lions 2017

21 de Junho de 2017

Saiba porque as mensagens tóxicas na web estão com os seus dias contados

Parece que os dias do cyber-bullying e da proliferação de mensagens tóxicas na web tem os seus dias contados. Ninguém melhor para nos dar um fôlego e esperança sobre esta questão do que o Google e sua empresa incubadora de tecnologia Jigsaw, responsável em entender os desafios globais e aplicar a tecnologia para solucionar problemas online como extremismo, bullying, cyber-attacks.
 
Foi com esta boa notícia que o seminário “Machine Learning for Everyone” apresentado no Lumiere Theatre no Cannes Lions, veio como um alívio para corrigir as falhas presentes no mundo digital. De um lado estava David Singleton, Vice-Presidente de Engenharia do Google mostrando os avanços da tecnologia com o Machine Learning e como ela está avançando para conectar as pessoas. Do outro lado estava Jared Cohen, presidente da Jigsaw, empresa do grupo Alphabet apresentando os desafios da comunicação no universo digital. Unindo tecnologia e ciências humanas, os dois profissionais do Google apresentaram as ações da empresa para filtrar e eliminar as mensagens tóxicas da web.
 

Machine Learning: tecnologia para conectar as pessoas 

Machine Learning é um dos assuntos mais falados no momento no Festival Cannes Lions 2017. ML, como também pode ser chamada, é um conjunto de sets que tem o objetivo de mostrar o caminho para a resolução de problemas através das análises de dados. 

Através da captação e processamento de milhares de dados, os computadores começam a entender os algoritmos para analisar o tom das conversações e na medida e que vão se aperfeiçoando eles são capazes de antecipar resultados com rapidez. 

Um dos exemplos apresentados mostra que através dos treinamentos das máquinas elas conseguem entender as diferenças de cães e gatos que aparecem no seu mobile. Com a projeção de vários exemplos os sistemas começam a reconhecer automaticamente as diferenças. 

Utilizando o mesmo conceito, as máquinas estão utilizando os insights do comportamento humano para combater o cyber-bullying. Da mesma forma que elas são capazes de observar e reconhecer imagens de cães e gatos e antecipar a diferença, a mesma técnica funciona para antecipar os problemas de bullying da internet e evitar sua proliferação imediatamente. 

A ML no universo digital surge como uma ferramenta para ajudar as pessoas e protegendo a informação para criar melhores conversas online, aprimorar a capacidade de transmitir ideias e gerar empatia para entender melhor cada ser humano. 

A Google filtrando as mensagens tóxicas na web

Uma pesquisa recente revelou que 72% das pessoas já presenciaram um abuso na internet e 47% dos usuários já foram de algumas vítimas de abuso. Como os engenheiros do Google e e Jigsaw podem usar a força da tecnologia para combater o abuso na instabilidade das conversas?

Identificando 4 linhas de conversação, os computadores serão capazes de identificar o nível de toxinas presentes em cada mensagem: 

- É um fenômeno natural
- Isso é um absurdo excessivo
- É um comentário estupido e malvado
- Parece que tenho a cabeça enfiada no c....” 

Num exemplo prático que foi apresentando no palco, foi possível identificar cada comentário de acordo com o seu nível de toxinas. O estudo foi desenvolvido usando a perspectiva para organizar os comentários em três tópicos que possuem frequentes discussões no universo online: mudanças climáticas, Brexit e Eleições nos Estados Unidos. 

Machine Learning é tudo que a gente precisa para coletar e identificar a qualidade dos dados que surgem na internet diariamente, já que é muito difícil contratar pessoas o para moderar milhões de comentários que surgem diariamente. O papel da ML será em usar a sua força para moderar e combater com maior rapidez as discussões online.