Google Perspective : Mountain View part à la chasse aux trolls

Google comme de nombreuses entreprises du web a été très touché par les nombreux cas de cyber harcèlement sur internet ou les réseaux sociaux et qui se sont parfois soldés par des suicides. L’entreprise a donc décidé d’en faire un combat et l’entreprise multiplie les initiatives pour lutter contre ce phénomène. Dernier exemple en date : Google Perspective.

Google veut faire taire les trolls et mettre fin au cyber harcèlement

Google Perspective est un outil redoutable pour lutter contre tous types de commentaires dits « toxiques », il sert aussi bien pour détecter les commentaires injurieux qu’haineux, mais il peut également lutter contre le cyber harcèlement, ainsi que contre les trolls qui pullulent sur la toile. Google Perspective est basé sur une intelligence artificielle qui épaulera à l’avenir les modérateurs pour contrer tous ces phénomènes, qui rendent désagréables la navigation sur le web.

Le meilleur exemple de cette anarchie des trolls ou des personnes haineuses se trouvent dans la zone des commentaires située sous les vidéos de YouTube. Il s’agit bien souvent d’une déferlante de propos injurieux, sexistes, haineux, de commentaires sarcastiques, qui font que l’internaute lambda n’a même plus envie de donner son opinion ou de lire les commentaires.

L’intelligence artificielle devrait donc aider les humains à détecter et à éradiquer ce type de commentaires à l’avenir. L’IA a en effet d’abord été testée sur plusieurs grands médias où là encore, les internautes se défoulent dans les commentaires au lieu d’enrichir le débat, tels que le New York Times, The Economist ou encore le Guardian. L’IA a ainsi pu apprendre ce qu’est un propos haineux, injurieux, d’harcèlement, etc. et a pu les classer sur une échelle de 1 à 100.

Google Perspective : l’intelligence artificielle au service de la modération

Pour s’épargner des commentaires du genre : « vous n’avez pas publié mon commentaire, vous pratiquez la censure ! », cette intelligence artificielle sera capable de détecter les commentaires toxiques, avant même qu’ils n’aient été publiés et le contributeur sera prévenu qu’en l’état, le commentaire ne sera pas publié, obligeant ainsi ce dernier à revoir son vocabulaire ou à modérer lui-même ses propos.

Jared Cohen, président de Jigsaw, a déclaré au journal Le Figaro : « Cette technologie mérite encore d’être perfectionnée (…) Plus nous aurons de données, meilleur sera notre algorithme ». Les algorithmes devront donc disposer d’une montagne de données pour discerner le bien du mal, afin que les robots ne nous imposent pas une dictature verbale pour nous exprimer sur la toile. C’est d’ailleurs la raison pour laquelle l’outil sera publié sur Tensor Flow, la librairie open source de Google, afin d’apprendre. Mountain View ne souhaite pas faire taire les internautes, en revanche elle souhaite bâillonner ceux qui n’expriment que la haine sous une forme ou une autre.

L’époque des trolls et du cyber harcèlement est peut-être en train de vivre ces dernières heures…

Laisser une réponse

Votre adresse email ne sera pas publiéeLes champs requis sont surlignés *

*