Passer au contenu principal

Google crée une arme anti-trolls pour les médias

L'outil informatique développé par la firme américaine permettra aux médias de lutter contre les messages haineux postés sur le net.

L'outil est testé avec plusieurs éditeurs dont le New York Times.
L'outil est testé avec plusieurs éditeurs dont le New York Times.

Google lance «Perspective». Il s'agit d'un outil informatique basé sur l'intelligence artificielle qui aidera les médias à modérer automatiquement les commentaires en ligne en bloquant les messages haineux, a annoncé vendredi le groupe américain.

Cette interface informatique (API) est proposée gratuitement. Elle permettra aux éditeurs de créer des programmes qui noteront la «toxicité» des messages envoyés sur leurs forums et de régler à leur guise le seuil toléré avant publication.

«Perspective» est testé avec plusieurs éditeurs dont le New York Times, The Guardian et Wikipedia, avec un apprentissage automatique (machine learning) à partir des messages jugés haineux ou hors sujet par des modérateurs humains.

Le but est de faciliter la tâche des équipes de modérateurs, souvent débordées par le flot des commentaires haineux qui empêchent les discussions. Cette situation a poussé de nombreux journaux à fermer leurs pages de commentaires. «Les médias veulent encourager les discussions sur leurs contenus, mais trier les millions de commentaires pour repérer ceux qui les trollent leur coûte beaucoup de temps, de travail et d'argent», souligne sur le site de Google Jared Cohen, président de Jigsaw, l'incubateur de Google qui a construit l'outil.

Pas seul sur ce terrain

Le logiciel est disponible pour les médias membres de la «Digital News Initiative» de Google, mais aussi à toutes les plates-formes de réseaux sociaux, dont YouTube, Twitter et Facebook. L'algorithme devrait aider à filtrer les messages bien plus vite que les équipes humaines.

Avant Google, Twitter a également annoncé début février qu'il allait s'attaquer aux messages haineux, souvent anonymes, en permettant d'identifier leurs auteurs et de les empêcher de recréer des comptes ou en les masquant dans les recherches des internautes.

Google, Facebook, Twitter et Microsoft ont signé, l'an dernier, un «code de bonne conduite» avec la Commission européenne. Ils s'y engagent à examiner dans les 24 heures la majorité des contenus haineux signalés par les utilisateurs, afin de les supprimer si nécessaire.

(ats)

Cet article a été automatiquement importé de notre ancien système de gestion de contenu vers notre nouveau site web. Il est possible qu'il comporte quelques erreurs de mise en page. Veuillez-nous signaler toute erreur à community-feedback@tamedia.ch. Nous vous remercions de votre compréhension et votre collaboration.