Comment lutter efficacement contre les contenus douteux sur les réseaux sociaux ? Facebook a décidé de compter sur l’intelligence artificielle pour faire du ménage et contrôler plus efficacement la diffusion de contenus haineux, sexuels ou encore violents. Un nouveau logiciel est en effet en train d’être déployé sur le réseau social en ce moment.
Un nouveau logiciel
Les contenus violents et à caractère sexuel sont malheureusement trop nombreux sur les réseaux sociaux. Mark Zuckerberg cherche depuis déjà pas mal de temps à lutter contre ces contenus qui viennent ruiner la réputation de Facebook. Depuis 2020, Facebook a déployé un nouvel algorithme pour faire le ménage, mais ce n’était pas suffisant.
Ainsi, Facebook a décidé maintenant de s’appuyer sur un logiciel d’intelligence artificielle. Mike Schroepfer, responsable technique de la plateforme, est sorti du silence pour expliquer le fonctionnement de ce nouveau logiciel de surveillance. Ce dernier permet de détecter les textes, mais aussi les images et les animations qui ne conviennent pas au réseau social. En outre, le logiciel est capable de croiser des contenus dans plusieurs langues.
Du contenu propre
D’après une étude très sérieuse et récemment parue, on retrouve sur Facebook environ 0,06% des contenus avec un caractère haineux ou sexuel. Actuellement, les utilisateurs peuvent signaler ce contenu, et Facebook agit plus ou moins rapidement pour le supprimer. Mais ce système n’est pas infaillible et le contenu a largement le temps de rester en ligne avant d’être supprimé.
Le logiciel basé sur l’intelligence artificielle va donc détecter automatiquement ce type de contenu et modérer les informations et les images qui circulent sur le réseau social. Ce contrôle de contenu est essentiel pour permettre à Facebook de redorer son blason et de retrouver la confiance des utilisateurs. Les tests sont actuellement en cours aux États-Unis.
