Facebook ou le difficile apprentissage de la modération

January 15, 2013
ohetru

Comment modérer efficacement le plus grand réseau social du monde ? Confronté à un volume colossal – des milliards de messages et des millions d’objets signalés chaque jour – Facebook revient régulièrement sur le devant de la scène pour ses dérapages de modération. Critiqué pour avoir censuré une photo du journal Le Monde, voici cette semaine que le réseau social de Mark Zuckerberg est conspué pour n’avoir pas supprimé une photo haineuse et misogyne en Islande. L’affaire a fait le tour du web. Comme le rappelle Gizmodo, une page facebook intitulée “humour controversé – les hommes sont meilleurs que les femmes” était apparue. Une étudiante islandaise vivant à Copenhague Thorlaug Agustsdottir, critiquant la page, a rapidement été prise à partie par un utilisateur et a fini par découvrir une photo d’elle retouchée à la Photoshop avec des traces de coups et blessures, portant la mention “Les femmes sont comme l’herbe, elles ont besoin d’être battues/coupées régulièrement”. Elle a immédiatement signalé cette photo à Facebook pour en demander le retrait en tant que “violence graphique”. A sa grande surprise, quelques heures plus tard, sa demande était rejetée car ne correspondant pas aux critères de retrait. La ligne éditoriale de facebook est pourtant très claire. Violence, menace, intimidation, harcèlement, discours incitant à la haine sont bannis.

La faute au modérateur ?

Comment Facebook a-t-il pu accepter cet objet offensant ?

Voyons tout d’abord le texte:

Nous savons depuis mars 2012 et l’affaire d’un internaute adulte qui parlait de sexe avec une jeune fille de Floride de 13 ans que Facebook utilise une technologie basée sur le filtrage des messages privés qui lui permet de détecter des comportement dangereux pour éventuellement prévenir la police. Je ne connais pas les outils dont dispose Facebook mais pour avoir travaillé sur un outil de filtrage sémantique, je me doute que l’association des mots “femmes” et “battues” doit allumer un voyant d’alerte quelque part. Pourquoi ce texte n’a-t-il pas été repéré par le logiciel de filtrage? La réponse apparaît ci-dessous. Dans la mesure où le texte est inclus dans la photo, il est probablement indétectable. Facebook ne pouvait probablement pas détecter le problème en amont par le filtrage automatique.

300x300xThorlaug

Mais la photo, me direz-vous, elle est bien explicite! Comment un modérateur peut-il la laisser passer alors qu’elle a été signalée? Il faut bien reconnaître que cette photo montre sans ambiguïté une femme en sang, coupée et présentant des hématomes au visage. Si l’on lit le texte qui l’accompagne, on ne peut nier la violence machiste de cet objet. La photo aurait du être supprimée, surtout en étant signalée par la personne présentée sur la photo.

Les photos ont une langue

Si cette photo a été présentée à un modérateur, reconnaissons qu’il s’est trompé. L’erreur est humaine n’est-ce pas? Est-il pour autant le responsable de cette erreur? Il serait intéressant que Facebook nous éclaire sur ce point. Combien d’images modère-t-il par heure? Pour des volumes énormes, les photos sont souvent modérées par lot. Est-ce le cas ici ?

Et surtout, de quelles données de contexte disposait ce modérateur pour faire son travail ? Après tout, la photo seule, sans la compréhension du texte qui l’accompagne, peut être perçue d’une toute autre façon. Elle pourrait représenter au contraire une dénonciation de la violence machiste. La modération de Facebook est partiellement sous-traitée dans des pays low cost comme le Maroc. On peut imaginer qu’un objet simple comme une photo puisse être modéré de façon externalisée. Il serait intéressant de connaître les connaissances linguistiques de celui qui a été chargé de modérer cette photo comportant un texte en islandais. Pour une langue ayant peu de locuteurs dans le monde, il est difficile de trouver des modérateurs compétents en offshore. Même si les traducteurs automatiques sont de plus en plus perfectionnés, ils gardent des lacunes. Et dans ce cas précis, recopier la phrase avec ses caractères très spécifiques dans un traducteur en ligne est quasi impossible. Il fallait comprendre l’islandais pour modérer cette photo.

Si Facebook dispose bien de modérateurs islandais, est-ce bien à eux que sont attribuées les photos issues d’utilisateurs parlant cette langue ?

La modération est souvent le dernier sujet envisagé par les promoteurs d’un réseau social. Vécue comme une contrainte qui coûte de l’argent et ne rapporte rien, elle est pointée du doigt au premier problème. Il est évident qu’on ne peut ni ne doit mettre un modérateur derrière chaque internaute. Les logiciels de reconnaissance sont en plein essor mais c”est une activité particulièrement ardue où la compréhension humaine de l’objet à modérer garde encore une place. Il convient cependant d’y mettre les conditions appropriées.

FacebookTwitterGoogle+LinkedInShare

Aucun commentaire

Leave a Reply

Your email address will not be published. Required fields are marked *

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>