Nous utilisons des cookies sur nos sites web. Des informations sur les cookies et sur la manière dont vous pouvez vous opposer à leur utilisation à tout moment ou mettre fin à leur utilisation sont disponibles dans notre Déclaration de protection des données.

7 min de lecture 14 Commentaires

Cachés dans l’ombre, les modérateurs des géants du web vivent un enfer

Les géants de la technologie sont souvent admirés, parfois même élevés au statut de semi divinité par leurs plus fidèles fan(atique)s, mais contrairement à ce qu’ils aiment laisser penser ils n’ont pas le pouvoir absolu. A vrai dire, en termes de modération, leur pouvoir est même très limité. Dans l’ombre, leurs “polices virtuelles” se chargent de modérer ce qui est mis en ligne.

Pourquoi modérer Internet ?

Internet n’a-t-il pas été créé pour être une plateforme d’échange où la liberté d’expression est le maître-mot, chacun étant en mesure de dire ce qu’il veut ? C’est ce qu’il est devenu, sans nul doute, mais ce n’est pas exactement ce qu’il devrait être.

La liberté d’expression, et la liberté d’opinion qui lui est associée, représentent un droit universel garanti par les droits de l’Homme, une clé de voûte de toutes les démocraties. Cependant, comme toutes les libertés elle est soumise à certaines limites : la Cour Européenne des Droits de l’Homme permet à chaque état de fixer ces limites en fonction de la protection des individus (notamment de leur réputation) ainsi que de l’intérêt public (particulièrement la sécurité nationale, c’est à dire par exemple la lutte contre le terrorisme).

Même s’ils l’oublient souvent, les internautes ne peuvent donc pas dire tout ce qu’ils veulent car les lois du pays s’appliquent sur Internet. Par exemple, sur YouTube vous devez non seulement vous plier à la politique de confidentialité de YouTube mais aussi à celle de la loi française. La question est donc la suivante : qui fait la police sur Facebook, Google & Co ? Il faut garder à l’esprit qu’il s’agit d’entreprises privées donc cela complique d’autant plus la tâche, l’état n’a pas le pouvoir d’intervenir directement en supprimant ce qu’il ne veut pas voir.

Les gouvernements ont passé des accords avec les géants de la technologie pour que les lois locales sont respectées, ce qui n’a pas toujours été simple car le manque de communication entre les deux acteurs avaient entraîné au début le blocage de Facebook dans certains pays, notamment la Turquie. Au-delà du problème de la modération, les Etats cherchent des solutions aux problèmes modernes de la technologie (la dépendance aux réseaux sociaux, pour n’en citer qu’un). A ce propos, le secrétaire d’Etat chargé du numérique Mounir Mahjoubi a confié qu’une loi pourrait être créée afin d’aider les citoyens français concernés par cette situation.

Comment fonctionne la modération ?

La modération sur Internet (Google, Facebook, Twitter…) peut s’effectuer de deux manières : la première se fait à l’aide de l’Intelligence Artificielle, la deuxième avec des équipes (humaines) spécialisées. Ici, il ne s’agit pas de machine qui vient remplacer l’Homme, ils travaillent ensemble de manière complémentaire.. “Un algorithme ne peut pas faire ça”, confie l’un des modérateurs à la caméra d’ARTE dans un documentaire réalisé par la chaîne. Leur travail ? Supprimer tout ce qui est contraire aux règles de leur entreprise (et aux Droits de l’Homme) : travail des enfants, sexualité, terrorisme, harcèlement en ligne…

AndroidPIT shutterstock 558278971 Facebook
Nous nous plaignons du manque de réactivité de Facebook en matière de modération, mais sans les modérateurs elle serait bien pire encore. © shutterstock, AndroidPIT

Qui sont ces personnes ? D’où sortent-elles ? Voilà des questions difficiles à répondre car généralement ces mystérieux employés refusent de faire parler d’eux et restent dans l’ombre (pour leur propre sécurité, d'ailleurs). Le documentaire d’ARTE a montré que Facebook fait appel à des entreprises tierces pour modérer son réseau. S’il y en a un peu partout (notamment à Berlin et à Paris), ARTE a montré un bureau situé aux Philippines où des employés se rendent chaque jour à un bureau pour modérer des contenus. S’ils sont heureux d’avoir un travail qui leur permet de gagner leur vie, ils sont aussi nombreux à y aller à contrecoeur car ils y sont confrontés au pire que l’on puisse trouver sur Internet. Des psychologues du travail ont d’ailleurs montré qu’il y a un parallèle entre le traumatisme que vivent ces modérateurs et celui des soldats à la guerre.

Leurs journées consistent à approuver ou refuser des messages, photos ou vidéos. Qu’ils soient signalés par des utilisateurs ou détectés par l’Intelligence Artificielle, ces contenus doivent être vérifiés par un modérateur qui décidera s’il peut rester en ligne. Les modérateurs sont spécialisés dans une discipline qui les oblige généralement à visualiser des photos ou des vidéos difficilement soutenables. Ne nous méprenons pas, leur travail n’est pas uniquement une prise de décisions, ils doivent également mémoriser de nombreux éléments pour pouvoir effectuer un travail de qualité (par exemple les drapeaux et slogans des différents groupes terroristes).

“Je vais démissionner, il faut que j’arrête parce que je suis en train de partir en vrille”

La première difficulté pour les modérateurs est d’être psychologiquement / émotionnellement suffisamment fort pour endurer les horreurs qu’il voit au quotidien. “Horreurs” n’est en réalité qu’un euphémisme : tortures, viols, scènes d’une incroyable violence, pédophilie, voilà quelques exemples des scénarios qu’ils rencontrer régulièrement. A cela s’ajoutent bien évidemment d’innombrables problèmes de racisme, homophobie, etc.

Les événements en direct peuvent parfois poser de gros problèmes. Si un modérateur assiste à un suicide en direct, il ne peut pas intervenir, il n’est autorisé à couper le direct / supprimer la vidéo que lorsque l’image représente un mort. C’est assez paradoxal car les cadences sont généralement très élevées (10 secondes pour prendre une décision) alors qu’en direct ils doivent attendre une échéance que personne ne veut voir.

"On se met en position d'esclave mais il faut prendre conscience que tout cela n'est pas acceptable"
Modérateur anonyme

L’autre grand problème des modérateurs est l’incroyable pression qui repose sur leurs épaules. “Ce n’est pas un travail facile”, confie l’un des employés car la moindre erreur peut “coûter une vie ou plusieurs, déclencher une guerre, entraîner du harcèlement ou pousser au suicide”. Il est d’ailleurs arrivé que certains modérateurs, épuisés émotionnellement et plongés en dépression, recourent eux aussi au suicide.

De nombreux problèmes dans le concept

Il est intéressant de remarquer que d’une plateforme à une autre un contenu peut ne pas subir le même sort. Par exemple, une image peut être considérée comme une menace ou comme une satire. Nicole Wong, ancienne (haute) employée de Google et de l’administration politique de Barack Obama, a expliqué que la modération est parfois très délicate. Elle a donné l’exemple des vidéos de Saddam Hussein, l’une montrait la pendaison et l’autre le montrait mort, YouTube avait alors décidé de n’interdire que la deuxième car il n’y avait “aucune nécessité à montrer cela” alors que le premier pouvait être gardé dans une perspective historique.

L’un des modérateurs a déclaré “la plus grosse erreur que l’on puisse faire, c’est garder des photos de nu”. Cette conception très américaine / puritaine du monde est peut-être ce qui pose problème car la haine s’est installée. Par exemple, sous prétexte de liberté d’expression, de nombreux néo-nazis peuvent exprimer leurs idéaux et deviennent de plus en plus nombreux. Bien sûr, Facebook n’est pas la cause des problèmes, plutôt l’instrument, mais cela ne le dédouane pas.

"Sur les réseaux sociaux les gens s'enflamment facilement, ils croient comprendre un sujet avec simplement quelques bribes d'information"
Ed Lingo - Journaliste

Un ancien cadre de Facebook s’est exprimé sur la mentalité qui règne à la Silicon Valley : “ce qui est négatif, on n’en parle pas”. Des autruches, en somme, qui préfèrent se mettre la tête sous le sable et attendre que l’Union Européenne vienne les déranger. Facebook est une entreprise qui a beaucoup d’expérience en terme d’informatique, de produits, d’infrastructures, d’expérience utilisateurs, mais n’a aucune compétence en matière d’éditorial ou de droits d’auteur. Aujourd’hui, la politique est omniprésente sur Internet, particulièrement sur Facebook et Twitter, il faut trouver de véritables solutions.

Le plus tragique, c’est que ces géants (et particulièrement Facebook) ont beau faire de grands discours qui n’ont guère d’autres intérêts que leur permettre d’entendre le son de leur voix, le problème ne cesse d’empirer. Pire encore, il est amplifié selon cet ex-employé : “ce qui marche c’est le sentiment d’indignation. Facebook attire davantage de personnes avec des contenus entraînant l’indignation qu’en les supprimant”, “Facebook contribue à répandre la haine”.

14 Commentaires

Ecrire un nouveau commentaire :
Tous les changements seront sauvegardés. Aucun brouillon n'est enregistré pendant l'édition

  • “…leurs plus fidèles fan(atique)s“
    Aie, jeu de mot raté car fan est justement le diminutif de fanatic

    La censure youtube c’est l’hypocrisie us plein pot !
    On a le droit de poster un meurtre mais si c’est la vidéo d’une personne qui se prend une gifle c’est censuré par ce que “C’est trop violent“

    Il y a aussi les mots censurés parce qu’ils font peur.
    Arabe ou musulman fait souvent trembler les modos qui ont peur de recevoir des menaces voir une décente a la “Charlie Hebdo“

    “…à l’aide de l’Intelligence Artificielle“
    Il faut arrêter de galvauder ce mot, il y a quelques intelligences artificielles sur terre et aucune n’est accessible au grand public.

    Sujet pas mal décrit, bravo Benoit Pepicq !


  • Luna depuis 2 mois Lien du commentaire

    Critiquer c'est une chose, y participer c'en est une autre.
    Je déteste Facebook et toute sa famille Instagram, WhatsApp, Snapchat.
    Je ne perds pas mon temps à critiquer , je ne participe pas et c'est difficile dans son quotidien, car on est jugé négativement.
    Dans cette société , où on a le droit d'être Vegan , il est interdit de ne pas consommer les réseaux sociaux !!


    • Oui, cela s'appelle le politiquement correct directement issu du libéralisme ultra dans lequel on baigne.
      J'ai sûrement plus de chances que toi car un certain nombre de mes amis ne souhaitent même pas savoir ce que sait (les réseaux sociaux) et d'autres s'y complaisent sans y sentir de problème particulier, probablement la manière dont ils s'en servent ne provoquent pas (encore ?) d'addiction irréversible...


    • Je suis d'accord avec toi Luna, sauf pour WhatsApp qui est très pratique et qui permet bien plus de choses que les SMS/MMS. Aucun problème d'addiction non plus, on écrit si on en a besoin, contrairement aux réseaux sociaux qui deviennent une drogue dure si personne dans notre entourage ne peut nous raisonner. Quant à espérer se raisonner soi-même, pas la peine d'essayer, c'est l'histoire du fou qui s'ignore.


      • Luna depuis 2 mois Lien du commentaire

        Tu te trompes, WhatsApp , des trois, est le plus dangereux. Derrière une fausse intimité, ce sont tous nos messages qui sont collectés par Facebook, sans parler de ce système de communication en groupe qui ne sont que des communications virales.
        Très addictives, qui racontent n'importe quoi au plus près de son intimité , cellesqui causent le plus de dégâts.


      • Enfin cela "accroche" surtout les déjà-dépendants ou les esprits très faibles qui sont déjà assujettis à d'autres systèmes faussement alléchants.

        Le fait que Facebook récupère sur ce réseau les données personnelles est un autre grief que le jugement des autres ou la dépendance même s'il mérite que l'on en parle.


  • L'un des moteurs de notre économie concernant spécifiquement les individus est la frustration devant entraîner l'acte d'achat.

    Étant donné que le pouvoir d'achat de la majorité des citoyens des pays développés (ceux de l'OCDE ont vu leurs revenus stagnés ou régressés, tous les pays méditerranéens, la Turquie, le Brésil, l'Argentine,...) et depuis la dernière crise de 2008 leurs frustrations devant les incertitudes grandissantes concernant de multiples problèmes, sécurité (imaginaire ou non) emploi, dégradation de leur santé physique ou psychique devant cette incertitude économique, angoisses diverses comme le terrorisme entretenues par des médias ultra-dominants, les besoins de s'échapper de cette violence ordinaire dans un monde virtuel apparemment bien plus rassurant où tout paraît n'avoir qu'une réalité incertaine et sans conséquences réelles, les instincts se lâchent.

    Les personnes dont le travail consiste à réguler cette violence en retour reçoivent en conséquence ces frustrations accumulées qui leur est très difficile sinon impossible à maîtriser.

    Comme souvent, ces personnes qui travaillent dans l'ombre sont la face cachée de la belle vitrine des réussites technologiques et économiques de ces géants dont on nous abreuvent à longueur de journée. Sont-ils bien payés ? l'histoire et l'article ne le dit pas mais on peut le deviner.
    Je remercie AndroidPIT de nous le rappeler.

    S'il fallait faire le bilan global entre le côté positif et le négatif en ayant la connaissance de la totalité des faits qui constitue ce monde merveilleux du web, il paraîtrait sûrement bien moins glorieux qu'il souhaite le proclamer.


    • Une petite info incidente entendue ce matin sur France-Culture, Jeff Bezos, le CEO d'Amazon, s'est engagé à verser 2 milliards de $ par an pour essayer de donner une éducation gratuite à la démocratie aux personnes déboussolées aux États-Unis.

      Tentative d'une entreprise de se substituer aux États pour justifier sa nécessité de gouverner le monde ? L'info ne le précisait pas, je l'ai interprété comme cela.
      Le groupe Bilderberg ne cherche pas autre chose.

      https://www.youtube.com/watch?v=mvdAz-NEcbI


      • Benoit Pepicq
        • Admin
        • Staff
        depuis 2 mois Lien du commentaire

        Il a été élu pire patron au monde et il est directeur d'une entreprise qui a fait la une des journaux pour ses problèmes avec le fisc, il a donc besoin de redorer son image. Comme les grandes entreprises high-tech font partie des champions incontestés de l'hypocrisie, il est donc peu surprenant de le voir aujourd'hui jouer au bon samaritain. Ceci dit, si ses intentions sont discutables, l'argent sera utile à ceux qui en ont besoin donc il y a du positif dans ce geste.


      • La démocratie selon Saint Jeff Bezos dans un système qui vit dans l'oligarchie la plus complète depuis plus d'un siècle et dont il est l'un des "plus dignes représentants" aujourd'hui me permet de douter du bon emploi de cette somme considérable.
        Très curieux de voir comment ses moyens financiers seront effectivement utilisés.

        En début d'après-midi, à l'émission "La grande Table" (2ème partie, toujours sur France-Culture), une économiste proche de Benoît Hamon, pas vraiment une extrémiste donc, interrogée sur le financement de la démocratie aux USA a bien montré comment Barack Obama a réduit à bien peu le financement public et les plus petits contributeurs pendant qu'il a beaucoup "travaillé" les plus grands pour se faire réélire. Elle a ainsi expliqué comment ce pays en est arrivé à faire le jeu d'un D. Trump.

        Pour son livre, elle a enquêté sur 10 pays (France y compris) sur une période de 50 ans concernant les méthodes de financement de la démocratie et explique le tournant que l'on constate aujourd'hui avec un retour général des gouvernements autoritaires.
        Difficile de verser dans l'optimisme dans ces conditions pour le résultat de la générosité et les vertus du Joyeux Samaritain libertarien.

        https://www.franceculture.fr/emissions/la-grande-table-2eme-partie/la-democratie-a-qui-paie-gagne

        Pour autant, je reconnais qu'il ne faut prendre tout cela pour argent comptant et que défendre son annonceur de cette manière est très courageux. On ne verrait pas cela ailleurs.


      • C'est toujours le même plaisir de te lire Louis 👌
        Nous sommes sur la même longueur d'ondes, je n'ai rien à ajouter à ton excellente analyse de ce monde..."Bilderbergien"...


      • Je dois probablement passer pour un irascible, un suspicieux ou un complotiste au yeux de personnalités plus positives. Mais bon, à 60 ans on ne se refait pas si facilement et quand on a vu "évoluer" le monde dans le mauvais sens de manière aussi constante, il n'est pas évident de penser le temps des solutions revenu.

        Même si l'Age d'Or n'a jamais existé, le "c'était mieux avant" trompeur ne doit pas nous faire oublier cette accumulation de problèmes de civilisation qui s'empilent sans qu'on puisse imaginer qui peut et veut réellement les régler.

        Tous ces problèmes connaissent pourtant leurs solutions mais d'aucun ne tient à prendre le risque de tenter le coup.
        L'éternel "homme exceptionnel" sauveur de la situation n'existe que si les circonstances le permettent mais le fait de sursoir systématiquement ne peut rendre les résolutions que plus délicates, financièrement plus onéreuses et acceptables que dans des régimes autoritaires, tout l'inverse que je souhaite.


      • Je pense que tu es dans le vrai et que si l'on a suffisamment de recul et que l'on est lucide sur notre monde, on ne peut logiquement qu'aboutir à ton raisonnement. Mais les gens lucides se font apparemment de plus en plus rares.

Articles recommandés