Nous utilisons des cookies sur nos sites web. Des informations sur les cookies et sur la manière dont vous pouvez vous opposer à leur utilisation à tout moment ou mettre fin à leur utilisation sont disponibles dans notre Déclaration de protection des données.

Comment l'algorithme de YouTube facilite l'exploitation des enfants

Comment l'algorithme de YouTube facilite l'exploitation des enfants

YouTube et la modération de contenus sont deux concepts que l'on aimerait bien voir enfin s'accorder. Le service de partage de vidéos est souvent lent à réagir lors de la publicitation de contenus obscènes et inappropriés, même lorsque les vidéos en question étaient destinées aux enfants. Vous avez probablement déjà entendu parler du scandale d'ElsaGate ou de la vidéo de Logan Paul sur le suicide dans la forêt qui illustrent bien le problème. Pourtant, ni l'un ni l'autre ne sont aussi choquants que le fait que l'algorithme vidéo de YouTube a été trouvé pour faciliter l'exploitation sexuelle des mineurs.

Cette histoire a été découverte par le YouTuber MattWhatItIs (Matt Watson). Dans une vidéo, il montre comment un terme de recherche relativement inoffensif comme " bikini haul " suivi de quelques clics sur des vidéos connexes peut vous mener à ce qu'il décrit comme un " vortex " de pédophilie. Il a utilisé un tout nouveau compte YouTube et un VPN, de sorte qu'aucune recherche antérieure n'a pu affecter les recommandations. Résultat : la barre latérale et la page d'accueil étaient remplies de vidéos de mineurs, certaines de ces vidéos montraient même des mineurs se déshabiller.

Nous avons décidé de ne pas intégrer directement la vidéo dans cet article. Attention : si vous décidez de le regarder, vous pouvez le faire ici, mais vous devez savoir qu'elle contient du contenu inapproprié. Néanmoins, elle démontre très clairement comment l'algorithme YouTube fonctionne en faveur des pédophiles.

L'expérience de Watson est très facile à reproduire et j'ai eu une expérience très similaire en essayant ce qu'il a décrit dans la vidéo. Quelle en est la cause ? Le coupable évident est l'algorithme de YouTube. Si vous avez déjà cliqué sur une vidéo en tête de liste, vous savez probablement à quel point elle peut devenir agressive en recommandant le même type de contenu encore et encore. Bien qu'il ne s'agisse que de spéculation, il est possible qu'il ait été conçu de cette façon pour encourager le "binge watching" et ainsi générer plus de revenus pour la plateforme grâce à la publicité. Cependant, il n'a peut-être pas été prévu pour rendre les choses comme elles le sont aujourd'hui.

youtube recommendations
C'est ce qu'un utilisateur de Reddit affirme que sa page d'accueil est devenue après avoir cliqué sur une vidéo de Jordan Peterson. / UnspecifiedIndex, Reddit

Quoi qu'il en soit, YouTube devrait être conscient de la facilité avec laquelle l'algorithme peut être exploité. L'expérience de Matt Watson a également révélé qu'il y avait beaucoup de vidéos innocentes (des enfants faisant de la gymnastique, parlant devant la caméra, etc) qui ont été piratées par un réseau pédophile. Les prédateurs affichaient des commentaires sexuels dégoûtants, ou recommandaient de visionner une minute précise de la vidéo montrant les enfants dans des positions compromettantes ou suggestives. Et ce n'est pas tout, souvent, les vidéos qui figuraient dans ces recommandations ont été téléchargées de nouveau, et beaucoup d'entre elles ont été monétisées.

Quelles sont les mesures prises par YouTube ?

Cela arrive malgré les promesses de YouTube de modérer fortement tout contenu destiné aux enfants ou impliquant des enfants. L'an dernier, la plateforme de partage de vidéos a décidé de désactiver complètement les commentaires dans les vidéos pour enfants si des commentaires inappropriés étaient repérés. À l'époque, l'entreprise a également retiré les publicités de plus de 2 millions de vidéos et de 50 000 chaînes se faisant passer pour des divertissements familiaux. Pourtant, comme nous pouvons le constater grâce à Matt Watson, le système n'est toujours pas au point.

Même lorsque YouTube tente de prendre les choses en main, de nombreux créateurs de contenu innocents sont pris entre deux feux. Il y a quelques jours à peine, l'algorithme YouTube a faussement mis fin à plusieurs chaines populaires de Pokémon GO parce qu'il comprenait l'abréviation CP (points de combat) pour quelque chose de beaucoup plus sinistre.

Cela ne fait que souligner les limites des algorithmes et de l'intelligence artificielle. Que peut faire YouTube ou Google à ce sujet ? 400 heures de vidéo sont téléchargées sur le site web chaque minute. YouTube est devenu un tel poids lourd sur le marché de la vidéo en ligne qu'il est impossible de contrôler tout le contenu rapidement et avec précision. Cependant, limiter le nombre de vidéos qui peuvent être téléchargées pourrait paralyser complètement la plate-forme, étant donné que Google perd déjà de l'argent avec YouTube.

L'embauche d'un plus grand nombre de personnes est-elle la solution au problème ? Il s'agit d'une étape que l'entreprise a déjà franchie en 2017 en embarquant 10 000 personnes dans le but d'assainir YouTube. Selon The Telegraph, le site Web de partage de vidéos fonctionne également avec une communauté "Trusted Flagger", composée d'organismes d'application de la loi et d'organismes de protection de l'enfance. Toutefois, au cours d'une période de 60 jours, la collectivité a soulevé des préoccupations dans 526 cas, mais n'a reçu de réponses qu'à 15 de ses rapports.

Flagging 101
Comment le marquage fonctionne actuellement sur YouTube. © YouTube

Un député l'a dit au Telegraph : "Ils[YouTube] ont systématiquement omis d'allouer les ressources, la technologie et le travail nécessaires pour analyser ne serait-ce que le minimum des rapports sur les pédophiles dans un délai adéquat." Ils ont également suggéré que YouTube doit "changer sa position de réactive à proactive" si quelque chose doit changer.

Il n'est pas difficile d'être d'accord avec ce qu'ils ont à dire : une première étape importante pour devenir plus proactif serait d'anticiper la présence d'un tel contenu et d'ajuster l'algorithme en conséquence, rendant plus difficile sa découverte ou sa suppression complète. Nous nous attendons peut-être à un peu trop, cependant - YouTube n'a même pas commenté les conclusions de Matt Watson, ni répondu à son hashtag #YouTubeWakeUp qui apparaît dans les réponses aux tweets de l'entreprise.

Ce que vous pouvez faire

Bien sûr, YouTube est responsable de ce qui se passe sur sa plateforme. Les enfants de moins de treize ans ne sont techniquement pas autorisés à avoir un compte sur le site Web à moins qu'il ne soit créé via Family Link, mais cela est difficile à appliquer. C'est pourquoi les parents doivent aussi assumer leurs responsabilités, surtout s'ils téléchargent des vidéos de leurs enfants ou les laissent utiliser YouTube sans surveillance. Il n'y a pas d'excuses, comme de plus en plus de millénaires deviennent (ou le sont déjà) parents, ils devraient à la fois connaître les dangers d'Internet et avoir les connaissances techniques nécessaires pour surveiller l'activité en ligne de leurs enfants.

family devices 02
Internet n'est pas toujours un lieu convivial et l'activité des mineurs sur Internet doit être surveillée. © LightField Studios / Shutterstock

Le simple fait de parler à vos enfants et d'expliquer que tout le monde n'est pas bien intentionné en ligne peut aussi faire la différence. Bien que le Web soit devenu très différent de ce que c'était lorsque j'ai commencé à l'utiliser, mes parents m'ont appris à ne pas révéler mes renseignements personnels à des étrangers, à ne pas m'engager avec des gens qui se comportent bizarrement et à éviter les forums de discussion en général. J'ai pris ce conseil à cœur et cela m'a permis de vivre une expérience en ligne plus sûre.

Donc, oui, bien qu'il soit dégoûtant que l'exploitation sexuelle des mineurs ait eu lieu juste sous le nez de YouTube, nous devrions prendre des mesures pour protéger nous-mêmes les enfants. Aviez-vous entendu parler de ce problème ? Quelle solution y voyez-vous ?

Articles recommandés

1 commentaire

Ecrire un nouveau commentaire :
Tous les changements seront sauvegardés. Aucun brouillon n'est enregistré pendant l'édition
Ecrire un nouveau commentaire :
Tous les changements seront sauvegardés. Aucun brouillon n'est enregistré pendant l'édition

  • Luna depuis 8 mois Lien du commentaire

    😱Il ne faut donc pas laisser ses enfants tout seul derrière un écran !!

    Et pour Snapchat ça compte pour ses enfants de moins de 13 ans et Tik Tok plus tous les autres qui suivent derrière ça compte ou pas ?