Guerre cognitive : faut-il reprendre en main les algorithmes des réseaux sociaux ? > Réponse Politique & Société sujet

Uncurieux a écrit :

La modération des contenus accessibles en ligne est un problème difficile. La plupart des réseaux sociaux ont (ou ont eu) des équipes dédiées à la modération en temps réel du contenu, et on parle d'un métier insupportable et délétère pour la santé mentale (genre tomber à 8h sur des vidéos de décapitation d'enfants).

A noter que la modération par IA n'est (à ma connaissance) pas une solution à ce problème.

Pour entraîner une IA à reconnaître les contenus délétères, il faut l'éduquer. C'est à dire qu'il faut des gens dont le travail est de regarder non-stop des images choquantes (ou des textes choquants etc), pour les tagger "modérable/non-modérable", pour que l'IA puisse s'entraîner. C'est sans doute le pire métier se pratiquant entre une chaise et un clavier - encore pire que le taf de modération d'un réseau social.

Peut-être que je me trompe ; j'espère. Mais je crois pas.