Guerre cognitive : faut-il reprendre en main les algorithmes des réseaux sociaux ? > Réponse Politique & Société sujet

Arnold de Schartzenprout a écrit :

Perso, l'informatique n'est pas mon domaine, mais est-ce qu'un algorithme peut détecter le mal-être chez quelqu'un et lui proposer des choses qui vont l'aider au contraire de celui de Tik Tok qui va au contraire l'enfoncer ? Ca ne me semble pas impossible d'avoir un algorithme "bienveillant" ou protecteur.

Ce n'est pas impossible du tout : un algorithme peut environ faire ce qu'on veut qu'il fasse, à condition de savoir le décrire efficacement.

Dans les cas que tu décris (et qui sont effectivement problématiques), il est difficile de déterminer s'il y a eu une intention de la part des concepteur d'un RS d'orienter les gens vers des contenus négatifs, ou s'ils se basent uniquement sur des formules généralistes qui donnent ce résultat dans ce cas précis (les formules généralistes ayant pour objectif de maximiser l'engagement, pas vraiment de nuire au public, d'ailleurs on ne comprend pas bien quel serait l'intérêt d'une plateforme comme tiktok de pousser ses clients au suicide). Ça ne change pas grand chose au fait que le résultat est fautif.

Et puis il y a aussi la question de comment on peut trouver de tels contenus en accès libres

La modération des contenus accessibles en ligne est un problème difficile. La plupart des réseaux sociaux ont (ou ont eu) des équipes dédiées à la modération en temps réel du contenu, et on parle d'un métier insupportable et délétère pour la santé mentale (genre tomber à 8h sur des vidéos de décapitation d'enfants). Je ne comprends pas bien ce que tu proposes, mais sans doute peux-tu imaginer que si tu disposes d'une solution simple, sans doute que d'autres y ont pensé et qu'elle ne marche pas.