K a écrit : On a un comportement qui montre un intérêt pour un sujet X, et du coup la plateforme dont l'objectif est de te faire voir du contenu qui t'intéresse te montre du contenu du sujet X.
Alors ce n'est pas tout à fait le cas de figure. En gros, les personnes ont regardé quelque chose en lien avec leur supposé mal-être et on leur propose un mode d'emploi pour se suicider ou se mutiler, ce qui n'est pas la même chose. Pour reprendre ta formulation, à un intérêt pour un sujet X, on lui propose un sujet dérivé de X, connexe à X, mais ce sujet dérivé de X pourrait tout autant être un tuto pour aller mieux non ?
Je grossis le trait mais si demain quelqu'un de ton entourage te dit qu'il ne se sent pas bien, tu ne vas pas lui dire "la pendaison c'est rapide et très efficace" au bout de 45 minutes. Au contraire, tu vas essayer de l'écouter et de l'aider à s'en sortir.
Ou si demain tu fais une recherche sur un problème de niveau d'huile dans ta voiture, tu vas te voir proposer des liens pour faire ta vidange, pas un lien pour détruire ta voiture.
Je trouve très suspect donc que l'algorithme propose à une situation de mal-être quelque chose d'encore plus négatif.
Perso, l'informatique n'est pas mon domaine, mais est-ce qu'un algorithme peut détecter le mal-être chez quelqu'un et lui proposer des choses qui vont l'aider au contraire de celui de Tik Tok qui va au contraire l'enfoncer ? Ca ne me semble pas impossible d'avoir un algorithme "bienveillant" ou protecteur.
Et puis il y a aussi la question de comment on peut trouver de tels contenus en accès libres. Il y a des outils de modération automatique très voire trop réactifs sur les réseaux sociaux ou sur les chaînes Youtube (genre si tu parles d'une tapette à mouche ou à souris, tu te fais modérer parce que le mot "tapette" sera automatiquement associé à un propos homophobe), mais un tuto suicide ou mutilation ça passe étrangement sous les radars.
Je vois plus la reprise en mais des algorithmes sous cet angle sur ce point précis.
