Guerre cognitive : faut-il reprendre en main les algorithmes des réseaux sociaux ?

Les stratégies d'influence ont toujours existé, mais avec l'essor du numérique, elle a pris une forme beaucoup plus diffuse au sein de nos société avec les réseaux sociaux, l'IA générative et la concentration du pouvoir algorithmique entre quelques mains.
Plusieurs enquêtes ont été ouvertes ces derniers mois, notamment sur les algorithmes utilisés par Tik Tok.
L'Armée de Terre a développé une unité spécialisée pour constituer une armée numérique et lutter à la fois contre les cyber-attaques, les campagnes de désinformation, et tout ce qui touche aux questions de sécurité et de défense liées au numérique.
Les fermes à trolls sont de plus en plus grandes, et les réseaux sociaux sont le principal moyen de diffusion.
Pour en revenir à Tik Tok, les algorithmes sont différents selon qu'ils s'adressent à la jeunesse chinoise ou au reste du monde. Développant la curiosité pour les sciences et la culture, ainsi que le patriotisme pour les jeunes Chinois, ou au contraire, développant l'abêtissement, ou pire, le mal-être. Une récente enquête sur le fait de pousser au suicide ou à la mutilation chez les jeunes est édifiante.

Forts de tous ces constats, une stratégie de défense doit pouvoir être trouvées, mais elle risque aussi de venir en contradiction avec la grand promesse de liberté qu'offre internet, en la restreignant.

Du coup, la question est dans le titre : faut-il reprendre en main les algorithmes des réseaux sociaux ?
Censure, shadowbanning, autres techniques. Comment s'y prendre ? Jusqu'où faut-il aller ?
Et bien sur, la question induit une énorme question : quel est le danger quant à l'accès à l'information ?

Pour moi, c'est cette dernière question qui est primordiale, car je pense que la reprise en main de ces algorithmes est nécessaire, mais j'y vois aussi les effets pervers d'une censure et d'un conditionnement "national" pour lutter contre un conditionnement "international".
Afin de protéger nos libertés tout en nous protégeant des intoxications étrangères, je ne sais pas trop ce qui est faisable.

*zip*

K a écrit :

On a un comportement qui montre un intérêt pour un sujet X, et du coup la plateforme dont l'objectif est de te faire voir du contenu qui t'intéresse te montre du contenu du sujet X.

Alors ce n'est pas tout à fait le cas de figure. En gros, les personnes ont regardé quelque chose en lien avec leur supposé mal-être et on leur propose un mode d'emploi pour se suicider ou se mutiler, ce qui n'est pas la même chose. Pour reprendre ta formulation, à un intérêt pour un sujet X, on lui propose un sujet dérivé de X, connexe à X, mais ce sujet dérivé de X pourrait tout autant être un tuto pour aller mieux non ?
Je grossis le trait mais si demain quelqu'un de ton entourage te dit qu'il ne se sent pas bien, tu ne vas pas lui dire "la pendaison c'est rapide et très efficace" au bout de 45 minutes. Au contraire, tu vas essayer de l'écouter et de l'aider à s'en sortir.
Ou si demain tu fais une recherche sur un problème de niveau d'huile dans ta voiture, tu vas te voir proposer des liens pour faire ta vidange, pas un lien pour détruire ta voiture.

Je trouve très suspect donc que l'algorithme propose à une situation de mal-être quelque chose d'encore plus négatif.
Perso, l'informatique n'est pas mon domaine, mais est-ce qu'un algorithme peut détecter le mal-être chez quelqu'un et lui proposer des choses qui vont l'aider au contraire de celui de Tik Tok qui va au contraire l'enfoncer ? Ca ne me semble pas impossible d'avoir un algorithme "bienveillant" ou protecteur.

Et puis il y a aussi la question de comment on peut trouver de tels contenus en accès libres. Il y a des outils de modération automatique très voire trop réactifs sur les réseaux sociaux ou sur les chaînes Youtube (genre si tu parles d'une tapette à mouche ou à souris, tu te fais modérer parce que le mot "tapette" sera automatiquement associé à un propos homophobe), mais un tuto suicide ou mutilation ça passe étrangement sous les radars.

Je vois plus la reprise en mais des algorithmes sous cet angle sur ce point précis.

Arnold de Schartzenprout a écrit :

Perso, l'informatique n'est pas mon domaine, mais est-ce qu'un algorithme peut détecter le mal-être chez quelqu'un et lui proposer des choses qui vont l'aider au contraire de celui de Tik Tok qui va au contraire l'enfoncer ? Ca ne me semble pas impossible d'avoir un algorithme "bienveillant" ou protecteur.

Ce n'est pas impossible du tout : un algorithme peut environ faire ce qu'on veut qu'il fasse, à condition de savoir le décrire efficacement.

Dans les cas que tu décris (et qui sont effectivement problématiques), il est difficile de déterminer s'il y a eu une intention de la part des concepteur d'un RS d'orienter les gens vers des contenus négatifs, ou s'ils se basent uniquement sur des formules généralistes qui donnent ce résultat dans ce cas précis (les formules généralistes ayant pour objectif de maximiser l'engagement, pas vraiment de nuire au public, d'ailleurs on ne comprend pas bien quel serait l'intérêt d'une plateforme comme tiktok de pousser ses clients au suicide). Ça ne change pas grand chose au fait que le résultat est fautif.

Et puis il y a aussi la question de comment on peut trouver de tels contenus en accès libres

La modération des contenus accessibles en ligne est un problème difficile. La plupart des réseaux sociaux ont (ou ont eu) des équipes dédiées à la modération en temps réel du contenu, et on parle d'un métier insupportable et délétère pour la santé mentale (genre tomber à 8h sur des vidéos de décapitation d'enfants). Je ne comprends pas bien ce que tu proposes, mais sans doute peux-tu imaginer que si tu disposes d'une solution simple, sans doute que d'autres y ont pensé et qu'elle ne marche pas.

Uncurieux a écrit :

La modération des contenus accessibles en ligne est un problème difficile. La plupart des réseaux sociaux ont (ou ont eu) des équipes dédiées à la modération en temps réel du contenu, et on parle d'un métier insupportable et délétère pour la santé mentale (genre tomber à 8h sur des vidéos de décapitation d'enfants).

A noter que la modération par IA n'est (à ma connaissance) pas une solution à ce problème.

Pour entraîner une IA à reconnaître les contenus délétères, il faut l'éduquer. C'est à dire qu'il faut des gens dont le travail est de regarder non-stop des images choquantes (ou des textes choquants etc), pour les tagger "modérable/non-modérable", pour que l'IA puisse s'entraîner. C'est sans doute le pire métier se pratiquant entre une chaise et un clavier - encore pire que le taf de modération d'un réseau social.

Peut-être que je me trompe ; j'espère. Mais je crois pas.

gloubi a écrit :

Il me semble que les décisions prises par les modérateurs sur les principaux RS sont enregistrées pour entrainer des IA à le faire ensuite. C'est problématique dans certains cas (un changement de contexte peut changer les critères et les rendre caduques, typiquement), mais à ce niveau tout ce qui permet de réduire le nombre de travailleur.euse.s en PTSD me semble bon à prendre.

Uncurieux a écrit :

Je ne comprends pas bien ce que tu proposes, mais sans doute peux-tu imaginer que si tu disposes d'une solution simple, sans doute que d'autres y ont pensé et qu'elle ne marche pas.

Je propose déjà de s'emparer du sujet. Je ne prétends pas qu'il y a de solution simple, mais avoir conscience du problème et agir au niveau de l'Etat.
C'est d'ailleurs assez drôle, car je viens d'avoir l'info : la Grèce va interdire les réseaux sociaux aux moins de 15 ans à partir de l'an prochain.
L'adolescence est probablement une des périodes les plus compliquées à traverser, fixer l'âge à 15 ans n'est pas déconnant.
Je trouve toutefois que cette interdiction est justement un aveu d'impuissance à gérer le problème des algorithmes. Je rappelle que dans l'introduction, j'avais parlé du fait que l'algorithme de Tik Tok n'était visiblement pas le même en Chine mais propose des contenus éducatifs. Je partage là deux liens sur le sujets :
- Lien 1 : Tiktok, outil éducatif seulement en Chine.
- Lien 2 : la Chine utilise t'elle tiktok pour abrutir les enfants europeens.

La Chine ne laisse pas le choix aux plateformes quant à ce qu'elles diffusent, du fait de la censure, et la plateforme est obligée de collaborer avec les autorités. De plus elle limite à 40 minutes d'utilisation par jour.

Evidemment, tout peut se contourner, mais sans volonté d'agir dans cette guerre cognitive, c'est open bar pour ce genre de situation.

Arnold de Schartzenprout a écrit :

Je propose déjà de s'emparer du sujet.

Ça fait un moment que des tas de gens se sont emparés du sujet, il y a une carte ici des endroits où les RS sont bannis.

Et ça me semble l'opposé d'une bonne idée : il y a plein de jeunes qui ont utilisé les RS pour se connecter avec d'autres personnes dont ils se sentent proches, et le ban des RS leur retire aussi cette possibilité. Bien entendu les moyens techniques pour bannir les jeunes s'accompagnent de surveillance des adultes, et souvent de mesures réactionnaires (typiquement rendre les contenus LGBT ou contenant des personnages LGBT inaccessibles aux enfants). Enfin, l'apprentissage du fonctionnement des RS ne peut pas s'envisager sans y être présent : on n'apprend pas à conduire en circuit fermé.

L'approche éducative (mise en place en France avec le programme de SNT enseigné à tou.te.s en seconde) est une alternative bien plus séduisante à mon avis. Encore faudrait-il que ce soit correctement enseigné (ce n'est pas le cas aujourd'hui).

Uncurieux a écrit :

Ça fait un moment que des tas de gens se sont emparés du sujet, il y a une carte ici des endroits où les RS sont bannis.

Pas bannis, mais qui donne les limitations d'âge par pays.
C'est d'ailleurs assez cocasse de voir que la France a une limite d'âge pour l'utilisation des RS plus élevée que la Chine, où elle est à 13 ans. Comme quoi, ce n'est pas là le facteur le plus important, mais la qualité du contenu.
Franchement, je ne trouve pas que l'on puisse dire que la France s'est véritablement emparée du sujet.

Après, pour les cours de SNT, je te rejoins : ce n'est pas du tout bien enseigné. Ca n'a même rien à voir avec ce dont on parle quand tu regardes ce qui est enseigné en cours, ce sont plus des cours d'informatique, en tout cas, chez moi.
Je ne sais pas si l'EN a fixé une feuille de route précise concernant ces cours et l'objectif pédagogique. En tout cas aujourd'hui, ça ne répond pas à la problématique dont on parle.

Arnold de Schartzenprout a écrit :

Je ne sais pas si l'EN a fixé une feuille de route précise concernant ces cours et l'objectif pédagogique.

Est-ce que tu saurais prendre l'habitude de chercher et de poser les questions (à un moteur de recherche si besoin) avant de poster ? Le cours de SNT dispose d'un programme, comme 100% des enseignements dispensés par l'EN. T'as même le droit de le lire, c'est une info publique.

Tiens, pour illustrer ce que je dis sur le fait que les limitations juridiques des réseaux sociaux conduisent à des absurdités qui nuisent à la jeunesse : selon les lois adoptées au Massachusetts, la définition de "média social" est « un site web public, un service en ligne, une application en ligne ou sur mobile qui affiche des contenus principalement générés par les utilisateurs/trices et autorise les utilisateurs/trices à créer, partager et voir des contenus avec d'autres utilisateurs/trices, sachant que cette définition exclut les emails, le stockage cloud, les SMS, MMS, RCS ou systèmes équivalents de télécommunication, ou services d'édition collaboratifs ».

Ce qui fait que Wikipedia doit, pour rester légale dans cet état, forcer une vérification d'age… Et on parle pourtant d'un état plutôt démocrate.

On ne peut pas juger le besoin de régulation des réseaux sociaux en se basant sur les décisions les plus mauvaises ou les moins adaptées.

Peu importe que l'on parle de la jeunesse ou des adultes, le besoin est réel, le problème est qu'on est à la frontière entre la censure et la liberté, avec une frontière très mince, et évidemment, une instrumentalisation des uns et des autres pour alimenter les fantasmes.

Le DSA et le DMA , règlements européens concernant les services numériques, peuvent faire peur parce que comme toute loi, elle peut être bien ou mal utilisée par les pouvoirs en place. Quand on parle d'alimenter les fantasmes, Elon Musk et VD Vance ont largement décrié le DSA, l'accusant de vouloir limiter la liberté d’expression et à annuler des élections simplement parce qu’un résultat ne nous convient pas, l'annulation des élections en Roumanie servant en toile de fond. Ils oublient vite que les USA ont été concernés par des ingérences russes en 2016, en faveur de Trump.

Pourtant, le DSA a pour vocation d'empêcher les manipulations et les ingérences étrangères, et de garantir aux usagers/citoyens de pouvoir s’informer librement, sans devenir la proie des manipulations de l’information et à limiter la diffusion en ligne de contenus haineux, pédopornographiques, terroristes, et la diffusion de produits illicites (contrefaits ou dangereux). Nous protéger quoi...
Un autre enjeu majeur du DSA est de résister aux pressions exercées par Big Tech. Certaines entreprises choisissent de se conformer aux règles, d'autres tentent activement d'en exploiter les failles, grâce à leurs armées d'avocats.

On peut aussi adapter nos pratiques non numériques aux risques d'ingérences. En terme d'actions pro-actives, David Chavalarias fait une proposition que je trouve vraiment audacieuse dans son livre "Toxic Data" concernant notre mode de scrutin "en adoptant par exemple le jugement majoritaire, système de vote beaucoup moins manipulable et qui rend impossible l’élection d’une personne rejetée par une majorité"


Sur ce lien ci-dessus, vous verrez deux choses très intéressantes sur notre élection présidentielle de 2017 avec un graphe représentant le volume de désinformation par candidat.
Pour ceux qui ne souhaitent pas cliquer sur ce lien, je copie-colle deux passages assez éloquents.

- Par exemple, en 2017, de très nombreux messages hostiles à Benoît Hamon, Jean-Luc Mélenchon ou Emmanuel Macron reprenant les codes des communautés politiques de François Fillon et Jean-Luc Mélenchon, étaient écrits par des personnes étrangères, a priori des membres de l’extrême droite américaine que nous avons pu suivre sur le forum 4chan. À l’occasion d’élections importantes, ces communautés s’organisent en ligne pour tenter de faire avancer l’agenda de cette nouvelle extrême droite internationalisée.


-Infléchir l’opinion de 10 % des utilisateurs peut être suffisant pour arriver à ses fins, quand on sait que 10 % des utilisateurs français de Twitter représentent 900 000 personnes. C’est plus que l’écart de voix entre Marine Le Pen et Jean-Luc Mélenchon ou François Fillon pour passer le premier tour en 2017.

Arnold de Schartzenprout a écrit :

On ne peut pas juger le besoin de régulation des réseaux sociaux en se basant sur les décisions les plus mauvaises ou les moins adaptées.

Je suis d'accord. On peut essayer de gagner en généralité : il n'existe aucun système qui interdit l'accès aux enfants sans nuire à la liberté d'expression des adultes (en compromettant leur accès aux ressources ou leur anonymat).

L'exemple des mauvaises législations sert surtout a illustrer ce que je disais : si tu penses à un moyen simple, il est sans doute mauvais.

Pour le reste je te rejoins aussi sur la gravité des ingérences politiques, d'où l'importance de ne pas citer n'importe quelle source aveuglément, par exemple des officines ultra libérales...

Uncurieux a écrit :

Pour le reste je te rejoins aussi sur la gravité des ingérences politiques, d'où l'importance de ne pas citer n'importe quelle source aveuglément, par exemple des officines ultra libérales...

Il ne faut pas confondre manipulation et développer un esprit critique. Comme je le résume souvent : thèse, antithèse, synthèse.
N'avoir qu'une vision c'est de la manipulation, avoir des courants de pensée différents c'est developper son esprit critique, et cela sans forcément choisir un courant plutôt qu'un autre, trouver des approches non manichéennes.

Mais là on s'éloigne du sujet. Enfin, ça dépend comment on appréhende les choses. Le conditionnement on le subit avec ou sans les réseaux sociaux. Si on va par là, l'école c'est déjà un conditionnement à vivre en société, à suivre des règles, à devoir apprendre un programme qui peut t'inclure ou t'exclure de la société, etc. Lire Marx sans lire Rand a t'il un intérêt si l'on veut pouvoir choisir ?

Revenons en au sujet : la reprise en main des algorithmes.
Un des moyens de pression, ce ne sont pas les amendes imposées par l'UE en cas de manquement aux règles du DSA. Visiblement, elles ne sont pas dissuasives.
Le meilleur moyen c'est un bannissement, temporaire puis définitif, des plateformes. L'UE, c'est un marché de 450 millions de consommateurs. S'il ne collaborent pas en ouvrant leurs algorithmes aux autorités, la sanction peut être celle-ci.

Imaginons un instant que votre réseaux social favori soit inaccessible suite à une sanction de l'UE. Comment réagiriez vous ?
Comprendriez vous la mesure ? Consentiriez vous à celle-ci ou tenteriez vous de contourner le blocage ?

Arnold de Schartzenprout a écrit :

Il ne faut pas confondre manipulation et développer un esprit critique. Comme je le résume souvent : thèse, antithèse, synthèse.

Tu as une source sur le fait qu'inviter l'extrême droite et lui donner des tribunes au nom de thèse/antithèse/synthèse, ça permet de lutter efficacement contre ses idées ?

Ça me semble trivialement faux : il suffit de regarder les sondages après le débat Attal/Bardella, dans lequel tous les commentateurs disaient que Bardella était ridicule, et que Attal l'avait écrasé (voir par exemple cette analyse). En tout cas je vais partir du principe que tu n'as aucune source sérieuse pour étayer ta croyance.

Ce qui amène à une conclusion assez simple : imaginons qu'on ait des moyens et qu'on cherche à faire monter les idées racistes, xénophobes, antisémites, etc : comment s'y prendrait-on ? Il n'y a en fait pas besoin d'imaginer, il suffit d'observer ce que Bolloré ou Stérin font : ils achètent des médias. C'est donc que c'est utile et efficace (du reste, ce n'est pas une stratégie récente, de Berlusconi à Murdoch). Comment justifier de brider l'accès aux RS pour les jeunes au motif qu'ils seraient influencés, sans voir qu'on laisse des vieux (qui ont le droit de vote, eux) se faire influencer bien plus directement par des chaines TV ? Un rapide passage sur FB donne même l'impression qu'ils sont plutôt plus crédules.

Bien entendu, l'influence politique n'est qu'un aspect des effets redoutés des RS (tu as cité l'incitation au suicide, et je mets ça sur un autre plan, CNEWS n'encourage la dépression que des gens qui ne la regardent pas), mais si on parle de celui-ci, il me semble qu'on aurait un raisonnement partiel en ciblant les RS uniquement.

Lire Marx sans lire Rand a t'il un intérêt si l'on veut pouvoir choisir ?

Lire Gilles Karmasyn (PHDN) sans lire Faurisson a-t-il un intérêt si on veut avoir un avis sur la shoah ?
Lire le rapport du GIEC sans lire Claude Allègre a-t-il un intérêt si on veut forger une politique du climat ?
Lire les enquêtes sur la violence policière sans lire les communiqués de presse de la préfecture a-t-il un intérêt si on veut comprendre à quoi sert la police ?

La réponse à toutes ces questions est oui, et il ne faut pas confondre avoir l'esprit ouvert et avoir des trous béants dans le cerveau : tous les avis ne se valent pas.

Uncurieux a écrit :

Tu as une source sur le fait qu'inviter l'extrême droite et lui donner des tribunes au nom de thèse/antithèse/synthèse, ça permet de lutter efficacement contre ses idées ?

Alors sérieuse, je ne sais pas, mais oui, j’ai une source : toi et ce que tu as écris juste après avec le lien que tu y as inséré. Je te laisse y réfléchir.
Par contre je n’entrerai pas dans ce débat qui est complètement hors sujet, mais si tu veux ouvrir un topic sur l’utilité des débats contradictoires, je participerai volontiers.

Concernant les RS, personne n’a dit qu’ils étaient seuls responsables d’être un support à telle ou telle propagande.
Evidemment que les médias concentrés dans les mains de l’oligarchie sont aussi des vecteurs importants. D’ailleurs la reprise en main de ces médias est au programme de Juan Branco. Cela s’inscrit logiquement dans le fait de pouvoir apporter une information non biaisée aux citoyens qui seront amenés à être très régulièrement consultés via les RIC.
Autant être éclairé au mieux quand on doit donner son avis.

Arnold de Schartzenprout a écrit :

Alors sérieuse, je ne sais pas, mais oui, j’ai une source : toi et ce que tu as écris juste après avec le lien que tu y as inséré. Je te laisse y réfléchir.

Si quelqu'un d'autre qu'Arnold arrive à m'expliquer ce qu'Arnold a voulu dire, je suis preneur (et impressionné).

Alors qu'on discute, une perspective concrète existe déjà, qui questionne les algorithmes, les pratiques, les modèles économiques. Je m'étonne qu'elle n'ait pas été mentionnée. Peut-être dans une vie précédente de ce forum.

Réactions en vrac aux échanges.

1. "Faut-il reprendre en main" : qui ? A quelles fins, émancipation citoyenne face à la Big Tech ou défense nationale face aux ingérences extérieures ?

"Guerre cognitive" (titre)

"Je propose déjà de s'emparer du sujet. Je ne prétends pas qu'il y a de solution simple, mais avoir conscience du problème et agir au niveau de l'Etat."

"...ça ne répond pas à la problématique dont on parle"

Le cadrage initial est flou, le recadarge régulier étrange et dérangeant, et l'intention (poser comme normale une vision de l'Etat au centre d'une lutte et des services publics comme instruments de cette "guerre" (sic)) se révèle à mesure que se déroule l'argument.

Je suis en désaccord avec ce cadrage.

A la question initiale, ma réponse est oui, mais toutes les façons ne se valent pas, selon le projet de société préconisé.
Au glissement qui pose l'Etat au centre de cette "guerre" et les individus au service de cet Etat, non. La communauté du logiciel libre que défend Chavalarias est mondiale (certes avec les biais sociologiques liés à la mise à l'échelle de cette innovation, compensés au fil de la diffusion).

Les règlements européens sont mentionnés et sont une bonne base de travail pour faire prendre conscience des enjeux et de l'échelle (aussi globale que possible) à laquelle ces questions doivent être traitées. Ils sont clairement insuffisants pour traiter l'ensemble du sujet, et particulièrement le projet économique sous-jacent.

Enter Shoshana Zuboff, qui présente dans son ouvrage Capitalisme de surveillance la notion que les êtres humains sont une sorte de matière première cognitive à extraire à l'infini. Dans les faits, très bon pour les tableurs de la comptabilité nationale, mais une expérience humaine asservissante. Extrait choisi:

Si l'économie européenne, française, etc, repose sur cette subordination et sur le fait de nous vendre de la publicité, alors la chose menacée n'est pas l'Etat ou la nation ou je ne sais quel espace collectif, mais notre humanité même. Et la solution à apporter n'est pas uniquement plus de contrôle, mais aussi probablement une économie alternative, basée sur une utilisation juste, durable (et donc frugale) des ressources (naturelles, cognitives, ce qu'on veut) qui restaure notre humanité. Cet aspect est clairement contraire au projet de développement/protectionnisme économique qui nous est présenté comme inéluctable.

Bannir les plateformes, pourquoi pas, en soi, à discuter. Mais avec les conséquences. Dans la mesure où elles sont ancrées dans les pratiques, la transition n'est pas anodine et doit être pensée. Si c'est pour lancer une nouvelle plateforme qui utilise des algorithmes favorisant la dépendance numérique, a-t-on remporté la "guerre cognitive"? Non, puisque les gens sont maintenus dans la dépendance et les libertés individuelles restent sous attaque par les mécanismes de surveillance en place.
Un exemple:

"Imaginons un instant que votre réseaux social favori soit inaccessible suite à une sanction de l'UE. Comment réagiriez vous ?"

Penser la sanction sans penser la gestion de l'addiction et de la dépendance économique aux réseaux, c'est penser le problème à moitié. (Cela étant dit, le fait de porter la discussion sur la réaction individuelle quand le cadrage est maintenu à une échelle globale est un déplacement du cadre. La cible est mouvante. Comment répondre ?)

Se sentir assiégé·e·s par une menace extérieure et chercher à reprendre le contrôle est légitime. Reste à ne pas se faire manipuler en cherchant à se libérer.

2.

"Je trouve très suspect donc que l'algorithme propose à une situation de mal-être quelque chose d'encore plus négatif."

=> Le fantôme du grand méchant se dessine, sans se préciser. Quelle forme a-t-il : celle de l'argent, ou de la puissance étrangère malveillante ? Ou pire ?
(Zuboff a une réponse à proposer, puisqu'elle fait "sens de la prolifération de dispositifs techniques de surveillance en apparence hétérogènes en identifiant la logique économique qui pourrait les réunir", source)

3.

"Il ne faut pas confondre manipulation et développer un esprit critique. Comme je le résume souvent : thèse, antithèse, synthèse."

Remarque limite classiste et donc excluante dans la forme (voire le fond) quand on pose des questions de politique et société à un public large et relativement inconnu qui peut raisonner différemment. Ca, et la cible mouvante, ne donne franchement pas envie de donner son avis, comme je le mentionnais ici.

(Mais bon, je ne m'en suis pas privé, et mon pavé ne donne pas nécessairement envie non plus.)

Artemis Première a écrit :

J'aime bien cette approche qui consiste à considérer que le but d'un système est ce qu'il produit concrètement (ce qui est plus intéressant que de se poser la question de l'intention des acteurs). Sous cet angle, le produit des RS est multiple : exploitation capitaliste des humains (prestations marchandes, escroquerie, surveillance généralisée) mais aussi organisation collective et/ou résistances à l'oppression. Bien entendu, tant qu'un RS est organisé par des concepteurs avec leur propre agenda, il est difficile de lui faire confiance pour garantir l'intérêt de ses utilisateurs/trices, cf twitter, et pourtant même sur des plateformes commerciales il est ressorti des effets intéressants par le passé.

Du coup, je suis à peu près également suspicieux des gens qui administrent un réseau social commercial et des gens qui se jettent sur les problèmes qu'ils en perçoivent pour revendiquer des censures. Il y a une diminution mondiale de l'accès à l'information (en particulier pour les jeunes), dont on ne peut pas encore mesurer les effets globaux, et je crois qu'il y a toutes les raisons de s'inquiéter de voir cette panique morale se répandre.

Artemis Première a écrit :

Merci pour ta réponse claire et assez complète.

Concernant le cadrage initial, tu as raison de souligner qu'il est flou. La raison en est simple : j'ai ouvert ce topic avec beaucoup plus de questions que de réponses. Je n'ai aucune réponse toute faite à apporter à la problématique, mais un constat et énormément de questions. Je le dis humblement.
Je compte sur l'intelligence collective pour avancer sur ma propre réflexion, et aider aussi les autres lecteurs à y réfléchir, ensemble. Disons que c'est un peu la vision idéale que j'ai du forum.

Le fait de se tourner vers l'Etat (ou l'UE), c'est parce que ce sont les seuls à pouvoir légiférer, tout simplement. Alors peut-être que notre système politique de représentation est trop "risqué" pour confier cette vision à l'Etat. A l'heure actuelle, il est difficile de prévoir aujourd'hui quel candidat avec un projet qui développerait plus de consultations démocratiques de la population (genre RIC) a des chances d'aboutir et de changer ce système de façon suffisamment satisfaisante pour que cette vision ne soit pas celle de l'Etat mais celle des citoyens, validée par l'Etat. Que voulons nous, nous, citoyens. Déjà répondre à cette question est quelque chose de primordial.
Restera à ce que les citoyens soient convenablement informés pour savoir ce qu'ils veulent, quels sont les enjeux pour eux (pas pour les sociétés) et faire des choix.
Quant à l'échelle à laquelle ces questions doivent être réglées... Là aussi, on ne sait pas trop où l'on va, FREXIT ou pas, ça va répondre de fait à la question. Je l'évoque là parce que malgré tout on voit bien que cette question prend de plus en plus d'importance.

Concernant le capitalisme de surveillance, j'ai plus un sentiment d'opportunisme du capitalisme et des services de renseignements du fait d'un développement anarchique des RS. En fait, les RS ont été crée par des personnes qui n'avaient pas de visées capitalistes initialement. La légende veut que Mark Z (et ses 4 camarades) a crée FB d'abord pour rencontrer des filles sur son campus avant d'en faire une plateforme sociale mondiale.
Rapidement, ce genre de réseau a pu attirer l'attention à la fois des sociétés voulant faire du business et des services de renseignement.
Pour l'anecdote, je me souviens que mon inscription sur les réseaux sociaux FB et Twitter avaient été motivée par un reportage sur France Info en 2009 qui les annonçait comme les futures plateformes publicitaires au monde gratuites, et comme j'étais déjà à mon compte, c'est uniquement pour des raisons professionnelles que j'avais créé un compte sur chacune à l'époque. C'était donc déjà présenté comme un outil de commerce.
Et à l'époque, même si les datas centers existaient déjà, à titre personnel, n'évoluant pas dans ce monde de l'internet, je ne voyais pas l'essor de ces derniers et ne pensais pas un seul instant que nos données personnelles vaudraient de l'or. En 2021, les datas brokers se partageaient un marché de 400 milliards d'euros en Europe, je n'ose imaginer le chiffre aujourd'hui.
Le profilage prédictif est quelque chose de vraiment puissant, je crois que chacun d'entre nous peut le mesurer au quotidien.
Le levier sanction devient tout de suite très concret si l'on privait les opérateurs économiques de nos données.

Et là, on ne parle que business, même si cela est un sujet déjà bien assez inquiétant pour ses effets induits, notamment en terme d'impacts environnementaux. L'aspect souveraineté économique se joue ailleurs à mon humble avis.
Je suis d'accord avec toi concernant la dépendance numérique. Si seule la "nationalité" des algorithmes change mais que le but reste le même, ça n'a aucun intérêt : nous resterons le jus de cerveau à extraire et à exploiter pour nous vendre des produits.
C'est pour ça que l'aspect commercial n'est pas pour moi central dans cette discussion. Je pense vraiment plus à l'aspect sécuritaire. Sécurité mentale de nos adolescents mais aussi des adultes, sécurité des données, sécurité des élections, ingérences, etc.

Ce topic, dans mon esprit, visait donc plus la sécurité des utilisateurs, mais aussi celle des Etats et son rôle à jouer.
Pour les utilisateurs, je crois que l'exemple de Tik-Tok est assez éloquent.
Maintenant, on peut aussi s'interroger sur le fait que la CNIL ait autorisé Microsoft a héberger nos données médicales quand on connait les lois américaines d'extra-territorialité et notamment le Foreign Intelligence Surveillance Act (je ne parle même pas des conditions d'attribution déjà louches). Je ne suis pas certain que cela soit conforme au RGPD européen d'ailleurs...
Alors il y a des initiatives européennes en cours de certification au niveau de la sécurité des données, mais milieu 2025, la Health Data Hub n'avait toujours pas commencé à migrer de la plateforme Microsoft Azure vers ces nouveaux acteurs.
Enfin là je m'éloigne un peu du sujet initial.

J'apprécie la prise en compte de certains des arguments avancés (dépendance numérique), et la réponse rapide - quoique, permet-elle une assimilation des arguments présentés, je n'en suis pas sûr. Sommes-nous ici dans un dialogue ou une présentation des postures ?

Seconde salve de réflexions sur le fond et la forme, qui portent des présupposés qui m'interrogent (c'est peu de le dire 🚩). Et je rejoins la démarche de considérer l'ensemble des lecteur·ice·s, présent·e·s et futur·e·s. Ce post est ma contribution à une intelligence collective.

1. L'objectif de ce fil m'échappe car la posture est contradictoire:

J'ai ouvert ce topic avec beaucoup plus de questions que de réponses. Je n'ai aucune réponse toute faite à apporter à la problématique, mais un constat et énormément de questions. Je le dis humblement.

L'aspect souveraineté économique se joue ailleurs à mon humble avis.

L'aspect commercial n'est pas pour moi central dans cette discussion.

Je pense vraiment plus à l'aspect sécuritaire: Sécurité mentale de nos adolescents mais aussi des adultes, sécurité des données, sécurité des élections, ingérences, etc.

Enfin là je m'éloigne un peu du sujet initial.

Si l'aspect économique, commercial, business n'est pas central, alors une réponse précise est attendue - et tu mentionnes d'ailleurs un sujet initial dans le cadre duquel il faudrait rester/dont on s'éloigne. Des dimensions entières apportées sont écartées avec plus ou moins de fermeté, OR tu dis que tu n'as pas de réponse toute faite à apporter, et que tu as plus de questions que de réponses. J'ai l'impression que quoi que je dise, si ça ne parle pas de "sécurité", alors ça ne sera pas accepté.

2. La notion de sécurité telle que présentée ici semble trop restrictive, car l'Etat est au centre de la pensée.
- Sécuriser l'infrastructure de communication, les données... : qu'est-ce qui est préconisé ici, un protectionnisme ? Une défense unilatérale ? Est-ce seulement possible dans un monde globalisé et structuré par le capital ? Or tu exclus l'arme économique/commerciale/business de l'analyse (cf citations ci-dessus), donc c'est hors sujet ? En même temps, tu dis

"Le levier sanction devient tout de suite très concret si l'on privait les opérateurs économiques de nos données."

Tu montres toi-même à quel point ce marché représente un segment considérable de l'économie, et la dépendance aux GAFAM américains. Je vois une contradiction dans le fait de poser ce levier comme concret alors que priver les opérateurs économiques de nos données mènerait à un choc économique considérable. Contradiction résolue si l'objectif est de valoriser l'idée d'un Etat fort qui brandit les sanctions comme un gourdin. C'est une certaine conception des relations internationales. Il y en a plein d'autres, qui gardent l'humain (et non l'Etat, cf. 3) au centre de l'analyse.

- "Sécurité mentale" : je ne sais pas à quoi raccrocher ça. Santé mentale ? Oui, mais parlons alors de santé et de bien-être, et orientons-nous vers une approche basée sur la santé, suivons par exemple les préconisations de l'OMS. Sécurité humaine ? D'accord, mais le terme est bien plus large et comprend l'ensemble de la pyramide des besoins de Maslow
- A propos de sécurité humaine, notion qui complète (et ne s'oppose pas à) l'idée d'une sécurité d'Etat: elle articule enjeux militaires, économiques, sanitaires, infrastructurels, et renforce l'idée d'un ordre légal international, plutôt que de se baser uniquement sur un rapport de force militaire et des comportements unilatéraux de la France, l'UE, les US...

Mon argument est le suivant : pour penser sécurité, partir de l'humain (et non pas de l'utilisateur), ses pratiques et ses besoins est plus pertinent que partir de l'Etat.

Ce qui m'amène à :

3. La stratégie proposée, centrée sur (et toujours ramenée à) l'Etat, me semble insuffisante. Encore pire pour l'UE.

Le fait de se tourner vers l'Etat (ou l'UE), c'est parce que ce sont les seuls à pouvoir légiférer, tout simplement.

Si légiférer suffisait à changer les comportements, surtout les comportements d'addiction, je crois que la guerre contre les drogues aurait fonctionné depuis longtemps. C'est certes un élément important, nécessaire (ça se discute, je ne le crois pas, mais pourquoi pas) mais pas suffisant.
Si l'on veut "reprendre en main les algorithmes des RS", alors :
- A qui appartient la main ? autrement dit, où se situe le niveau d'action : individus ? Etats ? Entreprises (acteurs clef sur le marché de la donnée) ? Investisseurs / détenteurices du capital ? Partis ? Universités / centres de savoir ? Associations, clubs, collectifs, société civile ? Familles ? La totalité de cette liste a un rôle à jouer dans les pratiques et infrastructures numériques.
- Que fait cette main : tord-elle le cou de quelqu'un ou brandit un gourdin (imposer un ordre venu du haut) ? Encourage-t-elle la créativité de celleux qui construisent ces algorithmes ?

Je conteste que la seule main qui importe soit celle de l'Etat, ses agences et sous-structures. On a bien plus de pouvoir sur la transition vers des alternatives libres ou notre comportement économique que sur la politique nationale pour "reprendre en main les algorithmes" et notre capacité cognitive. Or si j'en crois le recadrage, je ne suis donc plus dans le sujet.

Par ailleurs, le RIC est régulièrement mentionné comme solution au déficit démocratique et à la crise de confiance des institutions. Peut-être*. Derrière le RIC se situe tout de même l'idée que les citoyen·ne·s ont un pouvoir d'action. Et ce pouvoir d'action ne se limite pas au vote : c'est par lui que les gens créent des communautés, lancent des entreprises, rejoignent le Fediverse plutôt que Facebook, questionnent leurs attitudes.
Je crois lire dans ton propos l'idée qu'avec une certaines dispositions législatives ou constitutionnelles, encore à trouver, le problème sera réglé, on aura trouvé chaussure à notre pied, et ses décisions ne pourront plus être contestées car elles seront légitimes.
Or, je ne crois pas à cette acception de l'Etat.
Le droit est une photographie d'un certain ordre social et moral donné. Et l'Etat est l'émanation des rapports de force (qui se traduisent par des courants politiques, des mouvements sociaux, un agencement d'acteurs anciens et nouveaux) et le centre de la légitimité du pouvoir. Dans une (approche toute sociologique, finalement).

Bref, placer l'Etat au centre relève d'une perspective située. Ce n'est pas anodin, "normal", ou "évident". C'est essentialisant, lourd de présupposés et de conséquences*.

4.

Concernant le capitalisme de surveillance, j'ai plus un sentiment d'opportunisme du capitalisme et des services de renseignements du fait d'un développement anarchique des RS.

Le reste des contributions de UnCurieux et gloubi notamment vise à montrer que les algorithmes sont intentionnels, substantié par de nombreuses publications - Apocalypse Nerds, publié l'an dernier, démontre avec clarté à quel point les méthodes utilisées sont volontaires et répondent à un projet politique particulier.
On est donc sur l'opposé d'un développement anarchique des RS.
Ignorer les arguments d'UnCurieux et de gloubi est-il un acte intentionnel ? Le débat peut-il avancer si on écarte les contributions ? A-t-on affaire à un échange d'arguments de bonne foi ? A quoi sert ce fil ? A entretenir la panique modale à laquelle UnCurieux fait référence ?

5.
J'ai d'autres problèmes avec certains présupposés derrière tes propos, par exemple parler de "nos" adolescents : par opposition à ceux qui ne sont pas les nôtres, et dont la santé importe moins ? Ceux de la communauté nationale ? Qui n'interagissent pas avec les "nôtres" ? A l'époque des trends comme 6-7, et d'une globalisation quasi aboutie, c'est osé.

---

J'espère avoir pu mettre au jour le fait que derrière les termes utilisés (Etat, sécurité, "guerre cognitive, "nos" adolescents) et les postures adoptées se trouvent des présupposés brandis ici comme "normaux", qui sont autant de glissements vers un horizon de guerre. A ce compte, tout est guerre. Et ça, c'est un projet de société fascisant (cf. point 9 de la classification du fascisme proposée par Umberto Eco*). Dans le contexte actuel*, ça n'est pas anodin. Et je trouve important de porter ce point à l'attention des lecteur·ice·s (qui auront lu jusqu'ici, vous gagnez un cookie 🍪).

Bref, je ne suis toujours pas d'accord avec les présupposés qu'en tant qu'auteur du fil tu proposes pour cadrer la conversation, le recadrage que tu as fait, le flou entretenu et la sélectivité des arguments. Je ne vois pas pourquoi ça ne se reproduirait pas, c'est donc un espace non pas de discussion et de curiosité mais de postures, où on dirait que les réponses au tas initial de questions sont déjà trouvées (libre à qui veut de me prouver le contraire). Je ne compte donc pas contribuer davantage à ce fil-ci.


*Et tout ça, c'est le sujet d'un fil dédié. A-t-il existé ? Y participerai-je ? Nul·le ne le sait.

A te lire, je pense qu'il y a quelques incompréhensions entre ce que j'exprime et ton ressenti. Je m'explique.

Ce n'est pas une question de posture, c'est une question de point de départ. Je fais part de ce que je sais, ce que je ressens, tout cela pouvant évoluer justement grâce à la confrontation des idées, des points de vue de chacun.
C'est sans doute pour cela que le fil t'échappe, car tu sembles penser justement l'inverse, que mon avis est immuable et que j'oriente la discussion (recadrages qui en réalité n'en sont pas) dans une espèce de nasse qui doit déboucher sur un avis préconçu, alors que c'est au contraire pour moi une façon d'élargir ma perception de la problématique.
Je le répète : j'ai plus de questions que de réponses. Et de ce fait, la perception que j'ai aujourd'hui de cette problématique est très largement évolutive, dans la mesure où je suis convaincu par ce que je pourrai lire ici. J'en tirerai une synthèse à titre personnel.
J'espère que cette précision faite, ton prisme de lecture sera différent, car je ressens une espèce de jugement.

Donc quand tu dis :

J'ai l'impression que quoi que je dise, si ça ne parle pas de "sécurité", alors ça ne sera pas accepté.

C'est en effet une impression, rien d'autre.

Une autre incompréhension est sur la verticalité ou l'horizontalité du pouvoir par rapport aux prises de décisions pour résoudre cette problématique.
Si aujourd'hui nous sommes sur un modèle assez vertical, j'essaie d'envisager un autre modèle, horizontal, dans lequel l'Etat respecte les choix des citoyens, de la société, car il est l'entité qui les représente. Une utopie peut-être, mais est-on à une utopie près quand on parle de politique ? Et puis n'était-ce pas le sens de la démocratie représentative dans son ambition première, avant qu'elle ne soit pervertie ?
Alors ça demande effectivement un effort d'imagination parce que je pense qu'on n'a l'habitude de se faire malmener démocratiquement parlant. Ma proximité avec la Suisse me permet de l'envisager plus facilement peut-être où les outils démocratiques sont plus nombreux.
Du coup, je peux comprendre une partie de tes réticences quant à envisager "que la seule main qui importe soit celle de l'Etat, ses agences et sous-structures", ou à l'utilité de légiférer, si tu ne crois pas en une évolution qui irait dans le sens d'une plus grande prise en compte de l'avis des citoyens. Seulement ce n'est pas ma perspective. Je veux y croire, sans quoi je pense que notre modèle finira par imploser, sans certitude sur ce qu'il en ressortira : du pire ou du meilleur, nul ne peut le savoir. J'aurais plutôt tendance à penser que la barbarie prendrait le dessus.

A contrario, j'ai l'impression que tu comptes plus sur l'action citoyenne, individuelle, possiblement structurée mais sans implication de l'Etat parce que justement tu n'envisages la gouvernance que sous sa forme actuelle. Pourquoi pas. J'étais allé regarder Fediverse suite à ton premier post, que je ne connaissais pas du tout, mais j'ai trouvé les alternatives peu conviviales (c'est un avis très personnel) par rapport à ce qui existe aujourd'hui. L'idée est bonne ceci dit. L'action citoyenne est quelque chose de très interessant, je ne la rejette pas, je pense juste que sans l'aide de l'Etat, elle aura du mal à se developper et atteindra assez vite son plafond de verre.

En répondant à comment moi, j'entrevois l'exercice du pouvoir, cela répond aussi à ta question sur "à qui est la main". A nous, tout simplement, et l'Etat est notre outil pour faire valoir nos aspirations et leur donner un cadre juridique.

Troisième incompréhension : le caractère intentionnel des algorithmes.
En fait on est d'accord, ce que j'ai voulu dire c'est qu'initialement ce n'était pas le cas mais que le potentiel des RS en matière de recueil d'informations a été cerné par les autorités et les entreprises qui ont profité du développement exponentiel et anarchique de l'internet pour organiser cette surveillance, peu importe les fins, commerciales ou sécuritaires.
Maintenant que ceci est en place et que l'on voit l'argent que cela génère, la sanction serait alors redoutablement efficace. Et quand tu dis :

Je vois une contradiction dans le fait de poser ce levier comme concret alors que priver les opérateurs économiques de nos données mènerait à un choc économique considérable

J'ai du mal à te suivre, parce que ce choc économique impacterait en priorité les sociétés encourageant le consumérisme, consumérisme que tu sembles dénoncer par ailleurs. L'argument me semble incohérent en fait.
Il n'y a rien de vital pour nous, en France, à voir la consommation de produits manufacturés à l'autre bout du monde à bas coût chuter brutalement, à part créer un sentiment de pauvreté peut-être, parce qu'on ne peut plus s'offrir le superflu.
En fait, la sanction serait douloureuse pour les plateformes et les manufactures, par pour les utilisateurs. Ma vie ne changera pas si je ne tombe pas sur une pub pour une tondeuse autonome en scrollant l'actualité sur mon RS.
Et surtout, l'idée de la sanction, c'est qu'elle pousse les RS à être vertueux sur leurs autres aspects cognitifs. C'est pour cela que je dis que le commerce n'est pas central. Le tout est de définir ce que l'on entend par vertueux et ça, c'est aux citoyens de l'exprimer.
A mon humble avis, c'est cette discussion qui est réellement essentielle d'un point de vue collectif : que veut-on être/ne pas être, subir/ne pas subir ?

Il me reste une dernière remarque sur ta réflexion concernant des "glissements vers un horizon de guerre".
Si tu dis ça, c'est que tu penses que nous ne sommes pas déjà en guerre, or moi je le pense, et le fait de ne pas le voir, ne pas intégrer ce fait et de ne pas prendre des mesures pro-actives qui s'imposent, nous a déjà considérablement affaibli. Nos hommes/femmes politiques sont soit à la ramasse sur le sujet, soit pire, ils y contribuent parce qu'ils ont une vision ultra-libérale du monde.
C'est une guerre économique que nous subissons depuis toujours mais qui s'est accentuée en terme d'intensité depuis l'avénement d'internet. La guerre cognitive en est un des aspect et c'est peut-être celui qui est le plus puissant et redoutable, internet étant un vecteur qui va permettre de toucher tout le monde, facilement.
Je suis assez effaré qu'il y ait si peu de personne à mettre un nom sur ce qu'il se passe dans notre pays alors que tous les éléments sont là, sous nos yeux, depuis longtemps déjà. Pourtant, on voit que le mot souveraineté commence à prendre de l'importance dans la campagne électorale à venir, à droite comme à gauche. On voit le sentiment anti UE monter.
Mettons des noms sur les choses, ça clarifiera le débat. Limite il faudrait un autre topic sur la guerre économique et les ingérences étrangères en France pour les mettre en évidence. On verra d'ailleurs assez vite que les US et l'Allemagne sont loin d'être nos amis...

Arnold de Schartzenprout a écrit :

C'est fou, je crois que tu ne réponds pas une seule fois aux messages d'Artemis.

alors que c'est au contraire pour moi une façon d'élargir ma perception de la problématique.

Ce n'est pas compatible avec le fait d'ignorer les arguments des gens avec qui tu n'es pas d'accord. Tu n'as pas répondu à ce point.

Si aujourd'hui nous sommes sur un modèle assez vertical, j'essaie d'envisager un autre modèle, horizontal, dans lequel l'Etat respecte les choix des citoyens

Il t'a été dit que les citoyens peuvent déjà faire des choix (par exemple utiliser tel réseau social ou tel autre, ou aucun). On constate que la majorité des citoyens semblent avoir envie d'utiliser les RS y compris ceux qui posent problème (X, TikTok, Insta, FB ont tous plus d'utilisateurs/trices que le Fediverse aujourd'hui). Le seul moyen de respecter "le choix des citoyens", ce serait de laisser les algos fonctionner. Tu n'as pas répondu à ce point, sauf pour dire que selon toi Mastodon n'est pas convivial. L'action citoyenne qui s'éteint devant une feuille CSS, quoi.

ce que j'ai voulu dire c'est qu'initialement ce n'était pas le cas

Bien sûr que si. Google Adsense date de 2003, (et je m'en sers comme point de départ, mais ils n'ont pas inventé le fait de récupérer des données personnelles des gens). Tous les RS que tu cites sont postérieurs à cette date, tous leurs modèles économiques sont centrés sur la vente d'encarts publicitaires ciblés depuis leur apparition. Il n'y a aucune transformation postérieure des RS sur cet aspect : tous les RS commerciaux se sont développés dans une direction capitaliste, avec l'intention d'influencer les esprits des utilisateurs/trices. Je n'ai pas pris le temps de lire la source d'Artemis, mais je n'ai aucun doute sur la conclusion. Toi tu la contredis en te basant sur... ton intuition ?

Au passage, quand tu écris au sujet de FB :

La légende veut que Mark Z (et ses 4 camarades) a crée FB d'abord pour rencontrer des filles sur son campus avant d'en faire une plateforme sociale mondiale.

Alors effectivement c'est une légende, dans le sens où c'est faux (et trivialement vérifiable). L'objectif du projet de Zuckerberg n'est pas de "rencontrer des filles" mais de les noter selon leur physique. Je trouve difficile de ne pas voir un pattern dans la minimisation des oppressions, mais j'en reparle plus loin.

Si tu dis ça, c'est que tu penses que nous ne sommes pas déjà en guerre, or moi je le pense, et le fait de ne pas le voir, ne pas intégrer ce fait et de ne pas prendre des mesures pro-actives qui s'imposent, nous a déjà considérablement affaibli.

Tu ne réponds pas à l'argument principal : ce que tu développes ici concrètement, c'est une rhétorique fascisante selon Eco. Tu avais trois postures possibles : soit tu embrasses ton appartenance à cette mouvance, soit tu expliques pourquoi ici ce n'en est pas, soit tu esquives la question. Cette troisième option laisse planer un gros doute.

Par ailleurs, je trouve assez ironique de parler de protectionnisme, de sentiment anti-UE et d'ingérences étrangères comme des signes d'hostilité. En ignorant que la France déploie ses armées officiellement dans une vingtaine de pays, a participé à des déstabilisations, des coups d'état, des assassinats de chefs d'états, dans les pays que nous rackettons pour qu'ils nous fournissent les matières premières sans lesquelles nous ne saurions pas vivre. C'était l'objet de ce topic, d'ailleurs.

Enfin, et j'insiste dessus : les mesures de "reprise en main" (qui se sont rapidement transformées en censure brutale dans ton discours, en fait) des RS n'ont absolument rien d'évident à faire. Il existe des moyens qui sont plus ou moins contournables, et plus les gens sont gênés, plus ils apprennent à contourner. La censure basée sur l'age est systématiquement une atteinte à l'anonymat. Bref : ce n'est pas pour rien que les régimes qui mettent en place des censures des RS sont partout des régimes autoritaires, et généralement quand ils font face à une situation de contestation (ce qui en dit long sur le rôle de la France dans ses colonies).

Uncurieux a écrit :

C'est fou, je crois que tu ne réponds pas une seule fois aux messages d'Artemis.
...
Ce n'est pas compatible avec le fait d'ignorer les arguments des gens avec qui tu n'es pas d'accord. Tu n'as pas répondu à ce point.

C'est complètement faux. Il parlait du fait que vous disiez que les algorithmes sont intentionnels. J'ai répondu que j'étais d'accord avec ça, et que je parlais du projet initial des RS qui n'était pas de récupérer de la donnée. Que veux tu que je dises de plus alors qu'on est d'accord sur ce point ?

Le seul moyen de respecter "le choix des citoyens", ce serait de laisser les algos fonctionner. Tu n'as pas répondu à ce point, sauf pour dire que selon toi Mastodon n'est pas convivial. L'action citoyenne qui s'éteint devant une feuille CSS, quoi.

Accordons nous sur ce désaccord. Avoir accès aux algorithmes opaques des RS se situe pour moi entre "interdire les RS qui posent problème et aller sur des RS qui ne posent pas de problème mais ne sont pas aboutis ou conviviaux.
Laisser les algorithmes des sites qui posent problème continuer à fonctionner sans les contrôler n'est pas une bonne option pour moi et comme je l'ai dit, les sommes d'argent en jeu sont tellement importantes qu'il y a moyen de gagner ce bras de fer.

Tous les RS que tu cites sont postérieurs à cette date... Tous les RS que tu cites sont postérieurs à cette date, tous leurs modèles économiques sont centrés sur la vente d'encarts publicitaires ciblés depuis leur apparition
Puis
L'objectif du projet de Zuckerberg n'est pas de "rencontrer des filles" mais de les noter selon leur physique.

Donc pas de faire du business et récolter de la donnée. Juste un projet dégueulasse qui s'est lissé avec le temps pour devenir ce qu'il est aujourd'hui.

Tu ne réponds pas à l'argument principal : ce que tu développes ici concrètement, c'est une rhétorique fascisante selon Eco.

Artemis dit que mes propos sont des "glissements vers un horizon de guerre", je lui réponds que nous sommes déjà en guerre, économique, que son intensité a augmenté, et que pour développer cet argument il faudrait un topic dédié sans quoi le sujet initial dévierait.
Que veux-tu de plus là encore ? A part chercher la polémique j'entends.
Si tu veux que j'ouvre un topic dédié dis le, j'essaierai de trouver le temps de le faire, mais je ne veux pas faire dévier ce sujet sur ta seule injonction.

Par ailleurs, je trouve assez ironique de parler de protectionnisme, de sentiment anti-UE et d'ingérences étrangères comme des signes d'hostilité. En ignorant que la France déploie ses armées etc

Et donc ? Parce que la France le fait on ne peut pas dire que nous subissons aussi des ingérences et expliquer que nous sommes en guerre économique ?
En aucun cas ça légitime les mauvaises actions de la France.

Enfin, et j'insiste dessus : les mesures de "reprise en main" (qui se sont rapidement transformées en censure brutale dans ton discours, en fait) des RS n'ont absolument rien d'évident à faire...
...
Bref : ce n'est pas pour rien que les régimes qui mettent en place des censures des RS sont partout des régimes autoritaires,

J'ai déjà expliqué le levier le plus efficace selon moi. La collaboration des RS avec les autorités est tout à fait possible. Je ne comprends pas en quoi tu trouves autoritaire que de mettre au clair ces sujets avec des RS dont tu dis toi-même qu'ils posent problème, et de les sanctionner en cas de non collaboration.
Après, si je suis ta logique, tous les pays du monde sont autoritaires du moment où il impose des règles et exerce un contrôle, aucun n'est vraiment libertaire. Tout est dans le gradient d'autoritarisme. Et c'est également le sens de mon propos quand je parlais de la verticalité du pouvoir.
Je crois qu'ici tout le monde à conscience de l'autoritarisme de l'Etat Français et de Macron, que ce soit en Nouvelle-Calédonie ou en France métropolitaine avec la répression des manifestations.
Dès le début j'ai identifié le risque en disant "Pour moi, c'est cette dernière question qui est primordiale, car je pense que la reprise en main de ces algorithmes est nécessaire, mais j'y vois aussi les effets pervers d'une censure et d'un conditionnement "national" pour lutter contre un conditionnement "international".
Je ne peux pas être plus clair non ?

En définitive, je réponds à l'ensemble de ce que disait Artemis. S'il y a un point qui ne te semble pas clair, n'hésite pas à demander des précisions. Après, si c'est juste du désaccord, alors accordons nous dessus plutôt que de sombrer dans le jugement de valeur.

Uncurieux a écrit :

L'action citoyenne qui s'éteint devant une feuille CSS, quoi.

En l'occurrence oui, c'est un gros soucis qu'ont les défenseurs des platformes alternatives genre fediverse/lemmy/mastodon etc. C'est trop compliqué pour le normie. Et ça s'accompagne d'une tech illiteracy qui est très très forte.

C'est impossible de faire accepter a une personne d'utiliser un keepass et de configurer une MFA alors que c'est une question de ne pas se faire hacker sa carte bleu, quand tu vas leur prononcer les mots "instance mastodon" c'est fini ils sont perdus.


Par exemple c'est impossible de faire basculer des réseaux militants vers des plateformes sécurisées et cryptées, tout le monde danse la samba sur discord en attendant de se faire attraper par palantir.

Voila c'était ma digression je vous laisse à votre débat.

Arnold de Schartzenprout a écrit :

Tu dis être en attente d'éléments pour te forger un avis, mais en pratique, tu affirmes déjà beaucoup de choses qui sont juste fausses ou imprécises. Peut-on construire une maison solide sur des fondations en boue ?

Quelques exemples :

l'IA générative et la concentration du pouvoir algorithmique entre quelques mains

Les IA génératives sont accessibles au public depuis 2022. Cambridge Analytica date de 2016. Du coup au mieux ce n'est pas précis, et on ne peut pas comprendre de quoi tu parles. Par la suite tu t'es concentré sur les RS, donc je suppose qu'en fait tu ne voulais pas parler des IA génératives ? Le "pouvoir algorithmique", c'est quoi ? Je n'arrive pas à trouver grand chose qui soit moins concentré entre quelques mains que la maitrise de l'algorithmique, de nos jours.

faut-il reprendre en main les algorithmes des réseaux sociaux ?

Tu n'as jamais défini ce que signifie "reprendre en main un algorithme". Tu as parfois parlé de simplement exiger de la transparence sur ces algorithmes ("mettre au clair ces sujets avec des RS"), tu as mentionné que les RS pouvaient collaborer avec l'état ("La collaboration des RS avec les autorités est tout à fait possible.") (collaborer à quoi ? On ne sait pas). Tu as parlé de censurer les RS pour les jeunes ("fixer l'âge à 15 ans n'est pas déconnant.") sans répondre vraiment au fait que ce n'est techniquement ni simple ni sans conséquences (en terme de perte de liberté d'expression). Tu as aussi présenté la censure comme une atteinte à la "liberté de s'informer" qui n'existe pas en droit (ce qui existe, c'est la liberté d'expression et on ne sait pas si c'est la même chose ou pas pour toi).

vous disiez que les algorithmes sont intentionnels

Je n'aurais jamais écrit quelque chose comme ça, parce que j'utilise des mots précis dans un sens précis. Je ne spécule pas non plus sur les intentions des créateurs de RS, j'ai précisément écrit l'inverse "le but d'un système est ce qu'il produit concrètement (ce qui est plus intéressant que de se poser la question de l'intention des acteurs)". Comment peux-tu faire un contre sens à ce point ?

Avoir accès aux algorithmes opaques des RS se situe pour moi entre "interdire les RS qui posent problème et aller sur des RS qui ne posent pas de problème mais ne sont pas aboutis ou conviviaux.

Mais ça veut dire quoi pour toi d'avoir "accès" aux algorithmes ? On a déjà accès aux algorithmes, il suffit d'avoir un compte sur une plateforme et de regarder ce que le RS te propose à la lecture. Comme K' le disait, il n'y a même pas de preuve d'une intention délétère dans la sélection des contenus affichés par un quelconque RS, juste de la spéculation (et perso, j'ai déjà dit que les discussions sur l'intention me semblent stérile, je vais ajouter que c'est quand même assez complotiste d'imaginer que les RS chercheraient à provoquer des suicides chez les jeunes, ce que tu suggères sans aucune preuve).

[Au sujet de FB :] Donc pas de faire du business et récolter de la donnée. Juste un projet dégueulasse qui s'est lissé avec le temps pour devenir ce qu'il est aujourd'hui.

Non plus. Le projet dégueulasse n'était effectivement pas directement pensé comme un business, mais il sert surtout à illustrer quel type de personne est Zuckerberg (et le fait que tu le présentes comme un site de rencontre me semble également parlant). Ce projet a été jeté et Zuckerberg a crée FB en février 2004, et l'entreprise en juin de la même année. Ainsi, dès 2004, dès que le projet s'appelle Facebook, le modèle économique visé est la collecte de données et la vente de publicités. Rien d'original, d'ailleurs, c'était déjà le modèle économique de Myspace à ce moment.

Artemis dit que mes propos sont des "glissements vers un horizon de guerre", je lui réponds que nous sommes déjà en guerre, économique, que son intensité a augmenté, et que pour développer cet argument il faudrait un topic dédié sans quoi le sujet initial dévierait.

Je me répète parce que tu n'as toujours pas compris la question : le propos d'Artemis n'était pas seulement d'observer qu'il y a un glissement vers un vocabulaire guerrier, mais de pointer qu'il s'agit d'une attitude fascisante (et non ça ne change rien que ce soit un glissement vers la guerre ou une guerre déjà existante dans ton esprit, cf Eco, dans la source déjà citée). Tu peux retourner voir, c'est écrit dans son post. Pour poser la question de manière plus directe : qu'est-ce qu'il y a, dans tes propos affirmant l'existence d'une guerre, qui les distingue de propos fascistes ?

Si aujourd'hui nous sommes sur un modèle assez vertical, j'essaie d'envisager un autre modèle, horizontal, dans lequel l'Etat respecte les choix des citoyens, de la société, car il est l'entité qui les représente. Une utopie peut-être, mais est-on à une utopie près quand on parle de politique ?

Voilà exactement ce qui donne l'immobilisme : il faut et il suffit d'attendre que l'état s'empare de cette question et obéisse aux citoyens. Sauf qu'ici, je note :
- il n'y a aucun indice que les citoyens souhaiteraient massivement un interventionnisme de l'état dans les politique des RS. Tous les exemples que j'ai ont plutôt été (légitimement) contestés par la base.
- pour la blague, la seule entité politique qui protège tes données personnelles, c'est l'Europe, parce que c'est une bonne échelle pour imposer des sanctions économiques contre des multinationales qui feraient n'importe quoi. Seulement à force de dunker sur l'Europe toute la journée tu arrives à parler de protection des données sans que le RGPD soit mentionné une seule fois. C'est un gros point aveugle.
- À l'inverse, un peu comme le mentionnait Artemis, il existe des initiatives à petite échelle : utiliser des logiciels libres, virer Microsoft, passer du temps à se former, fréquenter un hackerspace, installer linux, participer à l'amélioration de logiciels libres (y compris ergonomie / traductions pour les gens moins techniques), choisir des réseaux sociaux décentralisés. Tout ceci a un coût, mais c'est la base : on ne peut pas penser correctement un sujet en ayant de la bouillie dans la tête.

Uncurieux a écrit :

Tu dis être en attente d'éléments pour te forger un avis, mais en pratique, tu affirmes déjà beaucoup de choses qui sont juste fausses ou imprécises.

Comme je le disais, mon avis est évolutif, si je suis convaincu évidemment par les éléments partagés ici.
Il est possible que certaines de mes croyances soient fausses, je n'ai pas la prétention de maîtriser le sujet, mais là aussi comme je le disais, de faire jouer l'intelligence collective.
Pour les imprécisions, je vais essayer de clarifier.

Les IA génératives sont accessibles au public depuis 2022. Cambridge Analytica date de 2016. Du coup au mieux ce n'est pas précis, et on ne peut pas comprendre de quoi tu parles.

Je ne parlais pas de l'accès au public mais des acteurs. Pour information, l'Autorité de la concurrence s'est auto-saisie en 2024 sur ce sujet. CLIC

Par la suite tu t'es concentré sur les RS, donc je suppose qu'en fait tu ne voulais pas parler des IA génératives ?

Je parle d'un ensemble de choses. Les moyens de production de contenu, comme les moyens de diffusion. Les RS sont les vecteurs de diffusion.
Je ne suis pas certain de comprendre pourquoi tu discutes ce point.

Je n'arrive pas à trouver grand chose qui soit moins concentré entre quelques mains que la maitrise de l'algorithmique, de nos jours.

Ce n'est pas ce que je disais juste avant et que tu contestes ? l'IA générative et la concentration du pouvoir algorithmique entre quelques mains
Là aussi je ne comprends pas trop ce que tu voudrais savoir.

Tu n'as jamais défini ce que signifie "reprendre en main un algorithme". Tu as parfois parlé de simplement exiger de la transparence sur ces algorithmes ("mettre au clair ces sujets avec des RS"), tu as mentionné que les RS pouvaient collaborer avec l'état ("La collaboration des RS avec les autorités est tout à fait possible.") (collaborer à quoi ? On ne sait pas). Tu as parlé de censurer les RS pour les jeunes ("fixer l'âge à 15 ans n'est pas déconnant.") sans répondre vraiment au fait que ce n'est techniquement ni simple ni sans conséquences (en terme de perte de liberté d'expression). Tu as aussi présenté la censure comme une atteinte à la "liberté de s'informer" qui n'existe pas en droit (ce qui existe, c'est la liberté d'expression et on ne sait pas si c'est la même chose ou pas pour toi).

Oula... Bon, il me semblait être assez clair sur tous ces points et j'ai l'étrange sentiment que tu n'as lu qu'en diagonale ce que j'ai pu dire car il règne une grande confusion dans ce que tu demandes là.
Je vais faire l'effort d'y répondre malgré tout.
La reprise en mains des algorithmes, c'est de permettre l'Etat de contrôler les mécanismes de recommandation afin de les analyser et de faire la distinction entre suggestion et influence. C'est ce contrôle ou régulation des recommandations qui est central, comme dans l'algorithme de Tik Tok qui va recommander des tutos pour se scarifier ou se suicider à un ado dont il a détecté le mal-être ou plus généralement créer des "bulles de filtre", mais aussi en matière d'influence politique pour tous les RS.

Je n'ai jamais demandé la censure pour quiconque y compris les jeunes, sauf comme sanction si les RS ne coopèrent pas sur ces sujets. J'ai même noté le caractère cocasse de voir qu'en Chine l'âge légal pour aller sur Tik-Tok était de 13 ans (mais avec max 40 min par jour), et 15 ans dans beaucoup de pays européens mais sans limitation de temps. Par contre, en l'état, oui, une limitation d'âge à 15 ans n'est pas déconnante si le RS ne corrige pas ses travers en terme de recommandation.

Enfin, non, la liberté de s'informer n'est pas la même chose pour moi que la liberté d'expression, ce qui semble évident non ?

Je ne spécule pas non plus sur les intentions des créateurs de RS, j'ai précisément écrit l'inverse

Je répondais à Artemis qui a écrit "Le reste des contributions de UnCurieux et gloubi notamment vise à montrer que les algorithmes sont intentionnels". Vois avec lui si tu contestes ce point.

il n'y a même pas de preuve d'une intention délétère dans la sélection des contenus affichés par un quelconque RS, juste de la spéculation (et perso, j'ai déjà dit que les discussions sur l'intention me semblent stérile, je vais ajouter que c'est quand même assez complotiste d'imaginer que les RS chercheraient à provoquer des suicides chez les jeunes, ce que tu suggères sans aucune preuve).

Relis bien mon intervention sur ce point et les liens proposés. Je ne spécule pas moi non plus, je lis ce qui m'est proposé. Quand plusieurs expériences arrivent au même résultat, je ne peux que constater que la volonté n'est pas en tout cas d'empêcher ces dérives. Alors volonté de nuire ou négligence ? A chacun d'en tirer la conclusion qu'il souhaite. Pour moi, le manque d'intervention pour empêcher ces dérives revient à un acte volontaire.

Le projet dégueulasse n'était effectivement pas directement pensé comme un business

Voilà ! C'est tout, pas besoin de chercher à polémiquer. C'est simplement ça que je disais.

qu'est-ce qu'il y a, dans tes propos affirmant l'existence d'une guerre, qui les distingue de propos fascistes ?

Il va falloir que toi tu t'expliques sur ce que tu entends par propos fascistes.
Dénoncer des actes de guerre économique ou de guerre d'influence c'est fasciste ?
J'ai un peu peur que de la même façon que tu mets des propos d'ED à toutes les sauces tu fasses pareil avec le fascisme.

...tu arrives à parler de protection des données sans que le RGPD soit mentionné une seule fois. C'est un gros point aveugle.

Je m'auto-cite donc, le 11/04 :
Maintenant, on peut aussi s'interroger sur le fait que la CNIL ait autorisé Microsoft a héberger nos données médicales quand on connait les lois américaines d'extra-territorialité et notamment le Foreign Intelligence Surveillance Act (je ne parle même pas des conditions d'attribution déjà louches). Je ne suis pas certain que cela soit conforme au RGPD européen d'ailleurs...
No comment... J'ai compris ton intention du coup.

À l'inverse, un peu comme le mentionnait Artemis, il existe des initiatives à petite échelle : utiliser des logiciels libres, virer Microsoft, passer du temps à se former, fréquenter un hackerspace, installer linux, participer à l'amélioration de logiciels libres (y compris ergonomie / traductions pour les gens moins techniques), choisir des réseaux sociaux décentralisés.

Je te renvoie à la réponse de Satori : C'est trop compliqué pour le normie.
Malgré les supers courts de SNT...
Tiens, juste pour que tu comprennes bien : tes parents font tout ça d'eux mêmes ? J'ai bien dit "d'eux-mêmes", pas parce que tu leur as cassé la tête avec ça.

Arnold de Schartzenprout a écrit :

C'est drole : je te pointe des imprécisions, et tes réponses sont de pire en pire. Donc je préviens : je demande encore des précisions pour comprendre ce que tu veux dire.

1/ Je te demande ce que les IA viennent foutre sur ce topic. Tu viens d'inventer qu'en fait tu parles pas uniquement de diffusion de contenu mais aussi de leur génération. Sauf que t'as jamais parlé de génération de contenu (sauf, du coup, en mentionnant les IA mais sans rien dire dessus sinon que ce serait du "pouvoir algorithmique" ce qui ne veut rien dire). Tu ne réponds pas du tout quand je pointe qu'il y a un décalage de 15 ans entre les RS et l'arrivée des IA, et de 8 ans entre le moment où il est devenu évident pour tout le monde que les RS avaient un pouvoir de manipulation de masse et cette même arrivée des IA.

2/ Je t'ai demandé ce que tu voulais dire par "concentration du pouvoir de l'algorithme entre peu de mains", parce que, pour être clair, ça ne veut rien dire. Et manifestement t'as sauté une négation dans ce que j'ai écrit ("Je n'arrive pas à trouver grand chose qui soit moins concentré entre quelques mains que la maitrise de l'algorithmique, de nos jours."). Mais je te demandais de donner une définition à tous ces mots et à ce qu'ils recouvrent quand tu les emploies. Je veux bien admettre que tu utilises les mots hors de leur sens premier, mais c'est bien si c'est pas n'importe quoi quand même (mème de circonstance).

3/

La reprise en mains des algorithmes, c'est de permettre l'Etat de contrôler les mécanismes de recommandation afin de les analyser et de faire la distinction entre suggestion et influence.

L'état peut déjà "contrôler les mécanismes de recommandation afin de les analyser". Tu as décrit toi-même le protocole qui le permet dès ton deuxième post :
1/ créer un compte vierge
2/ regarder ce qui est suggéré et l'analyser

Donc soit tu n'as pas compris l'étude que tu as toi-même relayée, soit tu voulais en fait dire autre chose quand tu parlais de reprendre en main les algorithmes. Et dans ce cas, de quoi tu parles ?

Je n'ai jamais demandé la censure pour quiconque y compris les jeunes, sauf comme sanction si les RS ne coopèrent pas sur ces sujets.

Mais du coup, sachant que la possibilité d'un contrôle est triviale, ça veut dire quoi "coopérer" ? Et donc ça veut dire qu'il n'y a jamais de sanction ?

4/ Au sujet de la liberté de s'informer, le problème n'est pas de savoir si c'est de liberté d'expression que tu parles ou pas. Le problème c'est que la liberté de s'informer n'existe pas dans le droit français. Du coup, personne ne peut deviner de quoi tu parles. Je peux pas être plus clair : quand tu inventes des mots, les gens ne peuvent pas comprendre ce que tu écris.

5/

volonté de nuire ou négligence ?

Dans un post où tu essayes de clarifier ce que tu as dit, tu nous expliques que pour toi une négligence est de toute façon un acte volontaire. De toute façon il s'agit d'une fausse dichotomie ici : il existe une explication beaucoup plus raisonnable : les algorithmes de recommandations optimisent simplement autre chose que le bien-être des utilisateurs/trices, simplement parce que c'est peu accessible aux concepteurs des algorithmes. Ce qui est super accessible, par contre, c'est le temps passé sur l'appli. De mon point de vue, il semble que balancer des contenus incitant au suicide à des jeunes, c'est ce qui, à court terme, maximise son engagement sur le réseau, et c'est ça qui rapporte de l'argent à l'appli. C'est beaucoup moins complotiste que d'essayer d'imaginer une action très secrète de ce réseau pour inciter les jeunes à se suicider.

6/ Au sujet de FB : je ne cherche pas à polémiquer, je cherche à corriger quand tu dis des choses fausses. L'existence d'un blog tenu par le mec qui 3 ans plus tard va fonder un RS ne montre pas qu'il y a un développement anarchique des RS. FB, dès sa création, est une machine à collecter et vendre des infos personnelles. Et FaceMash n'était pas un réseau social, du coup ça ne démontre absolument rien.

7/ Sur le fascisme :
- tu ne montres pas qu'il existe une guerre (tu aurais du mal, parce que ce n'en est pas une).
- pointer des intérêts antagonistes dans la société ne signifie pas qu'il y a une guerre (et même une tentative d'ingérence n'est pas une guerre)
- ce n'est pas moi qui dois m'expliquer, mais tu peux aller lire Umberto Eco, déjà cité 3 fois, et expliquer ensuite pourquoi ta manière de présenter les choses comme une guerre "économique ou d'influence" le tout sur gros fond de complotisme ("La chine pousse nos adolescents à se suicider"), se distingue de ce qu'il décrit comme du fascisme. Ce que tu ne fais toujours pas (4e fois).

8/ Sur le RGPD, au temps pour moi, tu en as cité le nom. Pour dire n'importe quoi. Donc : évidemment, Microsoft respecte le RGPD quand il obtient l'agrément pour héberger des données de santé (et ils ont assez de juristes pour que ce soit le cas). Les serveurs concernés sont obligatoirement physiquement sur le territoire d'un pays membre de l'UE (cf la loi). Ce qui est drôle, c'est que s'il est légitime de s'inquiéter de la gouvernance des données et de FISA dans ce cadre, le meilleur moyen pour pouvoir se passer de grosses sociétés privées, ça aurait été de reconstruire une infrastructure publique d'hébergement. Et le meilleur outil pour ça, c'est une agence d'état. Mais bref : quand tu écris « on voit que le mot souveraineté commence à prendre de l'importance dans la campagne électorale à venir, à droite comme à gauche. On voit le sentiment anti UE monter. », qui voit quoi ? Ça sort d'où ? Et c'est quoi le rapport avec le sujet des RS ?

9/ Sur les moyens d'agir : "C'est trop compliqué pour le normie".

Et c'est contradictoire avec ta volonté d'utiliser la démocratie pour faire changer les choses, ce à quoi tu ne réponds pas.

Uncurieux a écrit :

Non mais je n'entrerai pas dans une approche polémique à laquelle tu nous as habitué ici parce que tu as une lecture partielle des réponses.
Mes deux précédentes réponses n'étaient consacrées qu'à ça : débunker les déformations/âneries que tu racontes sur mes propos parce que ton objectif n'est pas de discuter de la problématique.
Et pour illustrer cela, je ne répondrai qu'a une seule de tes provocations, histoire d'illustrer ce que je dis.

8/ Sur le RGPD, au temps pour moi, tu en as cité le nom. Pour dire n'importe quoi. Donc : évidemment, Microsoft respecte le RGPD quand il obtient l'agrément pour héberger des données de santé (et ils ont assez de juristes pour que ce soit le cas).

Ok, donc pour résumer, dans un premier temps tu n'avais pas lu le passage où je citais le RGPD et t'es planté en disant que je n'ai même pas mentionné ce dernier, et ensuite, pour te raccrocher aux branches tu dis que si, je l'ai cité mais pour dire n'importe quoi alors que tu n'as pas lu ce que j'avais écrit dans le passage où je le cite.
Alors pour ta gouverne, j'ai dit ceci sur mes réserves quant au fait de confier nos données de santé à Microsoft : "quand on connait les lois américaines d'extra-territorialité et notamment le Foreign Intelligence Surveillance Act".
Alors peut-être que tu ne connais pas ces lois d'extra-territorialité, et dans ce cas, au lieu de dire que je dis n'importe quoi tu poses tout simplement la question sur ce que cela implique.
Je te demande donc puisque tu n'oses pas demander :

Est-ce que tu sais ce qu'impliquent ces lois ?
Est-ce que tu es en mesure aussi de mettre ça en relation avec l'état de guerre économique que tu dis ne pas exister ?
Est-ce que vraiment ces problématiques t'intéressent au fond ou le plus important est de réussir à dire que je raconte n'importe quoi pour te donner un rôle professoral de domination ?

Uncurieux a écrit :

Je me demande toujours pourquoi tu fais des réponses détaillées, point par point, à Arnold.

Tu sais très bien que Arnold ne répond jamais à tout. Il répond uniquement aux points qui l'intéressent. De l'autre côté, si tu réponds à beaucoup de points, tu augmentes tes chance de faire une imprécision sur un de tes points ; et tu sais très bien que dans ce cas, il ne va répondre qu'au point où tu as fait une imprécision. Parce que c'est sa méthode : il ne comprend rien, ne répond à rien, ignore tout ce qui pourrait le mettre en difficulté, et ne prend qu'un bout de phrase pour faire un nouveau pavé.

Lui répondre point par point de façon exhaustive, c'est la façon la moins efficace, la plus inutile de "discuter" avec lui.

gloubi a écrit :

Mon point de vue est toujours qu'Arnold est extrêmement confus sur la plupart des sujets politiques (la liste d'exemples est vraiment longue). Mais comme une horloge arrêtée donne l'heure juste deux fois par jour, il arrive que soient pointées des choses intéressantes au milieu d'un fatras de trucs sans grand intérêt (l'excuse d'avoir "plus de questions que de réponses" tient assez peu quand on n'est pas capable d'accepter la moindre réponse, surtout quand tes interlocuteurs disposeraient d'un gros argument d'autorité sur le sujet).

Mais on peut déjà souligner que tout le monde ici semble d'accord pour dire que les RS ont des effets pervers (collecte et revente d'infos personnelles, influence politique, et peut-être d'autres trucs mais c'est tellement flou ou complotiste que je ne les inclus pas).

Il y a une divergence entre les idées d'Artemis et les miennes, sur l'échelle à laquelle on peut agir (niveau européen, étatique, ou collectif de petite échelle) pour diminuer ces nuisances. J'essaye de résumer ce qu'on a dit de ces trois niveaux :

Artémis dit que les niveaux étatiques et européens sont inefficaces parce qu'il y a une envie de la population de continuer à les utiliser (parallèle avec la drogue).
Pour ma part je distingue les deux, en pointant le rgpd comme un premier élément de protection. Je me méfie beaucoup du niveau étatique, la France étant particulièrement douée pour les atteintes aux droits fondamentaux sur internet (censure, arbitraire, délit de consultation de sites web, loi Avia, etc.).

Arnold dit qu'il veut des lois françaises, cite le rgpd, mais parle avec satisfaction de la montée du sentiment anti UE. Et au niveau Français, ces grands principes seraient obtenus par le respect des opinions des gens, même s'il n'est absolument pas clair que les gens y seraient favorables. Pour ne rien arranger, rien n'est clair dans "ces grands principes". On a bien compris l'étalage viriliste de reprendre en main blabla, mais si personne ne veut expliquer en quoi ça consiste, c'est ce qu'on appelle une posture.

Au niveau local, Artémis et moi (et Sato j'imagine) sommes d'accord pour dire qu'il y a plein de choses à faire, à commencer par travailler à informer les gens, organiser des collectifs et militer pour changer les comportements, soutenir les hackerspaces proches de chez vous voire les fréquenter.

Pour Arnold, "Ça ne convient pas pour les normies" (sans distinction : les normies peuvent pas faire un virement à LQDN semble-t-il, ni cuisiner 4 cookies et les apporter à des gens qui parlent informatique dans un local). Cela dit on peut être un peu optimiste : on est 6 ans après la mise en place d'un enseignement obligatoire SNT pour la quasi totalité de la population, 6 ans après la création d'un Capes pour recruter les enseignant.e.s qui s'en chargeront, il y a des entreprises qui louent du matériel sous logiciel libre pour des particuliers, il y a des initiatives pour se passer des OS propriétaires au gouvernement, dans des établissements scolaires, etc. Très vite la personne à la ramasse sur ces sujets n'est plus le normies mais le tonton-chiant-qui-a-un-avis.

Uncurieux a écrit :

Un sujet complexe peut te paraitre confus, à toi de faire l'effort de ne pas polémiquer dès lors qu'une problématique t'échappe.
Vu que tu éludes certaines questions, je vais t'aider à appréhender un peu mieux cette complexité.

Tu parles de la protection liée au RGPD. Je te réponds qu'il y a l'extra-territorialité du droit américain donc qu'il faut déjà tenir compte de ça, sans quoi le RGPD ne règlera rien en terme de protection des données.
On va prendre l'exemple que j'ai cité et pour lequel visiblement tu n'as pas saisi l'enjeu : nos données de santé confiée à Microsoft.
Microsoft... Entreprise américaine... Extra-territorialité du droit américain ---> fin de partie pour le RGPD.
Donc oui, Microsoft peut transmettre les données de santé des Français aux USA.

J'ai plusieurs exemple où par manque de souveraineté numérique, nous avons confié des missions à des opérateurs étrangers, américains ou détenus en partie par eux le plus souvent, et que cela pose problème sur la sécurité de nos données, comme avoir confié la veille numérique de Matignon à une entreprise canadienne contrôlée par des capitaux américains.

Je parle là de l'extra-territorialité du droit américain, mais on peut aussi parler de celle du droit chinois. Leur loi sur le renseignement national peut elle aussi faire craindre que des données personnelles appartenant à des citoyens étrangers et détenues par des entreprises chinoises soient transmises aux services de renseignement chinois.

Alors tu peux trouver complotiste le fait de pointer ces risques, c'est à ta libre appréciation, mais moi je trouve que c'est être pro-actif.
Quant au caractère volontaire de pousser les jeunes au suicide sur Tik-Tok, je le répète : quand Tik-Tok connait cet état de fait, sait que son algorithme pose problème, et ne fait rien, alors oui, c'est volontaire.
Tu disais toi-même en page 1 : "Ça ne change pas grand chose au fait que le résultat est fautif."
Je ne t'ai pas repris, parce que je ne cherche pas la polémique, mais on va clarifier : un résultat n'est jamais fautif. Demain, si tu tires sur quelqu'un avec une arme et que tu le tues, tu ne pourras pas dire "ce n'est pas ma faute, c'est le résultat qui est fautif". Le fautif, c'est celui qui commet l'acte. C'est celui qui met en place un algorithme, est informé des effets pervers, et ne fait rien.

Arnold dit qu'il veut des lois françaises, cite le rgpd, mais parle avec satisfaction de la montée du sentiment anti UE.

Avec satisfaction ? Non, c'est un constat, tout simplement. Encore une chose que je dois débunker parce que tu racontes n'importe quoi.

On a bien compris l'étalage viriliste de reprendre en main blabla, mais si personne ne veut expliquer en quoi ça consiste, c'est ce qu'on appelle une posture.

Je te laisse avec tes problèmes de virilité qui ne me regardent pas, mais je débunke encore une autre de affirmations mensongères : j'ai déjà expliqué en quoi cela consiste, tu l'as même quoté.

La reprise en mains des algorithmes, c'est de permettre l'Etat de contrôler les mécanismes de recommandation afin de les analyser et de faire la distinction entre suggestion et influence. C'est ce contrôle ou régulation des recommandations qui est central

Et toi tu confonds le mot "contrôler" et "tester". C'est volontaire ou tu n'as juste pas compris ?
Pourtant, tu as répondu très tôt à ma question sur la possibilité d'avoir un algorithme bienveillant. Je ne comprends pas non plus ta recherche de polémique sur ce point.

Pour Arnold, "Ça ne convient pas pour les normies"

Là encore, je t'ai répondu que c'était la réponse de Satori, et que je suis d'accord avec cette réponse.
Là encore, tu éludes la question que je t'ai posé pour illustrer que ton voeux d'utiliser les alternatives proposées ne recueille pas l'adhésion : tes propres parents le font-ils ?

Linux c'est à peine plus de 4% d'utilisateurs particuliers, même si le nombre augmente. Sur ce point je suis assez optimiste, surtout avec l'obsolescence de Windows 11 qui te force à jeter ton ordi à la poubelle alors qu'il fonctionne.
Les réseaux sociaux alternatifs proposés par Artemis, je n'en ai pas les chiffre, mais je pense que c'est encore moins.
La réalité elle est là, et elle est éloignée de ton fantasme, même s'il va dans le bon sens. Cela montre le travail à accomplir, mais si les développeurs ne rendent pas ces alternatives plus conviviales, ça ne décollera jamais.
Sans vouloir être péjoratif, pour l'instant, ces solutions s'adressent à des geeks, pas au grand public.

Après, libre à toi d'être optimiste quant aux fruits des courts de SNT, qui vivra verra. Je te rappelle au passage que nous sommes dans une société vieillissante qui ne fait pas assez d'enfants, donc quid de tous ceux qui ont plus de 15 ans (aller, 21 si on rajoute 6 ans d'ancienneté de SNT) ?

Arnold de Schartzenprout a écrit :

Un sujet complexe peut te paraitre confus

Que les choses soient claires : dans les interlocuteurs qui ont un bagage suffisant pour appuyer un argument d'autorité dans cette conversation, je m'incluais. Le sujet n'est pas complexe de mon point de vue. Par contre, oui, tes propos sont confus, et tu mélanges tout (liberté de s'informer, reprendre en main les algorithmes, pouvoir de l'algorithme, etc.).

Et toi tu confonds le mot "contrôler" et "tester". C'est volontaire ou tu n'as juste pas compris ?

Oui je confonds parce que c'est la même chose. S'il y a une distinction, elle n'est que dans ta tête. Je suis effectivement très curieux que tu nous expliques en quoi consiste le fait de contrôler un algorithme de recommandation d'un réseau social. Tu notes que ça fait 5 messages que je demande, 5 messages que tu évites soigneusement de décrire en quoi consisterait la "reprise en main des algorithmes". Tu as compris quand je disais qu'on n'est pas dans ta tête ?

Là encore, tu éludes la question que je t'ai posé pour illustrer que ton voeux d'utiliser les alternatives proposées ne recueille pas l'adhésion : tes propres parents le font-ils ?

Tu m'excuseras de ne pas avoir envie de donner des informations sur ma famille sur ce forum. En quoi est-ce que c'est pertinent pour la conversation ?

Derniers points :
- tu me reproches de baser des espoirs sur le développement de communautés favorisant des logiciels libres. Tu dis que c'est un fantasme parce qu'ils sont aujourd'hui trop peu répandus (et tu racontes n'importe quoi à ce sujet, puisque… Android – 70% de parts de marché du smartphone en France – est un linux). Mais peu importe, puisque tu écrivais « Une utopie peut-être, mais est-on à une utopie près quand on parle de politique ? ». On est exactement dans ce qu'Artemis a décrit : il y a un cadre dans la conversation, avec des fantasmes qui sont acceptables (les tiens) et des remarques qui ne sont pas bienvenues (tout le reste). Ce n'est jamais précisé, jamais clair. Le sentiment que cela inspire n'est pas celui d'une personne "qui a plus de questions que de réponses", mais au contraire celui de quelqu'un qui sait vers où il veut amener la conversation : vers le coin de bar le plus proche, avec autant que possible de justifications d'un immobilisme un peu navrant. Finalement, tu auras réussi à t'auto-persuader qu'il est légitime de ne surtout rien faire, puisque c'est trop compliqué, et que tu es déjà convaincu que tu n'as rien à apprendre des gens qui ont investi du temps ou de l'énergie sur ces sujets.

- tu me prêtes des propos que je n'ai pas tenus au sujet du RGPD. J'ai dit qu'il existait, et qu'il apporte des protections aux citoyen.ne.s de l'UE (certainement pas que la protection est totale ou suffisante). J'ai expliqué comment faire quelque chose de suffisant, dans le point 8 de mon dernier gros post, n'hésite pas à t'y référer si tu veux répondre sur ce point.

Arnold de Schartzenprout a écrit :
Linux c'est à peine plus de 4% d'utilisateurs particuliers,
[...]
mais si les développeurs ne rendent pas ces alternatives plus conviviales, ça ne décollera jamais.
Sans vouloir être péjoratif, pour l'instant, ces solutions s'adressent à des geeks, pas au grand public.

Ha bon ?

C'est quand la dernière fois que tu as installé un Linux, quelle distribution ? Basée Debian ou RedHat ?

j'utilise Linux depuis 1999, à l'époque, oui, il fallait s'y connaitre en informatique.
Depuis, 2010 environ, c'est 'user friendly'.
Aujourd'hui, je t'installe un Linux, si ça ne t'intéresse pas plus, tu ne sauras même pas si c'est des packages .deb ou .rpm . Tu auras une fenêtre avec un bouton pour valider l'installation/la mise à jour.

Il n'y a que deux trucs qui freinent la progression du Logiciel Libre, et de Linux :
- L'idée que les gens s'en font. Qu'il y a des distributions plus "faciles à prendre en main" que les derniers Windows
- Parfois il n'y a pas encore les pilotes pour certains périphériques (genre appareil photo très particulier)

Mais en aucun cas c'est par manque d'ergonomie, ou un 'défaut' des développeurs ... Tu installes KDE, un truc Allemand à l'origine, mais avec une version Française, tu utilises un Linux qui a une interface qui ressemble à Windows. ça a été créé exprès, pour que les gens puissent changer d'OS facilement. Et ça existe depuis, 2009 les premières versions ?

Zarg a écrit :

Ce que tu dis là m'intéresse beaucoup, je vais t'envoyer un message en privé par rapport à Linux si tu veux bien. L'obsolescence de Windows est réellement insupportable, et à titre personnel je suis passé sous IOS il y a déjà 15 ans, mais pour mon ordi de boulot, je suis obligé de rester sous Windows, mon logiciel comptable n'étant pas compatible avec IOS.
Ma compagne a un ordinateur pourtant puissant, mais sous Windows10 et là elle rage de devoir changer d'ordi car à priori Windows11 est trop lourd. Bref, une vraie plaie.
Et c'est vrai que j'en étais resté à cette image d'un Linux réservé à des utilisateurs avertis.

D'un manière générale, je suis d'accord sur le fait que beaucoup de choses sont liées aux habitudes que l'on a pris, et qu'il est difficile d'en changer. Personnellement, j'aurais beaucoup de mal à repasser sur PC à la place de Mac. Pas que je n'y arriverais pas, mais juste parce que j'en apprécie l'ergonomie et les fonctionnalités.

Pour faire raccord avec le sujet, en fait, pour l'histoire de la convivialité, je parlais principalement des réseaux sociaux alternatifs. Là aussi, surement une question d'habitude, mais aussi du fait que si ces réseaux sont peu utilisés, répandus, alors ils perdent le côté social de la chose.
Et sans personnaliser le problème, je pense que beaucoup de personnes sont dans ce cas. Ils ont trouvé un RS qui est convivial, qui rassemble beaucoup de connaissances, pourquoi en changer ? Si on leur pique leurs données, ça ne leur coûte rien. Par contre, ils se retrouvent influencés par ce que leur propose les algorithmes, sans même s'en douter. Et c'est là pour moi le principal problème : les mécanismes de recommandation.

Allez petite digression concernant le contrôle d'algorithmes. Je vais commencer doucement, mais l'objectif est d'expliquer pourquoi "contrôler" un algorithme (sans précision) ne veut rien dire.

Un algorithme, dans un sens un peu technique, ça désigne n'importe quel traitement d'une information. Ranger les couverts dans un tiroir, c'est un algorithme et la plupart des algorithmes utilisés autour de vous sont assez indolores. Ici on va parler spécifiquement des algorithmes qui déterminent quel contenu s'affiche sur le feed d'un réseau social. On va supposer qu'un tel algorithme est codé dans un langage de programmation et exécuté sur un ordinateur, même si c'est une grossière simplification pour ne pas rentrer dans les détails d'architecture (qui sortiraient de mon champ d'expertise de toute façon).

1/ Qu'est-ce que peut faire un algorithme

Il y a toute une branche de l'informatique théorique qui s'attache à déterminer ce que peut ou ne peut pas faire un algorithme. Par exemple, on peut montrer qu'il existe un algorithme qui trie des nombres par ordre croissant, ou qu'il est impossible de faire un algorithme qui analyse un autre algorithme et détermine des propriétés intéressantes dessus. Et avec l'habitude, on finit par avoir une certaine intuition de ce que ça recouvre, donc si la question est de savoir s'il est théoriquement possible d'avoir un algorithme bienveillant, la réponse est clairement que oui c'est possible (pour autant qu'on puisse déterminer dans les grandes lignes ce qu'on veut dire par là, mais typiquement il est algorithmiquement faisable de filtrer les encouragements au suicide).

2/ Qu'est-ce qu'on voit de l'algorithme

Quand un algorithme produit des résultats, l'analyse peut se faire à plusieurs niveaux : on peut lire la spécification prévues pour ce code, on peut regarder le code source (écrit par des humains), on peut regarder le code compilé (transformé par des machines, et lu par l'ordinateur), on peut aller regarder au microscope électronique l'état des cellules mémoire pour surveiller l'exécution de l'algorithme, ou on peut regarder quels effets l'algorithme produit. Mais en fait tout dépend du contexte : si on ne peut pas faire confiance à la personne qu'on contrôle, alors seule les deux dernières méthodes donnent des résultats fiables.

Prenons d'abord une hypothèse favorable : je fais un audit interne pour une société, celle-ci a intérêt à ce que je puisse travailler efficacement, donc elle me fournit tous les éléments dont j'ai besoin. Dans ce cas, je vais vérifier la spécification, et vérifier que celle-ci est traduite correctement en code. Si l'algorithme dispose de paramètres, je vais aller regarder comment ils ont été déterminés. À la fin, je pourrai déterminer ce que fait l'algorithme.

Dans un cas défavorable, maintenant : la société peut très bien produire une spécification mais avoir du code qui ne correspond pas à cette spécification. Ou alors le code peut être correct mais le compilateur le compile exprès en quelque chose d'autre. Ou alors le code compilé peut être correct mais l'ordinateur qui l'exécute manipule le résultat. De même, dans le cas d'un algorithme à paramètres, on peut te mentir sur la manière d'obtenir les paramètres, ou sur leurs valeurs. Seul moyen de détecter des mensonges : le microscope électronique. Autant dire que cette dernière solution est déjà peu envisageable pour une machine à voter (système simple, qui tourne sur une machine dédiée sans OS, qui effectue une tâche simple en synchrone, etc.). C'est totalement hors de propos pour regarder un algo de recommandations de contenus sur un RS.

Or nous sommes clairement dans un cas défavorable : quelle que soit le principe que tu mets en place, un RS aura intérêt à te mentir, sachant qu'il est impossible de prouver qu'ils mentent. Il peut d'ailleurs te mentir sur le fait qu'il coopère (Ce ne serait pas une première).

3/ Pourquoi les algorithmes recommandent des contenus incitant des jeunes au suicide

Ce n'est pas parce qu'il existe un algorithme qui fait quelque chose que c'est forcément simple de le faire. Reprenons l'exemple des incitations au suicide données aux jeunes sur des RS. Un algorithme qui détermine qu'un contenu suscite de l'engagement ("je le montre à 100 utilisateurs, je regarde le pourcentage qui zappe avant la fin de la vidéo et si ce pourcentage est supérieur à X, je le montre à d'autres personnes") est super facile à écrire, et optimise assez bien la métrique intéressante pour les réseaux sociaux : les gens vont se retrouver exposés à des contenus cools, qui font qu'il restent sur l'appli, où ils sont exposés à de la publicité, et c'est ça qui rapporte de l'argent à la maison mère. Dans ce cas, l'exposition des jeunes à des contenus délétères est un effet secondaire de l'algorithme, il ne nécessite aucune intention malveillante particulière (c'était l'objet de la première réponse de K' d'ailleurs). Intention malveillante qui serait d'ailleurs parfaitement complotiste en l'espèce : qui suggèrerait que le modèle économique d'un RS consiste à pousser 10 client.e.s par an au suicide ? Pour déstabiliser l'occident rien de moins ?

À l'inverse, écrire un algorithme "bienveillant" nécessite plein de choses :
- analyser les contenus pour les classer
- être capable de le faire dans toutes les langues
- contourner les contournements qui existeront (bah oui quand les gens se rendent compte que parler de "mourir" donne droit à un shadowban, ils utilisent "unalive" à la place)
- mettre à jour tout ça en temps réel.

Et avant qu'on parle de l'IA qui va régler ce problème (technosolutionnisme de merde), je rappelle que la modération de contenus sur les RS est aujourd'hui effectuée par des travailleurs du clics, payés au lance-pierre pour récupérer des PTSD en devant observer manuellement des contenus (cf le travail d'Antonio Casilli).

Bref : ce n'est pas parce que quelque chose est techniquement possible que c'est forcément une bonne solution au problème posé.

4/ Vous reprendrez bien une couche de complexité ?

Ça date de bien avant les LLM, mais disons que ça a un peu explosé avec eux : il existe désormais tout un tas d'algorithmes dont le fonctionnement est parfaitement clair (tu prends l'entrée, tu la transformes en un vecteur de nombres, tu multiplies ça par une matrice et tu transformes la sortie en un texte / une image / whatever), mais dans lequel toute la complexité est en fait située dans les paramètres (ici, les valeurs de la matrice). Je vais pas me lancer dans un cours sur les réseaux de neurones, mais pour la conversation, il suffit de dire qu'avec un même code, on peut faire tout et son contraire juste en changeant les paramètres.

De tels algorithmes sont considérés comme des boites noires à la fois par les gens qui s'en servent, mais aussi par des gens qui les conçoivent : s'il existe bien des recherches pour donner du sens à ces paramètres et à leurs fonctions, la complexité des modèles a progressé bien plus vite que ces recherches. L'obtention de ces paramètres est donc en général le fruit d'un autre algorithme (appelé "apprentissage"), et pour dire les choses simplement, la plupart des apprentissages ne sont pas déterministes, certains sont très coûteux (mais on ne les réalise qu'une seule fois pour un grand nombre d'utilisation de ces paramètres ensuite).

La question est donc : s'il se trouve qu'un algorithme de recommandation de contenu est basé sur une boite noire, dont les paramètres sont issus d'un apprentissage non déterministe, que cette boite noire utilise des TAS d'entrées (genre l'actualité) et sachant qu'il n'est pas possible de faire vérifier un algorithme par un autre algorithme, on fait quoi ?

5/ Conclusion

Avec tous ces éléments, j'espère qu'il est désormais compréhensible par tout le monde pourquoi je tique très fort quand j'entends qu'il faut "contrôler" les algorithmes ou les "reprendre en main" : ça n'a scientifiquement aucun sens, ça ne peut venir que d'une personne qui ne comprend rien à ce dont elle parle. La seule chose fiable qui existe, c'est de regarder les sorties de l'algorithme et de décider si cela convient ou non (éventuellement en utilisant des statistiques), ce qui est déjà faisable par n'importe qui.

Non mais Un Curieux, tu as dit toi même qu’il etait tout à fait possible d’entraîner un algorithme à être bienveillant oui ou non ?
C’est ça qui est primordial dans un contrôle des algorithmes : s’assurer qu’il le reste et shadowban les contenus toxiques.
Je te dis ça en me plaçant du côté de l’agent régulateur qu’est l’Etat. Quelque part, techniquement, je me fiche de savoir comment il fonctionne. On ne demande pas à un juge de connaître la cinétique de la balle qui tue ou savoir démonter et remonter une arme.

On peut jouer sur la sémantiques pendant des pages mais le contrôle des algorithmes par l’Etat en sa qualité d’agent régulateur qui doit protéger sa population de tout un tas de menace, c’est de s’assurer que les RS autorisés en France n’orientent pas les usagers vers des contenus toxiques ou n’influencent pas les usagers en matière de politique ou mettent en péril la sécurité intérieure.

Et la reprise en main signifie d’imposer ceci aux RS, d’avoir accès aux informations sensibles sur la programmation de ces algorithmes (on parle quand même d’algorithmes « opaques » concernant Tik Tok) de ces entreprises en cas de manquement, et de sanctionner en cas de non coopération.

ÉDIT : juste pour etre encore plus clair. L’aspect technique, la faisabilité, d’arriver à des algorithmes bienveillants n’est pas le problème de l’Etat mais celui des concepteurs avant la mise sur le marché, et pendant qu’il est accessible pour réajuster les « intoxications » de leur algorithme.

Arnold de Schartzenprout a écrit :

Non mais Un Curieux, tu as dit toi même qu’il etait tout à fait possible d’entraîner un algorithme à être bienveillant oui ou non ?

Mon post reprend précisément ce point et y répond (c'est l'objet du 3/).

Et la reprise en main signifie d’imposer ceci aux RS, d’avoir accès aux informations sensibles sur la programmation de ces algorithmes

J'explique aussi pourquoi ça n'a aucun sens (c'est le 2/ et un peu le 4/). Tu peux demander à avoir accès à ce que tu veux, tu ne sauras jamais si ce qu'on te fournit est ce qui tourne vraiment (2/) et le plus vraisemblable est que tu ne puisses de toute façon rien en faire (4/).

Trop drôle que tu soulignes que l'algo de tik tok serait "opaque" comme si c'était un scoop, ça prouve vraiment que t'as rien lu du tout de mon message détaillé. So much pour le mec qui avait surtout des questions, hein.

Oui, tu y réponds mais je vais te poser une question simple :

As tu le sentiment que ce travail soit fait avec serieux de la part de groupes qui d’enrichissent formidablement et ont largement les moyens d’être beaucoup plus efficaces en terme de vigilance ?

Arnold de Schartzenprout a écrit :

As tu le sentiment que ce travail soit fait avec serieux de la part de groupes qui d’enrichissent formidablement et ont largement les moyens d’être beaucoup plus efficaces en terme de vigilance ?

Mais de quoi tu parles ?

Il est question de contrôler un algorithme, je t'explique que ça n'a aucun sens, tu me demandes si le travail est fait sérieusement, mais WTF ?

Dire que ça n’a aucun sens pourrait être suffisant si :

- on n’avait pas l’exemple de la Chine où l’algorithme de Tik Tok n’est pas du tout le même que dans le reste du monde.
- on n’avait pas l’exemple d’une modération sur les RS de systématiquement modérer des mots comme « tapette » même si tu parles d’une tapette à mouches ou à souris. Donc « unlive » pourrait l’être de la même façon.
- on avait des services de modération et de régulation qui justement sont payés à coup de lance-pierre comme tu le dis justement. On a bien compris que les RS le font en trainant les pieds, parce qu’on les y oblige, et font le service minimum.

Tout ça pour dire que je trouve ton argumentation très libérale et une justification à un laisser faire coupable.
Pour moi, les choses les plus difficiles à modérer sont les publications faites sur le ton de l’humour alors qu’il n’y a à aucun moment un avertissement pour expliquer que les propos tenus sont une dénonciation de travers alterophobes.
Quand je vois les horreurs racistes diffusées sur des RS et particulièrement sur Tik Tok, j’ai l’impression qu’il n’y a personne pour contrôler les contenus.
On peut rapprocher ça des mises en vente de poupées sexuelles représentant des enfants sur des sites comme Shein : comment cela peut-il arriver ? À part l’absence d’une équipe de surveillance faisant un travail serieux parce que ça entraverait trop le business.

Arnold de Schartzenprout a écrit :

Aucun des points que tu mentionnes ne répond à ce que j'ai écrit. C'est juste un peu plus de bouillie par dessus la bouillie d'avant.

Dans le détail :
- dans le cas de TikTok, il n'y a pas de différence entre "un algorithme" et "deux algorithmes différents" : un algorithme unique peut utiliser le pays de consultation en entrée et être paramétré directement ou indirectement pour avoir un comportement différent en fonction du pays. Il est totalement impossible de prouver qu'il y a un algorithme différent, et encore moins qu'il y a une intention derrière, sauf à avoir accès aux spécifications réelles des produits (oui, je parle de celles pour lesquelles l'entreprise peut mentir si on les lui demande).
- quand j'ai parlé de "unalive", j'ai pointé vers la page wiki de l'algospeak. En lisant le contenu du lien, tu aurais appris qu'il s'adapte à la modération en vigueur, et donc c'est une course en avant. Cf ce que j'ai déjà écrit : si tu as une solution simple, c'est que tu t'es trompé.
- j'ai parlé de la question de la modération dans ce message, tu n'apportes rien de nouveau sur le sujet.

je trouve ton argumentation très libérale

Je n'ai présenté aucun argument, j'ai décrit un truc qui s'appelle la réalité.

Uncurieux a écrit :

- dans le cas de TikTok, il n'y a pas de différence entre "un algorithme" et "deux algorithmes différents" : un algorithme unique peut utiliser le pays de consultation en entrée et être paramétré directement ou indirectement pour avoir un comportement différent en fonction du pays. Il est totalement impossible de prouver qu'il y a un algorithme différent, et encore moins qu'il y a une intention derrière, sauf à avoir accès aux spécifications réelles des produits (oui, je parle de celles pour lesquelles l'entreprise peut mentir si on les lui demande).

J'ajouterais : si le but de l'algorithme est uniquement de générer de l'engagement (cliquer, commenter, rester), il est pas déconnant de penser qu'un même contenu puisse générer de l'engagement dans certaines cultures et pas dans d'autres. Et comme l'algorithme a aucune difficulté à détecter la culture de l'utilisateur (même si l'utilisateur passe par un vpn)...

... Ca semble plus crédible en tout cas que l'explication complotiste "il y a un grand plan chinois pour éliminer la population occidentale en augmentant le taux de suicide des ados de 2%".


... Bon après, ce genre de considérations obligerait à ouvrir la boîte de pandore, à se poser des questions comme "mais pourquoi le thème du suicide provoquerait un plus gros engagement en occident qu'en Chine ?". Personne à droite voudrait réfléchir à ce genre de question, c'est plus facile de dire que les chinois ils sont méchant alors que les américains ils sont gentils (la preuve, il n'y a pas ce genre de polémiques avec les algos de Facebook, de Youtube, d'Amazon, de Netflix, de... Bref, vous voyez bien que les américains ils sont gentils, leurs algorithmes ils sont bienveillants).

Uncurieux a écrit :

Je n'ai présenté aucun argument, j'ai décrit un truc qui s'appelle la réalité.

Alors ok, résumons ce que tu décris : il n'y a aucune solution face aux algorithmes des RS, seule l'éducation via les cours de SNT peuvent être efficaces. C'est bien ça ta position ?

Arnold de Schartzenprout a écrit :

Uncurieux a écrit :

Je n'ai présenté aucun argument, j'ai décrit un truc qui s'appelle la réalité.

Alors ok, résumons ce que tu décris : il n'y a aucune solution face aux algorithmes des RS, seule l'éducation via les cours de SNT peuvent être efficaces. C'est bien ça ta position ?

Moi j'ai plutôt compris "il faut commencer par définir ce que tu appelles "reprendre en main les algorithmes".

Si tu veux que, dans la situation X, l'algorithme propose Y, c'est tout à fait faisable, testable, et mettable dans la loi. De ce que je comprends. Ceci étant il faut juste étendre X à "toutes les situations possibles" pour que ça ait le moindre impact.

gloubi a écrit :

Moi j'ai plutôt compris "il faut commencer par définir ce que tu appelles "reprendre en main les algorithmes".
Si tu veux que, dans la situation X, l'algorithme propose Y, c'est tout à fait faisable, testable, et mettable dans la loi. De ce que je comprends. Ceci étant il faut juste étendre X à "toutes les situations possibles" pour que ça ait le moindre impact.

Alors je pense l'avoir défini, même si la formulation peut ne pas convenir à tout le monde.
J'aime bien la façon dont tu as posé le problème, c'est en effet une façon de présenter la chose de façon peut-être plus explicite.

En lisant ce que l'on se dit, je me dis qu'on peut envisager des algorithmes différents par âge.
Si on doit essayer de définir le genre de contenu suggéré, hors contenu publicitaire :
- Pour les plus jeunes (genre génération collège, 12/15 ans on va dire), un âge où on se cherche et où on est potentiellement plus fragile, des algorithmes à la chinoise, proposant du contenu surtout éducatif, avec un shadowban de tout ce qui peut-être violent. Avec une limitation journalière du temps de navigation
- Pour les plus de 16 ans jusqu'à 18 ans, toujours du contenu éducatif mais adapté à l'âge, avec toujours deux contenus contradictoires pour alimenter l'esprit critique. Concernant la violence, à définir jusqu'où ça peut aller. Limitation du temps de navigation plus longue.
- Pour les plus de 18 ans, conserver le contenu éducatif et contradictoire. Pour la violence, à définir également. Pas de limitation du temps de navigation (?).

D'une manière générale, j'ai envie d'associer la sexualité à la violence en terme d'autorisation.

En fait, ça me fait penser un peu aux avertissements pour les films : interdit au moins de 13 ans, 16 ans, 18 ans, mais appliqué aux RS.

Je ne sais pas ce que vous pensez de ce genre d'approche, si vous y voyez des biais.

Arnold de Schartzenprout a écrit :

En lisant ce que l'on se dit, je me dis qu'on peut envisager des algorithmes différents par âge.

Deux remarques :
- vérifier qu'un algo respecte ça, c'est exactement ce que je disais il y a deux jours : « On a déjà accès aux algorithmes, il suffit d'avoir un compte sur une plateforme et de regarder ce que le RS te propose à la lecture. ». C'est pour cette remarque que tu me disais que je "confonds contrôler et tester".
- faire du filtrage en fonction de l'age, c'est exactement le point auquel je répondais ici. Là encore, rien de nouveau à part que tu reformules la même mauvaise idée avec des mots différents.

Insérer du blabla sur le mec qui a plus de questions que de réponse mais qui ignore tous les arguments en face, n'admet jamais avoir dit des conneries, et revient en boucle sur ses lubies.

Uncurieux a écrit :

Insérer du blabla sur le mec qui a plus de questions que de réponse mais qui ignore tous les arguments en face, n'admet jamais avoir dit des conneries, et revient en boucle sur ses lubies.

Tu te sens obligé de vouloir faire le caïd du forum en racontant n'importe quoi ?

Non, tu n'as pas argumenté sur les deux points que je soulève. Je t'ai effectivement dit que tu n'utilisais pas le bon sens du verbe "contrôler" en le confondant avec "tester". Reprendre le contrôle ça signifie ne pas laisser les plateformes faire ce qu'elles veulent et se conformer à minima aux directives. C'est être pro-actif et ne pas laisser faire les algorithmes sans un sérieux encadrement voire bridage si nécessaire ou dire comme tu le fais "ça n'a aucun sens" ou que ce n'est pas possible (position que je t'ai demandé de préciser sur laquelle tu ne t'es toujours mouillé). Je te trouve très immobile sur cette question.

Et non, ta réponse que tu as mis en lien ne parle pas de contenus visibles différenciés en fonction de la classe d'âge mais est une cartographie de l'âge auquel on a le droit d'avoir accès aux réseaux sociaux. La différence est quand même importante entre "je n'ai pas le droit d'avoir accès aux RS du fait de mon âge" et "j'ai le droit, mais le contenu diffère, les mécanismes de recommandations n'étant pas les mêmes en fonction de mon âge".
Et là encore, c'est à l'Etat de légiférer sur cette obligation qui peut être imposée aux RS. C'est un réglage beaucoup plus fin que on ou off.

Et oui, j'ai beaucoup de questions, j'a eu des réponses en partie, parfois contradictoires, ce qui ne m'empêche pas de me faire un avis qui évolue tout au long de la discussion, comme cette proposition d'imposer aux RS d'avoir des algorithmes et des mécanismes de suggestion différents en fonction de l'âge de l'utilisateur qui m'est venu grâce à ces échanges dans lesquels il y a de l'information au milieu des petites remarques mesquines et de l'envie de s'imposer comme le patron du forum.

Arnold de Schartzenprout a écrit :

Non, tu n'as pas argumenté sur les deux points que je soulève. Je t'ai effectivement dit que tu n'utilisais pas le bon sens du verbe "contrôler" en le confondant avec "tester".

Oui et c'était une idiotie de ta part, cf cette réponse très détaillée.

Si tu veux chipoter, tu as en fait encore plus tort que ce que j'ai écrit : lorsqu'il existe, pour les gens qui font de la sécurité informatique, une distinction entre le contrôle et le test, alors ce que je décris est intégralement du contrôle, le test étant par nature impossible à effectuer hors de l'entreprise.

Et non, ta réponse que tu as mis en lien ne parle pas de contenus visibles différenciés en fonction de la classe d'âge mais est une cartographie de l'âge auquel on a le droit d'avoir accès aux réseaux sociaux.

Oui effectivement, l'argument intéressant était plutôt trois posts plus loin, et s'applique à l'identique. Je te le remets ici :

« il n'existe aucun système qui interdit l'accès aux enfants sans nuire à la liberté d'expression des adultes (en compromettant leur accès aux ressources ou leur anonymat). »

La différence est quand même importante entre "je n'ai pas le droit d'avoir accès aux RS du fait de mon âge" et "j'ai le droit, mais le contenu diffère, les mécanismes de recommandations n'étant pas les mêmes en fonction de mon âge".

Non c'est en fait exactement la même chose : tu n'as plus accès au RS-tel-qu'un-adulte-le-voit (et tu as accès à la place au RS-tel-qu'un-enfant-le-voit).

Je veux bien le répéter : si tu entrevois une solution simple, c'est qu'elle est mauvaise. C'est d'autant plus vrai sachant que tu est complètement confus sur ces sujets.

Tiens, pour la blague : essaye de réfléchir à comment la plateforme détermine l'age de ses utilisateurs/utilisatrices. Ça fait 5 ans que des industries se cassent les dents sur le sujet…

Arnold de Schartzenprout a écrit :

- Pour les plus jeunes (genre génération collège, 12/15 ans on va dire), un âge où on se cherche et où on est potentiellement plus fragile, des algorithmes à la chinoise, proposant du contenu surtout éducatif, avec un shadowban de tout ce qui peut-être violent. Avec une limitation journalière du temps de navigation

Maintenant il faut que tu explique ce que l'algorithme doit reconnaitre comme du "contenu surtout éducatif".

Pour ce que j'en sais, du contenu éducatif, c'est par exemple le club dorothé ; en tout cas, c'était une promesse de bouygues lors de la privatisation de TF1, de proposer un "mieux disant culturel", et ce qu'on a eu c'est Ken le Survivant. Et la concession de TF1 a toujours été renouvelée ; donc en terme de jurisprudence (au sens, jusqu'à ce qu'une loi vienne dire le contraire), je pense pouvoir affirme qu'en France, tout ce qui était dans le Club Dorothée peut être considéré comme éducatif.

Note que je parle de la situation Française. La jurisprudence peut être différente ailleurs. Il me semble qu'au US, un dessin animé comme GI Joe est éducatif. Parce qu'il y avait un petit message de prévention à la fin. Et parce que si je ne me trompe pas, ça aurait été illégal, à l'époque, de diffuser un dessin animé non éducatif pour les enfants à la télé US : la série n'ayant pas été retirée de l'antenne, c'est bien qu'elle était éducative.

Bref, ça c'est les contenus reconnus comme éducatifs à des époques où il y avait quoi... 50 séries à évaluer par an ? 100 ? Je crois pas qu'une quelconque commission Théodule (dont je sais que tu es fan) parviendrait à faire une meilleure classification de ce qui est éducatif et ce qui l'est pas ; il faut donc que ce soit ton algorithme qui le fasse. Ce qui demande que tu définisse précisément ce que ça signifie ; sans ça, "éducatif" est juste un mot creux, l'algorithme se contentera de proposer GI Joe et Ken le Survivant.

- Pour les plus de 16 ans jusqu'à 18 ans, toujours du contenu éducatif mais adapté à l'âge, avec toujours deux contenus contradictoires pour alimenter l'esprit critique. Concernant la violence, à définir jusqu'où ça peut aller. Limitation du temps de navigation plus longue.

Définis "contradictoire" maintenant.

Par exemple Pascal Praud présente des débats contradictoire, en général entre des fachos d'un côté et des nazis de l'autre. Et de façon générale, aux yeux de la loi française, CNews présente tous les des points de vue existants (sinon sa concession serait pas renouvelée). Donc si l'algo propose que du CNews, je suppose qu'on est bon niveau "contradictoire".

En fait on va faire même plus simple : il existe des gens qui, face à un débat, présentent systématiquement tous les points de vue, thèse antithèse etc. Par exemple, c'est ce que tu dis que tu fais. Donc si l'algorithme présente uniquement du contenu d'Arnold, c'est bon, on l'a le contradictoire ?


Un petit second point : le jeune écrit dans la barre de recherche de son RS préféré "les chambre à gaz ont-elles existées ?". L'algorithme doit donc lui présenter des contenus contradictoire. Peux-tu nous expliquer ce que soit lui présenter l'algorithme ?


Et enfin, concernant la violence, on est d'accord qu'en France, Ken le Survivant (et par extension tout ce qui est moins violent) est du contenu approprié à partir de 10 ans. Ou alors là aussi il va falloir que tu définisses.

D'une manière générale, j'ai envie d'associer la sexualité à la violence en terme d'autorisation.

Oui, la télé US des années 80-90 quoi. Pas de sexe, pas de violence, et plein de pubs pour former de bon consommateurs. Genre Gi Joe : pub de 20 minutes considérée comme du contenu éducatif non-violent (ils se tirent dessus avec des lasers, c'est pas des balles donc c'est pas violent).

Bah à ce stade, soit tu définis mieux tes termes pour que ça puisse faire un algo, soit tu dis directement "les RS pour les jeunes ça doit uniquement diffuser le Club Dorothée" (très facile à implémenter).

Comme j’apprécie les discussions constructives, je vais vous laisser tous les deux débiter des réponses qui n’apportent rien et on tendance à faire dévier le sujet.
Un Curieux avec ses contorsions sémantiques pour essayer à tout prix d’apparaître comme la voix de la connaissance du forum quitte à dire tout et son contraire tout en n’expliquant surtout pas sa position. Et Gloubi de faire une longue réponse inutile pour dire qu’un contenu éducatif c’est Dorothée ou GI Jo au lieu de dire simplement « ok, il reste à définir à quoi correspond un contenu éducatif en fonction de l’âge ».

J’appelle des gens plus sérieux à réponde du coup à la question suivante.

Quels genre de contenus suggérés par les algorithmes des RS verriez-vous et quelle durée de connection autoriseriez vous, en fonction des tranches d’âge 13/15 ans, 16/18 ans, plus de 18 ans ?

Arnold de Schartzenprout a écrit :

Quand on a un débat technique sur une question politique, il me semble important d'avoir accès aux conséquences indirectes des décisions que l'on prend.

C'est pour ça que depuis le début du topic je te demande d'être compréhensible (à défaut d'être clair) sur les positions que tu défends, parce que c'est ça qui permet d'envisager les conséquences des décisions que tu préconises. Dans ce topic c'est parfois encore pire, parce que les décisions dont tu parles sont parfois dénuées de sens (exiger une preuve du diable aux plate-formes, typiquement, en ajoutant qu'elles n'auraient qu'à collaborer).

Ici, tu sembles parti sur l'idée que la solution est de discriminer les utilisateurs sur l'age. Alors au risque de mettre encore en avant ma grosse expertise, je me dois d'insister : ce n'est pas simple à faire, et ça a des conséquences pour tous les utilisateurs y compris majeurs. Je ne parle pas de savoir quelle est la séparation du contenu en fonction de l'age, parce qu'il y a trop de facteurs à prendre en compte (quel contenu pour quel age, pour quelle culture, pour quel régime politique ? Citons par exemple que les lois puritaines US obligent à censurer un sein ou un Courbet y compris lorsqu'ils sont utilisés par des français). Tout cela est secondaire : il ne sert à rien de discuter d'à quel point ce serait vachement bien de "protéger la jeunesse" quand on n'a même pas une vague idée de la faisabilité.

Tu parles aussi de faire limiter le temps d'accès par les plateformes. Est-ce qu'on peut te demander par quel moyen technique tu penses faire ça ?

Par ailleurs, tu as raison de souligner que je ne donne pas de préconisation, et ce pour deux raisons :
- je ne suis pas technocrate, et je pense qu'il faut distinguer l'expertise de l'avis politique. Donc quand j'interviens avec arguments d'autorité etc. j'essaye de ne pas trop donner mon avis en même temps.
- mais surtout j'ai déjà donné mon avis sur ce topic, où, selon toi, il n'y a pas de cadre établi, blabla « C'est en effet une impression, rien d'autre. ». Tu as répondu avec :
a/ Deux tentatives d'ad hominem parfaitement idiote

tes parents font tout ça d'eux mêmes ? J'ai bien dit "d'eux-mêmes", pas parce que tu leur as cassé la tête avec ça.

b/ Un homme de paille :

Alors ok, résumons ce que tu décris : il n'y a aucune solution face aux algorithmes des RS, seule l'éducation via les cours de SNT peuvent être efficaces. C'est bien ça ta position ?

c/ et un changement soudain d'avis quand ce n'est plus moi qui en parle mais Zarg (que je remercie pour ça au passage).

Tout porte à croire qu'il existe en réalité un cadre bien précis dans tes idées : le fait que la seule solution aux problèmes réels dont tu parles doit venir de la loi française, qui, par magie, arriverait simultanément à respecter une forme de démocratie, et à découvrir que la population est favorable à une censure massive des RS qu'elle utilise abondamment. Le tout avec beaucoup de vocabulaire très très viril de GUERRE COGNITIVE. Tu ne peux pas rejeter avec mauvaise foi toutes les idées qui ne viennent pas de toi et continuer à prétendre que tu es un mec super ouvert.

Je n'ai pas l'espoir que tu t'intéresses avec bienveillance aux initiatives dont Artemis, Satori, Zarg ou moi parlons quand il est question de respect de la privacy et/ou de la liberté d'expression (je pense pourtant que les écouter serait infiniment plus intéressant que tes spéculations), donc pour le moment je me contente de souligner ce que j'ai dit et que tu illustres depuis : « Si tu as une idée simple, c'est qu'elle est mauvaise ».

Arnold de Schartzenprout a écrit :

Et Gloubi de faire une longue réponse inutile pour dire qu’un contenu éducatif c’est Dorothée ou GI Jo au lieu de dire simplement « ok, il reste à définir à quoi correspond un contenu éducatif en fonction de l’âge ».

OK super.

En somme : ce que tu veux faire (forcer un contenu à être éducatif via la loi) a déjà été fait, le résultat est connu (TF1 et tous les dessins animés américains des années 80 et 90) (et ceci à une époque où c'tait pas des algorithmes mais des gens qui jugeaient si un contenu était éducatif), et ta réponse c'est "bouh tu fais des pavés moi je veux pas savoir ce qui a déjà été fait et n'a pas marché je veux juste poser des questions mais uniquement recevoir les réponses qui m'arrangent". Bah du coup, tu vas trop trop reprendre la main sur les algorithmes : même si une loi est faites avec tes propositions à la fin elle sera juste contournée.

Et à aucun moment tu fais le lien entre :
1/ Selon toi, Tik Tok pousse des contenus éducatifs en Chine (plus précisément, "développant la curiosité pour les sciences et la culture, ainsi que le patriotisme pour les jeunes Chinois") et des contenus abêtissants aux US.
2/ Aux US, GI Joe (et les autres dessins animés de l'époque) ont été considérés légalement comme "éducatifs" (après, je ne connais pas assez la série pour savoir si elle "développe le patriotisme").
En faisant le lien, on peut se dire que l'algorithme pousse les mêmes genre de contenus dans les deux cas, mais que ce qui est considéré comme éducatifs aux US est aussi très abêtissant.


Au final, pourquoi tu ne fais pas directement toi-même les réponses à tes questions ? Tu seras sûr d'avoir les réponses que tu souhaites.


Il y a quand même une question à laquelle tu n'as pas répondu, qui n'est pas en lien avec le Club Dorothée : ton algorithme qui doit proposer "toujours deux contenus contradictoires pour alimenter l'esprit critique", il doit proposer quels deux contenus quand le jeune tape dans la recherche "les chambres à gaz ont-elles existé ?"

(on peut ensuite étendre à des questions comme "la Terres est-elle plate ?" ou "qui a construit les pyramides d'Egypte ?", si tu me dis que l'algorithme ne dois proposer qu'un contenu si l'autre est illégal.)

gloubi a écrit :

Juste un mot sur la question du contradictoire : je crois qu'Arnold n'a jamais justifié son dogme, et toujours esquivé les remarques qui en démontrent l'absurdité. Ce que je comprends de son idée sur la question c'est qu'il faut du contradictoire sauf sur les sujets pour lesquels la vérité est évidente. Bien entendu l'ironie vient du fait qu'Arnold a souvent montré une croyance féroce en des choses fausses, et qu'il a longtemps défaussé des arguments comme étant idéologiques...

Sur la question que tu soulèves de décider quel contenu est éducatif ou non, je pense qu'il y a un autre élément technique à apporter : les algorithmes sophistiqués se trompent parfois. Or les conséquences d'erreurs commises par des algorithmes ont la fâcheuse tendance à offrir peu de recours aux victimes.

Donc la situation est la suivante : lorsqu'il existe une plate forme pour communiquer, il y a des gens qui peuvent légitimement souhaiter les utiliser pour toucher un public par exemple (artistes, vendeurs, influenceurs etc). Ici une erreur de classification serait donc une atteinte peu justifiable à la liberté d'expression, assez kafkaïenne qui plus est, vu que les recours seront nécessairement inexistants.

Il y a des raisons de souhaiter une diminution de l'emprise des décisions algorithmiques sur nos vies. Ce qu'un contrôle ou une "reprise en main" ne permet pas.

Voilà un nouvel article d'Amnesty International accablant et même terrifiants sur Tik Tok : CLIC

Outre la description glaçante de comment l'algorithme de recommandation amène très rapidement les adolescents dans une spirale mortifère, on peut y apprendre plusieurs choses.

D'abord, comme je le disais dans ce topic, ces plateformes ont largement les moyens d'avoir des équipes de modération et des moyens techniques pour empêcher cela, Tik Tok engrangeant 23 milliards de dollars de recette ! La volonté n'y est tout simplement pas, et c'est pour cela que je dis que ces dérives sont volontaires, puisque Ti Tok a déjà été attaqué en justice, connait la problématique, mais n'agit pas de façon suffisante pour régler le problème ou fortement le limiter. Les contenus signalés ne sont pas supprimés, c'est dire qu'en fait, ils n'en ont juste rien à faire, business is business.

Ensuite, il existe une association de victimes, Algos Victima, qui mène ce combat contre Tik Tok. La base en droit est simple : le non respect du DSA européen.
Cela pose la question de la sanction. Tik Tok viole la loi européenne sans vergogne et n'est pour l'instant pas plus inquiété que ça.

Enfin, tout cela va extrêmement vite, d'autant que les utilisateurs deviennent addicts.
"En moins de 20 minutes, les fils sont saturés de vidéos sur la santé mentale.
Après 45 minutes d’expérience, des messages explicites sur le suicide apparaissent.
Trois heures plus tard, tous les comptes sont inondés de contenus sombres, exprimant parfois directement une volonté de mettre fin à ses jours."
Cela pose plusieurs questions : celle du fait de pouvoir naviguer en continu sur les RS quand on est un ado, d'où ma proposition de limiter l'utilisation journalière. Il m'avait été rétorquer comment alors que c'est extrêmement simple de limiter un compte à une durée de connexion ou à un nombre de recherche.
L'autre question que cela soulève c'est comment ce genre de contenus peut être disponibles en ligne par milliers ?

Bref, on nage en plein cauchemar, la santé mentale des ados est en danger de façon complètement artificielle et se complaire dans des réponses comme on peut lire ici est carrément coupable.
Et pour l'anecdote, l'article se termine par "Ensemble, reprenons le contrôle de l’algorithme". J'imagine mal quelqu'un aller leur dire que ça n'a aucun sens...

Pour parler rapidement des contenus éducatifs, je partage ce lien destiné aux professeurs : comment créer du contenu éducatif que les élèves adoreront.
mais aussi celui-ci : Apprentissage personnalisé grâce à l'IA
En gros, j'imagine un RS qui utiliserait l'IA pour créer du contenu éducatif plutôt qu’une vidéo faite par IA avec le cri d’une femme en détresse comme dans l'article sur Tik Tok, avec un algorithme de recommandation qui proposera les contenus les plus adaptés aux goûts et au niveau de l'adolescent.

Je terminerai par un extrait court d'une vidéo postée sur Instagram comparant le Tik Tok chinois et celui en dehors de la Chine. CLIC On peut retrouver la vidéo complète sur Youtube.
La question de la durée de connexion y est évoquée. Comment ne pas rapprocher ceci du fait que les patrons de la tech limitent l'exposition de leurs produits à leurs enfants... ? CLIC
Etonnant non... ?

Arnold de Schartzenprout a écrit :

Voilà un nouvel article d'Amnesty International accablant et même terrifiants sur Tik Tok : CLIC

Tellement nouveau que tu l'as déjà mis en lien et qu'il t'a déjà été répondu dessus.

J'en profite pour signaler que l'étude ne propose aucun comparatif ; on ne sait pas si Facebook, X etc font la même chose (on sait que X et TruthSocial proposent des contenus facho en boucle, c'est le concept même de ces plateformes, mais ça ça va, c'est pas dangereux. Ca me met pas en danger en tout cas).

Bref, on nage en plein cauchemar, la santé mentale des ados est en danger de façon complètement artificielle

Non, c'est faux.

On parle d'ados qui ne regardent rien du tout sur TikTok, excepté les contenus lié à la santé mentale ou à la tristesse, qu'ils regardent chacun deux fois.

Tu connais vraiment des ados qui vont bien de base, et qui décident de ne regarder que des contenus sur la santé mentale et la tristesse en boucle ? Ou est-ce qu'on peut imaginer qu'un ado qui décide de faire ça va mal de base ?

et se complaire dans des réponses comme on peut lire ici est carrément coupable.

en effet, il est coupable de se complaire, comme tu le fais, à accuser TikTok sans jamais se demander d'où vient le mal-être des ados.

Arnold de Schartzenprout a écrit :

Outre la description glaçante de comment l'algorithme de recommandation amène très rapidement les adolescents dans une spirale mortifère

Je cite l'article :
« Harcelée pour son poids par des élèves de son lycée, Marie s’était tournée vers TikTok. »
« Maëlle, 18 ans, s’est retrouvée prise au piège de Tiktok. Victime de harcèlement à l’école, l’adolescente traverse une période difficile. »
« TikTok a maintenu notre fille dans le mal-être. »

Avec ce qu'on voit dans l'article, il est surtout question de désinhiber des jeunes au passage à l'acte (suicide ou gestes auto-infligés), que de les "amener dans la spirale mortifère".

D'abord, comme je le disais dans ce topic, ces plateformes ont largement les moyens d'avoir des équipes de modération et des moyens techniques pour empêcher cela, Tik Tok engrangeant 23 milliards de dollars de recette !

Quel est le coût de payer des équipes de modération et des "moyens techniques" (laissés en exercice au lecteur) ? Je trouve qu'il y a 34 millions de vidéos publiées chaque jour, il te faut combien de modérateurs pour avoir une modération manuelle, et si non, quels sont les moyens techniques dont tu parles ?

Ce qu'on voit aussi dans l'article, c'est que le contenu suicidaire est versatile (ce que j'avais déjà dit d'ailleurs) : quand une image d'un labello ou le drapeau Suisse est problématique, c'est quoi la solution pour modérer ?

Par ailleurs, l'article d'Amnesty ne mentionne pas de modération une seule fois.

Cela pose plusieurs questions : celle du fait de pouvoir naviguer en continu sur les RS quand on est un ado, d'où ma proposition de limiter l'utilisation journalière. Il m'avait été rétorquer comment alors que c'est extrêmement simple de limiter un compte à une durée de connexion ou à un nombre de recherche.

Il va t'être rétorqué que c'est extrêmement simple d'avoir plusieurs comptes, et que ça fait échouer ce que tu proposes.

Peut-être parce que quand tu as une solution simple, elle est mauvaise ? Il me semble l'avoir déjà dit, c'est toujours pas rentré, mais c'est pas grave, je peux le répéter.

Uncurieux a écrit :

C'est quoi la solution pour modérer ?

Oh, certainement aucune, alors autant laisser proliférer les contenus racistes/violents/pédophiles/[insère la prochaine dégueulasserie qui te vient à l'esprit].
Blague mise à part, c'est au site de trouver les solutions. La modération est meilleure même si imparfaite sur d'autres RS sur ces sujets là, pourquoi pas sur Tik Tok ?
Alors ok, la modération de FB par exemple, repose sur l'IA et n'est pas toujours très pertinente ou parfois assez longue, avec des contenus modérés parfois plusieurs années après la publication, mais tu ne verras très peu de publications violentes ou racistes ou à caractère sexuel sur ce RS.
Quant à l'humain, là encore c'est un choix économique. Le salaire moyen en Chine est autour des 1200 euros. Alors combien de marge Tik Tok est-il prêt à sacrifier pour se doter des moyens humains pour protéger ses utilisateurs ? Combien de pays sont-ils prêt à pousser à interdire leur RS avant de réagir ?
Encore une fois, les RS gagnent un fric considérable. C'est à eux de se débrouiller pour répondre aux obligations qui leurs sont imposées.
Je ne comprends pas que tu puisses un seul instant défendre ces RS en disant que la modération c'est trop compliqué. J'y vois surtout un esprit de contradiction, parce que dans bien des domaines tu prônes l'obligation de résultat sans même voir l'obligation de moyens (genre le topic sur les violences policières).

Il va t'être rétorqué que c'est extrêmement simple d'avoir plusieurs comptes, et que ça fait échouer ce que tu proposes.

Et ce sera surement un argument des plus moisis tant c'est un appel à l'inaction et au libéralisme qui pourrait s'appliquer à une foultitude de problématiques. Pourquoi mettre des règles tant il est facile de les contourner ? Ce que tu dis là revient à ça, ni plus ni moins.

Peut-être parce que quand tu as une solution simple, elle est mauvaise ? Il me semble l'avoir déjà dit, c'est toujours pas rentré, mais c'est pas grave, je peux le répéter.

Et tu pourras répéter autant de fois que la terre est plate que ça n'en fera pas une vérité. Ta parole n'est pas d'or, ni d'argent, désolé.

Je survole et je vais répondre juste à ça :

soutenir les hackerspaces proches de chez vous voire les fréquenter.

Les hackerspaces n'existent plus, pour connaitre des anciens cyphers (enfin, un personnellement) ils ont tous plus ou moins laissé tomber et ont été remplacés par les crypto techbro.

Cependant il faut clairement éduquer les gens, mais c'est un combat trop compliqué, beaucoup trop de devs dans le libre qui pensent encore que "Ergonomie" est une insulte.

Arnold de Schartzenprout a écrit :

Blague mise à part, c'est au site de trouver les solutions. La modération est meilleure même si imparfaite sur d'autres RS sur ces sujets là, pourquoi pas sur Tik Tok ?
Alors ok, la modération de FB par exemple, repose sur l'IA et n'est pas toujours très pertinente ou parfois assez longue, avec des contenus modérés parfois plusieurs années après la publication, mais tu ne verras très peu de publications violentes ou racistes ou à caractère sexuel sur ce RS.

Dafuk ?

Du coup on peut fermer le sujet, tu as été entendu, TikTok s'est doté d'une meilleure modération que Facebook.

Arnold de Schartzenprout a écrit :

Et ce sera surement un argument des plus moisis tant c'est un appel à l'inaction et au libéralisme qui pourrait s'appliquer à une foultitude de problématiques. Pourquoi mettre des règles tant il est facile de les contourner ? Ce que tu dis là revient à ça, ni plus ni moins.

Pardon je pensais que tu parlais du problème de protéger des jeunes, alors que tu voulais juste agiter les bras. Continue, continue, tu finiras peut-être par t'envoler. (En fait non parce que pour voler aussi, quand tu as une solution simple, elle est mauvaise).

Tu ne donnes pas exactement l'impression d'avoir autre chose qu'une posture sur ce sujet. Ou plus exactement plusieurs postures qui seraient :
- il vaut mieux faire quelque chose d'idiot que ne rien faire
- les jeunes c'était mieux avant,
- le problème c'est tiktok / la Chine / le "péril jaune"
- ce qui ne passe pas par une autorité providentielle n'a pas de valeur.

Ainsi on constate que tu te découvres une passion pour protéger les jeunes pour argumenter sur une attaque sur les RS (mais que tiktok en réalité, tu ne mentionnes les autres que pour les absoudre, ce que l'observatoire national des suicides ne fait pas vraiment). Par contre tu as disqualifié tout ce qui permet aux jeunes d'être autonomes pour leur protection, et ignoré les remarques sur le fait que peut-être il y a d'autres causes plus profondes, et plus essentielles au mal être des jeunes. Il faut dire que si on veut s'attaquer à celles ci, on va rapidement tomber sur tout un tas de problèmes sociaux, des familles rendues dysfonctionnelles par la précarité et l'absence de redistribution des ressources dans la population, l'accès au soin, et aux services publics, etc. Peut-être d'ailleurs que les bénéfices de tiktok pourraient être mieux utilisés qu'en ajoutant une équipe de modération (si l'objectif est vraiment d'aider les jeunes). L'as tu envisagé ?

Enfin, ton incompétence technique n'est pas toujours une bonne excuse. Je pense que même toi aurais pu penser au fait que c'est compliqué d'empêcher des gens d'avoir plusieurs comptes sur un site, surtout sur KI où c'est une problématique assez ancienne pour que tu ne sois pas passé à côté en 15 ans.

Encore beaucoup de contre vérités que je ne chercherai même pas à débunker, pas de temps à perdre à justifier ce que j'ai dit et qui est déformé, comme l'absolution des autres RS.

Non, en fait je trouve assez cocasse de vous voir défendre les RS et leurs bénéfices pharaoniques (la réponse de K sur le sujet à disparu d'ailleurs ?), et en parallèle clouer les millionnaires ne payant pas d'impôts au pilori.
Je trouve aussi cocasse (et je dis cocasse pour être poli) le retournement de la culpabilité sur les familles dysfonctionnelles, quitte à aller chercher ensuite du côté des inégalités sociales sans le moindre source permettant de relier les victimes à leur condition sociale, et avoir par le passé fait un topic sur la culture du viol qui mettait à juste titre les coupables devant leurs responsabilités. Celui qui viole la loi et le DSA, ce sont les RS, pas les victimes.

Donc c'est difficile d'entendre que les RS et leurs milliards ne peuvent rien faire pour protéger leurs utilisateurs, et que ces utilisateurs doivent aussi régler leur problèmes au lieu de demander plus de sécurité pour leurs enfants, dans une tranche d'âge dont on connait très bien la fragilité.
Difficile d'entendre que les interdictions peuvent facilement être contournées avec un VPN ou plusieurs comptes et que du coup c'est une mauvaise solution. J'attends qu'on interdise les voitures, parce que c'est trop facile d'être en infraction et qu'il n'y a pas assez de contrôles pour réguler ça qui de toute façon peuvent être repérés grâce à Waze ou Coyote.

Devant toutes ces contradictions avec des morales à géométrie variable me font surtout penser à une extrême mauvaise foi à tenir des raisonnements justifiant l'inaction pour les RS, et à l'inverse une action forte dans d'autres domaines.

Et au risque de me répéter, interdit ces RS et on verra très vite qu'ils vont trouver les moyens d'assainir leurs contenus pour pouvoir continuer à gagner de l'argent. Mais c'est sur qu'avec les raisonnements qu'il y a ici, c'est open bar et jackpot garanti.

*zip*

Arnold de Schartzenprout a écrit :

Non, en fait je trouve assez cocasse de vous voir défendre les RS et leurs bénéfices pharaoniques

Je ne pense pas que d'autres personnes liraient ça dans mes interventions.

Je trouve aussi cocasse (...).

Je ne comprends rien à ce paragraphe, après l'avoir lu 4 fois. Je pense comprendre que tu essayes d'articuler des positions qui te semblent contradictoire, mais je ne sais pas de quoi tu parles.

Difficile d'entendre que les interdictions peuvent facilement être contournées avec un VPN ou plusieurs comptes et que du coup c'est une mauvaise solution. J'attends qu'on interdise les voitures, parce que c'est trop facile d'être en infraction et qu'il n'y a pas assez de contrôles pour réguler ça qui de toute façon peuvent être repérés grâce à Waze ou Coyote.

Donc si on poursuit le parallèle, tu es pour sanctionner les jeunes qui auraient plusieurs comptes ? (parce que les infractions au code de la route sont sanctionnées). C'est quelque chose de très différent de ce que tu proposes : limiter les durées des gens sur un compte, c'est une responsabilité de l'éditeur, et pas de l'utilisateur. Mais du coup, c'est un peu flou, et ça fait un moment que je te demande d'être clair et précis sur ce que tu écris. Ça n'aide pas.

Et au risque de me répéter, interdit ces RS et on verra très vite qu'ils vont trouver les moyens d'assainir leurs contenus pour pouvoir continuer à gagner de l'argent.

Je n'ai pas de problème avec l'interdiction des RS qui ne respectent pas la loi. Je pense qu'il faut avoir conscience que ce n'est pas suffisant, tant que les limitations se contournent.

Mais tu brûles des hommes de paille. On a bien compris que tu trouves très drôle de dire que j'aurais des positions libérales. Je te rassure : ce n'est pas le cas. Ça n'interdit pas de pointer quand tu proposes des trucs coûteux et peu efficaces.

Un Curieux : coûteux pour qui ? Que faut-il protéger : les bénéfices pharaoniques des RS ou la santé mentale des utilisateurs ? Tu comprends pourquoi ton positionnement me choque ?
D’ailleur, pour info : l’UE commence à réagir contre Tik Tok.
Bien que les contenus soient abordés, l’angle d’attaque principal est le caractère addictif de Tik Tok. J’ai hâte de voir leur réaction.
Petit exercice de math : avec une amende de 6%de leur chiffre d’affaires mondial (donc une quarantaine de milliards si je me fie aux chiffres les plus récents), combien de modérateurs pourraient-ils payer sachant que le salaire loué en Chine est de 15 000 euros annuel ?

Arnold de Schartzenprout a écrit :

combien de modérateurs pourraient-ils payer sachant que le salaire loué en Chine est de 15 000 euros annuel ?

Tu peux pas, c'est un argument très mauvais. Déjà pour modérer en Français, tu peux pas avoir un chinois. Ensuite tu ne peux pas modérer du contenu qui n'est pas signalé. A l'heure actuelle de mémoire, Tiktok remonte censurer plus de 95% (je crois même qu'ils annoncent 99%) de contenu signalé enfreignant la charte en moins de trois jours.

Mais si le contenu n'est pas signalé il ne peut pas être modéré. Et si le contenu n'est pas illégal ils n'ont pas non plus de raison de le modérer s'il est signalé.

Peu importe la quantité de modérateur, tu ne peux pas avoir quelqu'un qui regarde toutes les vidéos, sur youtube ça n'est pas fait non plus par exemple.

Arnold de Schartzenprout a écrit :

Un Curieux : coûteux pour qui ? Que faut-il protéger : les bénéfices pharaoniques des RS ou la santé mentale des utilisateurs ? Tu comprends pourquoi ton positionnement me choque ?

Dans l'ordre : coûteux pour le réseau, c'est une fausse alternative qui correspond à la posture "il vaut mieux faire quelque chose d'idiot que ne rien faire", et oui je comprends tout à fait, tu n'es pas très difficile à prédire, et la principale raison de pourquoi mon positionnement te choque c'est qu'il y a mon pseudo à côté et que du coup tu ne fais pas l'effort d'en comprendre la substance (cf ton revirement hilarant par rapport au logiciel libre en fonction de l'interlocuteur, hein).

Petit exercice de math : avec une amende de 6%de leur chiffre d’affaires mondial (donc une quarantaine de milliards si je me fie aux chiffres les plus récents), combien de modérateurs pourraient-ils payer sachant que le salaire loué en Chine est de 15 000 euros annuel ?

Là aussi je peux apporter une expertise : quand on donne du contexte à un exercice de maths, c'est pour permettre aux élèves d'appliquer leur connaissance du réel pour évaluer un résultat (en faisant preuve de bon sens, ou de leurs notions d'ordre de grandeur). Ici, ça ne marche pas parce que :
- si on leur met une amende, ben ils auront moins d'argent donc ils pourront embaucher moins de modérateurs
- combien faut-il de modérateurs pour regarder les millions de vidéos postées chaque jour ?
- peut-on embaucher des modérateurs au salaire en Chine, pour modérer du contenu en anglais, en français, en allemand, en espagnol, en Italien, etc. ?

Je ne conteste pas (bis) qu'il est légitime de sanctionner un site qui ne respecte pas le DSA. Tant mieux si l'UE se penche dessus. Je trouve surprenant que tu considères ça comme une grande victoire idéologique de tes arguments alors que ce qu'ils exigent ne correspond à rien de ce que tu préconises : ils ne demandent ni contrôle strict de l'age, ni limitation du temps, ni modération systématique, ni que le RS "fournisse l'algorithme" ou qu'on le "reprenne en main" (au sens où tu l'entendais). Ce sont les points pour lesquels j'ai dit qu'ils étaient ineptes, je suis heureux de voir que les gens de l'UE sont plus compétents que toi.

Je remets aussi les questions que tu as esquivées :
- es-tu pour une pénalisation des utilisateurs qui ne respectent pas les conditions du site (par exemple des utilisateurs qui auraient plusieurs comptes) ? Tu as fait un parallèle avec le code de la route où justement le non-respect du code vaut sanction pour les usagers.
- comment un réseau devrait-il déterminer selon toi l'age des utilisateurs ?

Uncurieux a écrit :

Concernant la limitation d'âge, j'avais entendu parler de systèmes où :
- l'instance qui garanti l'âge ne sait pas quel site le demande.
- le site qui demande l'âge ne sait pas l'identité de la personne.
Est-ce que ce genre de systèmes ne règle pas au moins les problèmes d'atteinte aux droits des utilisateurs ? (oui je sais, ça peut être contourner etc).




Arnold de Schartzenprout a écrit :

Encore beaucoup de contre vérités que je ne chercherai même pas à débunker, pas de temps à perdre à justifier ce que j'ai dit et qui est déformé, comme l'absolution des autres RS.

Je dois avouer que la seule fois où je t'ai vu citer un autre RS que TikTok, c'était pour dire que Facebook avait une meilleure modération. Ce qui est factuellement faux, facebook ayant visiblement la pire modération de tous les RS.

Donc je te repose la question : dans la mesure où TikTok a une meilleure modération que le RS que tu prends pour modèle, on peut estimer que le problème de TikTok est réglé ? ou est-ce que tu vas te contenter d'ignorer, comme d'habitude, continuer à ne citer que TikTok en tentant misérablement de faire croire que ton problème, c'est pas avant tout qu'il soit chinois, et re-citer sans cesse la même étude en prétendant que c'est de nouvelles infos ?

Je trouve aussi cocasse (et je dis cocasse pour être poli) le retournement de la culpabilité sur les familles dysfonctionnelles

Il ne s'agit pas d'un retournement de la culpabilité, c'est juste que ton discours de vieillard, on l'a déjà entendu... je saurais même pas compter combien de fois.

"Un jeune a fait ceci" -> les vieux : "c'est la faute des jeux de rôle".
"Un jeune a fait ceci" -> les vieux : "c'est la faute de la télé".
"Un jeune a fait ceci" -> les vieux : "c'est la faute des jeux vidéos".
"Un jeune a fait ceci" -> les vieux : "c'est la faute d'internet".
"Un jeune a fait ceci" -> les vieux : "c'est la faute de GTA".
"Un jeune a fait ceci" -> les vieux : "c'est la faute des réseaux sociaux".
"Un jeune a fait ceci" -> Arnold : "c'est la faute de TikTok".

Dans les 6 premiers cas que je cite, en creusant on s'est rendu compte que c'était pas particulièrement la faute du média incriminé, qu'il y avait d'autres raisons à la base.

Donc dans le 7ème cas, j'ai le choix entre faire confiance aux assertions sans fondement d'un mec qui raconte sans cesse n'importe quoi, ne comprend rien à rien, ne sais pas faire la différence entre 1 et 100 000, cite des sources qui le contredisent, et perdre du temps à aller vérifier son assertion. Ou je peux simplement supposer "Arnold = un vieillard random", et classer l'assertion avec les 6 autres. Thèse, antithèse, synthèse en somme.

quitte à aller chercher ensuite du côté des inégalités sociales sans le moindre source permettant de relier les victimes à leur condition sociale, et avoir par le passé fait un topic sur la culture du viol qui mettait à juste titre les coupables devant leurs responsabilités.

Tu es bien conscient qu'une responsabilité peut être partagée ? Par exemple, quand on parle de culture du viol, ça veut dire qu'en cas de viol, toute la société est en partie responsable ; que toutes les séries, chansons, etc, qui banalisaient/banalisent/érotisaient/érotisent le viol sont responsables. Pourtant, il ne viendrait à l'esprit de personne de prétendre que le violeur lui-même n'est pas encore plus responsable.

Bah pareil pour GTA : peut-être qu'il est un peu responsable de je sais plus quelle tuerie dans un lycée américain (encore faudrait-il le prouver) ; peut-être qu'il l'est uniquement au même titre que toute la société américaine, qui entraîne ce genre de tueries. En tout cas, il a été établi qu'il était bien moins responsable qu'une quantité d'autres facteurs plus directs.

Et c'est sans doute pareil pour TikTok. Quand un jeune regarde uniquement des vidéos sur la tristesse, et les regarde en boucle, on comprend bien que la part de responsabilité de TikTok est pas bien grande - que Youtube ferait exactement pareil, en mettant peut-être deux heures au lieu de 45 minutes à converger, et que le problème est ce qui pousse au départ le jeune à ne regarder que de telles vidéos.


En passant : tu dis quelque part qu'il faut que l'algorithme présente toujours deux contenus contradictoires. Si l'algorithme présente une vidéo de prévention contre le suicide, c'est quoi le contenu contradictoire ?

En conséquence, comment comptes-tu réellement démontrer que TikTok ne suit pas déjà exactement tes préconisations ?

Celui qui viole la loi et le DSA, ce sont les RS, pas les victimes.

En effet. Je ne sais pas dit ici que les RS ne doivent pas respecter la loi, mais je ne suis pas d'accord avec lui. A noter qu'aucun RS ne respecte les DSA, mais tu continues à ne citer que celui qui est chinois - et à ne citer ceux qui sont pire que pour prétendre qu'ils sont mieux.

Difficile d'entendre que les interdictions peuvent facilement être contournées avec un VPN ou plusieurs comptes et que du coup c'est une mauvaise solution. J'attends qu'on interdise les voitures, parce que c'est trop facile d'être en infraction et qu'il n'y a pas assez de contrôles pour réguler ça qui de toute façon peuvent être repérés grâce à Waze ou Coyote.

Je comprends pas ton parallèle. Tu souhaites mettre la responsabilité des infractions sur les constructeurs de voitures, ou mettre des amendes sur les utilisateurs de RS qui ne respectent pas les règlements ?

Parce que l'analogie "en voiture on est capable de sanctionner l'usager, donc sur internet ou peut bien sanctionner le fournisseur de service", le moins qu'on puisse dire c'est qu'elle n'a aucun sens.

Et au risque de me répéter, interdit ces RS et on verra très vite qu'ils vont trouver les moyens d'assainir leurs contenus pour pouvoir continuer à gagner de l'argent.

Ou pas.

Regarde PornHub : la France a fait passer une loi débile, ils sont simplement dit "a+ les tocards". Ils ont pas fait en sorte de respecter une loi débile.

Les RS, c'est un sujet bien plus critique : il ne s'agit pas uniquement d'une vache à lait pour des multinationales, mais aussi d'un outils pour la liberté d'expression des citoyens. S'ils se cassent et qu'il ne reste que TruthSocial et X en France, les conséquences seront bien plus délétères que quand pornHub s'est barré (mais oui, on sait, toi tout ce que tu veux c'est que les chinois se barrent, ça te va très bien si seul TruthSocial est autorisé en France). C'est bien pour ça qu'on est obligé de regarder les aspects techniques avec ces plate-formes.

Et par ailleurs, je me demande quel est l'impact réel du départ de PornHub de la France - est-ce que leur nombre d'utilisateurs français a réellement chuté ?

gloubi a écrit :

Concernant la limitation d'âge, j'avais entendu parler de systèmes où :
- l'instance qui garanti l'âge ne sait pas quel site le demande.
- le site qui demande l'âge ne sait pas l'identité de la personne.

Si on part sur une logique dans laquelle il revient aux sites de contrôler les utilisateurs, c'est peut-être la solution la moins pire, mais elle a quand même de gros problèmes :
- un seul certificat suffit pour que plein d'enfants contournent. Autrement dit il suffit d'un seul adulte négligent pour ruiner la protection.
- ce point peut être contourné en imposant un contrôle MFA (par exemple via un message reçu sur smartphone au moment de l'utilisation). Cela donne beaucoup d'infos supplémentaires à l'autorité, et interdit aux personnes qui ne disposent pas de smartphone d'accéder à ces services.
- l'anonymat est brisé à partir du moment où il est possible de remonter à la source. Ici, cette remontée nécessite la bonne volonté de deux acteurs plutôt qu'un seul, ce n'est absolument pas insurmontable si tu te méfies de la police/justice, ou d'un acteur suffisamment influent pour contrôler/corrompre/pirater ces acteurs. La donnée la mieux protégée, c'est celle qui n'est pas récoltée.

À l'inverse, ce que j'ai surtout vu mis en avant, par tous les acteurs, c'est… le contrôle parental. La plupart des terminaux autorise la mise en place d'un contrôle parental de nos jours (android, ios, des téléviseurs, tiktok, etc.). En fonction des supports et/ou des apps qu'on y ajoute, il est possible de configurer finement les sites visitables, le temps d'écran, les applications utilisables, et pas mal d'autres choses par exemple sur tiktok.

Quel est le défaut de la généralisation du contrôle parental ? Qu'il faut former les gens à s'en servir. Si seulement on disposait d'une institution étatique, en lien régulier avec les parents, et qui pourrait se charger d'une mission de communication à ce sujet. Oh wait.

N'hésite pas à me dire si j'ai zappé un truc, mais je capte pas le focus de cette conversation sur des moyens étatiques, à part pour l'amour de la logique autoritaire.

Oh et aussi, si l'enjeu est de protéger les jeunes et que vraiment on s'intéresse au pognon de multinationales, alors on peut le prendre et à la place :
- financer des programmes de prévention
- financer des psyEN
- améliorer les conditions de vie des gamins (en commençant par le financement de l'ASE).
- rendre effectif le DALO

Je pense que n'importe quel euro investi dans un de ces sujets est strictement plus efficace que la même somme investie dans le recrutement d'un modérateur sur TikTok. Je n'ai pas de source précise pour l'étayer. Tout dépend de si l'objectif est de venir en aide aux jeunes ou d'être dans une posture face aux RS.

Ok, je vous entends tous. Du coup, on ne va pas tourner en rond sur ce point sur lequel vous aurez du mal à me convaincre, je pense que les RS peuvent bien mieux faire en terme de modération, mais soit, je vous ai entendu, simplement on ne sera pas d'accord.

Uncurieux a écrit :

Je remets aussi les questions que tu as esquivées :
- es-tu pour une pénalisation des utilisateurs qui ne respectent pas les conditions du site (par exemple des utilisateurs qui auraient plusieurs comptes) ? Tu as fait un parallèle avec le code de la route où justement le non-respect du code vaut sanction pour les usagers.
- comment un réseau devrait-il déterminer selon toi l'age des utilisateurs ?

Pour la première question, clairement non, mais par contre, les utilisateurs qui ne respectent pas les conditions imposées, ainsi que leurs parents qui ne font pas attention à cela, perdront le droit de se plaindre en cas de problème. Tu peux tout faire pour protéger les gens, mais si ils enfreignent les règles, alors tant pis pour eux. Un peu comme le mec qui fait du hors piste alors que le risque d'avalanche est élevé, si tu préfères un autre parallèle. (dans le lien que je mets plus bas, ils comparent l'utilisation intensive des RS comme laisser un ado de 14 ans conduire sans permis au fait...)
Pour la determination de l'âge, tu as la déclaration que tu fais à l'inscription, et s'il y a de la triche, alors pourquoi pas passer sur un site d'identification. Genre une validation par France-Connect ou quelque chose d'officiel et de sécure.

gloubi a écrit :

Je dois avouer que la seule fois où je t'ai vu citer un autre RS que TikTok, c'était pour dire que Facebook avait une meilleure modération. Ce qui est factuellement faux, facebook ayant visiblement la pire modération de tous les RS.

Sincèrement, je pense que la modération de FB n'est pas bonne dans certains domaines, qui sont différents de ceux de Tik Tok.
J'ai l'impression que sur FB tu ne trouveras pas des publications aussi racistes que sur Tik Tok par exemple, où je suis réellement horrifié par ce que j'y vois.
Par contre, je pense que FB est une bonne cible pour les campagnes de désinformation, peut-être que c'est lié aux tranches d'âge qui y sont inscrites et correspond à des personnes qui votent.

Et c'est sans doute pareil pour TikTok. Quand un jeune regarde uniquement des vidéos sur la tristesse, et les regarde en boucle, on comprend bien que la part de responsabilité de TikTok est pas bien grande - que Youtube ferait exactement pareil, en mettant peut-être deux heures au lieu de 45 minutes à converger, et que le problème est ce qui pousse au départ le jeune à ne regarder que de telles vidéos.

N'importe quoi. L'effet rabbit hole de Tik Tok est réputé justement pour aller très vite. Et sans même parler de la vitesse de l'enfermement dans une bulle de suggestions mortifères, tu as été adolescent non ?
Tu as besoin que je partage un lien sur la fragilité des adolescent pour peut-être commencer à te dire que ce sont des cibles vulnérables, notamment sur les RS ?
Sans déconner, tu as des enfants toi ? Tu n'aurais pas envie de les protéger ?
Une étude dans huit pays auprès de 9 000 adolescents a établi le lien étroit entre une utilisation intense des réseaux sociaux et des taux élevés de dépression et d’anxiété

Et ce n'est pas comme si on avait déjà convenu qu'il était possible d'avoir des algorithmes bienveillants.
Fais une recherche "envie de mourir" sur Google et sur Tik Tok et tu verras tout de suite la différence.
Les premières suggestions sur Google seront les adresses de SOS suicide ou des liens pour empêcher que tu le fasses, alors que sur Tik Tok on va t'expliquer comment faire. Tu la vois la grosse différence où tu préfères ta posture de bonhomme qu'à pas peur de l'impact des RS ?

mais oui, on sait, toi tout ce que tu veux c'est que les chinois se barrent, ça te va très bien si seul TruthSocial est autorisé en France).

Encore un de tes délires.
Non, je veux que le Tik Tok pour les jeunes ados soit au contraire le même qu'en Chine (Douyin) : un outil éducatif. La propagande en moins. Et avant que tu ne parles du club Dorothée, je te dis plus du genre "c'est pas sorcier".

Arnold de Schartzenprout a écrit :

Ok, je vous entends tous. Du coup, on ne va pas tourner en rond sur ce point sur lequel vous aurez du mal à me convaincre, je pense que les RS peuvent bien mieux faire en terme de modération, mais soit, je vous ai entendu, simplement on ne sera pas d'accord.

Moi ce que je te dis, c'est que tes objectifs sont déjà atteints : tous les réseaux sociaux, et je dis bien tous les réseaux sociaux, ont une modération meilleure que ton modèle, facebook.

N'importe quoi. L'effet rabbit hole de Tik Tok est réputé justement pour aller très vite. Et sans même parler de la vitesse de l'enfermement dans une bulle de suggestions mortifères, tu as été adolescent non ?
Tu as besoin que je partage un lien sur la fragilité des adolescent pour peut-être commencer à te dire que ce sont des cibles vulnérables, notamment sur les RS ?
Sans déconner, tu as des enfants toi ? Tu n'aurais pas envie de les protéger ?
Une étude dans huit pays auprès de 9 000 adolescents a établi le lien étroit entre une utilisation intense des réseaux sociaux et des taux élevés de dépression et d’anxiété

Première phrase de ton lien : "Dans une décision historique, un jury de Los Angeles a conclu que la société de réseaux sociaux Meta et le service de diffusion en continu YouTube avaient causé un préjudice à une jeune utilisatrice."

Meta, c'est facebook. Le truc dont une étude déjà mise en lien montre que c'est le pire réseau social en terme de racisme (4 place devant tiktok", mais dont tu continues à prétendre que "J'ai l'impression que sur FB tu ne trouveras pas des publications aussi racistes que sur Tik Tok par exemple". Parce que, comme d'habitude, tu as strictement rien à carrer de ce qui t'es répondu, tu as rien à carrer des données issues du monde réel, tu es juste là pour continuer à répandre tes fake news.

A l'inverse j'ai cherché le mot "tik" dans ton lien, il n'apparait pas.

Et non, je vais pas me faire chier à lire entièrement un lien débile que tu as mis sans le lire juste pour faire perdre du temps à tout le monde, et qui tend à prouver l'exact contraire de ce que tu affirmes.


Et on connait tes méthodes de manipulation, "pensez aux enfants", en voulant faire passer ceux qui sont pas de ton côté pour des monstres, quand bien même tes propres source montrent le contraire de ce que tu veux prouver. En somme tu utilises juste la mort d'ados pour faire avancer ton propre agenda, en sachant pertinemment que tes idées n'aideront jamais aucun ado. Tu arrives vraiment encore à te regarder dans la glace ?

Et avant que tu ne parles du club Dorothée, je te dis plus du genre "c'est pas sorcier".

C'est pas sorcier c'était le service public. Le club Dorothée, c'est ce que le privé - c'est-à-dire le truc qui doit avant tout faire du profit et se soumettre à la concurrence - a pu faire passer comme "mieux disant culturel".

Tu veux nationaliser les réseaux sociaux ? Ca me va. Je suis OK pour nationaliser environ n'importe quoi. Mais je suis à peu près sûr que tu es contre toute nationalisation, par principe.

gloubi a écrit :

Tu veux nationaliser les réseaux sociaux ? Ca me va. Je suis OK pour nationaliser environ n'importe quoi. Mais je suis à peu près sûr que tu es contre toute nationalisation, par principe.

Tu fantasmes encore sur ce que je peux bien penser. Je trouve même cette idée pas délirante du tout : avoir un RS appartenant au service public.
Franchement, je ne sais pas si tu as dis ça pour déconner mais je trouve que c'est une très bonne idée.

Arnold de Schartzenprout a écrit :

Pour la première question, clairement non, mais par contre, les utilisateurs qui ne respectent pas les conditions imposées, ainsi que leurs parents qui ne font pas attention à cela, perdront le droit de se plaindre en cas de problème. Tu peux tout faire pour protéger les gens, mais si ils enfreignent les règles, alors tant pis pour eux.

Bon donc sachant que créer un compte prend 10 secondes, tous les jeunes auront 3 comptes, le temps n'aura pas diminué, mais tu pourras t'en laver les mains en disant que c'est la faute des jeunes. Moi c'est ce que j'appelle une posture.

La vision matérialiste consisterait à partir du monde réel, à analyser ce qu'il est et comment il se comporte, et d'en déduire des principes qui permettent de maximiser la protection des jeunes. La vision "posture", ça consiste à dire qu'on a fait quelque chose, et avoir des personnes à blâmer si on se rend compte que ça ne marche pas (en l'occurrence, ironiquement, tu es en train de dire que tu vas accuser les jeunes d'être responsables s'ils ne vont pas bien… pour le contexte on parle de jeunes suicidaires : ils sont tous responsables de leur mort).

Et comme tu fais un parallèle avec "le mec qui fait du hors piste alors que le risque d'avalanche est élevé", ben je suis désolé de te le dire brutalement, mais la société a déjà décidé de leur envoyer des secours, des hélicos ou autre, et d'essayer de leur sauver la vie quand même. On ne laisse en général pas les skieurs mourir lorsqu'ils font du hors piste.

Pour la determination de l'âge, tu as la déclaration que tu fais à l'inscription, et s'il y a de la triche, alors pourquoi pas passer sur un site d'identification. Genre une validation par France-Connect ou quelque chose d'officiel et de sécure.

Ce qui veut dire que tu vas demander à tous les adultes de passer par une validation par France Connect, ce qui leur fait perdre de facto leur anonymat. S'il s'agit d'une procédure officielle, tu empêches les personnes qui n'ont pas de papier d'y accéder. Autrement dit, le coût en terme de liberté d'expression est élevé, surtout si tu comptes que les RS peuvent être un moyen de faire valoir tes droits dans certains cas, ou de communication. Le gain espéré est à mon avis très faible, surtout s'il s'agit de juste mettre en place une limitation débile qui se contourne en 3 minutes. Également : ça augmente le nombre de données collectées sur les utilisateurs/trices. Ça ne va pas dans le bon sens (et oui, france connect peut se faire pirater, le dernier piratage important d'un site de l'état, c'est hier, quelques heures après que je poste un message expliquant que c'était un risque).

Et ce n'est pas comme si on avait déjà convenu qu'il était possible d'avoir des algorithmes bienveillants.

Le mot "possible" est mal compris ici, je pense qu'il faut que tu retournes lire ce que j'ai écrit sur ce point. J'ai dit que de tels algorithmes existent (dans l'espace des algorithmes, c'est-à-dire dans l'ensemble des programmes qui peuvent tourner sur un ordinateur). Ça ne veut pas dire que quelqu'un sait l'écrire, pour commencer.

C'est comme de dire que le modèle de voiture qui sortira dans 3 siècles est une voiture "possible". Ça ne veut pas dire qu'on sait la produire aujourd'hui.

Uncurieux a écrit :

Pour éviter de tourner en rond sur nos désaccord sur le fait que les RS peuvent faire mieux, je ne répondrai qu'aux arguments que tu produits et que je trouve fallacieux.

Également : ça augmente le nombre de données collectées sur les utilisateurs/trices. Ça ne va pas dans le bon sens (et oui, france connect peut se faire pirater, le dernier piratage important d'un site de l'état, c'est hier, quelques heures après que je poste un message expliquant que c'était un risque).

Ok, mais que font les RS si ce n'est recueillir des données sur les utilisateurs ? Ce sont justement ces datas qui ont une valeur marchande.
Quand au piratage, ok, mais est-ce que les RS sont mieux protégés contre les tentatives de piratage ? Est-ce que ce n'est pas juste une question d'intérêt s'ils ne sont pas attaqués ? Et puis en terme de piratage, même le site de la NSA a été piraté par un jeune Tarbais. Nul site ne semble impiratable.

Le mot "possible" est mal compris ici, je pense qu'il faut que tu retournes lire ce que j'ai écrit sur ce point. J'ai dit que de tels algorithmes existent (dans l'espace des algorithmes, c'est-à-dire dans l'ensemble des programmes qui peuvent tourner sur un ordinateur). Ça ne veut pas dire que quelqu'un sait l'écrire, pour commencer.

Toujours pas compris la limite technique. Je ne vois qu'une limite en terme de volonté.

Arnold de Schartzenprout a écrit :

Ok, mais que font les RS si ce n'est recueillir des données sur les utilisateurs ?

Alors déjà ils fournissent un service. Mais surtout ça n'a rien à voir avec le problème que je soulève. Je te dis que tu préconises un système qui multiplie la capture de données vers plus d'acteurs, et ta réponse c'est qu'il y a de la capture de données et que c'est un problème. Ben oui. C'est pour ça que c'est mieux de la limiter, non ?

Toujours pas compris la limite technique. Je ne vois qu'une limite en terme de volonté.

Donc toi, qui n'as jamais écrit une ligne de code de ta vie, tu vas m'expliquer que pour écrire un algorithme calculable, il suffit d'un peu de volonté. C'est lunaire. Je te propose d'écrire toi-même l'algo, du coup ?

PS : il n'y a rien de fallacieux dans ce que j'écris. Je sais que tu n'hésites pas à le pointer dès que tu trouves un micro-truc qui ne te convient pas. Je le redis : tu préconises une solution absurde et simpliste, qui ne remplira pas la mission que tu dis qu'elle remplit. Tu défends une posture, et pas une approche pragmatique basée sur la réalité informée par les expertises des acteurs, et tournée vers la population qu'elle affirme défendre.

Uncurieux a écrit :

Encore et toujours une discussion circulaire autour de notre désaccord.
Comme je l'ai déjà dit, je ne l'alimenterai pas : nous ne sommes pas d'accord, c'est tout.
Par contre je vais rebondir sur ton sophisme pour y répondre.

Donc toi, qui n'as jamais écrit une ligne de code de ta vie, tu vas m'expliquer que pour écrire un algorithme calculable, il suffit d'un peu de volonté. C'est lunaire. Je te propose d'écrire toi-même l'algo, du coup ?

Dommage, j'avais codé un logiciel de reconnaissance de bactéries (ma formation c'est microbiologiste) pour une filiale de la Lyonnaise des Eaux qui m'employait dans les années 90 (même que mes gosses me disent que j'aurais dû le faire breveter^^). Mais on s'en fout en fait, parce que j'ai envie de te dire qu'il n'y a pas besoin d'être musicien professionnel pour expliquer qu'un album est plus mauvais ou meilleur qu'un autre.
Et puis comme je l'ai fait remarqué plus tôt, ce n'est pas comme si on n'avait pas l'exemple chinois et de l'algorithme de Tik-Tok différent selon à quels utilisateurs est destiné le RS, Chinois ou non Chinois.
Tu connais la principale différence entre les deux ? La contrainte exercée par le gouvernement Chinois, c'est tout. Quand on veut, on peut.

Arnold de Schartzenprout a écrit :

Dommage, j'avais codé un logiciel de (...) 😴

Ben feu, sois fou, n'hésite pas à coder du haut de ta très grande expérience d'avoir écrit un script un jour.

Mais on s'en fout en fait, parce que j'ai envie de te dire qu'il n'y a pas besoin d'être musicien professionnel pour expliquer qu'un album est plus mauvais ou meilleur qu'un autre.

Non, mais là c'est plutôt que t'es en train d'expliquer à un pianiste professionnel que tu sais où sont les touches noires et que donc ça doit être possible de jouer Rush E les yeux fermés, c'est bon, suffit d'un peu de volonté.

Je le redis : parler de "différences dans l'algorithme entre la version Fr et la version chinoise" n'a pas de sens. Il est possible qu'il existe une différence fondamentale dans le fonctionnement de cet algorithme (paramétrage spécifique ou algo complètement séparé), et il est possible que ce soit juste lié à une différence dans les contenus qui y sont postés. Il n'existe aucun moyen de faire la différence entre les deux.

Et ce GRAND COMPLOT que tu nous répètes qui affirme que les chinois ont dompté l'algorithme, sont autoritaires, et que du coup il n'y a pas d'incitation au suicide chez eux. Ça leur réussit vachement bien on dirait. Explication alternative : t'as juste aucune idée de ce qui se passe en Chine, tu t'en sers comme d'un épouvantail, et tu n'as aucune idée de la faisabilité des choses que tu préconises.

Je t'ai dit depuis le début que tes idées simplistes étaient juste des fantasmes. Tu as proposé en vrac :
- d'interdire certains sites aux plus jeunes. Sans fournir de solution simple à la vérification de l'age.
- de faire limiter le temps d'écran par les sites. En expliquant que c'est pas grave si les jeunes contournent parce qu'alors "ce sera de leur faute" (et tu parles de prévention suicide... suffisait de s'arrêter là en fait)
- d'améliorer le mécanisme de modération. En ignorant soigneusement gloubi qui te montre que sur plein d'aspects il est strictement meilleur que celui d'autres RS.
- tu as proposé de "reprendre en main l'algorithme" sans jamais donner de définition correcte de ce que ça veut dire et en ignorant que ce que tu avais en tête est juste invérifiable.
- quand j'ai suggéré qu'il était possible de contrôler l'algorithme, tu as (incorrectement) dit que je décrivais un test, dit que c'était inadéquat, puis finalement uniquement suggéré des solutions basées sur le même type de contrôles (ne nécessitant aucune collaboration des algorithmes)

Donc écoute, si tu veux vraiment croire qu'il serait super simple, quand on veut on peut, suffit de bootstraper un peu, easy peasy j'ai fait du python une fois, et que ça t'amuse de penser que tu as davantage de billes qu'un mec qui prend le temps de te répondre et qui est docteur en informatique, ben... ok. Continue d'y croire. Je continuerai à te dire que c'est complètement idiot. T'as l'habitude.

Uncurieux a écrit :

Non, je n'ai pas la prétention d'avoir plus de billes comme tu dis, c'était simplement une réponse pour te faire comprendre que tes projections sur qui je suis sont juste non seulement inappropriées mais aussi complètement débiles dans la mesure où tu ne me connais pas.
Pour le reste, no comment, une fois de plus nous sommes en désaccord, inutile de tourner en boucle. Tu ne me convaincras pas du fait qu'il est impossible d'améliorer les algorithmes de recommandation, et je ne te convaincrais pas du contraire. That's all.

Pour parler de vérification age et de mfa.

Ta vérification d'âge, c'est de la mfa. C'est le troisième facteur, en fait. Littéralement "ce que je suis", puisque les applis de vérification se basent sur ta pièce d'identité ou ton visage.

Et vu le niveau mis pour ma cyber sécu au niveau mondial ça va être un drame absolu quand ça va fuiter :3

Satori9960 a écrit :

Et vu le niveau mis pour ma cyber sécu au niveau mondial ça va être un drame absolu quand ça va fuiter :3

Tu pourrais être plus clair stp ?

Arnold de Schartzenprout a écrit :

Tu pourrais être plus clair stp ?

Je traduis : les solutions simplistes que tu préconises ont des conséquences dramatiques à moyen terme quand elles sont appliquées : elles nécessitent une récupération de l'identité des utilisateurs/trices d'un site, et l'association entre cette identité et le contenu publié ou consulté par cette personne.

Autrement dit, au nom de ta super problématique de "protéger les jeunes" (mais en écartant quand même les solutions qui sont recommandées par les professionnels), tu milites pour des solutions qui ont des impacts colossaux sur le droit à la vie privée et la liberté d'expression. Ce n'est pas nouveau, il y a régulièrement des ignares qui viennent dire que ce serait bien d'en finir avec l'anonymat sur internet (dont Macron, tiens).

Suffit de se demander qui ça arrange de pouvoir remonter trivialement à l'identité de n'importe quel lanceur d'alerte, de pouvoir ficher les gens selon leur orientation sexuelle, etc. etc.

Arnold de Schartzenprout a écrit :

Tu pourrais être plus clair stp ?

C'est facile, n'importe quel système de collecte de donnée est à la merci de hacker aujourd'hui.

Dans l'idée, chaque ligne c'est une breach dont ce site est au courant. Bon j'ai pris un site un peu au hasard, j'en ai vu quelques un dans le même style. Mais en gros, t'as une data breach majeure environ chaque jour. C'est juste une question de semaines/mois avant que les données d'une entreprise qui fait de la collecte de donnée soit hackée.

Ce n'est pas une question de "si" ; C'est une question de "quand".

Et ce quand, il approche à grands pas. A très grands pas. Il faut comprendre qu'aujourd'hui on est incapables de luter, rien qu'à cause des outils à disposition en face. Quand Claude Mythos sera accessible à n'importe quel hacker dans son garage, ça sera un véritable carnage en terme de data breach.


Maintenant, je parlais d'authentification multifacteur, ou MFA. Ce qu'on appelle facteur c'est une des façons qu'on a de t'identifier, et c'est divisé en trois parties (c'est une base de la cybersécu). "Ce que je sais"/"ce que je suis"/"ce que je possède". En gros : mon mot de passe, ma tronche, et mon téléphone. L'idée c'est que si un hackeur arrive à trouver ton mot de passe, normalement il ne peut pas avoir les 2 autres facteurs. Parce qu'il n'a pas ta tête et qu'il n'a pas ton téléphone.

Généraliser à tout prix l'authentification d'age ça ne peut passer que par 2 méthodes (qui sont déjà utilisées aujourd'hui) : La carte d'identité ou l'identification faciale.

Et quand il y aura un databreach avec ta tête partout vendue à 0.000007c, avec ta photo d'identitée, cumulée avec la databreach du mot de passe, cumulé avec la databreach de ton activité, c'est mettre toute personne dans des risques qui sont extrêmes.


La question, c'est de savoir si on veut que les jeunes sachent utiliser internet [et pour rappel, je pense qu'on est assez vieux dans cette discussion pour reconnaitre qu'on a grandi dans le far west de l'internet ou le porno à gogo était disponible, où au détour d'une discussion tu pouvais recevoir 2 girls one cup ou un goatse alors que t'as 13 ans, et des groomers en liberté sur sim city online et second life, et que donc c'est parfaitement possible], ou bien de savoir si on veut juste mettre des systèmes en place qui vont être attaqués et exploser au bout de 3 minutes et juste mettre en danger tous les gens qui se servent de ça.



Je veux dire outre le fait qu'on impose des trucs totalement délirants à la population dans des trucs liberticides sous prétexte de "penser aux enfants", genre, les enfants ils vont juste se rendre compte que nord vpn qui "bypass les restrictions régionales pour netflix" comme on leur vend sur chaque sponso depuis 5 ans, bah ça marche aussi pour tiktok.

Satori9960 a écrit :

Ok, alors si je résume ton discours, tu ne crois pas en l'efficacité de la cyber sécurité, c'est ça ?
Tellement pas que tu penses que moins tu donnes d'information pour t'identifier, plus tu te protèges ?

Je ne remets pas en cause l'insécurité en terme de hacking, je trouve juste paradoxal que cela serve à entretenir le fait de ne pas agir en terme de protection.

J'en profite pour te poser une petite question. Plusieurs candidats à la présidentielle ont parlé de créer (en réalité renforcer parce qu'elle existe déjà) une cyber-armée. Dans ses missions, il y a notamment :
- La lutte informatique défensive (LID),
- La lutte informatique offensive (LIO),
- La lutte informatique d'influence (L2I).

Est-ce que pour toi ça ne sert à rien ? Est-ce qu'on peut envisager le développement d'unités cyber luttant contre le hacking pour protéger les populations, particuliers comme entreprises (lutte contre les ransomwares par exemple) ?
Ill existe des entreprises privées pour la protection informatique. Est-ce que ça doit rester une mission privée, payante, ou est-ce que ça doit être une fonction régalienne au même titre que la sécurité des biens et des personnes confiées à la police/gendarmerie ?

Je partage ici une ressource que j'ai trouvé très éclairante sur l'articulation des enjeux. Et en cette période à haut voltage politique ça me semblait intéressant de présenter un texte qui articule un grand nombre d'enjeux. Même si ça sera noyé page 9 d'un sujet connexe. Deux points donc :

- Le cadrage "intérêt étatique" continue à me poser problème. J'ai lancé une discussion sur le terme de "guerre" justement pour préciser que prendre pour argent comptant une doctrine portée par l'armée occulte le projet politique sous-jacent.

- Cet article en deux parties (en anglais, vive les traducteurs automatiques) présente justement le projet politique derrière les plateformes comme elles sont conçues aujourd'hui.

Il établit le lien entre :


Ne penser qu'une seule de ces choses en isolation, c'est activement, voire consciemment, biaiser la réflexion pour arriver à une conclusion donnée ("c'est en tapant sur les méchants qu'on construit une solution"). Et c'est manquer d'éducation politique, ce qui est tout à fait ok : on apprend chaque jour que Dieu fait, et ce forum m'a énormément appris sur ce qui pouvait exister - car j'étais ouvert à l'altérité. Quitte à me fourvoyer un certain temps.

En soi, rapporter un témoignage personnel c'est ok, tant qu'on est capable d'admettre la contradiction, et de ne pas utiliser de posture ou de techniques discursives manipulatoires (citations et paraphrases: "c'est simple", "c'est évident", "tu comprends mal", "si tu penses pas comme moi alors tu fais partie du problème**", "ce que tu proposes c'est ne pas agir pour la protection des gens") qui maintiennent le problème en surface et nous empêchent de discuter du fond.

Notre rôle de citoyenn·e·s dans tout ça est d'agir sur chacun de ces leviers : exercer toute la pression possible pour réguler et soutenir activement la nationalisation de certains services, pour critiquer la corruption et les projets industriels écocidaires, pour faire communauté autour des gens isolés, etc. On n'a que 24h dans une journée, mais on est nombreux·ses. L'important c'est de penser tout ça dans sa globalité.
Si on part d'emblée résigné·e·s et en donnant un blanc-seing à je ne sais quelle entité étatique sans contrôle (genre l'armée) alors on abdique notre liberté pour la simplicité. Ca, c'est une discussion intéressante à laquelle je participerais volontiers. Pour peu qu'on s'écoute.


* Ce n'est pas un bug, c'est une fonctionnalité.
** Littéralement, "ça nous affaiblit de ne pas penser qu'on est en guerre" présuppose qu'on vit dans un monde de forts et de faibles où l'objectif est de vaincre. Non. Discutons-en, plutôt que de tourner autour du pot.

Arnold de Schartzenprout a écrit :

Ma réponse risque d'être un peu désordonnée, mais répondre à chaque message donnerait un quote-to-quote 'crade'.

Il me semble qu'ici personne n'est contre une amélioration de la modération sur les RS.

Par, étant peut-être plus 'conscient' des implications techniques, on se rend compte que :
Tout système 'simple' de modération, n'existe pas. Il y a rien qu'à voir sur KI, un 'petit' site, et une équipe de volontaire, que ce n'est pas facile.
Alors sur des sites avec plusieurs milliers/millions d'utilisateur, c'est forcément 'compliqué'
S'ajoutant à ça, que si des 'malvaillants' ont en vraiment envie de 'pourrir' un site/RS, c'est 'facilement' ...

Reste la possibilité, qu'on soit tous 'fichés', et même ça, n'a durera qu'un temps. Le temps qu'un hacker récupère le/la/les listes, et mette en ligne. Quid de qui garde ces données ? Et imagines que quelqu'un ait les identités de tous les utilisateurs Facebook (je prend celui-là que très utilisé) ?!?

Améliorer la modération n'est vraiment triviale.

D'où, si on veut protéger les enfants, réfléchir à ce qu'on peut faire d'autre, et il me semble, qu'à l'heure actuelle, c'est la 'meilleure' voix : C'est le contrôle parental.
Quand j'étais 'jeune', le 'grand problème' c'était la TV et les jeux vidéos. Mes parents vérifiaient ce qu'on regardait, nous imposaient des temps limites, donc on devait choisir notre programme, et ne pas passer la journée devant la téloche. Voir certains jours : "Il fait trop beau là, allez jouer dehors".
Si j'avais des enfants, le premier truc que j'aurais fait (niveau ordi'), ça aurait été de leur créer un chacun, et tout limiter, qu'il n'y ait vraiment que le minimum pour se familiariser. Et puis petit à petit, débloquer les possibilités.
Sauf que, t'es bien gentil Zarg, mais, combien on fait des études/travaillé dans l'Informatique ?

Ce qui amène une autre question : Est-ce que les parents ont les moyens d'appliquer ce contrôle parental ?
Est-ce qu'ils ont assez de temps ? Est-ce qu'ils savent configurer un PC, une tablette, un smartphone, etc ? Est-ce que 'dans leur dos', les enfants ne 'subissent' pas d'autres influences ? Est-ce qu'à l'école on leur apprend à se méfier un peu d'Internet, qu'il n'y a pas que du bon ?

je n'ai pas les réponses, pas de source a proposer, mais il me semble que quand même, ce serait 'mieux' pour les enfants.
Il y a quelques années, j'ai été 'pion' dans un collège/lycée de 1'200 élèves, en quelques jours, je savais toutes et tous, qui avait 'des parents derrière', et qui non. Et quand je dis 'parents derrière', toutes classes sociales, des manières de faire/convictions différentes, certains qui 'galéraient'. Il faisait du contrôle parental, chacun(e)s à sa façon, mais ça 'se sentait' direct sur les enfants.
Ce n'est pas un 'argument' sur Pol & Soc, mais ça a participé à ma propre réflexion.

Pour finir, un truc facile, qui ne sera pas la bonne évidement, mais après un tel pavé (désolé), je m'autorise à rêver un peu : Que les RS soient 'taxés' sur le 'produit de nocif', pour X messages toxiques non modéré, une somme de Y sera versée à des Associations formant les parents et les enfants à l'Informatique, et les prévenant des dangers du Web.
(Rien qu'en le formulant, je vois déjà plein de soucis : Comment on définit ce qui est nocif ? Quelles Asso' y aurait le droit ? Comment on s'occupe de la répartition ? Mais là tout de suite, ça me fait rêver comme idée)

Zarg a écrit :

Que les RS soient 'taxés' sur le 'produit de nocif', pour X messages toxiques non modéré, une somme de Y sera versée à des Associations formant les parents et les enfants à l'Informatique, et les prévenant des dangers du Web. (Rien qu'en le formulant, je vois déjà plein de soucis : Comment on définit ce qui est nocif ? Quelles Asso' y aurait le droit ? Comment on s'occupe de la répartition ? Mais là tout de suite, ça me fait rêver comme idée)

Comme l'industrie du tabac ? Ca me semble super, comme idée. Oui le mécanisme de redistribution est à travailler, mais comme tout est à réinventer de ce côté là de toute façon, c'est un chantier enthousiasmant.
Pour la nocivité, des paliers pourraient être mis en place, à partir de données collectées à l'école - ce qui impliquerait une prévention et une détection de la violence par l'équipe (instits/profs, psys, pions, AESH, etc).
J'ai du mal à imaginer autre chose que le mécanismes d'appels d'offre actuel par lequel les assos se positionnent sur ces dossiers, mais il y a certainement bien mieux : compter sur le tissu associatif local pour faire de la prévention (fablabs/hackerspaces), impliquer les associations de parents d'élèves...

Tout ça dépend bien entendu d'une volonté de renforcer les acteurs et le tissu social local.

A partir de là, des préconisations sur les algorithmes et les outils les plus appropriés émergeraient, qui guideraient le remodelage des RS. Ca, couplé à une offensive directe sur les RS prédateurs/extractivistes (nationalisation ou autre), constituerait à mes yeux une politique cohérente.

Merci Zarg, j'ai rêvé avec toi quelques minutes.