Guerre cognitive : faut-il reprendre en main les algorithmes des réseaux sociaux ?

Par Arnold de Schartzenprout 83 messages Politique & Société nouveau sujet répondre
  • postĂ© 17/04 (15:53)
    +0 -3 -3 
    Comme j’apprécie les discussions constructives, je vais vous laisser tous les deux débiter des réponses qui n’apportent rien et on tendance à faire dévier le sujet.
    Un Curieux avec ses contorsions sémantiques pour essayer à tout prix d’apparaître comme la voix de la connaissance du forum quitte à dire tout et son contraire tout en n’expliquant surtout pas sa position. Et Gloubi de faire une longue réponse inutile pour dire qu’un contenu éducatif c’est Dorothée ou GI Jo au lieu de dire simplement « ok, il reste à définir à quoi correspond un contenu éducatif en fonction de l’âge ».

    J’appelle des gens plus sérieux à réponde du coup à la question suivante.

    Quels genre de contenus suggérés par les algorithmes des RS verriez-vous et quelle durée de connection autoriseriez vous, en fonction des tranches d’âge 13/15 ans, 16/18 ans, plus de 18 ans ?

    ___

    Vous allez aimer me détester...
  • modifiĂ© 17/04 (17:31)
    +0 -2 -2 
    Arnold de Schartzenprout a Ă©crit :

    Quand on a un débat technique sur une question politique, il me semble important d'avoir accès aux conséquences indirectes des décisions que l'on prend.

    C'est pour ça que depuis le début du topic je te demande d'être compréhensible (à défaut d'être clair) sur les positions que tu défends, parce que c'est ça qui permet d'envisager les conséquences des décisions que tu préconises. Dans ce topic c'est parfois encore pire, parce que les décisions dont tu parles sont parfois dénuées de sens (exiger une preuve du diable aux plate-formes, typiquement, en ajoutant qu'elles n'auraient qu'à collaborer).

    Ici, tu sembles parti sur l'idée que la solution est de discriminer les utilisateurs sur l'age. Alors au risque de mettre encore en avant ma grosse expertise, je me dois d'insister : ce n'est pas simple à faire, et ça a des conséquences pour tous les utilisateurs y compris majeurs. Je ne parle pas de savoir quelle est la séparation du contenu en fonction de l'age, parce qu'il y a trop de facteurs à prendre en compte (quel contenu pour quel age, pour quelle culture, pour quel régime politique ? Citons par exemple que les lois puritaines US obligent à censurer un sein ou un Courbet y compris lorsqu'ils sont utilisés par des français). Tout cela est secondaire : il ne sert à rien de discuter d'à quel point ce serait vachement bien de "protéger la jeunesse" quand on n'a même pas une vague idée de la faisabilité.

    Tu parles aussi de faire limiter le temps d'accès par les plateformes. Est-ce qu'on peut te demander par quel moyen technique tu penses faire ça ?

    Par ailleurs, tu as raison de souligner que je ne donne pas de préconisation, et ce pour deux raisons :
    - je ne suis pas technocrate, et je pense qu'il faut distinguer l'expertise de l'avis politique. Donc quand j'interviens avec arguments d'autorité etc. j'essaye de ne pas trop donner mon avis en même temps.
    - mais surtout j'ai déjà donné mon avis sur ce topic, où, selon toi, il n'y a pas de cadre établi, blabla « C'est en effet une impression, rien d'autre. ». Tu as répondu avec :
    a/ Deux tentatives d'ad hominem parfaitement idiote
    tes parents font tout ça d'eux mêmes ? J'ai bien dit "d'eux-mêmes", pas parce que tu leur as cassé la tête avec ça.

    b/ Un homme de paille :
    Alors ok, résumons ce que tu décris : il n'y a aucune solution face aux algorithmes des RS, seule l'éducation via les cours de SNT peuvent être efficaces. C'est bien ça ta position ?

    c/ et un changement soudain d'avis quand ce n'est plus moi qui en parle mais Zarg (que je remercie pour ça au passage).

    Tout porte à croire qu'il existe en réalité un cadre bien précis dans tes idées : le fait que la seule solution aux problèmes réels dont tu parles doit venir de la loi française, qui, par magie, arriverait simultanément à respecter une forme de démocratie, et à découvrir que la population est favorable à une censure massive des RS qu'elle utilise abondamment. Le tout avec beaucoup de vocabulaire très très viril de GUERRE COGNITIVE. Tu ne peux pas rejeter avec mauvaise foi toutes les idées qui ne viennent pas de toi et continuer à prétendre que tu es un mec super ouvert.

    Je n'ai pas l'espoir que tu t'intéresses avec bienveillance aux initiatives dont Artemis, Satori, Zarg ou moi parlons quand il est question de respect de la privacy et/ou de la liberté d'expression (je pense pourtant que les écouter serait infiniment plus intéressant que tes spéculations), donc pour le moment je me contente de souligner ce que j'ai dit et que tu illustres depuis : « Si tu as une idée simple, c'est qu'elle est mauvaise ».
  • modifiĂ© 17/04 (17:41)
    +0 -2 -2 
    Arnold de Schartzenprout a Ă©crit :

    Et Gloubi de faire une longue réponse inutile pour dire qu’un contenu éducatif c’est Dorothée ou GI Jo au lieu de dire simplement « ok, il reste à définir à quoi correspond un contenu éducatif en fonction de l’âge ».

    OK super.

    En somme : ce que tu veux faire (forcer un contenu à être éducatif via la loi) a déjà été fait, le résultat est connu (TF1 et tous les dessins animés américains des années 80 et 90) (et ceci à une époque où c'tait pas des algorithmes mais des gens qui jugeaient si un contenu était éducatif), et ta réponse c'est "bouh tu fais des pavés moi je veux pas savoir ce qui a déjà été fait et n'a pas marché je veux juste poser des questions mais uniquement recevoir les réponses qui m'arrangent". Bah du coup, tu vas trop trop reprendre la main sur les algorithmes : même si une loi est faites avec tes propositions à la fin elle sera juste contournée.

    Et Ă  aucun moment tu fais le lien entre :
    1/ Selon toi, Tik Tok pousse des contenus éducatifs en Chine (plus précisément, "développant la curiosité pour les sciences et la culture, ainsi que le patriotisme pour les jeunes Chinois") et des contenus abêtissants aux US.
    2/ Aux US, GI Joe (et les autres dessins animés de l'époque) ont été considérés légalement comme "éducatifs" (après, je ne connais pas assez la série pour savoir si elle "développe le patriotisme").
    En faisant le lien, on peut se dire que l'algorithme pousse les mêmes genre de contenus dans les deux cas, mais que ce qui est considéré comme éducatifs aux US est aussi très abêtissant.


    Au final, pourquoi tu ne fais pas directement toi-même les réponses à tes questions ? Tu seras sûr d'avoir les réponses que tu souhaites.


    Il y a quand même une question à laquelle tu n'as pas répondu, qui n'est pas en lien avec le Club Dorothée : ton algorithme qui doit proposer "toujours deux contenus contradictoires pour alimenter l'esprit critique", il doit proposer quels deux contenus quand le jeune tape dans la recherche "les chambres à gaz ont-elles existé ?"

    (on peut ensuite étendre à des questions comme "la Terres est-elle plate ?" ou "qui a construit les pyramides d'Egypte ?", si tu me dis que l'algorithme ne dois proposer qu'un contenu si l'autre est illégal.)
  • postĂ© 17/04 (23:30)
    +1 -2 -1 
    gloubi a Ă©crit :

    Juste un mot sur la question du contradictoire : je crois qu'Arnold n'a jamais justifié son dogme, et toujours esquivé les remarques qui en démontrent l'absurdité. Ce que je comprends de son idée sur la question c'est qu'il faut du contradictoire sauf sur les sujets pour lesquels la vérité est évidente. Bien entendu l'ironie vient du fait qu'Arnold a souvent montré une croyance féroce en des choses fausses, et qu'il a longtemps défaussé des arguments comme étant idéologiques...

    Sur la question que tu soulèves de décider quel contenu est éducatif ou non, je pense qu'il y a un autre élément technique à apporter : les algorithmes sophistiqués se trompent parfois. Or les conséquences d'erreurs commises par des algorithmes ont la fâcheuse tendance à offrir peu de recours aux victimes.

    Donc la situation est la suivante : lorsqu'il existe une plate forme pour communiquer, il y a des gens qui peuvent légitimement souhaiter les utiliser pour toucher un public par exemple (artistes, vendeurs, influenceurs etc). Ici une erreur de classification serait donc une atteinte peu justifiable à la liberté d'expression, assez kafkaïenne qui plus est, vu que les recours seront nécessairement inexistants.

    Il y a des raisons de souhaiter une diminution de l'emprise des décisions algorithmiques sur nos vies. Ce qu'un contrôle ou une "reprise en main" ne permet pas.
  • postĂ© 18/04 (00:51)
    +0 -0      
    VoilĂ  un nouvel article d'Amnesty International accablant et mĂŞme terrifiants sur Tik Tok : CLIC

    Outre la description glaçante de comment l'algorithme de recommandation amène très rapidement les adolescents dans une spirale mortifère, on peut y apprendre plusieurs choses.

    D'abord, comme je le disais dans ce topic, ces plateformes ont largement les moyens d'avoir des équipes de modération et des moyens techniques pour empêcher cela, Tik Tok engrangeant 23 milliards de dollars de recette ! La volonté n'y est tout simplement pas, et c'est pour cela que je dis que ces dérives sont volontaires, puisque Ti Tok a déjà été attaqué en justice, connait la problématique, mais n'agit pas de façon suffisante pour régler le problème ou fortement le limiter. Les contenus signalés ne sont pas supprimés, c'est dire qu'en fait, ils n'en ont juste rien à faire, business is business.

    Ensuite, il existe une association de victimes, Algos Victima, qui mène ce combat contre Tik Tok. La base en droit est simple : le non respect du DSA européen.
    Cela pose la question de la sanction. Tik Tok viole la loi européenne sans vergogne et n'est pour l'instant pas plus inquiété que ça.

    Enfin, tout cela va extrĂŞmement vite, d'autant que les utilisateurs deviennent addicts.
    "En moins de 20 minutes, les fils sont saturés de vidéos sur la santé mentale.
    Après 45 minutes d’expérience, des messages explicites sur le suicide apparaissent.
    Trois heures plus tard, tous les comptes sont inondés de contenus sombres, exprimant parfois directement une volonté de mettre fin à ses jours."
    Cela pose plusieurs questions : celle du fait de pouvoir naviguer en continu sur les RS quand on est un ado, d'où ma proposition de limiter l'utilisation journalière. Il m'avait été rétorquer comment alors que c'est extrêmement simple de limiter un compte à une durée de connexion ou à un nombre de recherche.
    L'autre question que cela soulève c'est comment ce genre de contenus peut être disponibles en ligne par milliers ?

    Bref, on nage en plein cauchemar, la santé mentale des ados est en danger de façon complètement artificielle et se complaire dans des réponses comme on peut lire ici est carrément coupable.
    Et pour l'anecdote, l'article se termine par "Ensemble, reprenons le contrôle de l’algorithme". J'imagine mal quelqu'un aller leur dire que ça n'a aucun sens...

    Pour parler rapidement des contenus éducatifs, je partage ce lien destiné aux professeurs : comment créer du contenu éducatif que les élèves adoreront.
    mais aussi celui-ci : Apprentissage personnalisé grâce à l'IA
    En gros, j'imagine un RS qui utiliserait l'IA pour créer du contenu éducatif plutôt qu’une vidéo faite par IA avec le cri d’une femme en détresse comme dans l'article sur Tik Tok, avec un algorithme de recommandation qui proposera les contenus les plus adaptés aux goûts et au niveau de l'adolescent.

    Je terminerai par un extrait court d'une vidéo postée sur Instagram comparant le Tik Tok chinois et celui en dehors de la Chine. CLIC On peut retrouver la vidéo complète sur Youtube.
    La question de la durée de connexion y est évoquée. Comment ne pas rapprocher ceci du fait que les patrons de la tech limitent l'exposition de leurs produits à leurs enfants... ? CLIC
    Etonnant non... ?

    ___

    Vous allez aimer me détester...
  • modifiĂ© 18/04 (17:04)
    +0 -1 -1 
    Arnold de Schartzenprout a Ă©crit :

    VoilĂ  un nouvel article d'Amnesty International accablant et mĂŞme terrifiants sur Tik Tok : CLIC

    Tellement nouveau que tu l'as déjà mis en lien et qu'il t'a déjà été répondu dessus.

    J'en profite pour signaler que l'étude ne propose aucun comparatif ; on ne sait pas si Facebook, X etc font la même chose (on sait que X et TruthSocial proposent des contenus facho en boucle, c'est le concept même de ces plateformes, mais ça ça va, c'est pas dangereux. Ca me met pas en danger en tout cas).


    Bref, on nage en plein cauchemar, la santé mentale des ados est en danger de façon complètement artificielle

    Non, c'est faux.

    On parle d'ados qui ne regardent rien du tout sur TikTok, excepté les contenus lié à la santé mentale ou à la tristesse, qu'ils regardent chacun deux fois.

    Tu connais vraiment des ados qui vont bien de base, et qui décident de ne regarder que des contenus sur la santé mentale et la tristesse en boucle ? Ou est-ce qu'on peut imaginer qu'un ado qui décide de faire ça va mal de base ?

    et se complaire dans des réponses comme on peut lire ici est carrément coupable.

    en effet, il est coupable de se complaire, comme tu le fais, Ă  accuser TikTok sans jamais se demander d'oĂą vient le mal-ĂŞtre des ados.
  • modifiĂ© 18/04 (13:58)
    +0 -1 -1 
    Arnold de Schartzenprout a Ă©crit :

    Outre la description glaçante de comment l'algorithme de recommandation amène très rapidement les adolescents dans une spirale mortifère


    Je cite l'article :
    « Harcelée pour son poids par des élèves de son lycée, Marie s’était tournée vers TikTok. »
    « Maëlle, 18 ans, s’est retrouvée prise au piège de Tiktok. Victime de harcèlement à l’école, l’adolescente traverse une période difficile. »
    « TikTok a maintenu notre fille dans le mal-être. »

    Avec ce qu'on voit dans l'article, il est surtout question de désinhiber des jeunes au passage à l'acte (suicide ou gestes auto-infligés), que de les "amener dans la spirale mortifère".

    D'abord, comme je le disais dans ce topic, ces plateformes ont largement les moyens d'avoir des équipes de modération et des moyens techniques pour empêcher cela, Tik Tok engrangeant 23 milliards de dollars de recette !


    Quel est le coût de payer des équipes de modération et des "moyens techniques" (laissés en exercice au lecteur) ? Je trouve qu'il y a 34 millions de vidéos publiées chaque jour, il te faut combien de modérateurs pour avoir une modération manuelle, et si non, quels sont les moyens techniques dont tu parles ?

    Ce qu'on voit aussi dans l'article, c'est que le contenu suicidaire est versatile (ce que j'avais déjà dit d'ailleurs) : quand une image d'un labello ou le drapeau Suisse est problématique, c'est quoi la solution pour modérer ?

    Par ailleurs, l'article d'Amnesty ne mentionne pas de modération une seule fois.

    Cela pose plusieurs questions : celle du fait de pouvoir naviguer en continu sur les RS quand on est un ado, d'où ma proposition de limiter l'utilisation journalière. Il m'avait été rétorquer comment alors que c'est extrêmement simple de limiter un compte à une durée de connexion ou à un nombre de recherche.


    Il va t'être rétorqué que c'est extrêmement simple d'avoir plusieurs comptes, et que ça fait échouer ce que tu proposes.

    Peut-être parce que quand tu as une solution simple, elle est mauvaise ? Il me semble l'avoir déjà dit, c'est toujours pas rentré, mais c'est pas grave, je peux le répéter.
  • modifiĂ© 19/04 (00:51)
    +0 -0      
    Un[*b]curieux a Ă©crit :

    C'est quoi la solution pour modérer ?


    Oh, certainement aucune, alors autant laisser proliférer les contenus racistes/violents/pédophiles/[insère la prochaine dégueulasserie qui te vient à l'esprit].
    Blague mise à part, c'est au site de trouver les solutions. La modération est meilleure même si imparfaite sur d'autres RS sur ces sujets là, pourquoi pas sur Tik Tok ?
    Alors ok, la modération de FB par exemple, repose sur l'IA et n'est pas toujours très pertinente ou parfois assez longue, avec des contenus modérés parfois plusieurs années après la publication, mais tu ne verras très peu de publications violentes ou racistes ou à caractère sexuel sur ce RS.
    Quant à l'humain, là encore c'est un choix économique. Le salaire moyen en Chine est autour des 1200 euros. Alors combien de marge Tik Tok est-il prêt à sacrifier pour se doter des moyens humains pour protéger ses utilisateurs ? Combien de pays sont-ils prêt à pousser à interdire leur RS avant de réagir ?
    Encore une fois, les RS gagnent un fric considérable. C'est à eux de se débrouiller pour répondre aux obligations qui leurs sont imposées.
    Je ne comprends pas que tu puisses un seul instant défendre ces RS en disant que la modération c'est trop compliqué. J'y vois surtout un esprit de contradiction, parce que dans bien des domaines tu prônes l'obligation de résultat sans même voir l'obligation de moyens (genre le topic sur les violences policières).

    Il va t'être rétorqué que c'est extrêmement simple d'avoir plusieurs comptes, et que ça fait échouer ce que tu proposes.


    Et ce sera surement un argument des plus moisis tant c'est un appel à l'inaction et au libéralisme qui pourrait s'appliquer à une foultitude de problématiques. Pourquoi mettre des règles tant il est facile de les contourner ? Ce que tu dis là revient à ça, ni plus ni moins.

    Peut-être parce que quand tu as une solution simple, elle est mauvaise ? Il me semble l'avoir déjà dit, c'est toujours pas rentré, mais c'est pas grave, je peux le répéter.


    Et tu pourras répéter autant de fois que la terre est plate que ça n'en fera pas une vérité. Ta parole n'est pas d'or, ni d'argent, désolé.

    ___

    Vous allez aimer me détester...
  • modifiĂ© 19/04 (09:05)
    +0 -0      
    Je survole et je vais répondre juste à ça :


    soutenir les hackerspaces proches de chez vous voire les fréquenter.


    Les hackerspaces n'existent plus, pour connaitre des anciens cyphers (enfin, un personnellement) ils ont tous plus ou moins laissé tomber et ont été remplacés par les crypto techbro.

    Cependant il faut clairement éduquer les gens, mais c'est un combat trop compliqué, beaucoup trop de devs dans le libre qui pensent encore que "Ergonomie" est une insulte.

    ___

    The seagull / wonder if she is sad / left alone without being touched / by the blue of the sky / or the blue of the sea.
  • postĂ© 19/04 (12:00)
    +0 -0      
    Arnold de Schartzenprout a Ă©crit :

    Blague mise à part, c'est au site de trouver les solutions. La modération est meilleure même si imparfaite sur d'autres RS sur ces sujets là, pourquoi pas sur Tik Tok ?
    Alors ok, la modération de FB par exemple, repose sur l'IA et n'est pas toujours très pertinente ou parfois assez longue, avec des contenus modérés parfois plusieurs années après la publication, mais tu ne verras très peu de publications violentes ou racistes ou à caractère sexuel sur ce RS.


    Dafuk ?

    Du coup on peut fermer le sujet, tu as été entendu, TikTok s'est doté d'une meilleure modération que Facebook.
Politique & Société nouveau sujet répondre
Mini-Chat
  • 26/04

  • 22:08
    [*r]krabot[*r]

    Vivez en harmonie avec la Nature !

  • Texte gĂ©nĂ©rĂ© Ă  06:59:49