ia / agents conversationnel

• Uncurieux

  Modérateur

  posté 03/05 (19:03)

  +1 -2 -1 

  La lecture du jour, c'est le coût économique local de l'utilisation d'IA pour la génération de code.
  
  Le bilan, c'est que ce coût est en fait en train de grandir, et qu'en face de gains discutables de productivité (ie ce qu'on gagne quand on fait faire à expert + IA plutôt qu'expert-tout-seul), il y a une facture bien réelle qui se paye au token.
• gloubi

  Membre

  posté 10/06 (09:29)

  +2 -2      

  je viens de tomber sur cette vidéo concernant l'avancée des agents conversationnels en maths. Toujours la même conclusion : il existe des critiques comme quoi c'est pas tout à fait parfait, comme quoi les agents conversationnels n'ont pas encore totalement révolutionné les maths, ou comme quoi les maths sont juste une question de langage (donc justement là où les LLM sont naturellement forts), mais encore une fois la réalité c'est qu'on a une progression fulgurante en un an.
• Uncurieux

  Modérateur

  posté 14/06 (12:24)

  +1 -1      

  À l'inverse, il y a eu deux évènements un peu punk et qui ne disaient pas du bien des IA récemment : la journée du logiciel libre à Lyon il y a 15 jours et l'anti-sommet de l'IA à Lille.
  
  La synthèse (je n'ai pas été moi-même à Lille, mais on m'a raconté), c'est que les IAG désagrègent une grosse partie de notre capacité à agir collectivement. Quelques exemples :
  - les boulots qui nécessitent moins de compétences métier deviennent moins syndicalisés
  - les gens qui bossent pour des projets de logiciels libres sont en burnout, les projets reçoivent des centaines de PR automatisés dont la moitié seulement sont corrects (il faut tout relire dans tous les cas, c'est un travail pénible). Cela signifie aussi que des trous de sécurité désormais connus n'ont pas la main d'œuvre pour être corrigés efficacement.
  - dans le même genre, les IA font tellement de requêtes pour rien qu'elles peuvent mettre à genou des infrastructures libres genre open street map ou wikipedia en faisant des requête n'importe comment.
  - il y avait un gros truc à Lille sur les métiers de la traduction. Déjà on perd en qualité grandement, mais il y a des endroits où le fait de passer par une IA fait perdre beaucoup de qualité. L'exemple donné, c'est un traducteur pour un service de psychiatrie, qui peut prévenir le médecin s'il y a des anomalies dans la manière de s'exprimer
  - la mise à distance des administrations (avec des IA qui te répondent plutôt que des humains) renforce la déconnexion d'une partie de la société avec les aides auxquelles elle a droit.
  - les métiers créatifs sont en PLS bien entendu, on remplace des créateurs par des machines entrainées sur leurs œuvres. Pareil : le résultat est souvent dégueu, mais c'est surtout qu'en supprimant un maillon humain dans la chaine de fabrication (d'une affiche, d'un support, etc.) on enlève un étage de contestation possible.
• Poule

  Membre

  modifié 14/06 (21:04)

  +0 -1 -1 

  Prémices du topic : "Bref, sur ce sujet on est dans le monde des bisounours où les ia sont fiables, gentilles, honnêtes etc. Et j'ai déjà l'impression que ça nous mène droit à des horribles dystopies, c'est là-dessus que j'aimerais l'avis de gens compétents et moins compétents. "
  
  
  Moi je suis dans les "moins compétents" et je profite de ce topic pour avoir votre ressenti. D'une manière moins cantonnée à "l'IAG pour le code informatique" je lis çà et là l'impact qui semble avéré de l'IA sur la cognition, même dans le cas d'une IA fiable, honnête et gentille.
  De la même manière qu'on a "délégué" (et même "augmenté") une partie de notre sens de l'orientation au GPS, l'IA est un dispositif exogène auquel on transfèrerait (et même grâce auquel on augmenterait, si on part du principe qu'on a toujours accès à ce dispositif) une partie de notre faculté de réflexion. (Je ne sais pas si tout le monde sera d'accord là-dessus déjà.)
  
  Alors, est-ce que c'est grave ? On peut être content d'avoir un GPS. Là où la pente me semble glissante c'est que :
  - on ne parle pas de déléguer juste un sens (celui de l'orientation) mais des pans plus large de la cognition (la capacité de synthétiser des informations, de rédiger, de faire des liens de causalité, etc.) Donc ça peut rendre con
  - on parle de remplacer sa propre cognition, fondée sur son vécu, son éducation propre, etc. par un système étranger formaté identique pour tous donc qui uniformise et lisse la pensée
  - c'est un service privé, il y a le risque que ce soit de plus en plus en cher, et qu'à la longue des gens qui se sont formés avec n'aient pas le choix que de suivre et soient de plus en plus enfermés
  Bon donc moi ça m'ennuie. et je n'ai même pas évoqué les conséquences indirectes sur l'eau, l'énergie, le droit d'auteur etc.
  
  A votre avis (et si vous partagez mon avis "ennuyé"), que pourrait-on faire et que devrait-on faire au niveau étatique et au niveau personnel ?
  
  Au niveau étatique : "interdire" l'accès à tout outil d'IAG ? (est-ce seulement possible ?!) ou au moins la bannir dans les structures éducatives ? (les élèves vont sans doute continuer de l'utiliser à la maison) et les structures publiques ? (interdire les chatbots pour l'interface public - administration ? mais dans la recherche publique ça peut rendre des services tout de même, non ?) ou au contraire développer une IA française / européenne / open-source / une IA conçue de manière à améliorer et pas impacter la cognition de l'utilisateur (mais je ne sais pas trop à quoi ça pourrait ressembler...) ?
  
  Au niveau personnel : quelle "éthique" vous imposez-vous ? Aucune utilisation de l'IAG ? Utilisation de l'IAG comme "interlocuteur intelligent" pour améliorer vos compositions ? Ou comme "super-moteur de recherche ?" - sachant que ça peut être différent au travail et pour le cadre personnel je suppose.
  
  Personnellement je me refuse à utiliser l'IA tant perso que pro mais je me sens tout à fait impuissante à faire plus... (A part donner des sous à la quadrature du Net par exemple... - mais il y a sans doute d'autres assos) - D’OÙ mes interrogations

  
  ___
  
  Suis-je une poule qui rêve d'être Kanard ou Kanard qui rêve d'être une poule ?
• Uncurieux

  Modérateur

  posté 15/06 (10:50)

  +3 -1 +2 

  Poule a écrit :
  
  

  Au niveau étatique : "interdire" l'accès à tout outil d'IAG ?

  
  
  Au niveau étatique, il y a une loi qui aurait rendu la publication d'IA impossible : rendre responsable l'éditeur d'IA de tout ce que l'IA affirme. Cela signifie que les publieurs des premières IA auraient été condamnés pour racisme évident, et pour les IA modernes pour non respect du copyright / du matériau sous licence, pour incitation à la haine, escroquerie, pédopornographie, etc.
  
  Parce qu'un gros truc avec les IA c'est que personne ne paye les conséquences juridiques. Tu peux manifestement publier une IA qui fait de l'incitation à la haine et te cacher derrière le fait que c'est juste un algorithme pour ne jamais être inquiété. En plus des points que tu soulignes, il y a le truc un peu flippant des gens qui utilisent une IA pour choisir pour qui voter. Rien de plus facile que de manipuler une IA pour qu'elle déplace les votes.
  
  

  Au niveau personnel : quelle "éthique" vous imposez-vous ? Aucune utilisation de l'IAG ?

  
  
  Aucune utilisation, ni dans un cadre pro ni a fortiori dans un cadre perso.
• Hilga

  Administrateur

  posté 17/06 (22:10)

  +2 -1 +1 

  Poule a écrit :
  
  Je ne suis pas du tout dans ce domaine, je me contente de lire ici et là les articles l'évoquant.
  
  Au niveau étatique pour l'IA, je dirais sensibiliser davantage à son utilisation, à ses conséquences sur tous les plans. Extrême ou non, l'affichage de rappels éthiques et/ou chartre d'utilisation quand on ouvre un prompt. Et même là, je trouve que c'est pisser dans un violon.
  
  Elle est devenue (malheureusement ?) très présente dans de nombreux domaines et j'imagine mal un retour en arrière. Comme au-dessus, un cadre défini serait un plus, mais responsabiliser les utilisateurs ne serait pas un mal non plus.
  
  

  Au niveau personnel : quelle "éthique" vous imposez-vous ? Aucune utilisation de l'IAG ? Utilisation de l'IAG comme "interlocuteur intelligent" pour améliorer vos compositions ? Ou comme "super-moteur de recherche ?" - sachant que ça peut être différent au travail et pour le cadre personnel je suppose.

  
  
  Côté perso, j'ai testé l'ia pour les images d'abord, puis pour chercher l'inspiration pour du texte (trouver des pistes, mais garder la main sur la rédaction), pour des petites choses à chaque fois. Avec le temps, j'ai limité son utilisation jusqu'à ne plus y avoir recourt personnellement, un peu (beaucoup) écœurée par les dérives de son utilisation, ses conséquences, l'uniformisation et le lissage qu'elle amène.
  
  Côté pro, pas moi directement, mais un des doc avec lesquels je travaille utilise une IA payante qui lui permet de gagner du temps sur des questions de pharmaco pointues. Il pouvait trouver seul, mais ça lui prenait plus de temps. Je conçois cette utilisation. Me concernant et bossant dans la santé, avec un pan protection de l'enfance, il ne me viendrait pas à l'esprit de balancer mes notes de réunions dans chatgpt pour obtenir un compte-rendu d'apparence propre. Ce qui n'est malheureusement pas le cas de tous, pour avoir déjà vu le cas d'éducs ou cadres lâchant des données juridiques ou relatives au secret médical juste pour obtenir un "joli" compte-rendu. Pratique probablement courante dans d'autres métiers.
  
  Autre domaine où je me sens impuissante : étant élue dans une petite commune, nous n'avons pas le budget pour payer un graphiste qui nous fera nos affiches pour les évènements communaux. De plus en plus, les collectivités, municipalités et asso utilisent l'IA à divers niveau pour leur com' (pas que pour les images), faute de mieux, faute de pouvoir avoir toutes les compétences nécessaires. Parfois pour la rédaction d'articles, ou prise de notes en séance. Je préfère quant à moi m'en passer, quitte à passer plusieurs soirées sur de la rédaction qui pourrait être plus rapide.

  
  ___
  
  Là où son gourdin sa tapette passe, les boulettes s'amassent
  Multi de Rhetheor - Marionnettiste de Fük