ia / agents conversationnel

• K

  Visiteur

  posté 15/02 (12:57)

  +2 -0 +2 

  Tyller a écrit :
  

  1 - l'ia n'a aucune comprehension 'produit' et cela n'a pas l'air d'etre facile a inculquer; si cela passe un test pour dire que le API est healthy, cest bien, mais ca te dit rien du fait que peut etre cet API casse le use-case d'une autre partie de la platforme car;
  

  
  
  Pour avoir un LLM qui review des MR (en première instance pour éliminer les trucs de base, il y a toujours relecture par un dév), je suis pas si sûr de ça.
  J'ai plutôt l'impression de voir l'IA surprotéger en mentionnant qu'il y a un risque de breaking change que l'inverse.
  
  Après je ne sais pas quel est la limite entre un produit "simple" et "compliqué" pour toi (on ne travaille peut-être pas aux mêmes échelles ^^)
• Tyller

  Membre

  posté 15/02 (14:03)

  +3 -1 +2 

  K a écrit :
  Alors c'est très plausibe - Je n'en doutes pas même une seconde. Mais je disais cela surtout en supposant les nouvelles pratiques que je vois emerger, nottament les gros PR de plusieurs milliers de lignes qui touchent parfois des dizaines de fichiers, parfois sur plusieurs répositories. Genre cela;
  
  
  
  C'est pas forcément que ce soit une grosse platforme ou un produit complexe, cest que les ingénieurs ont maintenant la capacité de faire des morceaux plus gros, bien plus gros. du coup là tu peux lancer un agent de review (et on l'a fait) et je dirais que la moitié des commentaires étaient du faux-positif par ce que le contexte n'était pas assez solide.
  
  Mon argument c'est que le monde de l'ingénirie se dirige vers cela. Versus, des modifs sur deux trois fichiers qui vont être reviewed par un petit LLM pepouse un peu trop strict.

  
  ___
  
  ------------------
  
• gloubi

  Membre

  modifié 16/02 (12:21)

  +1 -2 -1 

  Tyller a écrit :
  
  OK
  
  Je ne vais pas dire que tu m'as totalement convaincu, mais au moins je comprends les problèmes spécifiques qui rendent la review automatisée très difficile. Et tu as une meilleure expertise et une vision plus claire que moi sur le sujet, à ce stade je ne peux même plus t'apporter de contradiction qui me convainc moi-même sur pourquoi je ne suis pas convaincu x) .
  
  
  
  Le sujet de base reste en grande partie : que ce soit 90% des métiers de service qui disparaissent en quelques années, ou 40%, ou même 20%, ça reste un choc que notre économie capitaliste ne peux pas encaisser. 20% ça peut sembler peu, mais au-delà des situations personnelle dramatiques ça signifie une chute de la demande qui se répercute sur toute l'économie : une énorme crise de l'ensemble de l'économie (oui je prends l'argument de droite exprès, le Curieux tu peux me dire de m'acheter une humanité).
  
  Et de l'autre côté, si l'on sort des projets pharaoniques (que de petites équipes de dev peuvent donc maintenant se permettre grâce à l'ia, mais doivent reviewer eux-même), l'ia est extrêmement performante pour des petits projets perso où l'on n'y connaît pas grand-chose et qu'on n'aurait jamais pu faire soi-même (j'ai déjà un outil perso de génération d'images, dès que j'ai le temps je me fais un petit outil perso pour écrire mes partitions - l'outil le plus simple que j'avais vu était payant au bout d'un mois - , etc) (le point clé de ces projet est qu'il sont petits parce que personnels, ils n'ont pas à gérer tout ce dont peuvent avoir besoin tous les gens du monde, juste les options qui moi me servent moi et ne m'embrouillent pas. En principe sur ce genre de projet perso on n'arrive pas à l'explosion contextuelle).
• Tyller

  Membre

  posté 16/02 (12:45)

  +1 -1      

  gloubi a écrit :
  
  

  Je ne vais pas dire que tu m'as totalement convaincu, mais au moins je comprends les problèmes spécifiques qui rendent la review automatisée très difficile.

  
  Ouais t'inquiètes pas - étant moi même dans le métier je ne suis sûr d'absolument rien :D
  
  

  Le sujet de base reste en grande partie : que ce soit 90% des métiers de service qui disparaissent en quelques années, ou 40%, ou même 20%, ça reste un choc que notre économie capitaliste ne peux pas encaisser.

  
  Juste je suis pas totalement clair sur le bridg entre comment l'IA va remplacer des devs et comment ces métiers de services vont disparaitre. la technologie est rapide et tout, mais le big data ça a 20 ans. Les gens bossaient avant quand même.

  
  ___
  
  ------------------
  
• Uncurieux

  Membre

  posté 16/02 (14:29)

  +1 -1      

  gloubi a écrit :
  
  

  le Curieux tu peux me dire de m'acheter une humanité

  
  
  Non. Je lis la conversation, je la trouve déprimante, parce que l'enthousiasme autour des IAG et de leurs performances cache pour moi la majeure partie des enjeux éthiques. Oui les IAG sont efficaces (dans certains contextes), comme une mine anti-personnelle. Leur utilisation massive n'est quand même pas une fatalité.
  
  En ce qui me concerne, je n'en utilise pas, mon secteur d'activité ne peut pas en utiliser pour tout un tas de raisons, et je mesure la chance que j'ai de savoir que ma valeur ajoutée n'est pour le moment pas concurrencée par des IAG.
• Tyller

  Membre

  posté 16/02 (15:26)

  +0 -1 -1 

  Uncurieux a écrit :
  
  

  Oui les IAG sont efficaces (dans certains contextes), comme une mine anti-personnelle. Leur utilisation massive n'est quand même pas une fatalité.

  
  
  Alors peut être que c'est un problème de compréhension de ma part (franglais et tout), mais cela n'existe pas les AGI.

  
  ___
  
  ------------------
  
• gloubi

  Membre

  posté 16/02 (15:34)

  +1 -1      

  Tyller a écrit :
  
  IAG : IA génératives. Je pense.
• Tyller

  Membre

  posté 16/02 (18:08)

  +0 -1 -1 

  gloubi a écrit :
  
  

  Tyller a écrit :
  IAG : IA génératives. Je pense.

  
  
  Makes sense.
  Thank.
  
  Évidement j’avais Google rapidement et je suis tombé sur french-definition/IAG

  
  ___
  
  ------------------
  
• Uncurieux

  Membre

  posté 18/02 (16:20)

  +0 -1 -1 

  Related : It Turns Out That Constantly Telling Workers They’re About to Be Replaced by AI Has Grim Psychological Effects
• Zazou

  Membre

  modifié 18/02 (16:45)

  +2 -2      

  La vache, topic anxiogène. Je suis aussi dans le domaine, côté recherche, mais je viens d'un background ingenierie logiciel.
  
  L'IA générative pose beaucoup de problèmes éthiques (valeur du travail, écologique, source de données, "delegated thinking"), dont il est assez difficile de débattre, les réactions des deux camps étant assez extrême.
  
  Pour le problème du travail en particulier, c'est quelque chose qui me travaille pas mal, et je ne vois pas vraiment de "solution" pour rester dans le mode qu'on avait avant. Les IAs génératives existent, on ne va clairement pas les arrêtées, et je doute qu'un cadre légal efficace soit réellement mis en place tant les bénéfices de l'usage sont grands (mais je serai ravi d'avoir tord).
  
  Ceci dit, ce que je vois autour de moi et que j'ai vu par le passé, c'est que les équipes devs ont toujours un backlog de 2-3 ans qui ne fait que s'aggrandir avec des PMs qui passent leur temps à jongler les priorités. Donc a priori il y a quand même du travail à abattre même si on divisait le temps d'implémentation significativement.
  Accélérer l'aspect programmation, même de 75% ce n'est pas accélérer l'ingénierie logiciel de 75%, on a déjà parlé des reviews, mais il ya aussi une question d'architecture logicielle. Si on ne fait qu'empiler du code généré sans faire attention à ce qu'on fait, le passage à l'échelle et la maintenance risquent d'être douloureuses.
  Je pense aussi que l'expertise profonde dans un langage/framework particulier aura sans doute plus à voir avec de la vérification que de la génération de code. Mais si tu as un système critique à mettre en place, je pense que tu préfères quand même que la personne qui le met en place comprenne ce qu'il se passe plutot que de simplement cliquer sur "ok" et croiser les doigts pour que ça crash pas chez 50% des utilisateurs.
  
  Finalement, une bonne partie de mon job est d'implémenter des choses, mais une plus grande partie est de comprendre quoi implémenter, quelles possibilitées explorer, communiquer avec mes collègues, etc... Tout ça peut être aidé par une IA chat, c'est certain, mais je reste en charge de la prise de décision et de l'exécution. Mon chef pourrait peut-être le faire, mais ça nécessiterait qu'il laisse tomber un paquet de ses tâches pour se libérer le temps de cerveau nécessaire (et qu'il se souvienne comment lire du code quand même). Bosser sur une feature ou un problème ça veut dire prendre le temps de le comprendre, ce context switch n'est pas gratuit. Tu peux demander à une IA, mais là aussi tu va devoir vérifier que la solution proposée répond bien à ton usage (donc il faut que tu comprennes bien ton usage, et tu t'interdis aussi la possibilité de trouver mieux en explorant).
  
  
  Pour ce qui est de l'aspect technique. Le deep learning a le vent en poupe depuis au moins 13 ans (si on compte AlexNet comme le moment d'inflexion), et a été exploré pendant des décennies avant ça. L'achitecture Transformer c'est 2017 (Attention is all you need). C'est pas une révolution du jour au lendemain non plus.
  Ce qui a changé c'est l'échelle des données et de la puissance de calcul utilisée. Le code se prête super bien à ces processus: ça se tokenise pas mal, il y a des tonnes de données en ligne, etc... Une fois que tu as ingéré tout ce qui est en ligne, il faut collecter des données à l'échelle (ce qui pose des soucis éthiques souvent vu la rémunération). Tout ça pour dire que je ne pense pas qu'il faille partir du principe qu'on est dans un modèle linéaire de progrès. En général c'est plutôt une sigmoïde. Si j'étais joueur je dirais qu'on est pas loin de l'inflexion vers le plateau haut, mais comme tout le monde je n'en ai aucune idée.. Comme ça a été dit, la grosse différences dans les dernières années c'est la multiplications des modèles pour assister des métiers en particulier.
  
  Je voulais aussi revenir sur deux points qui m'ont interpelé dans ce qui a été posté:
  
  On fait confiance à la lib python d'algèbre linéaire pourquoi pas à une IA
  La lib python d'algèbre linéaire a été implementée, testée et validée par de nombreuses personnes AVANT qu'elle soit publiée. Ce que l'IA te propose a une chance (>> 0) d'avoir un soucis. Pour des opérations simples, sans doute pas, mais à l'échelle d'une librairie, c'est certain (je te souhaite bon courage pour débugger une fuite mémoire avec une IA, ask me how I know). Et une lib d'algèbre linéaire en général tu veux pas la coder en python. Donc ça voudrait dire que ton IA te propose d'elle même les bindings c etc... Si tu ne sais pas ce que tu fais: bonne chance.
  
  Un autre argument est simplement l'approche statistique de ces modèles, ils choisisent le prochain mot/bout de mot en représentant leur "probabilité d'apparation", donc on reste sur du stochastique quand même...
  
  Entre parenthèse, le fait que l'IA soit capable de sortir ces fonctions c'est aussi parce qu'elle a sans doute été entrainée sur le code de cette librairie, donc il faut bien qu'elle existe à un moment.
  
  
  Je peux recoder l'IA chez moi avec son aide
  J'ai peut-être pas compris ce que tu voulais dire, mais aucune chance de reproduire ces IAs chez toi. L'architecture et le setup général, oui, il n'y a pas vraiment de secret. Mais encore une fois, l'échelle nécessaire pour que ça marche correctement est monumentale. Je doute que ton NAS ait assez de PB et de GPUs dispo. Pour un ordre de grandeur, il me semble qu'on est plutôt dans les 1000+ GPUs (et un ordre de grandeur de plus pour les plus gros modèles).
  
  Pour conclure, un petit mot sur les coûts (je parlais d'ordre de grandeur à l'instant): il reste le fait que tout ces modèles sont subventionnés à grand coup d'investissement et brûle de la "VC money" comme jaja, avec pour espoir de ramasser le jackpot. Je me demande quels seront les coûts de ces agents quand il sera temps de faire rentrer des sous (après avoit fait baisser le niveau de compétence de toute la population évidemment...).

  
  ___
  
  Zazou, majeur, vacciné.