ia / agents conversationnel

  • posté 23/02 (10:32)
    +2 -2      
    Un article de Médiapart sur les données d'entrainement des IA. On y lit que l'IA testée (Mistral) est capable de recracher des extraits entiers d'œuvres protégées (et parfois dont les auteurs se sont clairement prononcés contre l'utilisation de leur texte).

    Bien entendu, l'article mentionne aussi que les scrapers à disposition des IA pour répondre aux requêtes immédiates (il ne s'agit donc pas des données d'entrainement) ne respectent pas les robots.txt disponibles sur le site, et en lisent le contenu à la volée pour l'offrir aux clients. Bien entendu, cela se traduit par une perte financière pour des sites (pertes en revenus publicitaires, typiquement, mais aussi en visibilité de la source).

    L'inéluctabilité de l'IA, ça ne marche que parce qu'il n'y a aucune politique sérieuse pour se pencher sur ces méthodes de mafieux sur internet.
  • modifié 23/02 (11:13)
    +1 -2 -1 
    Je travaille dans le domaine juridique et je partage l'avis de gloubi. L'image de manager un stagiaire surdoué est assez vrai. La seule contrainte qui "freine" un peu est le secret professionnel, mais je vois grand nombre de confrère mettre la tête dans le sable pour gagner en temps et productivité. Les professions libérales sont déjà des secteurs atroces pour les salariés qui n'ont pas le diplôme, il est clair que la part du gateau reviendra aux associés et va précariser énormément tout un secteur (que ce soit juridique ou comptable).

    Ce qui m'inquiète également, étant en formation, est l'apprentissage des jeunes étudiants avec ces outils. Ils sont tres performants quand tu sais ce que tu cherches, et que tu peux vérifier, mais apprendre avec peut réellement poser des problèmes d'acquisitions de compétence, ou du moins de délégations de compétence qu'on laisse à l'IA pour en devenir dépendant. Peut être que je développe le même argument que les vieux utilisaient pour les calculatrices.
  • posté 23/02 (11:39)
    +1 -2 -1 
    HNNH a écrit :

    Peut être que je développe le même argument que les vieux utilisaient pour les calculatrices.


    Oui en général utiliser un outil permet d'apprendre à utiliser cet outil et rend plus difficile de s'en passer. C'est le cas pour le traitement de texte vs écriture manuscrite, calculatrice vs poser les opérations, et aujourd'hui l'IAG.

    Mais il y a des différences notables :
    - une calculatrice est un outil stable dans le temps. Toutes les calculatrices que j'ai utilisées dans ma vie donnaient le même résultat pour les mêmes calculs (aux erreurs d'arrondis et aux modes de calculs plus avancés que j'ai rencontrés sur des calculatrices plus récentes). Les IA ne sont pas stables, et les modèles changent. Il semble de plus en plus vraisemblable que les modèles survivants des IAG seront pourris par la publicité à moyen terme (quelle autre source de revenu ?)
    - la calculatrice, en dégageant la partie fastidieuse (calcul) ou en supprimant les erreurs, permet de pousser l'apprentissage plus loin sur d'autres concepts. Il y a des témoignages qui indiquent utiliser l'IAG de cette manière (faciliter la recherche de documentations en ligne, par exemple). Quand l'IAG est utilisée pour faire le boulot, il ne s'agit plus de pouvoir se concentrer sur la partie cérébrale, mais au contraire de la déléguer. Ce n'est pas le même type d'outil.
    - Même si je vois bien qu'en cherchant bien il y a des enjeux éthiques au fait de créer une calculatrice (du plastique, production de composant dans des pays du sud global, etc.), il n'y a aucune comparaison possible avec les enjeux éthiques de l'IAG. Je sais ce que je paye pour avoir une calculatrice, pour la faire fonctionner. Le modèle des IAG ne fonctionne que parce qu'on cache les coûts aux gens qui les utilisent, pour le moment.
  • posté 23/02 (20:38)
    +3 -2 +1 
    Un[*b]curieux a écrit :

    > Il semble de plus en plus vraisemblable que les modèles survivants des IAG seront pourris par la publicité à moyen terme (quelle autre source de revenu ?)

    A moyen terme ? C'est déjà le cas, t'as des liens sponso quand tu parles d'un sujet.


    Sinon j'aimerais dire que c'est pas drôle, mais le meltdown de "myboyfriendisAI" quand chatgpt a mis un tour de vis pour faire dire à son IA que c'est juste un chatbot, ça me fait quand même vachement bien marrer. Les dégats psychologiques des IAs sont déjà très gros.

    ___

    The seagull / wonder if she is sad / left alone without being touched / by the blue of the sky / or the blue of the sea.
  • modifié 25/02 (10:46)
    +0 -1 -1 
    Tyller a écrit :

    Juste je suis pas totalement clair sur le bridg entre comment l'IA va remplacer des devs et comment ces métiers de services vont disparaitre. la technologie est rapide et tout, mais le big data ça a 20 ans. Les gens bossaient avant quand même.


    Je regardais une vidéo de Marouchka de qu'est-ce qu'on lit (aucun rapport avec le sujet, juste je trouve sa chaine cool donc je link), et j'y apprends que les éditons Arlequin s'étaient débarrassées de toutes leur traductrices (je mets au féminin, comme l'article, parce que c'est essentiellement des femmes).

    Je résume : les éditions Arlequin passent à la traduction IA. Jusque-là elles utilisaient des traductrices free-lance, et ne font donc plus appel à leurs services (sauf pour de la post-édition) ; il n'y a donc pas à proprement parler de licenciement. C'était de ce que je comprends de l'article des tafs de traductions pourris et mal rémunérés, mais : toujours en quantité, donc toujours possible à faire pour une traductrice qui avait besoin d'un revenu supplémentaire, et qui permettait à de jeunes traductrices de faire leur armes.

    Déjà, on peut voir la magie des dernières évolutions fantastiques du capitalisme : grâce au mercenariat (aussi appelé "auto-entreprenariat" ou "micro-entreprenariat"... Le vrai nom est tâcheronnage, ça date du 18ème siècle c'est dire si c'est moderne, et c'était sensé avoir été en grande partie détruit par les acquis sociaux genre le status d'employé), même plus besoin de payer des indemnités de licenciement ou de tenter de recaser les gens... Juste "merci, vous nous avez apporté assez de bénéfices pour qu'on puisse investir afin de se passer de vous, au revoir".

    Donc voilà le genre de taf qui disparaît. Et en bas de l'article, j'ai un lien vers un article "livres audio : pourquoi la voix humaine est-elle menacée ?", pas envie de rentrer dans le rabbit hole avec encore un autre lien puis un autre lien... Mais je suis prêt à parier que la réponse est : "l'IA".

    Par ailleurs, je suis même pas sûr que ça produise une baisse de qualité des traductions Arlequin... Pour faire une bonne traduction, c'est comme tous les domaines : faut du temps pour faire de la qualité. Au vu de l'article, Arlequin voulait surtout de la quantité (cf le côté mal payé et taf toujours dispo). Donc, même pas sûr que les consommateurs y perdent (livre moins cher pour même qualité), tant qu'on ne part pas dans des considérations macro-économiques de gauchistes (genre "certaines de ces traductrices étaient sans doute aussi consommatrices de romance, maintenant elle peuvent plus en acheter"). Et les traductrices, je peux me tromper, mais je pense qu'elle auraient préféré se faire la main sur quelques traductions bien faites de trucs choisis plutôt que des traduction en masse si ça avait payé autant. Bref, ce que je veux dire dans ce paragraphe : je peux me tromper, mais j'ai l'impression qu'en l'espèce, le problème c'est le système économique, au fond tout le monde serait content si les traductrice continuaient à être payées, et fournissaient quelques traductions de qualités en échange, le reste de la masse absurde de traductions étant confiée à l'IA (... bon en négligeant plein de questions quand même).

    Et donc on va me dire que là c'est des traductions de mauvaise qualité et que l'IA est bonne en traduction... De même le truc des livres audio, c'est pour de la mauvaise qualité et l'IA est bonne dans ce domaine... De même que... Mais le truc, c'est que la qualité augmente et que le nombre de domaines où l'IA est bonne augmente, donc se contenter de cette réponse me semble très illusoire. Je pense pas être de l'opinion du curieux sur interdire/légiférer énormément (je vais y revenir), mais au moins je lui reconnais une cohérence : il se voile pas la face sur la question qui arrive dans nos sociétés, et propose une réponse autre que "oui mais pour l'instant l'IA se limite à ce genre de tâches, elle ne peut actuellement faire disparaitre que XXX postes".


    Un[*b]curieux a écrit :

    L'inéluctabilité de l'IA, ça ne marche que parce qu'il n'y a aucune politique sérieuse pour se pencher sur ces méthodes de mafieux sur internet.


    Dans mon chemin sur les outils d'images génératives, j'en suis maintenant à qwen, et surtout qwenEdit :
    - modèle open-source.
    - qui tourne dans une interface open-source (comfyUI).
    - qui fait des trucs parfaitement hallucinant, en particulier en édition (j'y reviens).
    - qui tourne sur une machine de bureau (une bonne carte graphique de jeu vidéo fait tourner sans difficulté les versions "allégées" du modèle).

    Pour situer, au départ de voulais faire des illustrations pour le jeu de rôle (et surtout pouvoir créer des illustrations de n'importe quel personnage, sans passer par heroforge, dont le rendu... est pas fait pour avoir un beau portrait, mais une figurine. Et je trouve déjà l'éditeur heroforge surpuissant pour un truc mis à dispo gratuitement). je me retrouve avec un truc où je peux :
    - faire une base du personnage sur heroforge et faire une capture d'écran.
    - demander à qwenEdit d'en faire un personnage réaliste. Ou une illustration en peinture. Ou en style manga noir et blanc. Et puisque tu parles de pillage, on peut évidemment faire dans le style de akira toriyama, dans le style de geiger, etc (je ne vais pas faire semblant de nier les problèmes éthiques liés à ce genre de technologie sous prétexte que celui-ci est open source) (en vrai j'ai pas checké les artistes dont il connaît le style).
    - demander à qwenEdit de le mettre en position de combat face à un dragon devant un ouragan de mana multicolore. Et de remplacer son bâton par une épée, tant qu'on y est, parce qu'à ce stade de l'aventure j'ai récupéré une super épée magique. Je peux même lui fournir une image de l'épée en question, pour que ce soit bien "ce personnage-là" avec "cette épée-là".
    Bon en vrai, j'ai pas encore essayé de prendre une capture heroforge et de voir s'il arrive à l'interpréter en personnage, mais je suis pratiquement sûr qu'il le fait. Une fois qu'il a un personnage, il sait faire ce que je dis, et même mieux.
    Bref je voulais un papier-crayon assisté, je me retrouve avec une station de travail graphique.

    Je vois pas à ce stade comment tu empêches ça : un truc totalement open-source qui tourne sur une machine de bureau. Je vois pas comment on met de la pubs dedans, vu que le modèle aussi est open-source.

    Je sais pas les différences entre la génération d'images et les LLM (... sachant que qwen interprète des phrases, pas des tags... Je suppose que le modèle qui interpète le prompt a quand même des points communs avec les LLM ???), ce qui fait que l'un peut se faire en local avec des trucs déjà surpuissants (même si les versions plus lourdes de qwenEdit donnent d'encore meilleurs résultats, la version allégée est pas du tout "au rabais") et l'autre non ; je ne connais pas assez la technique.

    A ce stade, il me semble tu peux bien interdire à Arlequin de faire appel à l'IA pour illustrer ses couvertures, ce sont les artistes auquel ils font appel qui vont utiliser l'IA ; et ils auraient tort de pas le faire, partant du principe que Arlequin minimise les coût en exploitant ses travailleurs. Et à ce stade, j'ai l'impression qu'on arrive au point où seule une IA est capable de détecter qu'une illustration a été faite par IA (ou on n'en est pas loin).


    Bref, c'est pas vraiment de l'engouement, plutôt... je suis halluciné par ce qui est maintenant possible. Et je vois pas trop ce qu'on peut réellement faire contre - même si je suis d'accord qu'actuellement on fait rien, donc on pourrait forcément faire plus que rien. On fait tellement rien qu'on en n'est même pas à se demander contre quoi il faudrait aller - qu'est-ce qui serait une utilisation "légitime" (tu vas peut-être me dire qu'il n'y en a aucune), qu'est-ce qui pose de réels problèmes.


    Et pour reprendre ton dernier post, revenons à Arlequin pour aller dans ton sens : comme j'ai dit, le boulot était visiblement pourri, mais il a permis à de jeunes traductrices de faire leurs armes. Sur quoi vont faire leurs armes, comment les jeunes traductrice vont-elle se former si on les remplace par de l'IA, et quand elle finissent par trouver un taf, en fait on leur dit "non mais traduit pas ça prend trop de temps c'est trop cher ; utilise plutôt un bot et fait uniquement de la post-édition" ???

    Parce que oui, nous on est expérimentés dans nos tafs, on sait "manager" une IA : on comprend l'essentiel de ce qu'elle fait, on sait vérifier sur le reste. Mais je vois pas trop ce que doit faire la jeune génération si on lui dit en même temps "fais par toi-même sinon tu apprendras pas" et "fais par IA sinon tu es pas concurrentiel dans notre économie".
  • posté 25/02 (09:48)
    +1 -1      
    gloubi a écrit :

    j'ai assez de capital pour ne pas avoir à m'inquiéter avant un bon moment (peut-être même jusqu'à ma mort).


    Tu peux expliquer ceci et arrêter de dire que je mens sur le topic de la présidentielle ?

    ___

    Vous allez aimer me détester...
  • modifié 25/02 (10:17)
    +0 -0      
    gloubi a écrit :

    Je sais pas les différences entre la génération d'images et les LLM (... sachant que qwen interprète des phrases, pas des tags... Je suppose que le modèle qui interpète le prompt a quand même des points communs avec les LLM ???).


    Je peux expliquer les différences techniques si ça intéresse vraiment, mais dans l'ensemble les processus "discutent" de plus en plus.
    Les modèles d'editing plutôt que de génération pure c'est assez récent (~ 1 an).ais c'est plus une question de donnée d'entraînement que d'architecture.

    ___

    Zazou, majeur, vacciné.
  • posté 25/02 (11:04)
    +2 -1 +1 
    gloubi a écrit :

    Je vois pas à ce stade comment tu empêches ça : un truc totalement open-source qui tourne sur une machine de bureau. Je vois pas comment on met de la pubs dedans, vu que le modèle aussi est open-source.


    Ça n'a aucune raison d'être légal : si tu prends une œuvre protégée, et que tu en fais un zip, cette transformation ne te met pas au-dessus des lois protégeant le droit d'auteur (je ne soutiens pas ces lois en général, mais ici elles sont une protection minimale des artistes). De même, lorsqu'un LLM est capable de recracher des morceaux d'œuvres protégées (ce dont parle l'article mediapart cité au-dessus), je trouve que cela devrait être considéré comme une violation du droit d'auteur (et plus généralement quand les œuvres ont servi à entrainer un LLM, ou quand les données personnelles de citoyens européens ont été traitées au mépris du RGPD, mais c'est plus difficile à détecter).

    Quand je dis qu'aujourd'hui personne ne paye le prix réel des IAG qu'il utilise, je parle aussi du prix juridique : personne n'est tenu pour responsable des nombreuses violations de la loi que le fonctionnement des IAG nécessite.
  • posté 26/02 (22:00)
    +2 -1 +1 
    gloubi a écrit :

    le problème c'est le système économique



    Bonjour camarade.
    Je te félicite chaleureusement pour cette réalisation que tu viens d'avoir. Tu trouveras ton exemplaire du manifeste du parti communiste sur la table à ta droite.

    ___

    The seagull / wonder if she is sad / left alone without being touched / by the blue of the sky / or the blue of the sea.
  • modifié 27/02 (10:59)
    +0 -1 -1 
    Un[*b]curieux a écrit :

    Ça n'a aucune raison d'être légal


    Certes, mais on en est au point où il suffit de télécharger 3 fichiers pas bien gros créés par une entreprise chinoise (donc pas soumise aux mêmes lois sur les droits d'auteur que nous - ou au minimum, dans un pays pas toujours motivé à faire respecter les copyright occidentaux ; c'est même pas un reproche que je leur fait). la boîte de pandore pourrait pas être plus ouverte.

    Ca ne signifie pas qu'on ne peut rien faire ; il est probable que Alibaba préférerait ne pas se faire mal voir sur l'ensemble du marché européen et serait sans doute prête à faire un second modèle 100% légal si l'UE le demande. Note que ça change pas forcément grand chose en terme de copie de styles ou de personnages : voici ce que je trouve libre de droit en 1 seconde de recherche (oui je sais, "libre de droit" ne signifie pas "a donné son accord pour l'entraînement IA", mais je suis pas sûr que ce soit beaucoup plus dur de trouver des trucs libres pour l'entraînement). Et le sujet est sensible : en faisant mal la loi ici, on risque vite de se retrouver à faire la chasse au moindre adolescent dessinant un fanart d'une oeuvre protégée (ça s'est déjà vu).

    Bref, d'accord sur "on peut faire quelque chose, actuellement on a décidé de rien faire", mais ça me paraît quand même loin d'être simple. :/


    Satori[*n]9960 a écrit :

    Bonjour camarade.
    Je te félicite chaleureusement pour cette réalisation que tu viens d'avoir. Tu trouveras ton exemplaire du manifeste du parti communiste sur la table à ta droite.

    Tu sais camarade, ça fait un moment que j'ai appris que la plupart des crise du capitalisme étaient des crises de la demande. Et comme "crise de la demande" est un terme assez technique, j'ai reformulé en "dans le capitalisme, si on produit trop de nourriture, tout le monde meurt de faim".

    Maintenant mon problème c'est plutôt de convaincre les autres...
  • Hier

  • 00:51

    Libère ta liberté !


  • 00:49

    @darkmare, j'aurai qu'un mot a dire : hihihi

  • 25/03

  • 21:24

    Le gouvernement de la Confédération Libre me semble bien populaire...


  • 21:17

  • 20:53

    Je ne pensais pas que l'elmérisme aviaire avait fait autant de dégâts...


  • 20:53

    T’en penses quoi krabot ? Tu penses que la majuscule c’est un hommage à toi ?


  • 20:53

    Bravo. Je suis fier de toi,


  • 20:35

    En même temps vous vous êtes tapés toute mon adolescence!!! Même moi je n'aurais pas tenu tellement j'étais désagréable!!!


  • 20:33

    Qui va tenter un coup d'état au Paradigme Vert ? C'est vraiment le moment !


  • 20:33

    Et moi alors??? Plus de 20 ans de rajquit et de comptes définitivement supprimés ou hachedeusés... Et un de mes rares personnages à tenir les trois mois... Pour l'instant... ça mérite un cadeau aussi, non???

  • Texte généré à 16:19:48