ia / agents conversationnel

  • modifié 27/02 (11:20)
    +0 -1 -1 
    gloubi a écrit :

    Certes, mais on en est au point où il suffit de télécharger 3 fichiers pas bien gros créés par une entreprise chinoise (donc pas soumise aux mêmes lois sur les droits d'auteur que nous - ou au minimum, dans un pays pas toujours motivé à faire respecter les copyright occidentaux ; c'est même pas un reproche que je leur fait). la boîte de pandore pourrait pas être plus ouverte.


    Dans ma tête, je fais une équivalence entre ça et du .torrent. Oui les gens compétents et qui le souhaitent pourront accéder à des œuvres protégées. Pour les autres et pour la consommation de masse, si les SAAS sont éteints, que les sites mettant en ligne ces modèles se font strike par des juges (avec DNS menteurs, puisque c'est ce qu'on utilise beaucoup en France), il reste combien d'utilisations d'IAG ?

    voici ce que je trouve libre de droit en 1 seconde de recherche


    Et le sujet est sensible : en faisant mal la loi ici, on risque vite de se retrouver à faire la chasse au moindre adolescent dessinant un fanart d'une oeuvre protégée (ça s'est déjà vu).


    Je pense qu'il est très clair que ces images ne sont pas libres de droit. Shutterstock ment en les présentant comme telles (et c'est pas dramatique). On peut attendre des IAG qu'elles fassent le tri. Je suis d'accord avec toi que le sujet est sensible parce qu'il y a une ligne de crête. Pour ma part, je ne trouve pas absurde d'avoir des exigences supérieures pour une invention destinée à lobotomiser la planète à grands coups de milliards que pour Tim, qui dessine Sangoku sur ses feuilles A4 grands carreaux. Mais bon on n'en prend pas le chemin dans tous les cas.
  • modifié 27/02 (12:32)
    +0 -1 -1 
    Un[*b]curieux a écrit :

    Dans ma tête, je fais une équivalence entre ça et du .torrent. Oui les gens compétents et qui le souhaitent pourront accéder à des œuvres protégées. Pour les autres et pour la consommation de masse, si les SAAS sont éteints, que les sites mettant en ligne ces modèles se font strike par des juges (avec DNS menteurs, puisque c'est ce qu'on utilise beaucoup en France), il reste combien d'utilisations d'IAG ?


    La différence avec le .torrent (et tout ce qui a existé), en tout cas pour moi, c'est que sur les .torrent tu as un fichier différent par oeuvre. Soit beaucoup de fichier. Soit l'obligation de créer des "noeuds" compilant toutes les oeuvres possibles (pour avoir la visibilité issue de plein d'oeuvres côté fournisseur, et pour le confort de ne chercher que dans un seul truc où tout est dispo côté utilisateur), et donc la possibilité en face de faire fermer ces noeuds.

    Qwen (et tous les autres modèles de génération d'image - je prends qwen en exemple parce qu'il est très puissant d'un côté et que tu te heurte, côté création du modèle, à la molesse de la Chine pour ce qui est de faire respecter les droits d'auteur), c'est trois fichiers de taille raisonnable pour tout avoir. Ca me semble bien plus ardu à bloquer que tout ce qui a existé avant. Je comparerais ici plutôt à l'effet Streisand : tu bloques la mise à dispo officielle, tu as des mises à dispo pirates partout qui apparaissent, parce qu'il y a pas grand chose à mettre à dispo.

    Ces fichiers demandent un truc comme ComfyUI pour être utilisé facilement. Interdire ComfyUI, c'est équivalent à interdire les lecteur de DVD parce qu'il existe des DVD pirates. En fait, les librairies IAs "classiques" du python sont déjà capable de lire ces fichiers - ComfyUI le fait juste de façon plus optimisée et avec une GUI permettant de facilement tester des suites de manipulations (genre générer une image puis l'upscaler). Ceci étant ComfyUI donne les templates des workflow différents modèles de génération d'image, tu peux au moins attaquer ça - faire en sorte qu'il ne suffisse pas de 2 clic dans comfyui pour avoir un workflow qwen.

    Et enfin, il existe des site spécialisés génération d'image, parce qu'il y a une masse de "sous-modèles" de fine-tuning (essentiellement ce qu'on appelle les lora) et donc un besoin de les regrouper (comme pour les .torrent). Ces "sous-modèle" sont en gros, l'équivalent d'un mod pour les jeux vidéos (un fichier qu'on branche sur la base). Tu peux sans difficulté interdire ces sites, mais ça ne bloque que le "modding", et ça peut être problématique si on admet des utilisation "légitimes" de l'IA (genre des modèles entraînés purement légalement) : s'il y a des modèles légitimes, alors les modder avec un mod légitime devrait être légitime. Par ailleurs, les lora sont je suppose aussi une façon de se faire la main sur la création de modèles pour certaines personnes, mais ici j'ai aucune connaissance (j'ai l'impression que créer un lora, c'est comme créer un modèle, mais à plus petite échelle, mais en vrai j'en sais rien) ; si c'est le cas et qu'on admet des modèles légitime, c'est très problématique de bloquer la façon dont des jeunes peuvent se faire la main.

    ... Note que je suis pas du tout un expert de ceci. Si tu te contentes d'interdire les LLM, alors j'ai plus aucune connaissance en génération d'image, sur les sites etc : c'est un LLM qui m'a orienté sur ces sites, sur ComfyUI (note : ComfuUI a des tutoriaux tellement dégueulasse, je pense sans exagérer que c'était plus facile d'avoir une install Linux fonctionnelle en 1998 que d'arriver à comprendre ComfyUI aujourd'hui à partir des tuto sans aide - par exemple d'un LLM), et ce après m'avoir aidé à comprendre et programmer une base (... base sur laquelle on finit par se retrouver limité parce qu'on ne peut pas optimiser autant que comfyui, et on n'a pas une interface graphique permettant de rapidement tester des trucs en faisant des changement rapides). Bref, actuellement c'est plutôt en s'attaquant aux LLM qu'on arrive à ta situation "oui les gens compétents et qui le souhaitent pourront accéder à des œuvres protégées" - et l'accès aux LLM est actuellement facilement attaquable puisque ceux qui sont puissant ne tournent pas en local.


    Je pense qu'il est très clair que ces images ne sont pas libres de droit.


    Je sais pas. Ca ne m'étonnerait pas qu'elle ne le soient pas et que shutterstock mente ; de l'autre côté quand j'entends les musiques que le JdG fait faire pour ses vidéos, qui "imitent" une musique connue, je ne sais pas où se situe la marge de manoeuvre pour un artiste en terme d'imitation de personnage, de style, etc. (le JdG les fait faire par un vrai artiste, qui a mon avis sait ce qu'il est en droit faire. Après, peut-être qu'en vrai c'est pas légal et n'a pour objectif que de tromper le bot youtube)
  • posté 05/03 (12:55)
    +0 -0      
    Lecture du jour : « The L in LLM stands for lying ».

    Les effets des IA (et des agents IA auxquels on donne des capacités d'intervention élargies) se font sentir et ciblent naturellement en premier les structures vulnérables, et le logiciel libre.

    Ici, le projet ferme les contributions au public parce qu'ils ne peuvent plus trier les contributions IA. Ici, c'est un bug bounty qui ferme. Ce n'est à mon avis que le début : ces fermetures vont se généraliser tant qu'il n'y aura pas un moyen de les éviter.

    D'ailleurs, j'en suis à me demander : est-ce qu'on sait faire un captcha qui piège un agent IA ?
  • modifié 05/03 (13:26)
    +2 -0 +2 
    Un[*b]curieux a écrit :

    D'ailleurs, j'en suis à me demander : est-ce qu'on sait faire un captcha qui piège un agent IA ?

    C'est le seul qui va dire "Oh tu as raison, quelle idée superbe" alors qu'un humain va préférer une réponse plus offensive. Mais j'ai peur qu'il apprenne vite...
  • modifié 05/03 (15:55)
    +1 -0 +1 
    Un[*b]curieux a écrit :

    D'ailleurs, j'en suis à me demander : est-ce qu'on sait faire un captcha qui piège un agent IA ?

    Peut-être, mais sans doute pas pour longtemps, vu que les ia sont déjà capable d'analyser et décrire des images, et les modèles de génération d'image de les éditer. Les éditer en les analysant. Je précise : je suis tombé sur un article de recherche (que je sais plus retrouver) indiquant qu'actuellement une méthode d'attaque des "modérateurs ia" (qui bloquent certaines générations d'images en analysant le prompt) est de mettre les instructions de modification directement sur l'image à éditer (et rien dans le prompt). Voilà où on en est. Et j'ai l'impression que c'était même pas un comportement voulu des modèles d'édition d'images (...mais pas si étonnant vu que ces modèles sont sensé pouvoir comprendre et appliquer un prompt du type "traduis le contenu du panneau d'affichage en français, garde la même police d'écriture" : ils sont supposés pouvoir comprendre un texte dans une image).

    Je pense qu'il est plus simple de faire une ia qui détermine où cliquer dans une image, ou quoi écrire dans une textbox à partir d'une image, que ce que je viens de décrire.
  • Hier

  • 00:51

    Libère ta liberté !


  • 00:49

    @darkmare, j'aurai qu'un mot a dire : hihihi

  • 25/03

  • 21:24

    Le gouvernement de la Confédération Libre me semble bien populaire...


  • 21:17

  • 20:53

    Je ne pensais pas que l'elmérisme aviaire avait fait autant de dégâts...


  • 20:53

    T’en penses quoi krabot ? Tu penses que la majuscule c’est un hommage à toi ?


  • 20:53

    Bravo. Je suis fier de toi,


  • 20:35

    En même temps vous vous êtes tapés toute mon adolescence!!! Même moi je n'aurais pas tenu tellement j'étais désagréable!!!


  • 20:33

    Qui va tenter un coup d'état au Paradigme Vert ? C'est vraiment le moment !


  • 20:33

    Et moi alors??? Plus de 20 ans de rajquit et de comptes définitivement supprimés ou hachedeusés... Et un de mes rares personnages à tenir les trois mois... Pour l'instant... ça mérite un cadeau aussi, non???

  • Texte généré à 18:08:10