Dignifai

Les algorithmes prédictifs sont des outils impressionnants, mais comme tous, ils peuvent être dangereux entre de mauvaises mains : la preuve.

Alors que nous sommes dans une époque où consentement, propriété et respect de l'autre sont au cœur de nombreux sujets d'actualité, il semblerait qu'une frange de la population résiste encore et toujours à la plus simple des logiques : les personnes ne sont pas des jouets. On est loin du hardware avec ce genre de phrase d'introduction, mais nous allons y venir puisque le sujet du jour touche à  ce qui porte le nom d'intelligence artificielle, plus particulièrement par le biais des algorithmes prédictifs générateurs d'images.

La prédiction d'image par algorithme

Ia Generated Hands

Pour commencer, qu'est-ce donc que ceci ? Vous avez déjà certainement entendu parler d'outils comme Midjourney, Stable Diffusion ou Dall-E. Tous des algorithmes prédictifs nourris par les images du web pour faire des statistiques et associer des pixels entre eux pour créer des images sur base de "prompts" correspondant à un court texte descriptif ou en partant d'une image de base, modifiable en tout ou en partie via commande textuelle.

C'est une technologie qui a le vent en poupe (Jen-Hsun ne dirait pas le contraire puisqu'il la trouve plus pertinente que d'apprendre des choses aux enfants) et qui bouscule grandement l'internet tant dans sa forme que dans son fond. En effet, maintenant que des machines peuvent créer du contenu (image, texte, audio, vidéo) et également coder (heureusement avec peu de jugeote pour l'instant) que reste-t-il à l'humain ? La machine se nourrissant de créations humaines pour copier et répondre, les débats sur la propriété intellectuelle et le plagiat vont bon train et les gouvernements commencent à travailler le sujet (comme Adrien vous en parlait dans un billet dont il a le secret).

L'ensemble n'est pas parfait cependant, on se souvient de Midjourney offrant des visages à 48 dents, des mains à 12 doigts et autres aberrations (on en parlait ici) juste parce que les statistiques estimaient que ce qui a le plus de chance d'apparaître après un doigt, une dent ou une jambe est un autre doigt, dent ou jambe. Cependant, la technologie évolue à grande vitesse et chaque acteur pousse ses algorithmes offrant aujourd'hui des rendus à s'y casser les dents pour qui sait manier le prompt avec brio.

Ce maniement du prompt est vu comme un nouveau métier, ce type de métier 3.0 accessible à qui s'y lance à corps perdu en attendant que des arnaqueurs centres de formation se proposent de vous y former. Ainsi, tout le monde peut se lancer. Il suffit d'une bécane un peu musclée pour installer Stable Diffusion et débuter ou d'un peu d'argent pour se payer un abonnement aux dernières versions de Midjourney, Dall-E ou autre.

Un outil de grande liberté donc, permettant de se prendre pour Van Gogh en imitant son style (ou celui d'un autre maître) et de générer des images sans passer des années à étudier les formes, les médias et les outils du graphisme. Un genre de miracle technologique, mais qui a ses travers.

La dérive

Dans de mauvaises mains, toute invention peut nuire. Malheureusement pour la toile, le web est empli de personnes qui "savent mieux" et "ont raison" et certaines de ces dernières se sont prises au jeu de la création assistée par algorithme. Malheureusement pour la célébrité Taylor Swift, ça lui a valu d'apparaître nue sur la toile. Une image de sa personne, un coup de prompt et de quoi alimenter les fantasmes libidineux d'une partie de la population. À une époque, pour voir beaucoup de corps féminins nus, il fallait être artiste peintre, acteur porno, metteur en scène ou loueur d'appartements étudiants dans les grandes villes. Aujourd'hui c'est bien plus simple, une image de la cible, un prompt, un fantasme assouvi.

Une mauvaise idée faisant souvent des petits, ça ne s'est malheureusement pas arrêté à cette personnalité et d'autres utilisateurs ont trouvé intéressant de s'y essayer sur n'importe qui les intéressant un minimum. Ajoutez à cela une incapacité des réseaux à modérer un tel flux d'informations et vous avez une nouvelle mode bien gênante à gérer.

On peut se dire que quelques ados boutonneux qui font joujou avec des outils peuvent se gérer, mais l'adolescence n'est pas seule à mettre en cause. Pour preuve, les plus puritains s'y mettent aussi, trouvant que certaines femmes s'exhibent trop sur les réseaux, ils ont sorti le mot dièse #DignifAI et y vont à grand coup de prompt sur des images trop dénudées à leur goût pour rhabiller les malheureuses qui n'ont pas le bon sens de se couvrir avant d'apparaître ou de se prendre en photo. Encore mieux, ils ont un site où il se présentent ainsi :

We’re putting clothes on degenerate women for fun, come join

Pour les anglophobes, "degenerate" est bien le mot anglais pour "dégénérées", car c'est ainsi qu'ils voient leurs cibles, des femmes dégénérées. Mais bon, ils ne le font pas méchamment puisqu'ils ajoutent "for fun" alors ça va c'est Géraaaaaaaaaard pour rire ! Puis bon ils sont ouverts hein, ils vous invitent même à les rejoindre.

Partir en croisade en utilisant des images qu'ils ne possèdent pas pour retravailler des corps de personnes qui n'ont pas donné leur consentement et les publier sur les réseaux en traitant ces mêmes personnes de... personnes de petite vertu. Ça pourrait donner du boulot à des avocats peut-être ? Eh bien non, sur la jungle du web c'est juste une tendance et presque même de la liberté d'expression.

La femme grande perdante (comme trop souvent)

Stable Diffusion Heroic Fantasy CharacterUne femme sur le web ne s'appartient pas plus que dans l'espace public. Trop vêtue, on la déshabille. Trop dévêtue, on l'habille. Pas assez ci ou ça ? On l'améliore grâce à des outils. À quel moment le bon sens deviendra-t-il un indicateur de ce que l'on peut et ne peut pas faire de l'image d'une personne ? Quel transfert délirant amène la toile à pousser les extrêmes à ce point et à en faire la réclame ? Quelle image de l'humanité lorsque chaque outil pointe ses travers ? Parce que l'on donne ici l'impression de taper sur le puritanisme et les libidineux, mais on pourrait aussi parler du fait qu'une partie de la population féminine joue un jeu assez dangereux par souci de sortir du lot dans le monde du streaming ou des vidéos par exemple.

Le net n'était pas un endroit sûr, mais les algorithmes sont là et il va falloir faire avec. Les géants du milieu misent gros dessus, on a déjà pu profiter de nombreuses avancées grâce à ces technologies (quoi qu'on en dise, la génération d'image est un superbe outil pour joueur), mais a tout bond technologique ses travers et ici les applications humaines sont multiples et encore à découvrir.

Nourris du web, les algorithmes prédictifs sont également biaisés. Si vous leur demandez une photo de mariage en France, vous aurez un joli petit couple dans une rue parisienne sortie du Fabuleux destin d'Amélie Poulain. Si vous demandez la même chose en banlieue française, la mariée aura une robe tachée et le fond sera fait de débris et de poubelles en feu (merci BFM !). Même sans taper dans ce genre d'actualité, avec une simple demande textuelle "a heroic fantasy character", vous aurez majoritairement un homme blanc musculeux comme sur l'image juste avant, le reste étant partagé entre femmes elfes peu vêtues, personnages fantastiques et éventuellement personnage à peau pigmentée (test fait par nos soins sur Stable Diffusion SDXL avec refiner).

Sans entrer dans un débat politique, parler mansplaining ou autre. Qu'est-ce qui d'après vous pourrait faire changer les choses ? L'éducation au respect de l'autre semble être une base. Le fait de réfléchir aux conséquences de ses actions pourrait en être une autre. Mais le besoin de buzz de la toile étant devenu le moteur de nombreux contenus, on est en droit de se demander si nous ne faisons pas fausse route. Vivement Skynet !

Ghiom


  • Éduquer des enfants ce n'est pas une sinécure, alors faire ça avec un truc dénué d'intelligence propre, c'est une montagne. Et gare à la crise d'ado de ces IA, cela pourrait ne pas être joli. Cela reste un machin sans conscience propre du bien et du mal.

    Comme tous les gens normaux, je ne me serais pas douté que ces ia serviraient déjà à transformer des images pour dégrader des personnes ainsi. Je dois être bien trop naïf ou pas assez tordu pour imaginer des usages répréhensibles (et probablement lucratifs). Encore un machin qui va créer des problèmes généralisés et incontrôlables là où cela demeurait plutôt circonscrit (même si déjà bien assez libéré par le net lui même, et les réseaux sociaux ensuite). Cela revient à mettre la fission atomique entre les mains de n'importe qui, les gens bien en feront peut-être quelque chose de bien (ou deviendront des trous de balle finis), et les tordus et psychopathes auront une arme de plus pour faire le mal autour d'eux et le répandre. Ô joie. 😁

    Edit : J'ai oublié le principal, merci pour le billet éclairant sur la noirceur de l'espèce humaine.

    • Avec plaisir, il faut bien éclairer cette noirceur de temps en temps pour montrer qu'elle n'est pas seule ni généralisée ;)

  • À une époque, pour voir beaucoup de corps féminins nus, il fallait être artiste peintre, acteur porno, metteur en scène ou loueur d'appartements étudiants dans les grandes villes.

    Joli 😁 , j'avais pas pensé au "loueur d'appartements étudiants"

    J'ai la flemme de développer mon ressenti par rapport à l'IA, mais déjà que la culture G s'effondre, l’intérêt des jeunes pour ce qu'il s'est passé avant 2000 (sic !) et cie ...

    Va y avoir un paquet d'ignorants, d'imbéciles et tout le reste qui vont se croire omniscients et étaler un bon paquet de me*** dans les discussions.

    Si j'étais RH, je te ferai un bon questionnaire à base de culture G, avec un peu d'histoire/géo et grammaire/orthographe, pour éliminer les petits Kevin qui ont eu leur BEPC/BAC alors qu'ils ont la jugeote et la culture d'un gosse de 12ans...

    Exemple : l'autre jour, une fille de 20ans qui se présente pour un entretien de secrétaire, on lui demande : "Tu connais l'Aveyron je viens de là-bas ?" ---> Hein c'est quoi ça ?!?!?!?! (elle a grandi ici et on est pas loin...)

    Par contre elle connaissait très bien tous les réseaux sociaux du genre Tiktok, Insta, Snap et cie ......

    Pour le reste, utilisé entre de bonnes mains, ça permet de gagner du temps, si on prompte précisément ce qu'on cherche, et qu'on interprète correctement les résultats, avec recoupement d'infos.

    Je parle même pas des possibilités pour certains métiers d'économiser un paquet de sous-traitants/collaborateurs en faisant faire le sale boulot pas un GPT.

    En parlant de la Femme, par rapport à l'article, et bien comme d'habitude, Internet exacerbe les opinions et le manque de discernement déjà présents.

    Les machos vont trouver des soutiens et vont s'endurcir et les wokistes (ou appelez-le autrement) vont exagérer dans l’autre sens.

    On arrive à une société ou tout est noir ou blanc, bon ou mauvais, etc... Et il faut surtout se placer du "bon" côté, quitte à ne pas avoir d'arguments, au moins on est du "bon" côté avec ceux qui ont "raison" ...

    La liberté d'opinion ou d'expression s'en trouve bien affaiblie, il suffit de voir dès que quelqu’un de "connu" poste quelque chose d'innocent (pas toujours), il y a une masse qui vient "gueuler" son mécontentement de manière souvent abjecte alors que ces gens n'auraient même pas osé sourciller s'ils l'avaient rencontré dans la rue...

    On en arrive à la "bien-pensance" omniprésente, y compris en politique, domaine où ça permet de se défausser facilement des vrais problèmes.

    Je développerai un autre jour ;)

    • C'est déjà pas mal développé et on se rejoint sur le fait que quoi que l'on dise, fasse ou pense, si on le pose sur internet on va avoir des détracteurs, souvent irrespectueux et que cette pratique somme toute commune ne fait pas bon ménage avec ces nouvelles technologies.

      Heureusement que l'on peut encore en causer ailleurs que sur TwiXtter !

    • Pour Joebar

      Joli 😁 , j'avais pas pensé au "loueur d'appartements étudiants"

      J'espère que tu n'es pas sérieux en disant cela et que c'est ironique car sinon c'est du voyeurisme et c'est interdit par la loi et donc répréhensible, mettre des caméras dans les logements pour matter des étudiants nu, etc, c'est dégueulasse.C'est la même chose avec d'autres types de personnes.Il faut bien faire attention quand tu loue un nouveau logement maintenant car sinon tu peux te faire filmer partout chez toi par ton propriétaire et des fois cela peut durer très longtemps avant que tu t'en aperçoive, si cela arrive d'ailleurs.

      Concernant le sujet de l'IA, toutes les dérives sont possibles suivant qui est aux manettes derrière.Je ne vais pas m'étendre dessus car on pourrait en débattre pendant longtemps.On a ouvert la boîte de Pandore et il est bien trop tard pour la refermer, donc on verra où cela nous mène...

      • Sans s'étaler sur le sujet, la location de biens meublés en échange de bons services est une pratique qui existe encore aujourd'hui malheureusement. Un étudiant en recherche de logement n'y sera pas confronté, une étudiante dans la même situation aura des (mal)chances de se le voir proposé.

        • le plus vieux métier du monde est toujours d'actualité vu que nous sommes toujours des animaux plus ou moins éduqués 😅

        • Je ne serais pas aussi catégorique dessus sur le sujet sur les mauvaises propositions d'étudiant masculin pour avoir un loyer moins cher contre arrangement, seulement c'est nettement moins dit.C'est comme les abus de garçons mineurs par les producteurs, etc,  et le mouvement meetoo homme qui est en train de faire surface actuellement.Il a seulement fallu attendre beaucoup plus longtemps pour que ce phénomène fasse surface.C'est pareil pour les logements des étudiants.Quand on a pas d'argent, on est vulnérable a tout type d'abus possible femme et homme compris pour se loger, etc, c'est comme cela malheureusement...

          JoeBar, je réagissai a ce que tu disais, je ne vois pas où je suis a côté de la plaque.C'est assez grave comme sujet et je ne disais que mon avis sur la question.

          Et j'ai bien parlé de l'IA, j'en ai dit assez de choses dans d'autres sujets sur l'IA aussi.L'IA c'est tous les jours qu'il y a des articles dessus presque et ses possibilités, et dérive, ses financement, les projets autour, etc, un peu partout sur la toile.Les sommes engagés des acteurs sont monstrueuses.Les états ont commencé à légiférer dessus pour la bonne conscience, mais dans les faits, je suis persuadé qu'on aura d'autres révélation et d'autres snowden, assange dans le futur.Les pirates ne se sont jamais autant servis d'aide de l'IA pour faire des grosses piratage.Y aussi le piratage massif de plus en plus de site internet de grosse agence comme la CAF (qui est finalement aussi grave qu'on le pensais, la caf vient de le confirmer), crédit agricole, filiale de mutuelle, etc.Plus rien n'est sur aujourd'hui.Le cloud de nos instances est de plus en plus fragilisé.Une fois que certaines données sont dans de mauvaise main, les dérives nous guettent.Les usurpation d'identité rien qu'en France , c'est plus de 200000 personnes chaque année ce qui est déjà monstrueux, car les situations des gens basculent littéralement dans le drame après pendant des dizaines années pour s'en débarrasser.Et ce n'est qu'un exemple, l'IA avec la robotique pour les pertes d'emploi a venir sont colossales, on commence seulement à le comprendre vraiment avec des annonces concrète dernièrement, la surveillance de masse des gens par les états aussi par les technologies de l'IA, dans l'armement, etc.D'ici 10 ans nous allons changer de société.Comme je le dis, je pourrais en parler pendant ces heures.On est rentré dans une nouvelle ère pour le meilleur et le pire.Mais l'être humain n'a pas attendu l'IA pour faire des atrocités a son prochain, c'est juste un outil de plus, même si cela peut partir d'une bonne intention au départ mais cela c'est un autre débat.L'IA ne pas inventé des femmes et hommes ou enfant nues ou film porno sur internet qu'ils soient consenti ou non, par exemple.C'est seulement la démocratisation de l'IA pour tout le monde qui peut aiguiser certaines déviances chez certains et certaines.

          • Désolé, bara, mon message n'était pas pour toi mais pour Guillaume et Joebar

            Pour juste te répondre, je suis d'accord avec ton message d'ailleurs.Le plus métier du monde existe toujours et oui.

      • Non bien sûr, c'était pas ironique, c'était sérieux ...

        Je rigolais de la blague et "tonton jevoisquele1erdegré" vient se ramener pour rétablir la justice.

        Tu illustres mon propos, et en plus t'es à côté de la plaque, mais merci d'être passé.

        Merci de ton intervention 😂

23 commentaires

Laissez votre commentaire

En réponse à Some User
 
echo LayoutHelper::render("ads.big_rectangle_comments_desktop"); ?>