21
En Espagne, des dizaines de collégiennes victimes de photos nues générées par IA
(english.elpais.com)
you are viewing a single comment's thread
view the rest of the comments
view the rest of the comments
this post was submitted on 20 Sep 2023
21 points (95.7% liked)
France
2187 readers
73 users here now
La France et les Français
Communautés principales
Nous rejoindre sur Matrix: https://matrix.to/#/#jlai.lu:matrix.org
FAQ, guides et ressources :
Actualité internationale
Loisirs:
- !cineseries@jlai.lu
- !cyclisme@sh.itjust.works
- !jardin@lemmy.world
- !jeuxdesociete@lemmy.world
- !jeuxvideo@jlai.lu
- !livres@jlai.lu
- !motardie@jlai.lu
- !sport@jlai.lu
- !technologie@jlai.lu
- !tournesol@jlai.lu
Vie Pratique:
Société:
Villes/Régions
- !bretagne@jlai.lu
- !grenoble@jlai.lu
- !lille@jlai.lu
- !lyon@lemmy.world
- !marseille@jlai.lu
- !nantes@sh.itjust.works
- !orleans@lemmy.world
- !paris@jlai.lu
- !toulouse@jlai.lu
Pays:
Humour:
Fedivers:
Règles
-
Multi-lingual community: posts in other language than French are allowed. 🚀
-
Tous les francophones sont bienvenus. 🐌
-
Remember the human : pas d’insultes, pas d’agressivité, pas de harcèlement entre utilisateurs. 🤖
-
Xénophobie, racisme et autre forme de discrimination sont interdits.🌈
-
Pas de doublon. Pas de spam. Évitez les paywalls autant que possible.☔
-
Utilisez la fonction "Report" pour signaler le contenu contrevenant aux règles.🏴
-
Le contenu doit être en rapport avec la France ou la population française.🇨🇵
Communauté de secours:
founded 1 year ago
MODERATORS
Quand j'ai commencé à jouer avec stable diffusion, j'ai été surpris et de la tendance à générer des filles sexy voir carrément nue des modèles d'IA. C'est meme difficile d'éviter ces images (quand je suis MJ en jdr, je peux vouloir une bibliothécaire, serveuse, politicienne qui ressemble à une femme ordinaire et pas sortie de sites pour adultes/jeux vidéos)
Après il faut aussi voir avec quoi on nourris les modèles d'IA, et les images de vraies femmes dans la vraie vie aussi sont sexualisées ou ignorées. Prends le moindre RS, tu fais plus de vue on twerkant en bikini qu'en parlant d'astrophysique surtout si tu es une femme
J'ai eu la même réflexion quand j'ai joué avec l'IA. J'en étais à spécifier comme négative prompt de na pas avoir de femmes, de ne pas avoir de femme sexy, de ne pas avoir de nues. La plupart des modèles sont surentraînés sur des femmes sexy. Pas sur des femmes normales.
Ah je vois, ya donc pas besoin d'avoir un prompt pour avoir ce type de résultat en faite. :/
En fait tu peux choisir ton modèle de génération. Le modèle de base semble être assez peu biaisé. Il connaît un peu tout moyennement. Les résultats sont assez bof.
Puis tu as plein de modèles enrichis. Ici une base : https://civitai.com/models
Comme tu peux le constater. La "femme" est un sujet de préoccupation.
La representation masculine aussi. J'imagine que c'est l'archétype du soldat ? :D
@Sphks @Snoopy en même temps, les mecs qui sont derrière ces modèles devaient avoir des stocks assez conséquents d'images de "référence", alors de là à alimenter leurs entraînements avec...
Pour revenir au sujet initial (les fakes en Espagne), ça ressemble plus à l'oeuvre d'un truc de remplacement de face (genre Facefusion) qu'à un Stablediffusion/Midjourney/... sur lesquels ont peut trainer des modèles pour ressembler à une-telle, mais c'est cher payer le deepfake...
Les datasets d’entraînement sont des choses genre DeviantArt qui, oui, a pas mal de nanas en petites tenues. Ils sont très conscients des biais d'apprentissage et les corrigent autant qu'ils peuvent, mais va voir sur civitai les modèles qui sont entraînés et partagés par des particulier. À 90% c'est de la waifu. Y a pas de surprise, ça matche la demande.
On peut faire de l'inpaint avec stablediffusion, pas besoin de faire du finetuning: tu prends une photo, tu gardes le visage mais tu change la pose ou le décor.
Avec un photomontage on peut tout faire. La différence c'est la facilité élaborer un fantasme à partir d'un photo de quelqu'un qu'on connait.
Après j'ai lu qu'iels mettaient des garde-fou dans le programme des IA pour exclure certain termes de recherche et éviter cette situation.
@Snoopy une partie de ces garde-fous (sans rentrer dans les détails) se lève en commentant une ligne dans le code, hein
Oui, c'etait dans ce même journal. Ça rend la tache un peu plus compliqué.
Les outils en ligne peuvent être censurés oui, mais les outils ouverts, non.
Voilà.
C'est entre les deux je dirais
@Camus possible ; ça dépend si les clichés "avant remplacement de face" étaient originaux ou pas
J'avais eu une expérience intéressante (avec SD 1.5, SDXL est sûrement meilleur). J'avais voulu faire générer un tableau symétrique du Déjeuner sur l'Herbe, avec un homme nu et deux femmes habillées discutant. Il sait faire des hommes nus, il sait faire des femmes habillées, mais quand il y a une composition avec hommes et femmes et de la nudité, il a beaucoup de mal à accepter que ce ne sont pas les femmes qui seront déshabillées.