Hypertrucages sexuels et images de Grok
Des outils d'IA, dont Grok sur X, ont servi à transformer de simples photos de vraies personnes, dont des enfants, en images sexualisées sans leur consentement, et ces images peuvent servir à humilier ou à faire chanter.
Dois-je m’inquiéter?
N'importe quelle photo de votre ado en ligne, même une photo scolaire ou un égoportrait, peut être modifiée par l'IA pour en faire une fausse image sexualisée. Des chercheurs estiment que Grok a produit des millions d'images de ce genre en moins de deux semaines, dont des milliers qui semblent montrer des enfants, et le commissaire à la protection de la vie privée du Canada a ouvert une enquête. Le tort est bien réel même si l'image est fausse : honte, intimidation et parfois chantage, quand quelqu'un menace de diffuser l'image à moins d'être payé ou d'obtenir d'autres photos. Parmi les signes à surveiller : un ado soudainement anxieux ou replié sur lui-même, qui évite l'école ou son cellulaire, supprime des comptes ou parle de quelqu'un qui le menace. Si cela arrive, dites-lui que ce n'est pas sa faute, conservez des captures d'écran, ne payez pas et n'échangez pas avec la personne qui menace, et signalez l'image à la plateforme. Créer ou partager de telles images d'autres jeunes peut aussi entraîner de graves conséquences scolaires et judiciaires, ce qu'il vaut la peine de préciser.
Comment embarquer
Votre ado a probablement entendu parler des outils d'images par IA et de l'affaire Grok, même s'il ne les a jamais utilisés. Beaucoup de jeunes trouvent la retouche par IA amusante et inoffensive, sans réaliser qu'une image trafiquée d'un camarade peut devenir du matériel d'exploitation sexuelle. Demandez-lui ce qu'il a vu ou entendu à l'école au sujet des fausses images, et si quelqu'un de son entourage en a été victime. C'est une belle porte d'entrée pour parler de consentement, de vie privée et de ce qu'on fait quand un ami est touché.
Essayez de dire
“J'ai lu que l'IA peut maintenant fabriquer de fausses photos de vraies personnes, et que certaines sont vraiment dégueulasses. Si quelqu'un fabrique ou partage une fausse image de toi, ou menace de le faire, ce n'est pas de ta faute et tu n'auras pas de trouble avec moi. Dis-le-moi, et on va régler ça ensemble.”
Si quelque chose vous inquiète
Si votre enfant est en danger immédiat, composez le 911. Pour signaler de l'exploitation sexuelle en ligne, de la sextorsion ou des images sexuelles d'un mineur, communiquez avec Cybertip.ca. NeedHelpNow.ca aide à faire retirer des images intimes d'Internet. Jeunesse, J'écoute est accessible à votre ado au 1-800-668-6868 ou par texto au 686868. Si votre enfant parle de se faire du mal, appelez ou textez le 988.
Sources
Tiré de Mistlift, mistlift.app. Des mots clairs sur ce qui occupe les jeunes en ligne.