Hypertrucages sexuels par IA (applis de « déshabillage »)
Selon un sondage américain rapporté par CNN, près d'un ado sur cinq a créé, ou connaît quelqu'un qui a créé, des images sexuelles générées par IA, souvent de personnes qu'il connaît, et la plupart des ados craignent d'en être la cible.
Dois-je m’inquiéter?
Certains outils d'IA peuvent transformer une photo ordinaire d'une vraie personne en fausse image sexuelle, et des ados en fabriqueraient à partir de photos de camarades. Le tort causé à la personne visée est bien réel même si l'image est fausse : humiliation, peur que l'image circule, difficultés à l'école. Les ados qui en créent ou en partagent s'exposent à des mesures disciplinaires à l'école et à d'éventuelles conséquences judiciaires. Parmi les signes : une détresse soudaine liée aux conversations de groupe, un refus d'aller à l'école, un cellulaire gardé secret, ou la peur de ce que d'autres pourraient avoir en main. Si votre ado est ciblé, restez calme et dites-lui que ce n'est pas sa faute. Conservez des captures d'écran comme preuves, signalez le contenu à la plateforme et à l'école, et ne lui demandez pas de revoir l'image.
Comment embarquer
Beaucoup d'ados savent que ces outils existent, par leurs amis ou les réseaux sociaux, et certains y voient une blague ou une farce sans penser à la personne sur l'image. La plupart disent aussi craindre d'être eux-mêmes ciblés. Pour amorcer la conversation, demandez-lui ce qu'il a entendu dire au sujet des fausses images à l'école et ce que les jeunes de son âge en pensent. Présentez-le comme une préoccupation commune plutôt que comme un soupçon à son endroit.
Essayez de dire
“J'ai lu que des jeunes utilisent l'IA pour fabriquer de fausses photos de nus de personnes qu'ils connaissent, et que beaucoup d'ados ont peur que ça leur arrive. Si une chose du genre te touche un jour, que ce soit une fausse image de toi ou quelque chose que tu as vu circuler, tu peux me le dire, je ne me fâcherai pas. On va régler ça ensemble.”
Si quelque chose vous inquiète
Si une image de votre ado circule, NeedHelpNow.ca aide à faire retirer les images intimes, et Cybertip.ca reçoit les signalements d'exploitation sexuelle en ligne. Composez le 911 si votre ado est en danger immédiat ou fait l'objet de menaces. Jeunesse, J'écoute (1-800-668-6868, ou texto au 686868) est là pour votre ado à toute heure, et le 988 est accessible s'il parle de s'automutiler ou de mettre fin à ses jours.
Sources
Tiré de Mistlift, mistlift.app. Des mots clairs sur ce qui occupe les jeunes en ligne.