Hypertrucages sexuels d'ados créés par IA
Des prédateurs, et parfois des pairs, utilisent l'IA pour fabriquer de fausses images sexuelles d'ados à partir de photos ordinaires, et des prédateurs s'en servent pour extorquer de l'argent; Cyberaide.ca et l'IWF signalent tous deux de fortes hausses.
Dois-je m’inquiéter?
Un ado n'a plus besoin d'envoyer quoi que ce soit pour que ça arrive : une simple photo de profil peut être transformée en fausse image sexuelle, puis le prédateur menace de la diffuser si l'ado ne paie pas. Parmi les signes : un nouveau contact en ligne qui passe soudainement aux menaces, un ado paniqué ou cachottier avec son cellulaire, des demandes d'argent ou de cartes-cadeaux inexpliquées. L'image est fausse, mais le mal est bien réel, et c'est la honte qui garde les jeunes dans le silence. Dites à votre ado qu'il n'a jamais de trouble parce qu'il a été ciblé, que payer met rarement fin à l'extorsion et qu'il peut venir vous voir en premier. Conservez les messages sans les effacer, et signalez. Fabriquer ou faire circuler de fausses images sexuelles d'un camarade est aussi une infraction grave; ça vaut la peine de le dire.
Comment embarquer
Les outils d'IA qui modifient les photos et les vidéos sont partout, et la plupart des ados ont vu ou essayé les versions inoffensives : filtres, échanges de visages, montages drôles. Ils les aiment parce que c'est rapide et ludique, mais plusieurs ne savent pas que la même technologie peut être retournée contre eux à partir d'une photo qu'ils ont eux-mêmes publiée. Pour amorcer la conversation, demandez quelles applis d'IA pour photos et vidéos eux et leurs amis utilisent, et ce qu'ils pensent des fausses images de vraies personnes.
Essayez de dire
“J'ai lu que des gens utilisent l'IA pour fabriquer de fausses images d'ados, puis les menacent pour leur soutirer de l'argent. Si ça t'arrivait, à toi ou à un ami, ce ne serait pas ta faute et je ne me fâcherais pas. Je voudrais juste t'aider à régler ça, avec toi.”
Si quelque chose vous inquiète
Si votre ado est en danger immédiat, composez le 911. Signalez l'exploitation sexuelle en ligne ou la sextorsion, y compris les images truquées par IA, à Cyberaide.ca (Cybertip.ca). Aidez-moi SVP (NeedHelpNow.ca) aide à faire retirer les images intimes. Jeunesse, J'écoute est là pour votre ado au 1-800-668-6868 ou par texto au 686868. Conservez les messages comme preuve et évitez de payer.
Sources
Tiré de Mistlift, mistlift.app. Des mots clairs sur ce qui occupe les jeunes en ligne.