Hypertrucages sexuels par IA (faux nus d'ados)
Des outils d'IA peuvent transformer de simples photos d'ados en faux nus qui circulent entre élèves ou servent à menacer et à faire chanter, ce qui cause un tort bien réel aux jeunes visés même si les images sont fausses.
Dois-je m’inquiéter?
N'importe quel jeune peut être visé à partir de photos déjà publiques, et l'image n'a pas besoin d'être vraie pour faire mal : des reportages au Québec racontent le cas de filles de 12 ans dont les faux nus ont circulé à l'école et servi à les intimider. Au Royaume-Uni, une école a été menacée de voir publiées des images d'abus générées par IA à partir de photos tirées de son propre site. Parmi les signes à surveiller : un enfant qui évite soudainement l'école ou son cellulaire, qui paraît honteux ou anxieux, ou qui parle de rumeurs au sujet de photos de lui. Si cela arrive, croyez votre enfant et gardez votre calme : ce n'est pas sa faute. Conservez des captures d'écran sans les transmettre, signalez le compte et les images sur la plateforme et avisez l'école. Ne payez pas et ne négociez pas avec une personne qui menace. Comme ces images représentent des mineurs, la police peut intervenir, et les jeunes qui en fabriquent ou en partagent s'exposent à de graves conséquences juridiques et scolaires.
Comment embarquer
Les jeunes savent que l'IA peut modifier des photos, et plusieurs ont vu des applis qui promettent de « retoucher » des images; il est donc facile d'y voir une blague ou un coup plan. Ce qu'ils ne réalisent pas toujours, c'est qu'un faux nu d'une vraie camarade n'a rien de drôle pour la personne visée, et que cela peut constituer de l'exploitation sexuelle d'un mineur. Pour amorcer la discussion, demandez ce qu'ils ont entendu dire au sujet des photos truquées par IA à l'école et comment, selon eux, se sent une personne à qui cela arrive. C'est aussi l'occasion de parler de qui peut voir leurs photos et de ce qui vaut la peine de rester public.
Essayez de dire
“J'ai lu que certaines personnes utilisent l'IA pour fabriquer de faux nus d'ados à partir de photos ordinaires. Si ça t'arrivait, à toi ou à un ami, je ne me fâcherais pas et je voudrais t'aider tout de suite. Est-ce que tu sais si quelqu'un à l'école a vécu ça?”
Si quelque chose vous inquiète
Si votre enfant est en danger immédiat, composez le 911. Pour signaler de l'exploitation sexuelle en ligne, y compris de fausses images sexuelles et des menaces, communiquez avec Cybertip.ca. NeedHelpNow.ca aide à faire retirer des images intimes, même truquées. Jeunesse, J'écoute est accessible à votre enfant au 1-800-668-6868 ou par texto au 686868. Si votre enfant parle de se faire du mal, appelez ou textez le 988.
Sources
Tiré de Mistlift, mistlift.app. Des mots clairs sur ce qui occupe les jeunes en ligne.