Hypertrucages sexuels de camarades de classe créés par IA
La police canadienne signale que des ados se servent de l'IA pour transformer des photos ordinaires de camarades en fausses images sexuelles; un ado a été accusé d'infractions liées au matériel d'abus sexuels d'enfants, ce qui touche autant les filles ciblées que tout jeune qui crée ou partage ces images.
Dois-je m’inquiéter?
Les images sont fausses, mais le tort causé à la personne représentée est bien réel, et la loi les considère comme du matériel d'abus sexuels d'enfants. La police dit que ces cas sont de plus en plus fréquents, et un ado a été accusé d'en avoir fabriqué et diffusé. Signes à surveiller : votre enfant est bouleversé ou renfermé après un message d'un camarade, a soudainement peur d'être photographié ou parle de rumeurs d'images qui circulent. Un ado qui crée ou fait suivre de telles images s'expose aussi à des accusations criminelles. Rappelez à vos enfants de ne jamais transférer ni conserver ces images, de garder leurs profils de réseaux sociaux privés et de n'accepter que des gens qu'ils connaissent vraiment. Si votre enfant est visé, restez calme, gardez des captures d'écran comme preuves, ne le blâmez pas, faites un signalement et demandez le retrait des images.
Comment embarquer
La plupart des jeunes n'y voient rien d'excitant. Certains le prennent pour une blague ou une farce sans réaliser qu'il s'agit d'exploitation sexuelle et d'un crime. Pour amorcer la conversation, parlez de l'IA en général : demandez quels outils d'images par IA ils ont vus à l'école, ce que leurs amis trouvent acceptable et ce qui dépasse les bornes. Expliquez qu'une photo publiée quelque part peut être détournée par quelqu'un d'autre, et que personne n'a à subir cela ni à garder le silence si ça lui arrive.
Essayez de dire
“Certains jeunes se servent de l'IA pour fabriquer de fausses photos de nus de personnes qu'ils connaissent, et la police traite ça comme un crime. Si tu en vois une, ou si quelqu'un en fait une de toi, tu n'auras pas de problèmes avec moi, et je veux que tu m'en parles. Est-ce qu'on peut parler de ce qui circule autour de toi?”
Si quelque chose vous inquiète
Si votre enfant est en danger immédiat, composez le 911. Pour signaler des images sexuelles d'un mineur, y compris celles créées par IA, communiquez avec Cyberaide.ca (Cybertip.ca). Aidez-moi SVP (NeedHelpNow.ca) aide à faire retirer des images intimes. Jeunesse, J'écoute (1-800-668-6868, ou texto au 686868) est disponible en tout temps pour votre enfant. Si votre enfant parle de s'automutiler ou de suicide, appelez ou textez le 988.
Sources
Tiré de Mistlift, mistlift.app. Des mots clairs sur ce qui occupe les jeunes en ligne.