Hypertrucages de nudité (deepfakes)
Des fausses images de nudité créées par IA à partir de vraies personnes, souvent des camarades de classe, seraient courantes chez les jeunes, et un rapport récent indique qu'environ 30 % des ados seulement disent qu'un enseignant leur a déjà parlé d'utilisation sécuritaire de l'IA.
Dois-je m’inquiéter?
Une fausse image de nudité peut être fabriquée à partir d'une photo ordinaire et circuler sans que la personne le sache. Même si elle est fausse, elle peut causer de la honte, de l'intimidation et une vraie détresse, et les jeunes qui en créent ou qui les font circuler risquent des conséquences à l'école et devant la loi. Parmi les signes à surveiller : un ado qui évite soudainement l'école ou les conversations de groupe, qui semble anxieux au sujet de son cellulaire ou qui parle de rumeurs concernant une photo. Si cela arrive, restez calme, dites à votre enfant que ce n'est pas sa faute, conservez des captures d'écran, signalez l'image à la plateforme et communiquez avec l'école. Comme la plupart des ados reçoivent peu d'information là-dessus à l'école, la discussion revient souvent aux parents.
Comment embarquer
Les ados côtoient déjà des outils d'IA qui retouchent les visages et les photos, et plusieurs les voient comme un filtre de plus ou une blague. Certains ne réalisent donc pas qu'utiliser le visage de quelqu'un dans une fausse image de nudité fait du tort et n'a rien d'un simple jeu. Pour amorcer la conversation, demandez quels outils d'IA pour les photos eux et leurs amis utilisent, et si quelqu'un à l'école a parlé des fausses images. Partir de la curiosité plutôt que du soupçon les garde ouverts à la discussion.
Essayez de dire
“J'ai lu que des jeunes fabriquent avec l'IA de fausses images de nudité de vraies personnes, et je voulais que tu saches que tu peux m'en parler si ça touchait un jour toi ou un ami. Ce ne serait pas ta faute, et je t'aiderais à régler ça sans te punir. As-tu entendu parler de quelque chose comme ça à l'école ?”
Si quelque chose vous inquiète
Si votre enfant est en danger immédiat, composez le 911. Pour signaler de l'exploitation sexuelle en ligne, y compris de fausses images sexuelles d'un mineur, communiquez avec Cybertip.ca. NeedHelpNow.ca aide les ados à faire retirer des images intimes. Jeunesse, J'écoute est joignable au 1-800-668-6868 ou par texto au 686868. Si votre enfant parle de se faire du mal, composez ou textez le 988.
Sources
Tiré de Mistlift, mistlift.app. Des mots clairs sur ce qui occupe les jeunes en ligne.