Interdiction des clavardages de Character.AI pour les moins de 18 ans
Après des poursuites intentées par des familles, Character.AI affirme qu'elle mettra fin aux conversations libres avec ses personnages IA pour les moins de 18 ans, signe que les robots compagnons peuvent présenter un risque émotionnel pour certains ados, même si la plupart des usages sont sans danger.
Dois-je m’inquiéter?
Ce n'est pas le fait de clavarder avec une IA qui inquiète, mais les conversations libres où un robot joue l'ami ou le partenaire et relance sans cesse l'échange. Selon des experts, cela peut pousser un ado à s'appuyer émotionnellement sur le robot, à s'éloigner de son entourage ou à confier ses difficultés à quelque chose qui ne peut pas vraiment l'aider. Signes à surveiller : de longues séances tard le soir, le secret autour de l'appli, de la détresse quand elle n'est pas accessible, ou un personnage décrit comme un vrai ami ou un vrai amoureux. Restez curieux plutôt que punitif, demandez ce que le robot lui apporte que les autres relations ne lui apportent pas, et vérifiez quelles applis d'IA se trouvent sur ses appareils et quels paramètres d'âge elles ont. D'autres applis offrent des robots semblables, alors ce changement sur une seule plateforme ne règle pas la question.
Comment embarquer
Character.AI permet de clavarder avec des personnages d'IA, qu'il s'agisse de personnalités inventées ou de versions de héros de fiction. Les ados aiment qu'il soit toujours disponible, qu'il ne juge jamais et qu'il leur permette de jouer avec des histoires et des idées. Pour entrer dans la conversation, demandez-lui de vous montrer un personnage qu'il aime et ce qu'il en fait. Écrire ou inventer des histoires, c'est très différent de se confier surtout à un robot : écoutez de quel côté il se situe.
Essayez de dire
“J'ai lu que certaines applis de clavardage avec l'IA changent leurs règles pour les ados, et ça m'a rendu curieux. Est-ce que tu en as déjà essayé une? Je ne suis pas fâché, j'aimerais juste savoir ce que tu aimes là-dedans. Et si jamais quelque chose te pèse, je suis là pour en parler avec toi.”
Si quelque chose vous inquiète
Si votre ado semble très abattu, se replie sur lui-même ou parle de se faire du mal, prenez-le au sérieux et parlez-lui franchement. Appelez ou écrivez au 988 en tout temps, ou composez le 911 s'il est en danger immédiat. Jeunesse, J'écoute est aussi joignable au 1-800-668-6868 ou par texto au 686868.
Sources
Tiré de Mistlift, mistlift.app. Des mots clairs sur ce qui occupe les jeunes en ligne.