Sextorsion et IA : une nouvelle vague de cyberharcèlement ?

À l'ère du numérique, les enfants grandissent non seulement au milieu de la technologie, mais aussi dans le domaine toujours plus vaste de l'intelligence artificielle (IA).

Si l'IA offre commodité et efficacité, son omniprésence dans la vie des enfants a également introduit une nouvelle série de préoccupations, notamment l'émergence de systèmes d'extorsion numérique ciblant les plus jeunes membres de notre société. Des réseaux sociaux aux communautés de jeux en ligne, les outils d'IA font désormais partie intégrante de la vie des enfants, ce qui ouvre la voie à de nouvelles façons de les utiliser à mauvais escient et leur permet de détourner cet outil à des fins malveillantes.

Selon une récente mise en garde du FBI, la tendance à la sextorsion assistée par l'IA se développe. Les nouveaux outils et technologies, tels que les deepfakes et le clonage de voix, offrent aux criminels et aux harceleurs une nouvelle opportunité de trouver des moyens d'extorquer et de blesser les autres.

Les cybercriminels ont compris qu'il était possible d'utiliser des modèles de deepfake pour créer de nouvelles vidéos, les faire ressembler à quelqu'un, puis faire pression sur cette personne pour qu'elle fasse quelque chose qu'elle n'aurait pas fait autrement. Ces modèles peuvent être formés à partir de très peu de matériel, ce qui rend leur utilisation abusive très facile. Ces nouvelles vidéos et photos ne représentent pas la personne qu'elles prétendent être, mais elles ont été détournées grâce à l’intelligence artificielle pour avoir l’air réel et suffisent souvent à embarrasser la victime et à la rendre plus vulnérable. Le criminel dispose ainsi d'une marge de manœuvre pour utiliser la vidéo truquée afin d'exiger de l'argent ou des informations.

Découvrez comment l’IA peut aussi stimuler la créativité positive de votre enfant !

Des enfants qui créent du deepfake porno ?

Oui, vous avez bien lu. Le visage de votre précieux enfant peut être volé et utilisé par des criminels pour créer toutes sortes de contenus explicites. Et ce n'est pas tout : les enfants le font même entre eux.

Il est assez facile de comprendre comment créer des « deepfakes », et pour les enfants qui s'y connaissent en technologie, c'est un jeu... d’enfant. C'est ainsi qu'est née une nouvelle vague de cyberintimidation. Les enfants (surtout les plus âgés) ont compris que les contenus explicites peuvent être utilisés contre leurs camarades. Ils ont également compris les tenants et les aboutissants des nouvelles technologies et s'en servent maintenant pour se causer du tort.

Impact émotionnel

Certains enfants y ont recours pour s'amuser, d'autres par curiosité, d'autres encore cherchent à blesser délibérément leurs camarades de classe. Mais une chose est sûre : être victime d'un acte malveillant par sextorsion est émotionnellement épuisant et il est très difficile de s'en remettre.

Cette nouvelle forme de cyberharcèlement suscite de nouvelles inquiétudes chez les parents, les éducateurs et les professionnels des technologies de l'information. Les conséquences pour l'enfant sont bien plus graves qu'il n'y paraît. Du traumatisme qui peut durer des années à la perte de confiance, en passant par la découverte par les futurs employeurs et les futurs amoureux, la liste des conséquences à long terme est longue.

Des limites plus strictes sont-elles la solution ?

Certains affirment que la seule chose qui puisse aider à résoudre un problème de diffusion comme celui qui nous occupe réside dans une réglementation plus stricte. Certains réclament un âge plus élevé pour que les enfants puissent ouvrir des comptes sur les réseaux sociaux, et d'autres des règles plus strictes en matière de modération des contenus.

Que peuvent faire les parents ?

• 1. Comprenez le monde dans lequel vivent vos enfants - vous n'aviez pas de réseaux sociaux lorsque vous aviez leur âge, mais vos enfants grandissent dans un monde complètement nouveau. Déchiffrer le monde qui les entoure est la clé de tout progrès.

• 2. Expliquez, encore et encore - il est prouvé depuis longtemps que les règles strictes en matière d'utilisation des technologies ne fonctionnent pas. Les enfants trouvent toujours un moyen de les contourner. Il est donc préférable de leur parler et de leur expliquer les risques et les inconvénients des réseaux sociaux, d'une nétiquette inappropriée et du fait de blesser les autres en ligne.

• 3. Soyez leur "safe place”, leur épaule de soutien - l'auteur et la victime ont tous deux besoin de quelqu'un à qui parler. Le fait d'être une personne sûre et sans jugement pour vos enfants peut prévenir une grande partie des dommages qu'ils peuvent subir en ligne et hors ligne.

• 4. Montrez-leur leur valeur : une bonne estime de soi commence à la maison. S'ils l'ont, ils n'auront pas besoin de chercher de validation ailleurs..

• 5. Vos enfants ne sont jamais trop jeunes pour commencer à se familiariser avec la technologie - plus vous leur en apprendrez tôt, mieux ils seront préparés en cas de problème. Vous devez être l'exemple d'une utilisation correcte du web et leur guide.

La montée du cyberharcèlement, facilité par les outils d'IA, pose un problème majeur à notre époque. À mesure que la technologie progresse, les parents et les éducateurs doivent rester vigilants et informés. Il n'a jamais été facile de s'attaquer à un problème comme la sextorsion et la cyberintimidation, mais pour passer ce cap, nous devons parler à nos enfants et nous assurer qu'ils comprennent les bons et les mauvais côtés d'internet.

C'est une chose de concevoir une IA éthique et de veiller à son utilisation correcte, mais c'en est une autre de créer une culture de l'empathie, du respect et d'un comportement responsable en ligne et hors ligne. Soyez un exemple pour vos enfants et créez un espace plus sûr pour eux en ligne.