Deepfakes : jeu inoffensif ou arme de cyberharcèlement ?

À l'aide d'outils d'intelligence artificielle, ils ont ajouté son visage à une image pornographique, créant ainsi un « deepfake ». Ses camarades de classe ont continué à poster la photo, tandis que la victime devenait de plus en plus traumatisée. Malheureusement, il ne s'agit pas d'un cas isolé, car les « deepfakes » sont très faciles à créer et peuvent entraîner de graves problèmes pour leurs victimes.

Que sont les deepfakes ?

Comme vous le savez peut-être déjà, les deepfakes utilisent l'apprentissage profond (qui est un sous-ensemble de l'apprentissage automatique) pour créer des images, des vidéos ou des sons très réalistes. Cette technologie imite la voix ou la ressemblance de sa cible et la superpose à un enregistrement ou à une image déjà existante. Les applications et logiciels deepfakes sont généralement assez faciles et intuitifs à utiliser et permettent de créer des illusions convaincantes. Si cela peut être positif pour divers projets créatifs, c'est aussi un attrait majeur pour les harceleurs.

Des versions simples de deepfakes peuvent être créées à l'aide d'applications telles que FaceApp ou FaceSwap. Certains deepfakes sont devenus viraux, comme les vidéos de personnalités publiques telles qu'Elon Musk, Joe Biden ou Volodymir Zelensky. Ces vidéos ont surtout été utilisées pour diffuser des fausses nouvelles.

Comment les deepfakes sont-ils utilisés ?

Selon une étude réalisée par la société d'IA Deeptrace, 96 % des vidéos « deepfakes » qui circulent en ligne sont pornographiques et très souvent non consensuelles. Cette question n'est toujours pas résolue sur le plan juridique. Les deepfakes ont également été utilisés pour nuire à des réputations et à des carrières, mais on accorde moins d'attention à la manière dont ils affectent les enfants.

La facilité d'utilisation a fait des deepfakes un outil populaire dans l’objectif d’intimider. Par exemple, le visage d'un enfant peut être inséré dans une vidéo musicale avec une danse suggestive. Le préjudice émotionnel et l'humiliation subis par l'enfant peuvent nuire à son estime de lui et à ses relations à l'école.

Bien entendu, les deepfakes peuvent également être utilisés de manière positive. Par exemple, les enfants peuvent devenir des stars virtuelles dans leurs films ou jeux préférés ou rencontrer leur célébrité préférée. Le musée Dalí en Floride utilise la technologie des deepfakes pour créer une expérience interactive dans laquelle une représentation réaliste de l'artiste accueille les visiteurs. Ainsi, si les deepfakes peuvent favoriser la créativité et l'engagement, il est important de rester informé et d'enseigner à vos enfants les précautions à prendre pour éviter leur utilisation abusive.

Comment parler des « deepfakes » aux enfants

1. Renseignez-vous et discutez ensemble des deepfakes
Commencez par l'évidence : regardez-les ensemble. Vous serez peut-être surpris de constater que vos enfants sont très au fait des nouvelles technologies et qu'ils ont donc déjà un œil attentif pour repérer les faux contenus en ligne. Attirez leur attention sur des questions telles que la responsabilité, le consentement et l'importance de ne pas utiliser le visage ou la voix d’une personne sans sa permission. Créez un espace sûr pour eux et faites-leur savoir qu'ils peuvent toujours s'adresser à vous ou aux responsables scolaires s'ils sont victimes de harcèlement utilisant les « deepfakes ».
À lire également : Sextorsion et IA : une nouvelle vague de cyberharcèlement ?

2. Apprenez à les repérer
Bien que les deepfakes soient de plus en plus difficiles à repérer, certains signes peuvent aider. Recherchez des anomalies telles que des clignements d'yeux peu naturels, des mouvements incohérents du son et des lèvres, ou des décalages au niveau de la racine des cheveux ou du visage. Les disparités d'éclairage, telles que des ombres inégales ou des reflets différents dans les yeux, peuvent également être des indices. Prenez également en considération le contenu lui-même ; si le message semble choquant ou manipulateur sur le plan émotionnel, il pourrait s'agir d'un « deepfake ». N'oubliez pas qu'à mesure que la technologie s'améliore, ces indicateurs peuvent devenir plus difficiles à repérer.

3. Encouragez un comportement réfléchi en ligne
Parlez à vos enfants de la possibilité de partager des photos et des vidéos d'eux en ligne dans des groupes publics. Expliquez-leur que ces images peuvent facilement être utilisées à mauvais escient pour créer de fausses photos et proposez-leur d'autres alternatives afin de les encourager à adopter un comportement plus réfléchi en ligne. Suggérez-leur de ne partager des photos que dans des groupes de discussion privés avec des amis proches ou des membres de leur famille et de réduire l'exposition dans la mesure du possible. Le fait de présenter ces précautions comme des choix permettant de s'émanciper plutôt que comme des restrictions peut encourager une réaction plus positive.
À lire également : L’éclairage d'une psychologue : pourquoi les enfants partagent-ils trop en ligne ?

4. Explorez et sensibilisez-vous ensemble
Vous pouvez éduquer votre enfant, mais il peut aussi vous faire découvrir des connaissances intéressantes en retour. Il utilise peut-être des applications telles que FaceApp ou FaceSwap et vous pourriez créer ensemble des vidéos ludiques et sans danger pour vous sensibiliser l'un l'autre. Votre enfant comprendra mieux cette technologie tout en apprenant à l'utiliser de manière éthique.

5. Envisager des mesures de protection supplémentaires
Si vous recherchez des couches de protection supplémentaires, explorez les solutions de sécurité conçues pour surveiller et gérer les risques en ligne pour vous et vos enfants, notamment avec nos suites de sécurité ESET HOME Security. ESET Home a d’ailleurs été élu produit de l’année 2024 par AV-Comparatives. Ce type de solutions peut vous aider à protéger l'expérience numérique de vos enfants via des fonctionnalités diverses telles que l’anti-phishing ou la navigation sécurisée. Elles offrent également une protection de l'identité en ligne et un chiffrement des données et photos sensibles.

Que devez-vous retenir ?

La technologie Deepfake a un grand potentiel et offre de nombreuses possibilités créatives à vos enfants, mais il y a aussi des risques dont vous devez être conscient. Pour être un meilleur guide numérique pour vos enfants, restez informés des dangers, mais encouragez aussi l'utilisation créative. Expliquez-leur l'éthique des deepfakes et encouragez-les à demander de l'aide s'ils sont victimes de harcèlement.