Un algorithme est une liste d’instructions utilisées pour résoudre un problème. Les algorithmes existent depuis des milliers d’années, mais nous les utilisons ces dernières années dans les smartphones, les ordinateurs portables, les applications et les sites web pour nous fournir des informations spécifiques, entre autres choses.
Ils comportent néanmoins des inconvénients, notamment dans la manière dont ils façonnent les opinions et, surtout, dont ils influencent la vision des enfants et des jeunes adultes sur le monde. Nous pouvons prendre l’exemple de TikTok, qui est le réseau social le plus utilisé par les ados, pour illustrer la puissance des algorithmes.
Les structures algorithmiques sont très similaires à nos routines quotidiennes : elles représentent des ensembles de principes et de solutions visant à faciliter les choses. Tout comme nous nous souvenons naturellement de nous brosser les dents correctement, les appareils numériques savent fonctionner grâce à une programmation faite d’algorithmes.
Intelligence artificielle et apprentissage machine
Les termes intelligence artificielle (IA) et apprentissage machine (ML) sont souvent utilisés à tort comme synonymes. La principale différence réside dans le fait que l’IA peut apprendre et agir uniquement sur la base de données externes, sans interaction humaine, et effectuer des tâches de résolution de problèmes nécessitant normalement l’intelligence humaine. Elle se distingue du ML, qui utilise des algorithmes de traitement des données pour effectuer certaines tâches de manière autonome. Si la véritable intelligence artificielle telle que nous la connaissons au travers des films de science-fiction fait partie d’un avenir encore lointain, l’apprentissage machine et les algorithmes se frayent un chemin dans des domaines de plus en plus variés de notre vie quotidienne.
Chaque fois que nous comptons quelque chose, nous utilisons automatiquement des « algorithmes » qui ressemblent à un langage de programmation. Mais quelle est la différence entre les êtres humains et les ordinateurs ? Les appareils intelligents peuvent faire les calculs plus rapidement et avec plus de précision. Mais ils travaillent parfois de manière trop rigide. Mais revenons donc à notre sujet principal : comment cela peut avoir une incidence sur les attitudes et les opinions de nos enfants ?
Recommandations adaptées à l’utilisateur
Les enfants d’aujourd’hui sont généralement les premiers à adopter les nouvelles technologies et les applications qui utilisent l’intelligence artificielle. Selon l’étude Global Kids Online de 2019, un internaute sur trois est âgé de moins de 18 ans. Chaque fois que les enfants recherchent des informations pour un devoir ou un projet scolaire, regardent des contenus de divertissement, écoutent de la musique ou communiquent via les réseaux sociaux, leur activité est fortement influencée par les algorithmes.
Ils comportent néanmoins des inconvénients, notamment dans la manière dont ils façonnent les opinions et, surtout, dont ils influencent la vision des enfants et des jeunes adultes sur le monde. Nous pouvons prendre l’exemple de TikTok, qui est le réseau social le plus utilisé par les ados, pour illustrer la puissance des algorithmes.
Prenez n’importe quel réseau social ou service de streaming, et voyez comment les enfants l’utilisent pour regarder et consommer du contenu aléatoire. Ici, toute la puissance réside dans les systèmes de recommandation sophistiqués qui attirent les jeunes téléspectateurs. Plus les algorithmes accaparent l’attention de leur public, mieux c’est pour l’application ou le site web ; plus les utilisateurs sont nombreux, plus il y a de chances d’attirer des annonceurs ou des partenaires commerciaux potentiels.
Et cela fonctionne parfaitement. Par exemple, le système de recommandation de TikTok s’appelle « For You », et il détermine les intérêts des utilisateurs en fonction des comptes qu’ils suivent, du contenu qu’ils consultent, et de toutes les vidéos qu’ils partagent ou créent. Il est donc très difficile pour les enfants d’arrêter de regarder, car le contenu est de plus en plus attrayant.
Les algorithmes sont l’un des nombreux facteurs de risque liés à l’utilisation excessive d’Internet par les enfants et le temps passé devant les écrans, en raison de la montée de dopamine combinée à la réduction de la durée d’attention. Une étude menée en 2016 a montré que cette dernière s’est considérablement réduite, passant de 12 secondes en 2000 à 8 secondes aujourd’hui. La consommation constante de contenus et d’informations en est l’une des raisons. L’étude montre également pourquoi les vidéos TikTok ou les Reels d’Instagram sont si populaires, et pourquoi les enfants passent de plus en plus de temps sur ces plateformes.
Des flux homogènes de contenus spécifiquement adaptés aux utilisateurs de TikTok, YouTube ou même Spotify, peuvent restreindre leur expérience et limiter radicalement leur vision du monde. C’est le cas par exemple des bulles de filtres, également appelées chambres d’écho, créées par les réseaux sociaux, qui permettent aux utilisateurs de ne voir que le contenu qui correspond à leurs préférences. Par conséquent, les enfants ne sont exposés qu’à des croyances et des contenus qui correspondent à leurs propres opinions et goûts. Il est ainsi entièrement plausible qu’il leur soit plus difficile d’accepter d’autres opinions et des points de vue différents, ce qui peut entraîner une tendance accrue à la radicalisation.
Enfermés dans les chambres d’écho
Les chambres d’écho et les bulles de filtres sont « de puissantes métaphores qui résument la crainte répandue dans le public liée à l’utilisation des réseaux sociaux et leur impact sur leurs utilisateurs, les empêchant ainsi d’accéder à une expérience partagée de la libre circulation de l’information. Plus précisément, la préoccupation se cristallise sur les algorithmes des réseaux sociaux qui concentrent les interactions des utilisateurs avec des personnes partageant les mêmes idées. Cela a pour effet de créer un environnement qui expose principalement les utilisateurs à des opinions agréables et similaires, » expliquent les auteurs d’un article publié par l’école de commerce McIntire de l’université de Virginie. Les croyances des internautes sont amplifiées par la répétition, à la manière d’un écho, tandis que les opinions différentes et les idées alternatives sont affaiblies voire éliminées.
Décisions prises à notre place
Les algorithmes ne définissent pas seulement la sélection des contenus d’un enfant à travers les applications. Ils sont également essentiels aux activités de marketing qui visent une clientèle jeune. Les boutiques en ligne font de leur mieux pour répondre aux besoins spécifiques de leurs utilisateurs. L’approche qu’elles adoptent et l’importance qu’elles accordent à l’expérience de l’enfant sur le site web sont façonnées par des algorithmes.
Toutes les publicités qui s’affichent lorsque les utilisateurs naviguent sur Internet dépendent de leurs préférences personnelles et de leurs précédents comportements en ligne. Par conséquent, les médias numériques suscitent une demande pour des biens superflus et stimulent l’envie des clients dans le but qu’ils dépensent toujours plus d’argent. Des publicités à visée de manipulation et destinées aux enfants apparaissent par exemple dans des applications de jeu, pour persuader les jeunes de dépenser de l’argent, d'acheter des fonctionnalités supplémentaires et des mises à niveau afin d’améliorer leurs personnages.
Conscient des risques et des avantages que présentent les environnements en ligne, l’UNICEF a créé un nouveau guide d’orientation sur l’intelligence artificielle pour les enfants. La protection des données des enfants, la sécurité, la transparence et l'éveil des jeunes aux technologies futures notamment en matière d’intelligence artificielle, sont quelques-unes des priorités d’éducation en cybersécurité. Si les algorithmes peuvent s’avérer remarquablement utiles, ils sont également critiqués à juste titre car ils tentent de retirer tout pouvoir de décision aux utilisateurs. Néanmoins, vous avez les clés, en tant qu’adulte et/ou parent pour sensibiliser les enfants à ces défis et les accompagner dans leur découverte du monde numérique.