Cómo influyen los algoritmos en la percepción del mundo de los niños

Un algoritmo es una lista de instrucciones utilizadas para resolver un problema. Los algoritmos existen desde hace miles de años, pero últimamente los utilizamos en los ordenadores para proporcionarnos la información deseada y mucho más desde los teléfonos inteligentes, los ordenadores portátiles, las aplicaciones y los sitios web. Sin embargo, esto también tiene sus inconvenientes, especialmente en la forma en que los algoritmos moldean las opiniones y, lo que es más importante, en cómo influyen en la visión del mundo de los niños y los jóvenes. Podemos fijarnos en TikTok, la red social más utilizada por los niños, para ilustrar el poder de los algoritmos.

Las estructuras de los algoritmos son muy similares a nuestras rutinas diarias: representan conjuntos de principios y soluciones para facilitar las cosas. Al igual que nos acordamos de forma natural de cepillarnos los dientes correctamente, los dispositivos digitales saben cómo funcionar gracias a códigos formados por algoritmos.

Inteligencia artificial y aprendizaje automático

Aunque los términos inteligencia artificial y aprendizaje automático se utilizan a menudo, pero de forma inexacta, como sinónimos. La diferencia clave es que la IA es capaz de aprender y actuar únicamente a partir de entradas externas sin interacción humana, y realizar tareas de resolución de problemas que normalmente requieren inteligencia humana. Esto es distinto del aprendizaje automático, que utiliza algoritmos de procesamiento de datos para realizar ciertas tareas de forma independiente. Aunque la verdadera inteligencia artificial, tal y como la conocemos por las películas de ciencia ficción, sigue siendo un futuro lejano, el aprendizaje automático y los algoritmos se están abriendo camino en cada vez más ámbitos de nuestra vida cotidiana.

Siempre que contamos algo, utilizamos automáticamente "algoritmos" que se parecen a un lenguaje de programación. Pero, ¿cuál es la diferencia entre los seres humanos y los ordenadores? Los dispositivos inteligentes pueden hacer las cuentas más rápido y con mayor precisión. Pero a veces, funcionan de forma demasiado rígida. Veamos cómo afecta esto a las actitudes y opiniones de los niños.

Recomendaciones adaptadas al usuario

Los niños de hoy suelen ser los primeros en adoptar las nuevas tecnologías y las apps que utilizan la inteligencia artificial. Según los estudios Global Kids Online de 2019, uno de cada tres usuarios de Internet es menor de 18 años. Cada vez que los niños buscan información para el colegio, ven contenidos de entretenimiento, escuchan música o se comunican a través de las redes sociales, su actividad está muy influenciada por los algoritmos.

Toma cualquier servicio de streaming o red social y observa cómo los niños lo utilizan para ver y consumir contenidos al azar. Aquí, el poder reside en los sofisticados sistemas de recomendación que enganchan a los jóvenes espectadores. Cuanto más tiempo mantengan los algoritmos a su audiencia, mejor para la aplicación o el sitio web: cuantos más espectadores, más posibilidades de atraer a posibles anunciantes o socios comerciales. Y funciona a la perfección. Por ejemplo, el sistema de recomendaciones de TikTok se llama "Para ti" y determina los intereses de los usuarios en función de las cuentas que siguen, los contenidos que ven y todos los vídeos que comparten o crean. Así, es realmente difícil que los niños dejen de verlos, ya que cada vez hay más contenidos atractivos.

Los algoritmos son uno de los muchos factores de riesgo en lo que respecta al uso excesivo de Internet por parte de los niños, debido a la combinación de subidas de dopamina y a la reducción de la capacidad de atención. Un estudio realizado en 2016 mostró que la capacidad de atención humana media se redujo significativamente a 8 segundos desde los 12 segundos del año 2000. El consumo constante de contenidos e información es una de las razones. También demuestra por qué los vídeos de TikTok o los breves Reels de Instagram son tan populares y por qué los niños pasan cada vez más tiempo en la plataforma.

Los flujos homogéneos de contenidos adaptados a los usuarios únicos de TikTok, YouTube o incluso Spotify pueden restringir la experiencia y limitar radicalmente su visión del mundo. Tomemos como ejemplo las burbujas de filtro, también llamadas cámaras de eco, creadas por la configuración de las redes sociales, por las que los usuarios solo ven el contenido que se ajusta a sus preferencias. Como resultado, los niños solo encuentran creencias y contenidos que coinciden con sus propias opiniones y gustos, por lo que puede resultarles más difícil aceptar otras opiniones y puntos de vista diferentes, lo que puede dar lugar a una mayor tendencia a la radicalización.

Atrapados en las cámaras de eco

Las cámaras de eco y las burbujas de filtrado son "metáforas potentes que encapsulan el temor generalizado del público a que el uso de los medios sociales pueda limitar la información que los usuarios encuentran o consumen online, no promoviendo así una experiencia compartida de información fluida". En concreto, lo que preocupa es que los algoritmos de las redes sociales se combinen con la tendencia a interactuar con otras personas de ideas afines para crear un entorno que exponga predominantemente a los usuarios a opiniones afines y reforzadas", afirman los autores de un artículo publicado por la Escuela de Comercio McIntire de la Universidad de Virginia. Las creencias de los usuarios se amplifican con la repetición a modo de eco, mientras que las opiniones diferentes y las ideas alternativas se debilitan o eliminan.

Eliminando las decisiones de nuestras manos

Los algoritmos no solo definen la selección de contenidos de los niños en las aplicaciones, sino que también son clave para los vendedores que se dirigen a los clientes jóvenes. Las tiendas online se esfuerzan por satisfacer las necesidades únicas de sus usuarios. El enfoque que adoptan y el énfasis que ofrecen a través de la experiencia del sitio web del niño están moldeados por los algoritmos. Todos los anuncios que aparecen cuando los usuarios navegan por Internet se basan en sus preferencias personales y en su comportamiento anterior en la red. En consecuencia, los medios digitales crean una demanda de productos innecesarios y estimulan el apetito de los clientes por gastar más dinero. Por ejemplo, los anuncios manipuladores dirigidos a los niños aparecen en las aplicaciones de juegos que persuaden a los más pequeños para que gasten dinero en características adicionales y actualizaciones para mejorar sus personajes.

Consciente de los riesgos, así como de los beneficios que introducen los entornos en Internet, UNICEF ha creado una nueva orientación política sobre la inteligencia artificial para los niños. Proteger los datos de los niños, garantizar la seguridad, proporcionar transparencia y preparar a los niños para los futuros desarrollos de la inteligencia artificial son solo algunos de los principios que se recomienda seguir. Si bien los algoritmos pueden ser notablemente útiles y provechosos, también son debidamente criticados por tratar de quitar las decisiones de las manos del usuario. Lo importante es que nunca es demasiado tarde para recuperar el control, incluso para los niños.