¿Puede causar la Inteligencia Artificial una nueva ola de ciberacoso?

En la era digital actual, los niños no solo crecen rodeados de tecnología, sino que también en un ámbito cada vez más amplio de Inteligencia Artificial (IA). Mientras que la IA ofrece comodidad y eficacia, su presencia generalizada en la vida de los niños ha introducido una nueva serie de preocupaciones, especialmente acerca de la aparición de sistemas de extorsión digital dirigidos a los miembros más jóvenes de nuestra sociedad. Desde las plataformas de las redes sociales hasta las comunidades de videojuegos online, las herramientas de Inteligencia Artificial se han convertido en una gran parte de la vida de nuestros hijos, estableciendo el escenario perfecto para la creación de nuevas formas de mal uso de estas y dándoles a los niños una nueva herramienta que utilizar unos contra otros.

Según una alerta reciente del FBI, hay una tendencia creciente de sextorsión impulsada por la Inteligencia Artificial. Las nuevas herramientas y tecnologías, como los deepfakes (suplantaciones de identidad) o las clonaciones de voz, dan una nueva oportunidad a los criminales y acosadores para encontrar formas de extorsión y perjudicar a los demás.

Sextorsión es cuando alguien presiona a otros para que hagan cosas sexuales o compartan imágenes o vídeos explícitos amenazando con exponer información embarazosa sobre ellos.

Los delincuentes cibernéticos se han dado cuenta de que puedes usar modelos deepfake para crear nuevos vídeos, hacerlos parecer como alguien, para posteriormente presionarlos para que hagan algo que ellos, de otra manera, no habrían hecho. Estos modelos se pueden preparar con muy poco material, provocando que se utilicen de manera nociva fácilmente. Estos nuevos vídeos y fotos no corresponden a la persona que dicen ser; sin embargo, son suficientemente embarazosos para avergonzar a la víctima y así hacerla más vulnerable. Esto crea un margen de maniobra para que el criminal utilice el vídeo falso para pedir dinero o información.

¿Niños creando porno deepfake?

Sí, has leído bien. La preciosa cara de tu hijo puede ser robada y utilizada indebidamente por criminales para crear todo tipo de contenido explicito. Y no solo eso, los niños se hacen esto unos a otros.

Es bastante fácil averiguar cómo crear deepfakes, y para los niños expertos en tecnología, no es nada difícil. Por este motivo, nació una nueva ola de acoso cibernético. Ellos (sobre todo los más mayores) han descubierto que el contenido explícito puede ser utilizado en contra de sus amigos. También han comprendido los entresijos de la nueva tecnología y ahora la están usando para hacerse daño mutuamente.

Impacto emocional

Algunos niños pueden que lo hagan por diversión, otros por curiosidad, y otros puede que estén buscando la forma de herir a sus compañeros de clase. Pero una cosa es segura, ser víctima de un fraude de sextorsión es agotador emocionalmente y muy difícil de superar.

Esta nueva forma de acoso cibernético genera un nuevo nivel de preocupación en los padres, educadores y profesionales informáticos. Los resultados para el niño son mucho más serios de los que ellos puedan llegar a pensar. Desde el trauma que puede durar años y la pérdida de confianza, a que los empleadores futuros y los intereses del amor lo descubran, la lista de consecuencias a largo plazo continúa.

¿Es la solución poner límites más estrictos?

Algunos dicen que lo único que puede ayudar con este problema de difusión es estableciendo normas y reglamentos más estrictos. Otros reclaman un requisito de mayor edad para los niños que puedan abrir cuentas de redes sociales, y otros piden normas más estrictas cuando se trata a la moderación del contenido.

¿Qué pueden hacer los padres?

1. Entender el mundo en el que viven los niños, tú no tuviste redes sociales cuando tenías su edad, pero tus hijos están creciendo en una era completamente nueva. Entender el mundo que les rodea es clave para cualquier progreso.

2. Explica, explica y explica, se ha demostrado durante mucho tiempo que las normas estrictas en el uso de la tecnología no funcionan. Los niños siempre encuentran la forma. Por esto mismo es mejor hablar con ellos y explicarles los riesgos y desventajas de las redes sociales, del uso de una netiqueta inadecuada y de lastimar a otros online.

3. Conviértete en su lugar seguro, tanto el agresor como la víctima necesitan alguien con quien hablar. Ser una persona segura y sin prejuicios para tus hijos puede prevenir mucho el daño que les puede ocurrir tanto en la red como en la vida real.

4. Muéstrales su valía, la autoestima positiva empieza en casa. Si ellos tienen esto, no necesitarán encontrar validación en cualquier otro lugar.

5. Tus hijos no son nunca suficientemente jóvenes para empezar a aprender sobre tecnología, cuanto más les expliques, mejor preparados estarán para cuando algo malo les ocurra. Debes ser el ejemplo del uso adecuado de Internet y su guía.

El aumento del acoso cibernético facilitado por las herramientas de Inteligencia Artificial presenta un problema hoy en día. Al mismo tiempo que la tecnología progresa, los padres y educadores necesitan estar alerta e informados. Abordar un problema como la sextorsión y el ciberbullying nunca ha sido fácil, pero para triunfar se necesita hablar con nuestros hijos y estar seguros de que entienden lo bueno y lo malo de Internet. Una cosa es crear una Inteligencia Artificial ética e imponer su propio uso, pero una tarea mayor es crear la cultura de la empatía, el respecto y el comportamiento responsable en dentro y fuera de la red. Sé un ejemplo de eso para tus hijos y crea un espacio más seguro para ellos online.