Crecer entre bulos e inteligencia artificial
Sus ventanas son las redes sociales; el paisaje, la desinformación
Sus ventanas son las redes sociales; el paisaje, la desinformación
2 de junio de 2025
por
Patricia Ruiz Guevara
Ilustrador
Jeff Benefit
“Pensábamos que estaba a salvo, en su habitación. Pero estaba allí, solo… con su ordenador”. Así se lamentan los padres del protagonista de Adolescencia (2025), la miniserie de Netflix rodada en plano secuencia que ha roto los esquemas de quienes la hemos visto y nos ha hecho reflexionar, encogidos, sobre lo que está pasando con los actuales adolescentes. Sobre todo, nos ha hecho pensar en cuánto peso tiene sobre ellos lo que encuentran al otro lado de las pantallas, esas a las que cada vez acceden antes y de manera más fácil.
Hace años, se asociaba la protección de niños y adolescentes a tenerlos controlados en un espacio físico; ahora, existe un espacio digital donde hay otros tipos de riesgos, esos a los que nos arrastran en buena medida los algoritmos de las redes sociales y el contenido que nos recomiendan. Ahí, proliferan contenidos potencialmente peligrosos como vídeos violentos, ideas machistas y racistas, imágenes pornográficas… Pero también bulos y desinformación, salpicada a su vez de contenido generado o manipulado con inteligencia artificial.
A todo esto, se exponen en un momento de sus vidas en el que todavía no han desarrollado el pensamiento crítico necesario para decidir y discernir. Porque ser nativo digital no es sinónimo de ser inmune a la desinformación que circula en internet, ni implica tener un ojo clínico para la inteligencia artificial.
Solo se necesitan 35 minutos seguidos de uso (unos 260 vídeos) para crear un hábito abusivo de consumo de TikTok. Algoritmos de recomendación hiperpersonalizados, scroll infinito y filtros burbuja hacen que los menores que usan redes sociales puedan acabar en una espiral infinita de vídeos divertidos y didácticos… o todo lo contrario. Viendo una y otra vez contenidos que promueven la alimentación desordenada y la pérdida de peso peligrosa, que lanzan mensajes machistas y misóginos, canciones contra personas inmigrantes, o mensajes de odio contra colectivos LGTBI.
El problema es múltiple, porque las redes sociales no son solo una forma de ocio y comunicación para los menores de edad, sino que también son el espacio que hace las veces de buscador de Google para hallar información. Según sus propios datos, el 40 % de la generación Z prefiere plataformas como TikTok e Instagram a los buscadores tradicionales.
El último Eurobarómetro del Parlamento Europeo1 lo confirma: desconectados (y desconfiados) de los medios de comunicación, casi el 50 % de los jóvenes españoles de entre 16 y 30 años dice informarse a través de redes sociales, sobre todo Instagram. Si hablamos en concreto de noticias políticas y sociales, entre ellas los jóvenes españoles eligen primero la plataforma de Meta (51 %), después TikTok (43 %) seguidos por X —antes Twitter (36 %)— y YouTube (32 %).
Por supuesto, existen fuentes fiables y noticias en estas redes sociales, donde están presentes medios digitales, fact-checkers, expertos y divulgadores. Pero también hay muchísima desinformación. Por ejemplo, cuentas pseudocientíficas de personas no profesionales que publican sobre fármacos y supuestos consejos médicos, y que pueden crear un clima de desinformación médica que acabe repercutiendo en la salud de los usuarios. También discursos antivacunas y desinformación a raudales sobre salud mental, como quien te anima a usar un chatbot como psicólogo, con los riesgos que eso implica, o vídeos que se agrupan bajo #mentalhealth en TikTok: el 33 % de ellos comparten información engañosa y, precisamente estos, tienen más impacto y son más virales2.
Hay campañas de desinformación que aprovechan escenarios tan trágicos como la DANA y que acumulan millones y millones de visualizaciones, con un volumen de contenidos nunca visto. Bulos, desinformaciones, narrativas negacionistas de la crisis climática, teorías terraplanistas y de cualquier tipo de conspiración… Pero también contenidos que culpabilizan a mujeres o personas migrantes de sucesos con los que en realidad no han tenido nada que ver, o mentiras sobre las ayudas que reciben, que buscan contribuir a los discursos de odio y a la propaganda extremista.
Toda esta desinformación muchas veces se camufla en forma de memes o humor, o viene de influencers en en quienes los jóvenes confían. Hasta hay bulos que pueden parecer inofensivos, mentiras sin importancia, pero que acaban formando parte de la misma burbuja de contenidos falsos. Todo vale, y el algoritmo de las redes sociales puede llevarles a acabar en un bucle de cuentas que se dediquen a desinformar, y que en muy raros casos son bloqueadas o suspendidas por las plataformas.
En mitad de todo esto, irrumpe la inteligencia artificial, la tecnología de la que más se ha hablado en los últimos años, y a la que los menores tampoco son ajenos. Solo hay que preguntar en una clase de educación secundaria si usan ChatGPT; la mayoría de alumnos y alumnas levantarán la mano. Las propias redes sociales les animan a hacerlo: hay contenidos virales que animan a usarlo para absolutamente todo, pese a que comete errores y puede incurrir en desinformación.
Más grave es cuando la IA se usa en las aulas para ciberacosar a compañeros y, especialmente, compañeras. Se crean perfiles falsos para difamar o suplantar la identidad de las víctimas, y se utilizan aplicaciones y herramientas de inteligencia artificial para crear contenido sexual, que luego también se difunde en redes sociales y aplicaciones de mensajería. En España se han dado varios casos con consecuencias psicológicas enormes para las menores afectadas.
Los niños y niñas también se encuentran contenidos creados con IA en redes sociales que se usan para desinformar y crear confusión, polarizar en escenarios políticos y dinamitar aún más el caos en situaciones críticas como catástrofes naturales.
En 2024 escuchamos audios sintéticos y voces clonadas, y vimos decenas de imágenes y vídeos generados con IA que se compartieron como reales. El papa Francisco de fiesta, la deportista Imane Khelif como si fuera un hombre, la cantante Katy Perry en la Met Gala, o edificios emblemáticos como la Torre Eiffel y el Museo del Louvre en llamas. Son contenidos que están en internet, al otro lado de la pantalla por la que asoman los jóvenes, y que hacen que resulte cada vez más difícil identificar qué es real y qué no.
Los jóvenes dicen ser conscientes de que ese es el ecosistema en el que consumen información. La misma encuesta sobre juventud del Parlamento Europeo concluye que el 76 % de los jóvenes europeos cree haber estado expuesto a desinformación. En el caso de España, si se les pregunta por los últimos siete días, un 14 % dice haber visto desinformación muy a menudo y, un 37 %, a menudo. Tan solo un 3 % cree no haber estado expuesto a contenidos falsos.
Los jóvenes también saben que se enfrentan a mensajes de odio en internet con una gran carga ideológica y política. De hecho, uno de los peligros de los contenidos que se comparten en redes sociales es la normalización y legitimación de esos mensajes, y los jóvenes entre 14 y 29 años reconocen que no tienen la preparación psicológica para hacerles frente ni asimilarlos3.
¿Cómo reaccionan los menores a todo esto? Según las encuestas, afirman que no quieren contribuir a ese ecosistema desinformativo y que no tienen intención de difundir contenidos falsos. La mitad de los jóvenes españoles dice que, tras recibir una información falsa, advierten a quien se la envía. Y siete de cada 10 aseguran que rectifican y borran bulos de sus redes sociales si los han compartido4. Un 67 % de los jóvenes españoles se considera capaz de identificar la desinformación, aunque solo el 15 % está absolutamente seguro de ello5. Otros estudios dicen que los jóvenes tienden a “ignorar” el contenido falso.6
Esto suena idílico, pero no es tan fácil reconocer la desinformación, y los estudios realizados en entornos controlados no retratan una imagen completa de las prácticas de los jóvenes en la vida real (y digital). Además, el desarrollo cognitivo y la capacidad de discernir evoluciona, y a edades tempranas aún no tenemos conformados nuestra identidad ni nuestro pensamiento crítico.
Hay estudios que indican que los adolescentes, cuando un contenido tiene la estructura de una noticia, no son capaces de identificar si un contenido es veraz o no. Ni siquiera logran distinguir claramente las noticias de los anuncios.
Otras investigaciones concluyen que son más propensos a creer teorías de la conspiración online que otras franjas de edad. Por ejemplo, según datos del Center for Countering Digital Hate, el 60 % de los estadounidenses de entre 13 y 17 años dan por buenos mensajes conspirativos de temas relacionados con las vacunas, el antisemitismo y la desinformación sobre la COVID-19 (entre los adolescentes que utilizan mucho las redes sociales, el porcentaje aumenta al 69 %). En comparación, el 49 % de los adultos se los creen. Todos, absolutamente todos, caemos en la desinformación. Esta no conoce de edades.
Por otro lado, el ecosistema digital también tiene potencial para polarizar políticamente y hay organizaciones que muestran su preocupación ante una creciente amenaza de radicalización juvenil. Muchos factores pueden sumar a esto, como la inseguridad de los individuos en sí mismos o la exclusión social, pero en general las personas jóvenes y vulnerables son más susceptibles de ser influenciadas. También hay estudios que analizan la relación entre desinformación y radicalización y concluyen que hay razones teóricas para creer que la primera puede facilitar la segunda. Pero aún falta investigación académica sobre cómo la desinformación que se encuentran los jóvenes en redes sociales condiciona su comportamiento y configura sus creencias.
En un momento de la serie de Netflix, los padres del protagonista de Adolescencia se preguntan si podrían haber hecho más por su educación. Plantearse este tipo de cuestiones puede ser una tortura. Pero, desde la reflexión, podemos tratar de contribuir y lanzar mensajes constructivos.
Es imperativo fomentar la educación y las competencias digitales desde edades tempranas. También entrenar el espíritu crítico y el sentido común para que los menores aprendan a contrastar información, saber qué es una noticia y qué un contenido falso, diferenciar hechos de opiniones, identificar qué es fiable y qué no, qué es real y qué no (contenidos generados con IA incluidos). Sin por ello dejar de recurrir a mecanismos de control parental que ponen ciertos límites al uso de aplicaciones móviles.
Hay que incluir acompañamiento y apoyo desde todos los ámbitos (familiar, social, político) y tomar medidas desde las instituciones, plataformas y marcos regulatorios para que las redes sociales no sean una ventana abierta de par en par al paisaje de la desinformación y a contenidos potencialmente dañinos. Debemos avanzar para que crecer entre bulos e IA, entre los miles de contenidos a los que los menores están expuestos cada segundo de su saturada vida digital, no desemboque en una espiral de más odio, teorías de la conspiración y desinformación.
2Turuba R., Zenone M., Srivastava R., et al., 2025.
4Vicente Domínguez, A. M. et al., 2021.
Maldita Ciencia. “TikTok se llena de cuentas pseudofarmacéuticas: qué supone su presencia en la plataforma y qué dicen los expertos” en Maldita.es. (2022). Disponible en: https://maldita.es/malditaciencia/20221221/TikTok-lleno-pseudofarmaceuticas-que-supone-su-presencia-expertos/
Maldita Tecnología. “Redes sociales y menores: acoso sexual y porno, consumo abusivo y contenidos que les pueden afectar (y las plataformas lo saben)” en Maldita.es. (2024). Disponible en: https://maldita.es/malditatecnologia/20241016/redes-sociales-menores-consumo-acoso-contenidos-sexuales/
Maldita Tecnología. “Cómo se ha usado en 2024 la inteligencia artificial para difundir bulos y desinformar” en Maldita.es (2024). Disponible en: https://maldita.es/malditatecnologia/20241230/uso-2024-inteligencia-artificial-bulos-desinformar/
Megías, I. (coord.), Amezaga, A., García, M. C., Kuric, S., Morado, R., Orgaz, C. (2021): Romper cadenas de odio, tejer redes de apoyo: los y las jóvenes ante los discursos de odio en la red. Madrid, Centro Reina Sofía sobre Adolescencia y Juventud, Fad.
Parlamento Europeo. Encuesta sobre Juventud 2024 del Eurobarómetro. European Commission, 2025. Disponible en: https://europa.eu/eurobarometer/surveys/detail/3392
Roberts-Ingleson, E. M. y McCann, W. S. “The Link between Misinformation and Radicalisation” en Perspectives on Terrorism (2023, Vol. 17, n.º 1, pp. 36-49). Disponible en: https://www.jstor.org/stable/27209215
Selnes, F. N. “Adolescents experiences and (re)action towards fake news on social media: perspectives from Norway” en Humanities and Social Sciences Communications (2024, 11, 1694). Disponible en: https://www.nature.com/articles/s41599-024-04237-1
Turuba R., Zenone M., Srivastava R., et al. “Do you have depression? A summative content analysis of mental health-related content on TikTok” en Digital Health (2025, 11). Disponible en: https://journals.sagepub.com/doi/10.1177/20552076241297062
Vicente Domínguez, A. M., Beriain Bañares, A., & Sierra Sánchez, J. “Young Spanish Adults and Disinformation: Do They Identify and Spread Fake News and Are They Literate in It?” en Publications (2021; 9(1):2). Disponible en: https://doi.org/10.3390/publications9010002
Matemática y periodista especializada en ciencia y tecnología. Coordinadora de Maldita Tecnología, de Fundación Maldita.es, ha publicado en medios como El País, elDiario.es, MIT Technology Review en español y Forbes España, y ha recibido reconocimientos como el Premio Boehringer Ingelheim al Periodismo en Medicina y el Premio Comunicación de la AEPD.
Ver todos los artículos
Matemática y periodista especializada en ciencia y tecnología. Coordinadora de Maldita Tecnología, de Fundación Maldita.es, ha publicado en medios como El País, elDiario.es, MIT Technology Review en español y Forbes España, y ha recibido reconocimientos como el Premio Boehringer Ingelheim al Periodismo en Medicina y el Premio Comunicación de la AEPD.
Ver todos los artículos
Comentarios