Los algoritmos no necesitan conocer el nombre de un adolescente para saber quién es. Les basta con observar qué mira, cuánto tiempo se detiene ante un vídeo, qué escribe, qué comparte y qué contenidos le hacen volver.
Con esa información pueden perfilarlo, anticipar sus intereses y mantenerlo conectado. Y ahí, advierte la psiquiatra infantojuvenil Abigail Huertas Patón, está una de las claves del problema: «Esto es información, es dinero, es negocio».
La especialista del Instituto de Psiquiatría y Salud Mental del Hospital Universitario Gregorio Marañón de Madrid puso el foco sobre el modelo de negocio de las plataformas digitales durante su intervención en las XX Jornadas de Documentos Jurídicos y Psiquiátricos, celebradas en Sevilla bajo el título «Redes sociales e inteligencia artificial: retos jurídicos y psiquiátricos del siglo XXI».
Su ponencia, «¿Libertad digital o desprotección?», abordó los efectos del entorno digital sobre el neurodesarrollo y la salud mental de niños y adolescentes.
«El interés de las plataformas claramente es económico, no es el bienestar de la infancia ni proteger a los niños»
Huertas rechazó un planteamiento simplista. Ni todo internet perjudica a los menores ni puede afirmarse que las redes sociales sean inocuas.
La cuestión, explicó, es determinar qué exposición se produce, en qué momento, sobre qué persona y mediante qué mecanismo puede causar daño. La evidencia disponible sobre la relación general entre redes sociales y estado de ánimo todavía es heterogénea y, en algunos ámbitos, débil.
Pero existen riesgos mucho mejor identificados: alteraciones del sueño, ciberacoso, comparación social, filtros e idealización de la imagen corporal, autolesiones o patrones problemáticos de utilización de las pantallas.
Un cerebro especialmente vulnerable a la recompensa
El algoritmo aprende del menor
El elemento diferencial, según Huertas, está en cómo funcionan las plataformas.
Cada interacción deja información. El sistema puede detectar los contenidos que atraen al usuario, cuánto tiempo permanece ante ellos o incluso extraer información de su manera de expresarse.
«Los niños los tienen perfilados», advirtió.
Eso no significa necesariamente identificar a un menor con nombres y apellidos. Se trata de construir un perfil suficientemente preciso para anticipar qué contenido puede interesarle y ofrecerle otro parecido.
«Aunque no sepan qué persona es concretamente», explicó, esa información permite seguir perfilando al usuario. Y ese conocimiento tiene valor económico.
«Esto es información, es dinero, es negocio».
Huertas fue especialmente contundente al describir el incentivo empresarial que existe detrás de este mecanismo: «El interés de las plataformas claramente es económico, no es el bienestar de la infancia ni proteger a los niños, ni muchísimo menos».
Un «caramelo» para el cerebro adolescente
El problema adquiere una dimensión especial porque el destinatario puede ser un cerebro todavía en desarrollo.
Durante la adolescencia, explicó la psiquiatra, tienen un enorme peso los sistemas relacionados con la recompensa, las emociones, la construcción de la identidad y la relación con los iguales, mientras continúan madurando las áreas vinculadas al control ejecutivo y la toma de decisiones.
Y sobre ese terreno actúan mecanismos diseñados para mantener al usuario conectado: scroll infinito, reproducción automática, notificaciones, comentarios y “likes”.
«Esto es como un caramelo para el cerebro adolescente», afirmó.
El usuario ve un contenido y automáticamente aparece el siguiente. Recibe una notificación, comprueba una reacción a una publicación y vuelve a entrar. No existe necesariamente un momento natural en el que la aplicación invite a detenerse.
Todo favorece la continuidad.
El problema no siempre es el contenido
Para Huertas, una de las cuestiones más importantes es comprender que el riesgo no depende exclusivamente de que exista un contenido ilícito o manifiestamente dañino.
Una publicación puede ser neutral considerada aisladamente. El problema aparece cuando el sistema detecta el interés del usuario y comienza a proporcionarle de forma continuada contenidos del mismo tipo.
Esa reiteración puede acabar influyendo sobre su estado de ánimo y su conducta.
«Estas aplicaciones están diseñadas para secuestrar la atención»
«No es tanto el contenido en sí, sino cómo se perfila a la persona y cómo se le muestra, cuánto tiempo, cómo se analiza», explicó.
Por eso defendió una «protección por diseño»: que la seguridad del menor esté incorporada desde la concepción misma de las plataformas y no dependa exclusivamente de su capacidad para controlar el uso.
«Estas aplicaciones están diseñadas para secuestrar la atención», advirtió.
Del insomnio al ciberacoso
Las consecuencias aparecen después.
En consulta, explicó Huertas, llegan adolescentes con ansiedad, depresión, insomnio y diferentes situaciones de vulnerabilidad.
La psiquiatra evitó establecer relaciones causales que la evidencia científica todavía no permite demostrar, pero señaló determinados mecanismos de riesgo bien conocidos.
Uno de ellos es el sueño. El miedo a perderse lo que ocurre mientras los demás siguen conectados puede llevar a prolongar durante horas el uso nocturno del teléfono.
Otro es el ciberacoso.
A diferencia del acoso tradicional, la persecución digital no termina cuando el menor abandona el colegio.
«Está en tu casa, está en tu cama, está por la mañana, a todas horas», describió Huertas.
También alertó sobre la exposición continuada a contenidos relacionados con autolesiones o trastornos de la conducta alimentaria.
Un algoritmo que detecta interés por un determinado tipo de publicaciones puede seguir mostrando contenidos semejantes, precisamente porque son aquellos que consiguen retener al usuario.
La IA entra en la ecuación
A los algoritmos de recomendación se suma ahora la inteligencia artificial conversacional.
Huertas fue cauta: todavía no puede hablarse científicamente de una «psicosis por IA». Pero sí advirtió de que determinados sistemas pueden retroalimentar ideas delirantes en personas vulnerables que ya están comenzando a enfermar.
El riesgo aumenta cuando la inteligencia artificial adopta una apariencia empática, utiliza el lenguaje del menor y se presenta prácticamente como un amigo.
La psiquiatra planteó entonces una cuestión esencial: ¿cómo puede un niño valorar libremente los riesgos de una plataforma si la propia tecnología está persuadiéndole de que aquello es lo que necesita?
«Les estamos pidiendo a las familias mucho»
Y aquí aparece, para Huertas, otra gran asimetría.
La responsabilidad de proteger al menor ha recaído durante años sobre las familias: decidir cuándo darle un móvil, cuánto puede utilizarlo, qué aplicaciones descargar o si puede llevárselo al dormitorio.
Pero enfrente existe una industria con una capacidad tecnológica incomparable.
«¿Yo como madre sé lo mismo que quien ha desarrollado un videojuego o que un CEO de una multinacional tecnológica?», planteó.
Su respuesta pasa por una responsabilidad compartida entre familias, profesionales, poderes públicos e industria. Pero no todos poseen la misma capacidad para transformar el entorno digital.
«Les estamos pidiendo a las familias mucho», afirmó.
Porque, al final, la pregunta no es únicamente cuánto tiempo pasa un adolescente delante de una pantalla.
Es quién ha diseñado lo que ocurre al otro lado de ella, qué sabe sobre ese menor y qué obtiene manteniéndolo conectado.
