Desde la pasada semana Meta afronta ante los tribunales de Oakland su primer enfrentamiento con California, Colorado, Kentucky y Nueva Jersey, cuatro de los estados cuyos fiscales generales presentaron una demanda por afectar a la salud mental de niños, niñas y adolescentes.
La cantidad que se solicita, de 200.000 millones a 1,4 billones de dólares, resulta sencillamente mareante. De un lado, se somete a la consideración del tribunal el daño mental causado; de otro, la infracción de la Children’s Online Privacy Protection Act.
En realidad, lo que en este asunto se ventila posee mayor trascendencia. Se plantea una oportunidad más que significativa de poner en cuestión el modelo de disrupción que emplean muchas compañías en Internet.
La economía de la atención como modelo de negocio
Meta creció bajo la filosofía de moverse rápido y romper cosas, aunque esas “cosas” sean seres humanos. Una gran parte del modelo de negocio en la galaxia Internet se basa en monetizar información personal, en convertir a las personas en objeto de negocio y en siervas al servicio de la compañía.
En la llamada economía de la atención, el objetivo no es otro que asegurarse de que el “usuario” se mantenga permanentemente enganchado y activo.
Los demandantes afirman que Meta creó un modelo de negocio centrado en maximizar el tiempo y la atención de los jóvenes usuarios en sus plataformas de redes sociales —Instagram y Facebook—.
Se argumenta que la compañía fue consciente de desplegar un producto cuyas características eran perjudiciales y estaban psicológicamente dirigidas a promover un uso compulsivo y prolongado de la plataforma, al tiempo que aseguraba falsamente al público que sus productos eran seguros y adecuados para usuarios jóvenes.
Mientras tanto, publicaba de forma rutinaria informes engañosos sobre la baja incidencia de daños a los usuarios.
Si, como argumenta la demanda, Meta diseñó funcionalidades para fomentar un uso compulsivo, si conocía los riesgos y los minimizó públicamente, el daño eventualmente causado sería, al menos, conocido y tolerado por la compañía. Evidentemente, son afirmaciones cuya complejidad probatoria a nadie se le escapa.
Algoritmos diseñados para prolongar el uso
La demanda describe el empleo de varias técnicas basadas en el perfilado de usuario y la manipulación del tiempo en las plataformas de Meta.
En primer lugar, mediante algoritmos de recomendación personalizados se podrían rastrear las acciones de los usuarios, como los «me gusta», las páginas seguidas y el tiempo que pasan viendo cierto contenido.
Estos datos se pueden utilizar para crear un perfil de usuario individual y para determinar qué contenido se le mostrará a cada persona.
De esta manera, la red social lograría mantener a los usuarios vinculados y maximizar el tiempo que pasan en la plataforma, lo que, a su vez, aumenta las oportunidades de servir publicidad dirigida.
Por otra parte, los algoritmos de Meta presentan el contenido de forma impredecible, en lugar de cronológicamente.
Esta técnica, conocida como «secuencias de recompensa variable», podría estimular la liberación de dopamina en los usuarios jóvenes, induciéndolos a interactuar repetidamente con las plataformas, de manera similar a un jugador en una máquina tragaperras.
Además, muestra el contenido en los feeds de los usuarios, pasando de un orden cronológico a un orden basado en el compromiso.
Esto significa que el contenido que se muestra a los usuarios no es necesariamente el más reciente, sino el que es más probable que genere interacción y vinculación según el perfil del usuario creado por Meta.
En tercer lugar, mediante el método del scrolling infinito, el contenido se carga continuamente sin necesidad de pasar de una página a otra a medida que los usuarios se desplazan hacia abajo en la lectura de la pantalla.
Esta característica está diseñada para mantener a los usuarios en las plataformas el mayor tiempo posible, ya que siempre habrá un nuevo contenido que ver. De hecho, resulta muy común que el usuario cuente que “se le fue el santo al cielo” y ha estado horas enganchado.
El escenario se completa con una estrategia de edición de “contenido efímero”. Las funciones como las stories en Instagram y Facebook muestran contenido solo durante un corto período de tiempo.
Esto genera en los usuarios FOMO, el «miedo a perderse algo» (Fear of Missing Out, en inglés), que les induce a abrir las plataformas con mayor frecuencia para no perderse ningún contenido nuevo.
Meta habría diseñado las funciones de contenido efímero para inducir esta dependencia emocional.
Además, existen estrategias muy específicas para asegurar la vinculación del usuario y, de algún modo, consolidar la relación adictiva con la plataforma. Las notificaciones audiovisuales y hápticas impulsan un mayor compromiso.
Se envían cuando otros usuarios realizan acciones como seguir al usuario, comentar sus publicaciones o enviarle un mensaje. Están diseñadas para maximizar el tiempo de atención del usuario.
También presionan a los usuarios para que vuelvan a la configuración predeterminada de las notificaciones, incluso después de haber intentado desactivarlas.
Una parte de esas notificaciones se corresponde con estrategias que se presentan a los usuarios en función de su actividad, la popularidad del contenido y la conexión del espectador con el creador.
Por ejemplo, los vídeos y publicaciones muestran métricas como los «me gusta», los comentarios y las vistas, lo que induce a que el usuario los consulte de modo regular para verificar las métricas.
Dopamina, sueño y salud mental de los menores
Se apunta, por tanto, a la posible existencia de un diseño intencional orientado a estimular los mecanismos cerebrales de recompensa.
En este sentido, la generación de dopamina que producen los likes y las notificaciones seguiría los mismos circuitos que producen adicción a las drogas o al juego. En el caso de los niños, niñas y adolescentes, se producirían efectos adicionales.
La estructura visual y lumínica de la pantalla estimularía la vigilia, afectando a los ciclos del sueño tanto en cuanto a la postergación de su inicio como a la provocación de vigilias inducidas.
Si, antes de dormir o en medio de la noche, suena una alerta y se consulta la pantalla, el efecto lumínico afecta al proceso del sueño y se pasa a un estado de vigilia.
Finalmente, la generación de contenidos favorecería la dismorfia en la concepción del propio cuerpo, con resultados previsibles en términos de trastornos alimentarios.
La tesis de los fiscales es compartida en publicaciones significativas como “La generación ansiosa”, de Jonathan Haidt, o el Informe del comité de personas expertas para el desarrollo de un entorno digital seguro para la juventud y la infancia, del Ministerio de Juventud e Infancia.
Sus consecuencias se presentan como un grave problema de salud pública con potenciales efectos devastadores.
El repunte de la enfermedad mental, la depresión y el suicidio entre niños, niñas y adolescentes en sociedades en las que el uso de redes sociales es generalizado parece un hecho estadísticamente verificable.
El argumento usual de la compañía es sobradamente conocido. A su juicio, estos informes y estudios confunden correlación con causalidad, simplificando un fenómeno complejo al vincular linealmente los problemas de salud mental adolescente con el uso de redes sociales.
En síntesis, que esto suceda ahora es una pura casualidad y el problema no reside en los productos de Meta, sino en un conjunto de circunstancias sociales, familiares e individuales ajenas a sus productos.
Por otra parte, con toda seguridad, esta justificación se reforzará, sin duda, con expertos que no dudarán en afirmar los beneficios que las redes sociales aportan en la socialización temprana en una sociedad digital, con las ventajas educativas que proporcionan, con las capacidades de los nativos digitales y, me atrevo a pronosticar, que se erigirán en paladines de la garantía del derecho de niños, niñas y adolescentes a la libertad de expresión.
Por otra parte, Meta suele aplicar una dinámica de corrección reactiva de sus problemas cuando es objeto de una investigación y sanción.
Es decir, se renuncia a un diseño responsable y se reacciona desplegando medidas técnicas cuando se enfrenta a un problema de reputación pública o a una investigación administrativa o judicial.
Esta acción, materialmente obligada, se presenta ante la opinión pública como una prueba de diligencia y responsabilidad, e incluso se financian campañas publicitarias de amplio alcance promocionando no solo las medidas, sino una imagen de compañía comprometida con nuestros derechos.
Así, se han activado cuentas privadas por defecto para adolescentes, límites temporales, restricciones de contacto, controles parentales, protecciones en mensajes y ajustes reforzados de contenido para cuentas juveniles.
Sin embargo, la mayoría de ellas dependen del compromiso del usuario y son administrables.
Redes sociales, monopolio y aislamiento
Las cuestiones que la demanda plantea deben considerarse desde un punto de vista sistémico respecto de su impacto social.
En la práctica, las redes sociales cuyas prácticas se someten a discusión son productos de nicho con un grado de competencia muy bajo. Incluso en aquellos casos en los que pueda apreciarse un cierto paralelismo funcional —Facebook, Instagram, TikTok o X y Bluesky—, existe una clara especialización, ya sea por razones generacionales, ya sea por el estilo, el tono o el tipo de discurso esperable en cada una de las redes.
En la práctica, ello las convierte en instrumentos de socialización que operan de modo monopolístico y obligan al individuo a una elección del tipo “todo o nada”.
Esto conlleva, para los que conscientemente decidimos “no estar”, el estigma, cuando menos implícito, de ser seres asociales o, como mínimo, personas muy poco informadas.
En este sentido, existe una diferencia sustancial con otros fenómenos adictivos. Nada impide nuestra socialización en el mundo físico si somos abstemios o no fumamos, incluso cuando compartimos espacio vital con personas que lo hacen.
Pero ¿tenemos libertad de elección cuando nuestro grupo social conversa o se organiza a través de WhatsApp o Telegram, comparte las fotos de su último viaje en Facebook o Instagram, o conversa sobre cualquier tema de actualidad a partir de la última polémica en X?
Aquellos que escogen no socializar en este tipo de redes conversan consigo mismos. Y esta es una decisión consciente y compleja que, al menos en mi caso, obliga a rememorar a Machado.
Es posible que este tipo de decisión resida en el hecho de querer evitar el ruido y la confusión, a los tenores huecos, el cri-cri constante, esa cámara de eco que multiplica el ruido.
Pero esta decisión posee un coste en nuestros días. El poeta puede reservar su búsqueda de una voz propia y su introspección a determinados tiempos y espacios, sin que interfiera en su vida social.
Para determinadas generaciones, no estar en una red es una condena cierta al aislamiento y la misantropía. Quien renuncia a las redes sociales, lejos de ser una persona que se afirma en un contexto social desde la reflexión consciente, en su modo de estar y de ser, asume su condena al aislamiento social en Internet.
Desde esta posición de preeminencia sociológica, una compañía puede adoptar un modelo u otro de negocio desde un determinado planteamiento ético o social.
Lo que la demanda plantea es que Meta, o bien ha decidido utilizar todas aquellas estrategias que fomentan la adicción, o no las ha querido eliminar.
Que la compañía prefiere cargar con la toxicidad de su operativa y al usuario no le queda otra que aceptarla en su integridad o aislarse.
Libertad de expresión y algoritmos con los dados marcados
El segundo aspecto que implícitamente plantean los hechos deriva del funcionamiento de las redes y de la filosofía que las alienta.
Tras la discusión sobre la Communications Decency Act en el caso Reno v. ACLU, se instaló una concepción extraordinariamente favorable para las redes sociales.
De alguna manera, se pensó que lo que un espacio de blogging, hoy una red social, proporcionaba era un contenedor. El proveedor no respondía por contenidos no sometidos a su control.
Desde un enfoque propio, la legislación europea y nacional sobre sociedad de la información también previó exenciones de responsabilidad en ausencia de conocimiento objetivo.
La interpretación de este escenario de responsabilidad ha tenido dos consecuencias que pueden ser socialmente devastadoras.
La primera consiste en equiparar cualquier discurso a la libertad de expresión. Puesto que una red social es un espacio de socialización en el que manifestamos nuestra opinión mediante texto, audio o vídeo, estaría protegido por los mismos derechos que garantizan la existencia de una opinión pública libre y que son fundamento del diálogo y el funcionamiento de una sociedad democrática.
Todo es libertad de expresión, todo es cultura y, al fin, un par de botas equivale a Shakespeare. Pero en este debate la red social juega con los dados marcados.
En primer lugar, esa concepción de la libertad de expresión implica conceder todos los derechos al usuario, pero ninguna de las responsabilidades.
Supone dejar las puertas abiertas a discusiones feroces, al odio, a la vejación y, por supuesto, a las noticias falsas.
La segunda, relacionada con la primera, tiene que ver con el diseño intencional del algoritmo. La red social materialmente decide qué está viendo el usuario, generando un filtro, una burbuja de contenidos a su alrededor.
No hay nada de casual cuando un influencer provoca el conflicto público o despliega comportamientos escandalosos que trascienden a los medios de comunicación convencionales.
Ni tampoco en determinados discursos exagerados o polarizantes. Se espera que el usuario busque el contenido, busque al influencer y que el algoritmo lo enganche y fidelice.
No existe una conversación pública verdaderamente libre. El usuario no aprecia todos los puntos de vista y, de hecho, el diseño trata de eliminar a toda costa el consentimiento deliberativo.
No se desea en absoluto que las personas puedan dialogar, escuchar al otro, alcanzar posiciones transaccionales e incluso renunciar a sus propias posiciones.
Al contrario, si en lo individual la red promueve al yo protagonista y afirma la extimidad como valor esencial, en lo social se impulsa la confrontación.
Así que lo que la demanda pone de manifiesto es que, en los últimos 20 años y generación tras generación, las empresas que promueven estas redes han consolidado una posición de poder material no solo desde un punto de vista económico, sino también al convertirse en intermediarios imprescindibles para la socialización y el debate público.
Si el escenario que pone de manifiesto la demanda se demostrase, nuestra conclusión debería ir más allá de la causación de daños morales y materiales a nuestros niños, niñas y adolescentes.
Nos obliga a reflexionar sobre su impacto sistémico en la convivencia, en nuestra democracia y en la garantía de nuestros derechos.
Sanciones asumibles para un negocio multimillonario
Es altamente improbable que en el proceso que ahora comienza se imponga un resarcimiento como el que se ha solicitado.
No obstante, en una demanda previa en Nuevo México, los tribunales consideraron a Meta responsable de 75.000 infracciones de su legislación de protección de los consumidores, con una sanción de 375 millones de dólares, y estimaron en 567 millones adicionales el daño causado a la salud mental de los jóvenes, para un total de 942 millones.
A ello debemos unir las distintas indagaciones que se han realizado o anunciado en la Unión Europea en materia de protección de datos y legislación sobre servicios digitales.
Esta recurrencia en el incumplimiento es viable corporativamente gracias al modelo de negocio en Internet.
Se permite o tolera el desarrollo de productos inseguros, con un alto nivel de permeabilidad en el mercado, que facilitan servicios que tienden a ser monopolios en su segmento y con un alto nivel de monetización de la información personal.
Cuando el producto triunfa, genera un alto nivel de ingresos y una capitalización de la empresa nunca vista hasta hoy. Ello genera una masa ingente de recursos con los que afrontar sanciones, que en la práctica no son más que molestos picotazos, promover el lobby y financiar campañas electorales.
Desde este punto de vista, la conclusión es inevitable. Por una parte, sin entrar al detalle sobre qué tipo de regulación sea más eficiente, lo cierto es que la desregulación que se reclama en los últimos tiempos no puede devolvernos de nuevo a una concepción libertaria de Internet entendida como la ley del más fuerte.
De otra, es necesario plantearnos si la regulación sobre protección de datos y servicios digitales es suficiente y alcanza a cumplir con los objetivos que persigue. Para los expertos, hay un aspecto que resulta claro.
La lentitud en los procedimientos, la alta dependencia de la autoridad de establecimiento —en detrimento de las competencias del foro del lugar de producción del daño—, con la consiguiente necesidad de desplegar acciones coordinadas, ralentizan y alargan los procedimientos.
Por otra parte, las limitadas acciones de oficio y/o auditorías preventivas de las autoridades permiten jugar la carta del cálculo de probabilidad sancionador y podrían favorecer un entendimiento perverso del riesgo regulador. Sin embargo, no son estas las cuestiones nucleares.
Identidad digital, protección del menor y resarcimiento
A nuestro juicio, el debate procesal en el caso Meta pone sobre la mesa tres aspectos esenciales.
El primero es la necesidad de construir de modo sólido una teoría sobre el concepto de identidad y plantearse hasta qué punto, en un contexto digital, debe emerger desde el derecho a la vida privada, la libre autodeterminación, la dignidad y el libre desarrollo de la personalidad un nuevo derecho a la identidad digital con perfiles propios.
El segundo se refiere a la consideración del interés superior del menor y la modulación de las condiciones de ejercicio de sus derechos.
En un momento de urgencia, se apuesta por soluciones radicales y protectoras: ampliar a los 16 años que permite el RGPD las condiciones de consentimiento o prohibir directamente el uso de redes sociales.
Seguramente, necesitamos instrumentos legislativos más precisos en la definición de estas materias que proporcionen herramientas adecuadas a los operadores jurídicos.
Finalmente, parece imprescindible que nuestro derecho al resarcimiento de daños evolucione de manera significativa, y también el modelo sancionador en protección de datos.
Un modelo en el que la sanción es puramente administrativa y el perjudicado puede aspirar, con suerte, a una indemnización simbólica ni compensa el daño, ni estimula al consumidor y usuario en la defensa de sus derechos, ni proporciona un marco de disuasión eficiente.
