Una encuesta realizada entre 52 psiquiatras y juristas de toda España revela un amplio consenso sobre la necesidad de regular la inteligencia artificial en el ámbito de la salud mental y exigir responsabilidad a las plataformas, aunque persisten diferencias sobre su utilización clínica, pericial y como fuente de prueba.
¿Qué piensan psiquiatras y juristas sobre el impacto de la inteligencia artificial en la salud mental? Y, sobre todo, ¿cambian de opinión después de escuchar durante dos días a especialistas de ambos campos analizar sus posibilidades y sus riesgos?
Eso es lo que han tratado de comprobar las XX Jornadas de Documentos Jurídico-Psiquiátricos, celebradas en Sevilla entre la tarde del viernes y la mañana del sábado y organizadas por la Fundación Española de Psiquiatría y Salud Mental y la Sociedad Española de Psiquiatría y Salud Mental.
Unas jornadas que llevaron por título «Redes sociales e inteligencia artificial: retos jurídicos y psiquiátricos del siglo XXI».
El encuentro reunió a 52 participantes: 32 juristas y 20 psiquiatras procedentes de distintos puntos de España.
Entre los primeros había magistrados del Tribunal Constitucional, del Tribunal Supremo y de la Audiencia Nacional, además de miembros de otros órganos judiciales, fiscales, juristas y profesores de la Escuela Judicial de Barcelona.
Del lado médico participó igualmente una representación de primerísimo nivel de la psiquiatría española.
Las Jornadas giraron en torno al lema «Redes sociales e inteligencia artificial: retos jurídicos y psiquiátricos del siglo XXI» y contaron con ocho ponencias: cuatro impartidas por psiquiatras y otras cuatro por juristas.
Pero, además, incorporaron un experimento singular.
Los 52 participantes respondieron a una encuesta en dos momentos distintos. La primera se realizó al inicio de las Jornadas. La segunda, al finalizar.
El objetivo era comprobar hasta qué punto el debate y el intercambio de conocimientos entre ambas profesiones habían modificado sus opiniones sobre inteligencia artificial, redes sociales, salud mental, responsabilidad, actividad pericial y protección de personas vulnerables.
El psiquiatra forense Julio Guija, organizador de estas jornadas junto con la magistrada María Núñez Bolaños, fue el encargado de explicar los resultados.
La conclusión general es que la mayor parte de las opiniones permaneció estable. Sin embargo, hubo una excepción especialmente relevante: la inteligencia artificial como herramienta de prevención ante situaciones de riesgo grave recibió mucho más respaldo después del debate.
Según explicó Guija, el acuerdo final entre psiquiatras fue del 74 % y del 78 % entre juristas.
La IA como sistema de alerta
Una de las cuestiones planteaba si, ante un riesgo de suicidio o de daño grave, debería permitirse que un sistema de inteligencia artificial activase mecanismos de ayuda incluso sin el consentimiento previo del usuario.
El interrogante lleva directamente a uno de los grandes dilemas que plantea la aplicación de estas tecnologías a la salud mental.
Si una IA detecta en una conversación indicios suficientemente graves de riesgo suicida, ¿debe limitarse a aconsejar que se busque ayuda o debería poder alertar de alguna forma al sistema sanitario?
Después de las ponencias aumentó de manera significativa el porcentaje de participantes favorables a algún tipo de intervención preventiva.
El cambio fue especialmente visible entre los médicos. Entre los juristas también aumentó el respaldo y disminuyó el desacuerdo.
Para Guija, ese desplazamiento fue uno de los datos más significativos de toda la encuesta.
Los psiquiatras confían más en su utilidad clínica
Otra de las cuestiones fue la posibilidad de utilizar inteligencia artificial para mejorar el diagnóstico y el tratamiento de los trastornos mentales.
Aquí aparecieron diferencias profesionales.
Los psiquiatras se mostraron más favorables que los juristas a considerar que estas herramientas pueden mejorar la actividad clínica.
También se preguntó si una persona vulnerable —por ejemplo, alguien con una enfermedad mental o un menor— puede beneficiarse de utilizar inteligencia artificial para tomar decisiones sobre su salud incluso cuando las recomendaciones del sistema no coincidan con las del psiquiatra.
Las posiciones evolucionaron de forma diferente entre ambos colectivos.
Entre los médicos disminuyó parcialmente el desacuerdo, mientras que entre los juristas el comportamiento fue distinto.
El resultado refleja que médicos y juristas observan la misma tecnología desde perspectivas diferentes: unos atienden especialmente a su posible utilidad clínica; los otros incorporan además cuestiones como consentimiento, autonomía, protección de la persona vulnerable y responsabilidad.
Dependencia emocional de la inteligencia artificial
La encuesta también planteó si puede considerarse aceptable que una persona con un trastorno mental establezca una relación emocional intensa con una inteligencia artificial conversacional cuando esta termine sustituyendo parcialmente sus relaciones humanas.
La cuestión enlaza con uno de los riesgos debatidos durante las Jornadas: la posible dependencia emocional respecto de asistentes conversacionales cada vez más personalizados.
Entre los médicos apenas se produjeron cambios.
Entre los juristas, en cambio, se observó un desplazamiento más claro hacia posiciones de desacuerdo.
¿Puede un algoritmo actuar como “perito”?
Uno de los terrenos donde persisten mayores diferencias es el uso de inteligencia artificial en la actividad pericial.
La encuesta preguntó si sería aceptable utilizar estos sistemas para estimar el riesgo de violencia o reincidencia cuando sus resultados no puedan ser realmente explicados por el perito.
El problema afecta directamente a la explicabilidad de los algoritmos.
Una herramienta puede ofrecer una determinada probabilidad estadística, pero la cuestión cambia cuando esa valoración se incorpora a un informe susceptible de influir en una decisión judicial.
Guija advirtió de que no estamos necesariamente ante un escenario lejano. La IA puede terminar interviniendo en el trabajo pericial como apoyo del experto humano o adquiriendo progresivamente un protagonismo mayor.
La pregunta jurídica es evidente: ¿puede un perito defender ante un tribunal una conclusión producida por una herramienta cuyo funcionamiento no puede explicar?
En este apartado apenas hubo cambios entre las opiniones expresadas antes y después de las Jornadas.
El rastro digital como prueba
Otro de los asuntos con mayor relevancia jurídica fue el valor que puede atribuirse a la información digital generada por una persona.
La encuesta preguntó si las conversaciones mantenidas con una inteligencia artificial o la actividad desarrollada en redes sociales deberían tener valor para reconstruir retrospectivamente su estado mental cuando no exista una exploración clínica realizada en el momento de los hechos.
Guija relacionó esta posibilidad con la denominada autopsia psicológica, especialmente relevante en casos de suicidio.
Conversaciones, publicaciones, búsquedas o interacciones digitales pueden aportar indicios sobre el estado psicológico de una persona.
La cuestión es determinar qué valor científico y jurídico puede concederse a esos datos y hasta dónde pueden utilizarse como prueba.
Tampoco aquí se produjeron grandes variaciones entre las respuestas iniciales y finales.
Precisamente la actividad pericial y el uso de la información digital como prueba son dos de los ámbitos donde Guija identificó diferencias persistentes entre juristas y psiquiatras.
Responsabilidad de las plataformas
Donde existe una coincidencia mucho mayor es en la responsabilidad de las plataformas digitales.
La encuesta planteaba si las empresas deberían responder jurídicamente cuando sus algoritmos validan o refuerzan contenidos autolesivos dirigidos a usuarios vulnerables, incluidos contenidos relacionados con lesiones o suicidio.
El acuerdo fue especialmente elevado entre los psiquiatras y también importante entre los juristas.
Guija situó el respaldo final a la responsabilidad de las plataformas entre los psiquiatras en un 84 % y de un 78 % entre juristas.
El dato cuestiona una visión puramente neutral de las redes sociales.
Los algoritmos no se limitan a alojar contenidos. Pueden seleccionar qué ve cada usuario, reforzar determinados comportamientos y recomendar nuevas publicaciones en función de su actividad anterior.
El problema adquiere especial relevancia cuando al otro lado se encuentra un menor o una persona psicológicamente vulnerable.
Amplio respaldo a una regulación específica
La última cuestión miraba directamente al futuro.
Los participantes debían responder si debería establecerse una regulación específica de los usos de la inteligencia artificial y de las redes sociales relacionados con la salud mental, incluso aunque ello pudiera limitar el desarrollo de herramientas potencialmente beneficiosas.
El respaldo volvió a ser elevado.
Los psiquiatras se mostraron especialmente favorables a ese marco regulatorio y, según los datos expuestos por Guija, el apoyo final llegó al 90 % mientras que entre los juristas el apoyo fue del 78 %.
La encuesta dibuja, por tanto, una posición que se aleja tanto del rechazo absoluto a la inteligencia artificial como de una aceptación sin límites.
Psiquiatras y juristas reconocen las posibilidades de estas tecnologías, especialmente como herramientas de apoyo clínico y prevención.
Pero también reclaman garantías cuando afectan a menores, personas vulnerables, decisiones médicas, valoraciones periciales o contenidos algorítmicos capaces de influir sobre la conducta.
Guija resumió los resultados en una idea esencial: persisten diferencias profesionales en la relación terapéutica, la prueba digital y la actividad pericial, pero existe un notable consenso en dos cuestiones: regulación y responsabilidad de las plataformas.
Y la encuesta dejó además un dato especialmente revelador: tras escuchar a la otra profesión, juristas y psiquiatras modificaron de manera significativa su percepción sobre la utilidad de la inteligencia artificial como herramienta de prevención.
Una muestra de que, cuando se habla de IA y salud mental, el debate ya no es exclusivamente tecnológico.
Es también médico, jurídico y social.
