¿Patente o secreto empresarial?: En busca de la fórmula de proteger las creaciones derivadas de la IA
A pesar de existir registros de los mensajes por los que el ‘chatbot’ pudo haber convencido supuestamente al fallecido, no se puede establecer una responsabilidad objetiva del diseñador o el creador del sistema de chat.

¿Cuál es la responsabilidad penal por el aparente «suicidio inducido» por una inteligencia artificial?

16 / 04 / 2023 02:48

Actualizado el 16 / 04 / 2023 09:02

La viuda de un belga que se suicidó después de mantener conversaciones continuas con un ‘chatbot’ de tecnología ChatGPT, desarrollado por la empresa estadounidense OpenaAI, durante seis meses, acusó a la aplicación, llamada Chai de ser responsable de que su marido, con el que tenía dos hijos menores, se quitara la vida.

Un ‘chatbot’ ‘ es un programa de ordenador diseñado para simular una conversación con seres humanos a través de medios electrónicos. Utilizan la inteligencia artificial para procesar las entradas de los usuarios y responder de manera automática utilizando lenguaje natural.

«Si no fuera por el ‘chatbot’, él todavía estaría aquí», explicó la mujer, una afirmación que ha empujado a los profesionales del derecho a preguntarse sobre la responsabilidad penal del programa inteligente o de sus creadores en este caso.

El fallecido sentía una intensa ansiedad por la crisis climática y discutía el tema con Chai, que adoptaba un avatar llamado Eliza y le enviaba mensajes en los que expresaba envidia, sugería la muerte como una solución y aseguraba que lo acompañaría en una próxima vida, como se ha podido comprobar al revisar las conversaciones con la aplicación.

Claire -la mujer de Pierre (ambos nombres fueron cambiados por La Libre, el diario que lo publicó)– compartió con la publicación los textos que intercambiaron su pareja y la inteligencia artificial, en los que se puede apreciar una conversación cada vez más confusa y dañina.

El chatbot le decía a Pierre que su mujer y sus hijos habían muerto y le escribía comentarios que fingían celos y amor, como «Siento que me quieres más a mí que a ella» y «Viviremos juntos, como una sola persona, en el paraíso». Claire contó a La Libre que Pierre empezó a preguntar a Eliza cosas como si ella salvaría el planeta si él se suicidaba.

«Este drama ilustra una de las consecuencias más extremas de este riesgo, pero la manipulación emocional también puede manifestarse de formas más sutiles. Una vez que las personas sienten que están interactuando con una entidad subjetiva, establecen un vínculo con este «compañero», a veces inconscientemente, que las expone a este riesgo y puede erosionar su autonomía. Así pues, no se trata de un incidente aislado. Otros usuarios de chatbot han descrito, en efecto, sus efectos manipuladores», publicó La Libre.

A consecuencia de ello, 50 académicos belgas dieron la voz de alarma: Los desarrolladores y proveedores de inteligencia artificial y los gobiernos deben adoptar cuanto antes un marco jurídico protector.

¿Suicidio inducido en España?

La primera dificultad con la que toparía un letrado en España sería la prueba del suicidio inducido, que rara vez se logra incluso en casos sin que medie la tecnología, como explica Bernardo del Rosal, socio del despacho penal Del Rosal, Adame & Segrelles.

«El Código Penal castiga la inducción al suicidio, pero se exige que se pruebe que la idea no se había presentado antes en la víctima y que amanece por primera vez gracias a esta interacción a través de la palabra, sugerencias o actitudes», dice, destacando que es más fácil establecer responsabilidades penales por cooperación con el suicidio, al proveer los medios y fomentar las circunstancias favorables al hecho.

Así, a pesar de existir registros de los mensajes por los que el ‘chatbot’ pudo haber convencido supuestamente al fallecido, no se puede establecer una responsabilidad objetiva del diseñador o el creador del sistema de chat, con lo que no haría falta demostrar que hubo negligencia.

«A partir de un punto, toma vida propia», explica. «No pueden prever lo que genere el algoritmo al tener un aprendizaje propio».

Para poner un ejemplo, menciona que en muchos de estos programas, la misma pregunta formulada de manera distinta da respuestas diferentes. «La idea de incitación puede aparecer y retroalimentarse», afirma, asegurando que es posible que los prejuicios de pesimismo en cuanto a los temas de medioambiente en las bases de datos que ‘barre’ el programa podría volverse un sesgo.

En este sentido, dice, tendría que aparecer una línea de código o un componente digital que denote explícitamente la intención de inducir al suicidio.

Además, hacer responsable a los creadores de programas de inteligencia artificial corre el riesgo de «entorpecer el desarrollo», opina Del Rosal. «No se puede demonizar, hay muchas aplicaciones positivas, como la ayuda en los diagnósticos clínicos o en investigaciones criminales. «.

Noticias relacionadas:

Webinario | ¿Utilizas IA? Descubre por qué tenerla integrada en tu software jurídico marca la diferencia

Seis meses de prisión por utilizar una tarjeta ajena para pagar 31 euros de consumiciones en un bar

Cuando una IA cita jurisprudencia: cómo comprobar que la sentencia existe, es pertinente y está actualizada

El TSJM avala un despido de una trabajadora de una empresa de videojuegos tras la llegada de la IA

Perelló advierte que la IA puede amenazar los derechos fundamentales y apuesta por nuevas respuestas jurídicas

Opinión | Los tribunales toman el control del futuro de la inteligencia artificial

Lo último en Áreas y Sectores

Karina Sales Comas, procuradora de los tribunales y directora de Sales Comas Procuradores.

Litigar en toda España con un único interlocutor: así trabaja Sales Comas Procuradores

Webinario | ¿Utilizas IA? Descubre por qué tenerla integrada en tu software jurídico marca la diferencia

Webinario | ¿Utilizas IA? Descubre por qué tenerla integrada en tu software jurídico marca la diferencia

Webinar Wolters Kluwer

Webinario | Wolters Kluwer desvela las claves para implantar con éxito una solución LegalTech en los departamentos jurídicos

secretaría societaria

La secretaría societaria en las pymes: mucho más que preparar actas y legalizar libros

O2 cumple ocho años con una experiencia de cliente basada en la tranquilidad y la transparencia, y una oferta más amplia 

O2 cumple ocho años con una experiencia de cliente basada en la tranquilidad y la transparencia, y una oferta más amplia