El vertiginoso desarrollo de las llamadas redes neuronales artificiales y el también llamado aprendizaje profundo (deep learning), que supone que la IA aprende y extrae las características relevantes de forma automática, ha situado a la inteligencia artificial (IA) en el centro neurálgico del mundo actual y de la sociedad en la que vivimos y obliga a reflexionar sobre los cambios profundos que deben de acometerse cuanto antes para contemplar con las máximas garantías para todos, la complejidad de esta nueva realidad en el marco jurídico vigente, nacional e internacional.
Estos sistemas sabemos que son capaces de ejecutar tareas extremadamente complejas, que van desde los delicados diagnósticos médicos hasta la conducción de vehículos autónomos, pasando por la contestación de demandas y recursos en el mundo del derecho y sin que hoy podamos pensar en dónde estarán sus límites, si es que los tiene.
Pues bien, esta capacidad plantea un desafío significativo para el marco penal, a nivel general y de manera específica, en lo que nos afecta, en el español, debido a la dificultad de atribuir algún tipo de responsabilidad a «entidades» que operan de manera autónoma, y que nos llevan a una serie brutal de interrogantes, difíciles de contestar, en todos los ámbitos y muy especialmente por su especificidad y trascendencia, sobre la imputación penal.
La posibilidad de asignar personalidad jurídica a la IA ha sido propuesta en ciertos círculos académicos sin que haya un posicionamiento claro y sin que veamos muy bien cómo hacerlo, más allá del plano teórico-doctrinal. Sin embargo, este enfoque es discutido y discutible dentro de la dogmática penal.
Según la teoría de la culpabilidad, no puede existir pena sin reprochabilidad subjetiva, lo que implica que los elementos de conciencia y libre voluntad son esenciales para la imputabilidad, características que las máquinas entiendo que no poseen.
Las implicaciones de atribuir culpa a la IA desdibujan por completo los fines preventivos y retributivos del sistema penal español situándonos quizás en «otro derecho penal» que habrá que articular de alguna manera (con derecho positivo y jurisprudencia) en no mucho tiempo.
La responsabilidad penal de programadores, operadores y empresas ante los delitos cometidos mediante IA
Por el momento y mientras todo esto se articula, regula y cambia, la responsabilidad penal en el contexto de la IA entiendo que se debe analizar desde el enfoque de los humanos que intervienen en su ciclo de vida.
Este ciclo incluye diferentes fases:
En una primera fase, el programador o fabricante, es decir, los desarrolladores de IA, serán responsables cuando se demuestre que han violado o transgredido de manera consciente o negligente obligaciones normativas en el diseño.
Esto podría concretarse en la infracción de estándares de seguridad cibernética previamente definidos, lo que entiendo que podría llevar a su imputación (nada fácil) en caso de daño causado por fallos en el sistema atribuido a su diseño.
En una segunda fase o estadio, cabe pensar en los operadores que podrían resultar responsables de los daños resultantes de su negligencia en el manejo de la máquina (la IA).
Entendemos que el incumplimiento de los mecanismos de seguridad establecidos previamente o la falta de supervisión respecto del uso de la misma, pueden ser elementos que podrían dar lugar a su responsabilidad.
En todo este tema, es indudable que también la responsabilidad penal de las personas jurídicas cobra importancia e incrementa la complejidad del tema, especialmente al integrar IA en operaciones empresariales.
La ausencia de medidas preventivas o de seguridad adecuadas y razonables podría llevar a la imputación penal de la empresa por los actos «delictivos» de su sistema autónomo, de acuerdo con lo establecido en la Ley Penal española.
Esto nos lleva proponer que dentro del compliance penal se incorpore lo necesario en relación con lo que sería una especie de compliance penal algorítmico incorporándolo al mapa de riesgos, revisando los vigentes para actualizarlos en este sentido. Todo ello, sin perjuicio de que entendamos como muy conveniente, incluso necesaria, una reforma del C.P. y especialmente de su artículo 31 bis.
La responsabilidad penal de la persona jurídica, incorporada a nuestro Código Penal por la LO 5/2010 y perfilada después por la LO 1/2015, ha sido objeto de una interpretación notablemente extensiva por parte de la Fiscalía General del Estado en sus Circulares 1/2011 y 1/2016, concebidas, lógicamente, para un tejido empresarial en el que la inteligencia artificial no formaba parte del horizonte.
El modelo, por tanto, sigue descansando sobre los mismos pilares y ese esquema presupone siempre una persona física detrás del hecho delictivo, y es aquí donde la IA introduce una duda inquietante. Cabe, además, pensar que el art. 31 ter, que permite exigir responsabilidad a la persona jurídica aun sin identificar a la persona física concreta, y el reproche por falta de control servirán para cubrir el vacío.
Sin embargo, forzar categorías pensadas para conductas humanas plantea serias dudas de encaje con el principio de culpabilidad, de lo que surge la necesidad de la reforma.
Una reforma urgente del Código Penal para regular el riesgo algorítmico y garantizar la seguridad jurídica
La frontera del «riesgo permitido» (alto, limitado o mínimo) se define en base a las cuatro categorías o niveles establecidos en el Reglamento Europeo de Inteligencia Artificial, que clasifica los sistemas según su nivel de riesgo y determina el llamado «riesgo inaceptable» o «prohibido».
Esto creemos que es fundamental para evitar la imprudencia penal y asignar responsabilidades y consecuencias claras (por niveles) sobre la conducta de los usuarios y responsables hacia los sistemas de IA. Podemos entender que el riesgo permitido significa que desarrollar o utilizar sistemas de IA conlleva un margen de riesgo tecnológico «tolerable» por la ley.
Es decir, si una empresa despliega un sistema de alto riesgo cumpliendo escrupulosamente y de manera diligente todos los controles del Reglamento Europeo (supervisión humana, auditoría y gobernanza de datos) y aun así ocurre un fallo imprevisible, su conducta se mantendría dentro del riesgo permitido, excluyendo la responsabilidad penal por imprudencia o falta de control.
La actual relación entre IA y derecho penal y esta breve aproximación a su complejidad, nos lleva a proponer una reforma urgente del Código Penal y de sus leyes complementarias especialmente en los delitos de Peligro Abstracto por Omisión de Control Algorítmico.
Es decir, tipificar delitos específicos que consideren la falta de supervisión. Contemplar y regular la figura de los peritos informáticos forenses y configurar normativamente la figura del perito especialista para auditar sistemas de IA en procesos judiciales.
También, como antes hemos señalado, creemos que es importante la revisión y modificación de las Normativas de Compliance, para la actualización de los estándares para integrar los desafíos que presenta la IA en términos de cumplimiento legal y los niveles de riesgo en relación con la IA.
En conclusión, es necesario adaptar el marco normativo español para abordar la complejidad y la evolución de la inteligencia artificial en un entorno legal en constante cambio y para dotar de la imprescindible seguridad jurídica tanto a los presuntos sujetos infractores como a los perjudicados y lesionados por este tipo de «conductas» que sin duda suceden y que en poco tiempo sucederán más frecuentemente.