Firmas
Robots: ¿Hacia un nuevo concepto de «personalidad jurídica»?
Javier Puyol es socio director de Puyol Abogados & Partners. Foto: Carlos Berbell/Confilegal.
17/12/2018 06:15
|
Actualizado: 19/4/2021 10:16
|
Al abordar este novedoso tema, debe tenerse en consideración una resolución del Parlamento Europeo, de 16 de febrero de 2017, tenía por objeto el hecho de dar traslado de un conjunto de recomendaciones a la Comisión Europea sobre normas de derecho civil relativas a robótica.
En ella, en un párrafo sobre posibles soluciones jurídicas, se mencionaba una expresión tan interesante como controvertida: la de «personalidad electrónica», la cual tenía por objeto«crear a largo plazo una personalidad jurídica específica para los robots, de forma que como mínimo los robots autónomos más complejos puedan ser considerados personas electrónicas responsables de reparar los daños que puedan causar, y posiblemente aplicar la personalidad electrónica a aquellos supuestos en los que los robots tomen decisiones autónomas inteligentes o interactúen con terceros de forma independiente»[i].
Hace unos días se celebró en una más que interesante Jornada Organizada por la Cátedra Microsoft de la Universidad de Valencia, en colaboración con la Universidad de Granada, sobre “Inteligencia Artificial y Desarrollo Humano”, y uno de los temas, que más impacto tuvo desde el punto de vista jurídico en el desarrollo de la misma, fue la llamada “personalidad electrónica” derivada de los nuevos desarrollos creados sobre la base de la Inteligencia Artificial.
Con relación a este concepto, es necesario partir de lo que tradicionalmente se ha distinguido entre los conceptos de persona física, a la que se ha definido como, los seres humanos, que son susceptibles de adquirir derechos y contraer obligaciones, proyectándose este concepto sobre la capacidad jurídica general en el sentido de llevar a cabo actos con plena eficacia jurídica.
PERSONA JURÍDICA O PERSONA MORAL
Frente al concepto de persona física o natural, como se le denomina en muchos ordenamientos legales, se encuentra la llamada “persona jurídica” o “persona moral”.
La persona jurídica o moral puede definirse de manera negativa, en el sentido de que la misma, es aquella que no es persona física o natural, pero en un sentido propio del concepto, viene constituida en nuestro derecho tradicional como una persona de carácter ficticio, susceptible de ejercitar los derechos y adquirir las obligaciones para realizar actividades que ocasionan plena responsabilidad jurídica.
Este panorama, completamente tradicional y consolidado en nuestro derecho, se ha visto súbitamente modificado en los últimos días, por una noticia aparecida en casi todos los medios de comunicación, al considerar la posibilidad de establecer una nueva categoría a dicha definición, consistente en considerar a los robots, definidos como máquinas de carácter automáticas programables capaces de realizar determinadas operaciones de manera autónoma y sustituir a los seres humanos en algunas tareas, en especial las pesadas, repetitivas o peligrosas; puede estar dotada de sensores, que le permiten adaptarse a nuevas situaciones, como “personas electrónicas”, añadiendo un nuevo concepto a estas categorías universales de personas en su conceptualización para el mundo jurídico.
Moisés Barrio[ii], en un magnífico estudio, trata sobre los rasgos jurídicos que caracterizan a los robots y los sistemas de inteligencia artificial, señalando sus propiedades distintivas y disruptivas que se resumen en las notas de:
1.- Corporeidad;
2.- Impredecibilidad; y
3.- Impacto social, hasta el punto de dar origen a una nueva rama jurídica, el Derecho de los Robots, incidiendo en la viabilidad de crear una personalidad electrónica para los sistemas robóticos más avanzados.
En este sentido, tal y como se afirmaba reciente en El Economista, la llegada de robots a la industria, la medicina o a los servicios no sólo supondrá un cambio en sus respectivos sectores, sino que también provocará cambios en la actual concepción de la sociedad.
Para tratar de que la irrupción robótica sea lo menos transgresora posible.
Sobre estas líneas, un fotograma de la película «Yo, robot», basada, en su origen, en una novela de Isaac Asimov, en la que se describe un mundo de robots trabajadores.
ESTATUTO JURÍDICO ESPECÍFICO PARA LOS ROBOTS AUTÓNOMOS
El documento presentado el pasado 31 de mayo en el Parlamento Europeo expone que “la creación de un estatuto jurídico específico para los robots autónomos, para que los más sofisticados tengan la condición de personas electrónicas, con derechos y obligaciones específicas, entre ellas la de hacer repasar los daños que puedan causar, y la aplicación de la personalidad electrónica para casos en los que los robots toman decisiones inteligentes autónomas o de otra manera interactúan con terceros independientemente”.
Más allá de que ya se esté hablado de las nuevas leyes de la robótica de la UE, lo cierto es que se plantean interesantes cuestiones que, en mi opinión, llegan en el momento justo en el que la industria se prepararapara el gran salto hacia delante.
Tal como señala Abonauta[iii], la primera de ellas es lo que se puede convertir en la primera piedra de una futura “personalidad electrónica”, reconocida jurídicamente para la inteligencia artificial.
Para ello, la Propuesta UE habla de la necesidad de dar una definición única de “robot inteligente” (RI) a nivel europeo. Aunque no llega a darla, sí podemos hablar de los elementos necesarios para ello. Serían los siguientes que, como mínimo, debería tener este ente artificial:
a). La capacidad de adquirir autonomía mediante sensores y/o mediante el intercambio de datos con su entorno (interconectividad) y el intercambio y análisis de dichos datos;
b). Capacidad de autoaprendizaje a partir de la experiencia y la interacción con su entorno (esto se considera opcional y no necesario en todos los casos);
c). Soporte físico mínimo;
d). Capacidad de adaptar su comportamiento y acciones al entorno; e
e). Inexistencia de vida, al menos en el sentido biológico.
Una vez definidos, el Parlamento Europeo propone crear un Registro de Robots Inteligentes, a modo de Registro de Tráfico o de Registro Civil de “personas electrónicas”, para tener a los RI inscritos e identificados.
Sentada esta base, la propuesta europea se lanza a regular los que serán los derechos y obligaciones tanto de los usuarios como, muy especialmente, de los ingenieros, investigadores y diseñadores de robotse inteligencias artificiales. Y ello lo hace, ni más ni menos, que a través de una verdadera “Carta sobre Robótica”donde plantea tanto aspectos jurídicos como éticospara esta futura regulación de la inteligencia artificial.
PRINCIPIOS GENERALES DE LA REGULACIÓN
Como principios generales de esta regulación, la antedicha Carta plantea ya los siguientes:
a). El principio de beneficencia: por el cual, los robots deben actuar siempre en beneficio del hombre.
b). El principio de no perjuicio o maleficencia:por el que establece la doctrina de «primero, no hacer daño», en virtud del cual los robots no deberían nunca perjudicar a las personas (se parece a la primera Ley de Asimov).
c). El principio de autonomía: la capacidad de tomar una decisión con conocimiento de causa e independiente sobre los términos de interacción con los robots.
d). Y, El principio de Justicia: o la distribución justa de los beneficios asociados a la robótica y la asequibilidad de los robots utilizados en el ámbito de la asistencia sanitaria a domicilio y de los cuidados sanitarios en particular.
MENOS TRABAJO POR CULPA DE LOS ROBOTS
Consecuentemente con ello, la robótica y la inteligencia artificial, es más que probable que ello traiga como resultado el hecho de que, una gran parte del trabajo realizado por los seres humanos pasen a ser absorbidos por robots, aumentando las preocupaciones sobre el futuro del empleo y la viabilidad de los sistemas de seguridad social.
El debate que presenta esta cuestión es no solamente jurídico, social o económico, sino que tiene unas contingencias éticas muy importantes, en cuanto que su desarrollo puede cambiar sustancialmente el modelo de sociedad que en la actualidad conocemos, como antes se apuntó.
Pues, ante estos principios, la Resolución del Parlamento Europeo ya entra en propuestas concretas de las que podemos destacar las siguientes:
a). La reversibilidad y teclas de interrupción de urgencia: La posibilidad de deshacer la última acción o secuencia de acciones de un robot o una IA, que permita al usuario anular las acciones no deseadas o, en caso de emergencia, desconectarlo totalmente. Éste es el famoso “botón rojo” también propuesto por otras entidades y expertospara garantizar que el control último de la inteligencia artificial resida siempre en los humanos.
b). La privacidad: Los individuos no serán personalmente identificables, salvo en caso de consentimiento explícito del afectado, el cual tiene que recabarse antes de cualquier interacción hombre-máquina.
c). La transparencia: Las etapas de toma de decisión del robot inteligente deben ser claras y poder ser objeto de reconstrucción y trazabilidad en todo momento.
d). Seguridad y previsibilidad: La respuesta y ejecución de los robots y de las IA deben realizarse teniendo en cuenta la incertidumbre en la interpretación y en la acción, así como los posibles fallos de los robots o del hombre.
La idea es dar un margen de seguridad respecto a la posible falibilidad e imperfecciones de la comunicación humano-máquina.
e). La identificación: El autómata debe ser identificado como tal al relacionarse con humanos. Es decir, en ningún caso, se podrá diseñar un androide o IA que nos engañe al hacerse pasar por un humano. Debemos tener claro siempre que al otro lado hay una máquina, a la hora de interactuar con ella[iv].
ROBOTS IGUAL A «PERSONAS ELECTRÓNICAS»
De este modo, se propone, que los ‘trabajadores robots’ de Europa podrían ser clasificados como «personas electrónicas», una demonización conllevaría a que sus propietarios sean responsables de pagar la seguridad social por ellos, así como asumir una responsabilidad legal por sus acciones.
La propuesta determina, por tanto, que la citada Comisión se termine pronunciando sobre dicho estatuto jurídico específico para los robots, concretando conceptos como el de los “robots autónomos sofisticados”, o el alcance de la definición que se pretende con relación al término “personas electrónicas”, su condición y los derechos y obligaciones específicas que se les van a atribuir y exigir.
La propuesta también plantea que habría que decidir «si se debe crear un fondo general para todos los robots autónomos inteligentes o bien crear un fondo individual para cada categoría de robot, y si una contribución debe ser pagado en concepto de gastos al colocar el robot en el mercado o si la contribución de quién instale la máquina deben ser pagados durante la vida útil del robot».
En este sentido, Hipertextual señala que para establecer quién se debe hacer cargo de cada máquina, el documento también sugiere la necesidad de crear un registro de robots autónomos inteligentes, que uniría a cada uno de las personas electrónicas con sus propietarios.
La situación en este momento es complicada, y ello reiterando lo afirmado, porque todavía no se ha definido qué es o qué no es inteligencia artificial en términos jurídicos y al mismo tiempo tampoco se dispone de unos avances en inteligencia artificial lo suficientemente compleja como para empezar a pensar que haya que convertir a los titulares de robots en sujetos pasivos de sus derechos.
En materia fiscal, se propone a la Comisión que las empresas que hayan venido utilizando estos robots para garantizarse menores costes en recursos humanos, deberían declarar los ahorros en contribuciones a la seguridad social,a efectos de compensar los cambios laborales que supusieron estos robots.
LICENCIA DE USO DE LA INTELIGENCIA ARTIFICIAL
Finalmente, la Propuesta del Parlamento Europeo se completa con el contenido mínimo de la Licencia de Uso de la Inteligencia Artificial.
En dicha licencia se tendrán que contemplar, al menos, los derechos y obligaciones para los usuariosde robots inteligentes que resumimos a continuación:
a). El derecho a no temer perjuicio físico ni psicológico.
b). El derecho a esperar que el robot ejecute sus tareas propias, para las que fue diseñado.
c). La obligación de aceptar las limitaciones de percepción, cognición y acción del robot inteligente.
d). La inteligencia artificial deberá respetar la fragilidad y emotividad humana, no generando confusión en cuanto a la realidad de los sentimientos simulados por la máquina.
e). El derecho a la intimidad: el robot deberá respetar la vida privada y, por ejemplo, desactivar sus video monitores en momentos íntimos.
f). El no tratar datos de personas sin el consentimiento explícito y previo de las mismas;
g). La obligación de no usar a los robots contra la Ley ni contra la Ética; y
h). En ningún caso, modificar robots para ser usados como armas.
Ahora se abre la cuestión sobre, si es demasiado pronto para hacer a los robots sujetos jurídicos en material fiscal, y por extensión, responsables a sus titulares.
Sin duda, es un debate que se deberá abordar en los próximos años, tan complicado como apasionante, para el futuro del derecho de la Unión Europea.
Es completamente cierto que el avance de las tecnologías en los últimos tiempos ha propiciado importantes avances técnicos y tecnológicos que ha permitido a los robots ganar en eficiencia y autonomía, pero probablemente el debate suscitado necesitará de varias décadas para estar suficientemente consolidado, siendo en la actualidad prematuro, básicamente, por el estado del desarrollo de la tecnología en esta materia, que ni lo convierte en una necesidad, ni tan siquiera en una realidad que deba ser todavía objeto de especial regulación.
ASIMOV Y SUS TRES LEYES DE LA ROBÓTICA COMO REFERENTE
Esta nueva formulación abre la puerta a un debate ético sobre estas nuevas consideraciones, y la regulación que debe presidir la construcción y el funcionamiento de estos robots autónomos.
En este sentido, el Diario El País hacía mención a las tres leyes de la robótica formuladas por el célebre escritor Isaac Asimov en su relato Runaround, de 1942:
a) Un robot no debe de agredir a un humano ni, con su inacción, permitir que un humano sufra algún daño
b)) Un robot debe obedecer las órdenes dadas por los seres humanos salvo si dicho mandato entra en conflicto con la primera de las leyes arriba formulada.
c)) Un robot debe proteger su propia existencia siempre y cuando no entre en conflicto con la primera y la segunda de estas leyes.
Y dicho Diario concluía, que, traducidos al mundo real, dichos principios supondrán el establecimiento de una serie de garantías para que el uso que hacen los humanos de los robots no termine siendo abusivo, con especial énfasis en la protección de los datos adquiridos por un robot para prevenir su uso ilegal.
Sea como fuere, el debate ético, si bien se encuentra en sus albores, está completamente servido, debiéndose determinar a partir de estos momentos, las relaciones que van a presidir la convivencia y las relaciones entre seres humanos y los robots, teniendo sobre todo en cuenta en el horizonte el panorama que se avecina.
Así debe tenerse en cuenta el papel que van a desempeñar los propios robots, el desarrollo de nuevos softwares cada vez más inteligentes, y la enorme capacidad de autoalimentarse de sus propios conocimientos, dotándoles de una arquitectura análoga a la humana, y propiciando que los mismos no solamente compitan con las personas naturales, sino que las propias máquinas van a tener la capacidad de superar su inteligencia, e incluso, en un futuro tal vez no demasiado remoto, superar sus condiciones psicofísicas en todos los sentidos.
En este sentido, la inteligencia artificial es la capacidad de elaborar máquinas susceptibles de pensar.
El hombre bicentenario es una novela en la que Isaac Asimov aborda la aspiración de un robot en convertirse en ser humano; el protagonista de la película fue el desaparecido Robin Williams.
LOS CUATRO PILARES BÁSICO EN LOS QUE SE APOYA LA INTELIGENCIA ARTIFICIAL
En Wikipedia se señala que al igual que en la informática convencional, en la Inteligencia artificial tenemos una serie de elementos peculiares que la caracterizan y la diferencian. Para Nilsson son cuatro los pilares básicos en los que se apoya la inteligencia artificial, los cuales serán analizados a continuación.
a). Búsqueda del estado requerido en el conjunto de los estados producidos por las acciones posibles.
b). Algoritmos genéticos (análogo al proceso de evolución de las cadenas de ADN).
c). Redes neuronales artificiales (análogo al funcionamiento físico del cerebro de animales y humanos).
d). Razonamiento mediante una lógica formal análogo al pensamiento abstracto humano.
La concreción de estas reglas se ha materializado recientemente mediante un ejemplo simple, pero altamente significativo por su trascendencia de futuro.
Hace relativamente pocas fechas, de nuevo el Diario El País, se hacía eco de una noticia inquietante: “La inteligencia artificial gana al campeón humano de Go”, confesando dicho campeón mundial estar en estado de shock al final de la partida, fundamentalmente por la intensidad con que la misma se desarrolló y en la que fue finalmente derrotado por la inteligencia de su adversario, la máquina inteligente que contra él competía.
Es sólo una muestra, pero muy significativa de lo que se avecina. Un ejemplo pequeño y limitado de la inteligencia artificial, que aplicada a robots que sean considerados como autónomos, y que a la postre demuestra su enorme potencial, y, sobre todo, el desarrollo que está por venir.
UN DEBATE IMPORTANTE
En este debate las consideraciones jurídicas, y éticas, también, empiezan a jugar un papel determinante, y probablemente inquietante, debiéndose valorar el papel que debe tener el ser humano en estas nuevas creaciones, cuál debe ser su relación con las máquinas, y lo que es más importante, en todo caso, la preservación de su libertad.
Por todo ello, es importante considerar que si bien debe primar el desarrollo y el fomento de la tecnología, también es importante establecer pautas éticas que no pongan en peligro nuestra civilización, pero sobre todo, que no comprometan nuestra existencia como personas, y sin olvidar tampoco, que el modelo económico y social que en este momento tenemos construido se está modificando día tras días como consecuencia de los avances técnicos, pero que en esta evolución va a tener una especial incidencia con la irrupción de estos robots autónomos en nuestros quehaceres cotidianos, y es conveniente establecer previsiones regulatorias y de carácter ético, a los efectos de poder integrar adecuadamente la tecnología en el desarrollo ordinario de nuestras vidas.
Siendo positivos y prudentes con el advenimiento de este nuevo fenómeno, y reconociendo sus múltiples ventajas en un abanico muy numeroso de campos y actividades, no obstante, tiempo al tiempo. Por todo ello, este nuevo estatuto para los robots sería análogo a la personalidad jurídica, que lo que permitiría a las empresas participar en procesos judiciales, tanto como demandante como demandado.
EL FUTURO
Todo ello, en su consecuencia, abre nuevas posibilidades como:
(i) La creación de una agencia europea para la robótica y la Inteligencia Artificial;
(ii) La posibilidad de la existencia de una definición legal de “robots inteligentes autónomos” junto a un sistema de registro de los más avanzados;
(iii) La necesidad de crear un código de conducta consultivo para ingenieros expertos en robótica, dirigido a guiar el diseño ético, la producción y el uso de robots, así como la introducción de valores de responsabilidad social empresarial en la construcción y desarrollo de los mismos, la creación de una nueva estructura de información para las empresas. Ellas deben informar la contribución de la robótica y la Inteligencia Artificial a los resultados económicos, para efectos de impuestos y cotizaciones de seguridad social.
Y finalmente, debe tenerse presente, que todo ello conlleva la necesidad de construir un nuevo esquema de seguro obligatorio para las empresas para cubrir los daños causados por sus robots.
[i]Cfr.: CASTILLO, Toni. “Europa se plantea otorgar ‘personalidad electrónica’ a los robots mientras muchos expertos se posicionan en contra”. Sataka, 25 de mayo de 2018.
[iii]Cfr.: ABONAUTA. “Derechos humanos e inteligencia artificial: Leyes de la robótica en la UE”. La Voz de Galicia. 17 de marzo de 2017.
[iv]Cfr.: “Los nuevos Derechos Humanos ante el Avance de la Inteligencia Artificial”impartida en el evento #LegalThinking : Derecho 2.0: reflexiones de abogad@s TIC sobre tecnología, robótica e inteligencia artificial, el 17 de marzo de 2017 en la Facultad de Derecho de la Universidad de A Coruña.
Otras Columnas por Javier Puyol Montero:
