Menú móvil

El Notario - Cerrar Movil
REVISTA105

ENSXXI Nº 105
SEPTIEMBRE - OCTUBRE 2022

ciclo de conferencias
ciclo de conferencias
Revista El Notario del Siglo XXI - Canal YouTube
Por: JOSÉ Mª GÓMEZ-RIESCO TABERNERO DE PAZ
Notario de Salamanca


CONFERENCIA DICTADA EN EL COLEGIO NOTARIAL DE MADRID, SALÓN ACADÉMICO, EL 13 DE ENERO DE 2022

Gómez-Riesco razona, en su conferencia en la Academia, la urgente necesidad para la seguridad del tráfico, de una legislación que perfile el régimen jurídico de los mecanismos dotados de Inteligencia Artificial

La relación de los robots con el derecho nace con la propia creación del robot y se halla presente en el inicio del planteamiento literario o de fantasía de la existencia de una máquina humanoide inteligente y autónoma. El mismo Isaac ASIMOV introduce en su ficticio universo de máquinas humanas la noción de leyes de la robótica, como incipiente código básico de funcionamiento de las máquinas vinculado a una indefectible subordinación de aquéllas al control humano -el principio Human in command-.
Este original planteamiento jurídico respecto de semejantes entes reenvía naturalmente al dominio humano de la inteligencia artificial, a un sometimiento de lo creado a la soberanía de su creador y, por tanto, a la consideración ontológica de que lo creado no puede dañar al creador y no puede relativizar la dignidad de éste ni siquiera por la vía indirecta de una equiparación, siquiera parcial, con la persona humana.
Hoy, asistiendo a la superación de lo literario por una plasmación real de lo que fueron imaginaciones de ciencia ficción, la sociedad del siglo XXI tiene ante sí la responsabilidad -a escala internacional y muy especialmente europea- de abordar una regulación de la investigación, el desarrollo, la comercialización y el uso de la inteligencia artificial; y de articular respuestas jurídicas a los hechos o actos producidos por o a través de estas aplicaciones.

“El Parlamento Europeo en su Resolución de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, ya consideraba necesario crear una definición generalmente aceptada de robot”

El Parlamento Europeo en su Resolución de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, ya consideraba necesario crear una definición generalmente aceptada de robot; y proponía como característica del robot inteligente la concurrencia de tres capacidades: (i) de autonomía; (ii) de autoaprendizaje; y (iii) de adaptación, a lo que se añadiría un soporte físico mínimo y la ausencia de vida en sentido biológico.
En cualquier caso, en la atribución al robot de las capacidades de autonomía, aprendizaje y adaptabilidad al entorno que apuntaba el Parlamento Europeo, parece central la presencia de inteligencia artificial. Frente a la inteligencia artificial débil -narrow A-, que puede superar al humano en una tarea específica, como el juego de ajedrez o la resolución de ecuaciones, la inteligencia artificial general o fuerte -general AI- puede realizar cualquier tarea cognitiva, tan bien como el hombre o mejor -llegando a la superinteligencia-. Por tanto, una de las atribuciones -acaso la más importante- de la llamada inteligencia artificial fuerte es la capacidad de aprendizaje -el machine learning- y, aún más allá, el deep learning o metaaprendizaje, esto es, el aprender a aprender mediante redes neuronales artificiales debidamente entrenadas por los creadores u operadores que les inyectan las correspondientes cargas de información. Esta capacidad de aprendizaje es esencial porque es consecuencia de la autonomía del robot y a su vez impulsor de esa misma autonomía. Y esta nota de autonomía de la máquina respecto del hombre es la que va a sugerir los principales problemas jurídicos derivados de tales actuaciones autónomas, en particular el de la imputabilidad de las consecuencias de las mismas.
¿Es descabellado, en este contexto, el reconocimiento de una personalidad jurídica al robot?
Entre las peticiones del Parlamento a la Comisión llama particularmente la atención el apartado (f) de su Recomendación 59, que sugiere crear a largo plazo una personalidad jurídica específica para los robots, de forma que, como mínimo, los robots autónomos más complejos puedan ser considerados personas electrónicas responsables de reparar los daños que puedan causar, y posiblemente aplicar la personalidad electrónica a aquellos supuestos en los que los robots tomen decisiones autónomas inteligentes o interactúen con terceros de forma independiente.
Se habla, así, de una personalidad jurídica específica, para, como mínimo, los robots autónomos más complejos, a los efectos de imputar la responsabilidad que se derive de los daños que puedan causar y las consecuencias de sus decisiones autónomas e inteligentes en sus relaciones con terceros. Una consideración abstracta y utilitaria de la personalidad jurídica permitiría atribuir directamente a los robots inteligentes las consecuencias de sus actos y, preliminarmente, legitimar sus actuaciones. La personificación o cuasipersonificación de estos robots sería por tanto útil o, incluso, eventualmente necesaria.

“La capacidad de aprendizaje es esencial porque es consecuencia de la autonomía del robot y a su vez impulsor de esa misma autonomía”

No desestimemos, además, la aptitud de las máquinas para la titularidad de derechos reales sobre bienes muebles, inmuebles e incorporales -incluso la misma titularidad de su propio hardware- y la eventual trascendencia registral de tales titularidades. En último término, un reconocimiento de personalidad robótica sujeto a una limitación de su capacidad de ejercicio y subordinado a un control humano vendría a reducir ese reconocimiento de la personalidad electrónica a una mera categoría nominal, desprovista de sustancia jurídica propia. Esto es, no sería una verdadera personalidad -lo cual nos llevaría a concluir que, si es inocuo, por qué no hacerlo, por qué no reconocer esa personalidad puramente utilitaria y nominal a los robots-.
Pero el solo uso de la palabra personalidad no acaba de ser inocente. Emplear la palabra personalidad para referirnos a algo que no lo es, como expediente meramente instrumental y utilitario, violenta el concepto de personalidad, que tiene como sustrato al ser humano. Un argumento clave en contra del reconocimiento de una personalidad robótica desde el derecho positivo -y sin perjuicio de otras consideraciones morales o éticas- tiene su fundamento en la noción de dignidad de la persona. Y, por extensión, apelando a la ley cero de Asimov, a la dignidad del ser humano, a la dignidad de la humanidad. Un reconocimiento de personalidad - noción esencialmente humana- a una máquina, que es una cosa, por perfecta que sea, implica, siquiera parcialmente, una equiparación y, consecuentemente, una relativización de la persona humana, un reconocimiento de una sociedad en la que hay sujetos, protagonistas, no humanos que se relacionan con hombres y que pueden llegar a dañar al hombre. La relativización de la noción de persona lesiona la dignidad de la persona y de la humanidad y por ello debiera considerarse antijurídica.
La idea clave, de nuevo, es que el principio del control humano hace exigible que las consecuencias de los actos de los robots recaigan en último término en la cabeza de seres humanos capaces. La imputabilidad debe remitir a un humano, bien inmediatamente bien de manera indirecta a través de una persona jurídica asociativa, fundacional o corporativa, privada o pública.
Descartada la atribución de personalidad al robot ¿quién responde, pues, de los daños que causa? ¿Y cómo responde? Parece clara la necesidad de una normativa específica sobre responsabilidad extracontractual en el sector de la robótica y de las tecnologías emergentes. En ese sentido la Resolución del Parlamento Europeo de 16 de febrero de 2017 y su Informe de iniciativa de 5 de octubre de 2020 abogan por un instrumento comunitario en el marco del artículo 114 TFUE. Y la propia Comisión, en su Libro Blanco sobre la inteligencia artificial de 19 de febrero de 2020, reconoce la necesidad de un marco normativo europeo que evite la fragmentación del mercado interior que puede derivarse de una actividad legislativa descoordinada de los Estados miembros en la materia. Marco normativo en el que deberá tener cabida una actualización de la Directiva 85/374/CEE, del Consejo, en materia de responsabilidad por los daños causados por productos defectuosos.

“Se habla de una personalidad jurídica específica, para, como mínimo, los robots autónomos más complejos, a los efectos de imputar la responsabilidad que se derive de los daños que puedan causar y las consecuencias de sus decisiones autónomas e inteligentes en sus relaciones con terceros”

En nuestro derecho nacional -no lo olvidemos- el Código Civil regula supuestos de responsabilidad extracontractual por hechos ajenos, como los supuestos de culpa in eligendo o in vigilando de padres o tutores prevenidos en el artículo 1903 del Código Civil, que podrían servir para imputar los daños al fabricante o al propietario del robot -bajo el tratamiento del robot como un cuasi-agente con una responsabilidad reducida, al amparo de una consideración del precepto como un numerus apertus-; e igualmente los artículos 1905 y 1906, en materia de responsabilidad por daños causados por animales -que no son inteligentes pero tienen vida propia y de cuyos daños responden las personas que deben tenerlos bajo su cuidado, con cumplimiento, en su caso, de los requisitos de la Ley 50/1999, de 23 de diciembre, sobre el régimen jurídico de la tenencia de animales potencialmente peligrosos-, y los artículos 1907 y 1909, por falta de reparaciones necesarias o por defecto de construcción o fabricación.
¿Quid respecto de aquellas decisiones autónomas adoptadas por sistemas de inteligencia artificial en el ámbito contractual -esto es, interactuando con tercero- sea un humano u otra máquina -de forma independiente-? ¿Y, por ejemplo, en el ámbito de la formación de voluntad corporativa? En este punto irrumpe otra realidad tecnológica avasalladora e incierta en su tratamiento jurídico, cual es la de los llamados contratos inteligentes o smart contracts, contratos o cláusulas contractuales que se autoejecutan mediante un software, programa informático o algoritmo, dando lugar a una actuación física o virtual desvinculada de la voluntad humana, e, incluso, en ocasiones, interrelacionada con otros smart contracts sobre una plataforma blockchain, con aplicaciones potenciales variadísimas e inimaginables. ¿Estamos hablando entonces de verdaderas declaraciones de voluntad? ¿Hay un propio y auténtico consentimiento?
Una máquina dotada de un componente de inteligencia artificial fuerte puede autónomamente, además, llegar a crear. Sobre la base de un programa -esto es, bajo directriz y orden de un humano- el robot puede llevar a cabo por sí solo un trabajo, puede generar un producto de la más variada índole, una obra, como, por ejemplo, una traducción de un texto, un cálculo de estructuras o el diseño y manufactura de determinados productos industriales en procesos productivos. Y también puede un mecanismo dotado de un elevado grado de inteligencia artificial, en un salto adelante en las cualidades cuasihumanas de los razonamientos automáticos, llegar al estadio de la creación, a la creatividad, a la originalidad, no sólo artística -composiciones musicales, o gráficas, quién sabe si literarias- sino simplemente funcional -imaginemos la ideación de nuevo software basado en nuevos algoritmos, o la creación de nueva inteligencia artificial en un proceso que lleve a la progresión geométrica del desarrollo de la propia inteligencia artificial-. La cuestión estriba una vez más en determinar quién debe ostentar el derecho de autor respecto de tales creaciones automáticas.

“Una máquina dotada de un componente de inteligencia artificial fuerte puede autónomamente, además, llegar a crear”

Observamos a partir de todo lo expuesto que es necesario un régimen jurídico civil de los problemas derivados de la titularidad y el uso de mecanismos dotados de inteligencia artificial. Y procede cuestionarse el servicio que el instrumento público notarial puede prestar a la seguridad jurídica que será imprescindible en las relaciones que genera esta realidad.
Las grandes responsabilidades que particulares, empresas y organismos públicos pueden llegar a asumir por la tenencia y empleo de sistemas de inteligencia artificial en los más variados ámbitos, como la industria, el transporte, la medicina, la seguridad, el urbanismo o el armamento, determinan la conveniencia de que la vinculación entre el propietario y el robot sea inequívoca y fehaciente; y de que la asunción por el primero de los riesgos y consecuencias que genera el segundo sea asimismo inequívoca y fehaciente, con el debido asesoramiento y reflexión.
La realidad plural y en cierto modo inimaginable de la inteligencia artificial, que puede revestir las más variadas modalidades, no impide proponer que en algunas de ellas -acaso las que impliquen una mayor inversión económica y las que traigan consigo el referido mayor riesgo- el high risk del Libro Blanco de la Comisión pueda plasmarse en forma documental pública notarial la vinculación de un sujeto con un robot -en el sentido amplio del término-, bajo variadas formas; la formulación de una declaración de voluntad en la asunción de las consecuencias de sus actos; y, previas su identificación técnica, su valoración, sus capacidades y sus funciones y la estimación de su duración, se delimite un régimen jurídico de actuación de la máquina, con una dotación patrimonial que responda de manera limitada de los actos del robot. Ese régimen jurídico debe precisar las relaciones entre el propietario responsable y la máquina -la imputabilidad de sus hechos y actos y la titularidad de sus creaciones o rendimientos-; y las relaciones entre el robot y terceros, sean éstos humanos o de sustrato humano o sean robots, con una delimitación de sus facultades de actuación que derogue el sistema de la prokura germánica, bajo la lógica de la representación voluntaria y no orgánica -todo ello, presupuesta una normativa de cobertura que se encuentra en preparación en las Instituciones europeas-.
El instrumento público notarial supondría, así, una adecuada vía de control de la legalidad y de publicidad de la existencia y realidad de la máquina -evitando la clandestinidad- de la concurrencia de las licencias y permisos necesarios para su uso, de su valoración, de su destino, de sus fines y de su objeto y del régimen jurídico de su administración y manejo, así como de la dotación económica o creación de un fondo patrimonial separado afecto al destino de la máquina. Se trataría de un acto constitutivo o fundacional de la puesta en ejercicio de una máquina inteligente bajo la responsabilidad de su dueño, con un fin y un régimen de control y administración responsable.

El buen funcionamiento de esta página web depende de la instalación de cookies propias y de terceros con fines técnicos y de análisis de las visitas de la web.
En la web http://www.elnotario.es utilizamos solo las cookies indispensables y evaluamos los datos recabados de forma global para no invadir la privacidad de ningún usuario.
Para saber más puede acceder a toda la información ampliada en nuestra Política de Cookies.
POLÍTICA DE COOKIES Rechazar De acuerdo