Menú móvil

cerrar-mobile

 

Por: JAVIER GONZÁLEZ GRANADO
Notario de Formentera


Inteligencia Artificial y Derecho

El sueño de crear androides con características humanas ha sido una constante en todas las culturas de la que son ejemplos las estatuas de oro con inteligencia de que habla Homero en La Ilíada, Talos el hombre de bronce mencionado por Apolonio de Rodas en su Argonautika, el mito de Pigmalión, el Golem de Praga o los Robots Universales de Rossum en la obra teatral de Karel Capek.
También encontramos ejemplos históricos de saltos del mundo mitológico y literario al real, bien con una pretensión meramente lúdica como los Karakuri Ningyo -autómatas japoneses construidos en los siglos XVIII y XIX- bien con una finalidad de trascendencia como el Ars Magna de Ramón Llull -una máquina que se proponía demostrar la veracidad de la fe cristiana, mediante la combinación de 54 ideas simples o raíces-.
Las bases conceptuales de la inteligencia artificial son obra del genio de Alan Turing que en 1936 publicó un artículo (Sobre los números calculables) en el que definió una prueba, el llamado test de Turing, para dilucidar si una máquina podría ser considerada inteligente. Esta idea fue desarrollada en un trabajo posterior (Máquinas inteligentes de 1948) y aunque son muchas las definiciones de la inteligencia artificial, todas giran en torno a un planteamiento común: el concepto hace referencia a todos aquellos sistemas de computación diseñados para realizar determinadas operaciones de forma tal que si las mismas fuesen resueltas por un ser humano su comportamiento sería calificado de inteligente.

"El concepto hace referencia a todos aquellos sistemas de computación diseñados para realizar determinadas operaciones de forma tal que si las mismas fuesen resueltas por un ser humano su comportamiento sería calificado de inteligente"

Las dificultades de su aplicación al ámbito jurídico
El estudio pionero de la posible aplicación de la Inteligencia Artificial al campo del Derecho fue publicado en 1970 por Buchanan y Headrick (Some Speculation about A.I. reasoning) y plantea de modo directo la cuestión de si el razonamiento jurídico es o no computable y abre un campo que la teoría ha ido desarrollando en torno a cuatro ámbitos fundamentalmente: búsquedas en bases de datos legales y jurisprudenciales, gestión y redacción documental, formulación de dictámenes y resolución de casos y elaboración de teorías, dogmas y sistemas jurídicos.
Sin embargo, como destacan Carlos Fernández y Pierre Boulat (Inteligencia Artificial y Derecho. Problemas y Perspectivas) ninguno de los proyectos desarrollados hasta la fecha, ha alcanzado resultados prácticos relevantes. La dificultad de salvar el salto de aquellos desarrollos teóricos a la aplicación práctica obedece, esencialmente, a las peculiaridades del lenguaje jurídico que más allá de las dificultades (hoy en gran medida superadas en otros sectores) que presenta la comunicación ser humano-máquina en lenguaje natural, ofrece otras destacadas por Jorge Pérez Mañá (Lenguajes Jurídico Documentales): la existencia de términos jurídicos con un significado distinto del que les otorga el lenguaje común (v.gr. alimentos, mora) u otras ramas científicas (v.gr. trastorno mental), la presencia de términos que refieren una norma a las circunstancias el caso concreto (v.gr. interés social, buena fe) y la ambigüedad del lenguaje jurídico. A estos problemas lingüísticos se unen otros derivados de la estructura formal del Derecho, la existencia de lagunas legislativas, normas consuetudinarias y principios generales del Derecho.

Algunos ejemplos prácticos: de los tesauros a los sistemas expertos y Watson
Perez Mañá define los tesauros jurídicos como un conjunto estructurado de términos que en forma biunívoca representan, con aspiración de exhaustividad, la totalidad de conceptos del campo del Derecho que se pretende cubrir. Cualquiera que haya utilizado estas bases de datos (legales, jurisprudenciales y/o doctrinales) reconocerá los dos principales problemas que (pese a los notables avances producidos) presentan: el silencio y el ruido, esto es la no obtención de ningún resultado o la obtención de resultados incoherentes con la búsqueda.

"La dificultad de salvar el salto de aquellos desarrollos teóricos a la aplicación práctica obedece, esencialmente, a las peculiaridades del lenguaje jurídico"

Más allá de las bases de datos, los sistemas expertos se conciben como programas capaces de tomar decisiones del mismo modo que las tomaría un experto humano. Al referirlos al ámbito jurídico se pone de relieve la diferencia entre los llamados problemas convergentes (propios del ámbito científico que presentan ab initio soluciones determinadas o determinables) y divergentes (propios del ámbito moral, que presentan diversidad de soluciones y en los que la lógica ordinaria y lineal no ofrece una respuesta válida). Son ejemplos de sistemas expertos jurídicos el programa Victoria Legal Aid puesto en marcha por el Gobierno australiano como medio de asistencia jurídica para personas sin recursos y Watson, un sistema cognitivo de Inteligencia Artificial creado por IBM con una aplicación específica para el ámbito jurídico: Ross, presentado como el “robot abogado” que comprende el lenguaje natural y no se limita a ofrecer un listado de posibles soluciones a los casos o búsquedas planteadas sino que responde en lenguaje humano con argumentos legales, doctrinales y jurisprudenciales.

Nuevas perspectivas: algoritmos y dataísmo
El paradigma científico actual concibe a los seres vivos como algoritmos bioquímicos adaptados evolutivamente al entorno y esta idea, unida al hecho de que los algoritmos electrónicos resuelven funciones cada vez más complejas, da soporte a lo que ha venido en llamarse la religión del nuevo milenio: el dataísmo, en palabras de Yuval Noah Harari (Homo Deus), la concepción del universo como un flujo de datos en el que el valor de cualquier fenómeno o entidad está determinado por su contribución al proceso de datos. Los primeros frutos de esta tendencia no se han hecho esperar y desde hace ya tres años Deep Konwlegde Ventures, un fondo de inversión chino integra en su consejo directivo, con derecho de voto, a un algoritmo denominado VITAL.
Y mientras en el campo doctrinal se debate si es más valiosa la conciencia o la inteligencia, desde el punto de vista normativo se establecen mecanismos de salvaguardia de los derechos de los ciudadanos y así según el artículo 13 de la Ley Orgánica 15/1999, de 13 de diciembre, de Protección de Datos de Carácter Personal los ciudadanos tienen derecho a no verse sometidos a una decisión con efectos jurídicos que se base únicamente en un tratamiento de datos y la valoración sobre el comportamiento de los ciudadanos, basada en un tratamiento de datos, únicamente podrá tener valor probatorio a petición del afectado.

"A estos problemas lingüísticos se unen otros derivados de la estructura formal del Derecho, la existencia de lagunas legislativas, normas consuetudinarias y principios generales del Derecho"

En el ámbito contractual es destacable la Directiva UE 2014/65 de 15 de mayo que regula la negociación algorítmica de instrumentos financieros en la que un algoritmo informático determina automáticamente los distintos parámetros de las órdenes (si la orden va a ejecutarse o no, el momento, el precio, la cantidad, cómo va a gestionarse después de su presentación), con limitada o nula intervención humana. Son sistemas informatizados de negociación que analizan a gran velocidad datos del mercado y emiten o actualizan, en respuesta a dicho análisis, un gran número de órdenes en un período de tiempo muy corto. La velocidad es una de las claves del sistema, hasta el punto en que una posibilidad de inversión puede perderse (o ganarse) en microsegundos para lo cual se tienen en cuenta incluso factores como la cercanía de los servidores informáticos a los de la plataforma de negociación para reducir al mínimo el tiempo de latencia de las órdenes; la otra clave son los grandes números de modo que márgenes mínimos de oferta y demanda en un elevado número de operaciones se traducen en ganancias (o pérdidas) millonarias. La normativa reguladora de estas operaciones trata de mitigar sus efectos perturbadores sobre los mercados pues son fuente frecuente de alteración de su funcionamiento normal y elevan el riesgo sistémico y la volatilidad, incluso en los casos en que no se utilizan con finalidad fraudulenta. Spoofing, layering, quote stufing… son términos todos que designan prácticas prohibidas pero el hecho de lanzar y cancelar órdenes para despistar a otros negociadores, o para aprovechar la tendencia así creada (a eso se refieren esos términos anglosajones) puede pasar fácilmente desapercibido cuando el número de órdenes cruzadas se aproxima a las 40.000 cada diez microsegundos.

El último escalón: hacia una personalidad jurídica electrónica
Los estudiosos de estas materias distinguen la llamada Inteligencia Artificial Débil, en referencia a aquellos sistemas (como los que hemos visto hasta aquí) capaces de resolver un problema de modo similar a como lo haría una inteligencia humana y la Inteligencia Artificial Fuerte que designa a un hipotético sistema capaz de emular el total funcionamiento de la mente humana incluyendo no solo la capacidad de resolución de tareas sino también los sentimientos y la auto-conciencia. Es el paso del programa informático que juega al ajedrez al programa informático al que le gusta jugar al ajedrez.

"Cualquiera que haya utilizado bases de datos (legales, jurisprudenciales y/o doctrinales) reconocerá los dos principales problemas que (pese a los notables avances producidos) presentan: el silencio y el ruido, esto es la no obtención de ningún resultado o la obtención de resultados incoherentes con la búsqueda"

Esta hipótesis tiene detractores tanto en el ámbito científico (argumentando que no todas las propiedades cerebrales son computacionables ni algorítmicas) como en el ámbito filosófico (considerando que la conciencia queda fuera del campo científico situándose en el mundo espiritual). Frente a ello, se afirma que cualquier propiedad del cerebro, cualquier estado mental, incluyendo la auto-conciencia y los sentimientos, por complejos que sean, son algoritmos biológicos, procesos físico-químicos susceptibles de computación, siempre y cuando exista un sistema que tenga la potencia de cálculo suficiente para soportarlos, lo cual según algunos autores sucederá en torno a la mitad del presente siglo.
La discusión ya ha saltado del campo puramente académico al institucional y así, el Parlamento Europeo, en respuesta a la cuestión E-011289/2013 afirmó que la concesión de personalidad jurídica es una discusión académica y aunque la tecnología actual aún no ofrece el grado de autonomía para otorgar personalidad o estado legal a los robots, las cuestiones éticas, jurídicas y sociales relevantes vinculadas a los sistemas futuros, dotados de más inteligencia y autonomía, son tenidas en cuenta por la Unión Europea.
La propia Unión Europea ha financiado el Proyecto Robot-Law para el estudio y sistematización de las fundamentos éticos y jurídicos sobre los que asentar la normativa que regulará esta materia, la relación entre Inteligencia Artificial y Derecho.

Leyes sobre robots: el futuro ya está aquí
El pasado 31 de mayo de 2016 la Comisión de Asuntos Jurídicos del Parlamento Europeo aprobó un Proyecto de Informe con recomendaciones sobre normas de Derecho civil sobre robótica que incide, como hacen normas similares ya vigentes en Corea del Sur y Japón, en tres aspectos fundamentales que, expongo esquemáticamente a continuación:
1) La responsabilidad civil por daños causados por robots: plantea especialidades por su posibilidad de autonomía y auto-planificación que puede dificultar notablemente la determinación del sujeto causante del daño pues a la intervención del fabricante, operario y propietario debe añadirse el papel del programador y, en el caso de robots con posibilidad de aprendizaje, el instructor en ese proceso. La Propuesta de la UE (puntos 27 a 29) reconduce esta cuestión al principio de responsabilidad objetiva combinado con un sistema de seguro obligatorio a cargo del fabricante.

"Los ciudadanos tienen derecho a no verse sometidos a una decisión con efectos jurídicos que se base únicamente en un tratamiento de datos y la valoración sobre el comportamiento de los ciudadanos, basada en un tratamiento de datos, únicamente podrá tener valor probatorio a petición del afectado"

2) Las cuestiones éticas derivadas de la relación entre humanos y robots: los riesgos evidentes que la robótica puede suponer para la seguridad humana, la intimidad, la integridad, la dignidad, la autonomía y la propiedad de los datos personales deben traducirse, según el proyecto normativo de la Unión Europea, en limitaciones jurídicas y deontológicas. Además hay otras cuestiones de las que también se hace eco el Proyecto normativo europeo como la incidencia de la proliferación de robots sobre el empleo y, por ende, en la viabilidad de los sistemas de Seguridad Social de los Estados miembros, lo que debería traducirse en un aumento de la fiscalidad y de las cotizaciones a la seguridad social de las empresas que utilicen robots y la posibilidad de introducir una renta básica universal para atender el previsible aumento del desempleo basada en los ingresos derivados de esos mayores ingresos (impuestos y cotizaciones).
3) La necesidad de abordar la cuestión fundamental de si los robots deben tener personalidad jurídica pues cuanto más autónomos sean los robots, menos se los podrá considerar simples instrumentos en manos de otros agentes.
Este último punto, que ya ha sido contradicho doctrinalmente en el turno de consultas abierto por la Comisión, obligará, en caso de llevarse a la práctica, a revisar la Teoría de la Persona. El debate queda abierto.

Palabras clave: Inteligencia Artificial, Ámbito jurídico, Teoría de la Persona.
Keywords: Artificial intelligence, Legal scope, Theory of the person.

Resumen

El pasado 31 de mayo de 2016 la Comisión de Asuntos Jurídicos del Parlamento Europeo aprobó un Proyecto de Informe con recomendaciones sobre normas de Derecho civil sobre robótica. En caso de llevarse a la práctica algunos de sus puntos obligarán a revisar la Teoría de la Persona.

Abstract

On 31st May 2016, the European Parliament Committee on Legal Affairs approved a draft report including recommendations concerning civil law rules for robotics. If they are implemented, some of their points will make it necessary to review the theory of the person.