Menú móvil

El Notario - Cerrar Movil
REVISTA106

ENSXXI Nº 107
ENERO - FEBRERO 2023

Por: MANUEL GONZÁLEZ-MENESES GARCÍA-VALDECASAS
Notario de Madrid


NUEVAS TECNOLOGÍAS

En el año 1987 el cineasta alemán Wim Wenders estrenó una película -cuyo guion firmó a medias con su amigo el escritor austriaco Peter Handke- titulada El cielo sobre Berlín, que con el tiempo se ha convertido en una obra de culto. Como suele suceder con este tipo de películas, los críticos sesudos la ponen por las nubes (y en este caso nunca mejor dicho) -precisamente recibió el premio al mejor director en el Festival de Cannes-, aunque para muchos espectadores es un tostón insufrible. La verdad es que es bastante lenta, todo es muy simbólico y alegórico y algunas parrafadas resultan más que pretenciosas. Yo la he visto hace poco y en mi casa la opinión quedó dividida, pero les recomiendo que la vean y también que hagan un pequeño ejercicio.

Les explico. La película -en su mayor parte en blanco y negro y solo con algunas escenas coloreadas- es una fantasía protagonizada nada menos que por dos ángeles que, vestidos de paisano, recorren la ciudad del Berlín previo a la caída del Muro. Salvo los niños, nadie les ve, pero ellos sí ven a todo el mundo y además escuchan sus pensamientos, porque estos ángeles, además de inmortales, son omniscientes: conocen todo del presente y del pasado. Cuando contemplan un puente o una plaza recuerdan con toda precisión cómo vieron entrar por allí a las tropas napoleónicas dos siglos antes. En su deambular por las calles, los comercios, el metro o una biblioteca pública interactúan muy sutilmente con los seres humanos: una persona reflexiona angustiada sobre unos problemas que le acucian y a los que no ve salida; el ángel, que le ha escuchado cavilar, le sonríe y posa una mano sobre su hombro, y el humano, que no ha percibido contacto material alguno, se siente reconfortado y contempla ahora de otra forma su situación.
Pues bien, el ejercicio que les propongo consiste en que, cuando vean esta película o la vuelvan a visionar si ya la han visto, sustituyan mentalmente a estos dos ángeles benévolos por unos robots o dispositivos de inteligencia artificial (IA) avanzada o “singular”. Y ya verán cómo la analogía funciona bastante bien.

“Algunas empresas de tecnología alardean de tener ya sentado uno o varios robots en sus consejos de administración, no solo aportando información que pueda ser tenida en cuenta por los consejeros, sino participando en las deliberaciones y votaciones, es decir, actuando como un consejero más”

Y es que lo que tiene el arte, la literatura, los clásicos -y El cielo sobre Berlín es ya un pequeño clásico- es que los grandes artistas son grandes visionarios, se anticipan a nuestros retos y preocupaciones. Así, la película que les comento trata en definitiva sobre la condición humana, sus limitaciones, pero también de la grandeza inherente a esa limitación.
El ángel que interpreta un sonriente Bruno Ganz está en crisis porque, en su condición angélica, sabe demasiado -su big data no tiene límites- y él preferiría saber menos (“Me gustaría adivinar algo, en lugar de saberlo todo siempre”, le oímos decir); y también y sobre todo, porque anhela la corporeidad, la materialidad física de los seres humanos (“tener fiebre, ensuciarme los dedos con la tinta del periódico…, sentir el peso de mis huesos al caminar”), y es que se ha enamorado de una bella trapecista a la que no puede tocar. Un personaje muy peculiar que entra y sale de escena es el actor estadounidense Peter Falk -que fue el Teniente Colombo de la célebre serie televisiva de los setenta-, que se interpreta a sí mismo como director de una película sobre el final de la Segunda Guerra Mundial que se está rodando en esos momentos en Berlín. Este personaje parece ser un antiguo ángel humanizado, que saluda a sus anteriores compañeros -a los que él sí puede ver- cuando se cruza con ellos y que se recrea con entusiasmo en los más humildes goces de la corporalidad como tomar una taza de café, sentir el aire en la cara o frotarse las manos para entrar en calor.
Y si les traigo a colación esta película -espero no haberles hecho demasiado spoiler- es porque a mí me ha llevado a reflexionar sobre dos cuestiones que me parecen pertinentes a la hora de plantear la posibilidad de algo de lo que ya se está empezando a hablar: de que artefactos, dispositivos, programas o aplicaciones dotados de IA puedan desempeñar las funciones propias del órgano de administración de una sociedad mercantil.
Por supuesto, lo que motiva esta breve reflexión es la pretensión de que dispositivos artificiales inteligentes asuman funciones decisorias en el seno de un consejo de administración (integrado por consejeros humanos y algún consejero o consejeros artificiales), o incluso que la totalidad de la función de administración de una compañía sea asumida por un dispositivo de este tipo. Al respecto, no podemos desconocer que eso que denominamos IA es una tecnología que presenta muchas manifestaciones y grados. Los frigoríficos, las televisiones que tenemos en casa y los teléfonos inalámbricos que todos llevamos en el bolsillo reciben ahora el calificativo de “smart”, de inteligentes o listos, pero no parece que la existencia de este tipo de artefactos se vea de momento como una amenaza para su futuro profesional por los rutilantes directivos de las compañías de nuestro Ibex 35. Como tampoco todas aquellas aplicaciones de IA que pueden prestar servicios instrumentales, de asistencia o ayuda para que los directivos empresariales tomen sus decisiones disponiendo de una mayor y mejor información.
Sin embargo, algunas empresas de tecnología -recientemente y entre otras, la empresa china de videojuegos Fujian NetDragon Softweb- alardean de tener ya sentado uno o varios robots en sus consejos de administración, no solo aportando información que pueda ser tenida en cuenta por los consejeros, sino participando en las deliberaciones y votaciones, es decir, actuando como un consejero más.
Lo cual parece que nos obliga a los mercantilistas o a los juristas en general a plantearnos cuestiones relacionadas con los requisitos legales de capacidad para ser administrador de una sociedad mercantil, o sobre qué régimen de responsabilidad es aplicable a este tipo de consejeros, si es que realmente los consideramos como tales.
Por mi parte, inspirado por mi reciente visionado de El cielo sobre Berlín, quiero plantear solo dos cuestiones:
La primera tiene que ver con el tema de la corporalidad.

“Los accionistas, los dueños del capital, se van a beneficiar de la eficiencia que aporta esta forma de inteligencia. Y así, los ciber-consejeros llegarán a ser los verdaderos business angels de nuestro mundo empresarial: unos agentes omniscientes y benévolos que dirigirán sabiamente nuestros negocios para nuestro mayor beneficio”

Cuando se habla de ciber-consejeros lo que parece que tenemos en mente -así en todas las imágenes que en los medios suelen acompañar a este tipo de noticias- es un robot de forma humana, un androide, sentado en una silla y frente a una mesa junto con los demás integrantes humanos del consejo. ¿Y por qué esta imagen? ¿Por qué queremos que nuestro ciber-consejero tenga cierta apariencia humana?
Cuando en los años noventa el gran maestro de ajedrez Garry Kasparov se enfrentó al célebre programa Deep Blue desarrollado por IBM, lo que tenía al otro lado de la mesa donde estaba colocado el tablero y las piezas no era un androide al estilo del C-3PO de hojalata dorada de Star Wars o de la atractiva androide femenina que seduce al protagonista de la mucho más reciente Ex Machina. Lo que tenía enfrente era un triste y soso monitor de ordenador -de esos cúbicos horribles que usábamos antes de la difusión de nuestras actuales y más elegantes pantallas planas-, un teclado y un discreto operario humano que iba moviendo las piezas del tablero siguiendo las instrucciones en código alfanumérico que mostraba la pantalla. Y es que para jugar al ajedrez -al menos para hacerlo de la forma en que lo hace una máquina y también los jugadores humanos experimentados- no hace falta ningún cuerpo, ni siquiera tablero ni piezas físicas. Se trata de la manipulación de unos objetos lógicos en un espacio geométrico idealizado, en atención a una posición previa de esos objetos y a unas reglas que determinan los movimientos posibles de las diferentes clases de objetos.
Si pensamos en nuestro consejero cibernético de una sociedad anónima o una sociedad limitada, ¿por qué aferrarnos a una concepción antropomórfica? Parece que, básicamente, por marketing. Un androide es algo tecnológicamente mucho más sofisticado que un vulgar PC. Si nuestro programa de IA es capaz de animar y mover un cuerpo material en un espacio físico tridimensional, seguro que nos parece más inteligente y sensible (y digo “sensible” en el doble sentido en que para los hablantes de español significa sensitivo, que percibe y siente, y para los angloparlantes, sensato, prudente, de buen juicio). También la figura humana nos ayuda a empatizar con el artefacto, a verlo más como uno de los nuestros.
No deja de haber en ello algo de juego de ilusionismo, de apariencia engañosa. Porque para actuar como consejero -en lo que es pura actuación deliberativa y decisoria- realmente no hace falta ningún cuerpo, en particular, ningún cuerpo de forma humana. A diferencia de un dron o de un vehículo autónomo, lo que hace un consejero, en esencia, no es desplazarse por el espacio físico, sino procesar información: recibir unos datos, analizarlos y ofrecer como output una decisión, lo mismo que hacía Deep Blue y que es una actividad de naturaleza puramente lógica o intelectual. De manera que nuestro pretendido ciber-consejero más que a un ser humano a lo que se va a parecer es a un programa de ordenador, a una aplicación informática, a un asistente virtual incorpóreo como Siri a Alexa que nos hablan indistintamente desde diferentes dispositivos.
Esto es algo que no podemos desconocer los juristas cuando nos planteamos cuestiones tales como la posible responsabilidad del ciber-consejero. A mí me parece que aquí nuestro prejuicio antropocéntrico y personalista nos confunde. Queremos ver un posible sujeto de responsabilidad -titular, en su caso, de un patrimonio afecto a tal responsabilidad- donde difícilmente puede haber algún sujeto, y ello por la propia naturaleza de las cosas, por la ausencia de cuerpo, o mejor por la independencia entre IA y un cuerpo determinado. Porque, incluso si nos empeñamos en alojar nuestra aplicación de IA experta en la gestión empresarial en un artefacto con figura humana, el hardware en cuestión ejecutará esa aplicación, pero no se identifica con ella, en especial, si opera conectado a un sistema informático más amplio o a la red, como será lo normal, o incluso si todo o parte de sus tareas las lleva a cabo mediante computación en la nube.
Así, toda la IA que hasta la fecha hemos sido capaces de desarrollar se fundamenta en tecnología digital, y no debemos olvidar que lo propio de la tecnología digital es que su soporte se hace fungible, porque cualquier información digitalizada se convierte en ubicua, reproducible ad infinitum, y fácilmente trasplantable de un soporte a otro; y a su vez, un soporte determinado puede dar cabida de forma simultánea o sucesiva en el tiempo a informaciones muy diferentes e independientes entre sí, lo que hace que el contenido de ese soporte en un preciso momento sea difuso, difícil de determinar.

“Lo que esperamos en último término de las máquinas es que acaben con la incertidumbre y la imprevisibilidad de muchas circunstancias y acontecimientos que nos afectan: desde la circulación de las borrascas en la atmósfera o la propagación de un virus a las turbulencias de los mercados, pasando por el veredicto de un jurado o el resultado de unas elecciones generales”

Esto, evidentemente, supone un problema a la hora de identificar un agente responsable de una decisión o de un acto. Se puede decir que una inteligencia biológica es un cuerpo inteligente: un determinado cuerpo físico es inteligente, o un determinado cuerpo físico es su inteligencia, su propia identidad corporal se identifica con su inteligencia, con los contenidos y rutinas de su mente. Por el contrario, un robot no es una inteligencia, sino que, en su caso, ejecuta una inteligencia, tiene alojada o sirve de instrumento a una inteligencia, pero no se identifica necesariamente con ella, porque todo el contenido de esa inteligencia -que en definitiva no es más que una determinada sucesión de ceros y unos- puede estar antes o al mismo tiempo en cualquier otro dispositivo digital (o en la red o en la nube), y se puede replicar exactamente en cualquier otro, y también borrar de su soporte inicial, pudiendo ser este reformateado en cualquier momento.
En definitiva, ¿cómo podemos hacer responsable de algo a lo que no es más que un fragmento de código y de información?
Por otra parte -y este es otro importante aspecto de la cuestión de la corporalidad-, esta desconexión por esencia entre hardware y software informático nos puede llevar a dudar incluso de la misma posibilidad fáctica de una IA realmente equiparable a la humana (con la flexibilidad, adaptabilidad, creatividad y eso tan importante que conocemos como “sentido común”, que caracterizan a la inteligencia humana). De la misma forma que los ángeles de El cielo sobre Berlín echaban en falta la materialidad de un cuerpo, nuestros pretendidos ciber-consejeros no soñarían con ovejas eléctricas, sino con tener un cuerpo de verdad como los humanos, porque eso es lo que los haría realmente inteligentes.
Y es que podríamos decir -siguiendo las interesantes observaciones del neurocientífico Antonio Damasio-, que es disponer de y tener a nuestro cargo un cuerpo físico lo que nos ha hecho inteligentes y en concreto autoconscientes. El cuerpo nos introduce en el mundo, nos permite percibirlo y relacionarnos con él, pero también es nuestro límite, nuestra frontera. Nos sitúa y nos hace ocupar un determinado lugar dentro del espacio físico. Delimita lo que soy yo frente a todo lo que no soy yo, porque está fuera de la delimitación espacial de mi cuerpo. Y la conciencia humana, el yo -y también el yo jurídico-, surgiría necesariamente de esta delimitación y contraposición: del sentimiento primario de percibir internamente un trozo de materia como propio frente a todo el mundo ajeno circundante.
Frente al dualismo cartesiano, que contraponía radicalmente el mundo físico material -la res extensa- y el mundo del espíritu o la mente -la res cogitans-, una visión más realista y certera nos enseña que para ser inteligentes necesitamos de un cuerpo, con sentidos que nos sitúan en el mundo, que nos dotan de percepción tanto externa como interna, pero también como punto de referencia de nuestra experiencia existencial, sobre el que construir nuestro yo. En concreto, no puede haber inteligencia autoconsciente sin cuerpo, o mejor, sin unión orgánica e inescindible entre una mente y un cuerpo (visión no dualista ésta que no es precisamente ajena al pensamiento cristiano, cuando en su credo hace referencia a la “resurrección de la carne”, y no de espíritus puros o incorpóreos).
Mi segunda reflexión tiene que ver con el tema de la omnisciencia. ¿Por qué queremos tener un robot o un dispositivo dotado de IA en nuestro consejo de administración, aparte de que pueda favorecer la imagen de vanguardia tecnológica de nuestra empresa? ¿Por qué queremos que un programa informático, una mente electrónica gobierne nuestra empresa? Pues, en primer lugar, por una razón de utilidad y eficiencia: porque pensamos que lo va a hacer mejor que una o varias mentes humanas, de forma más acertada y más rápida. Y ello porque la inteligencia electrónica opera a una velocidad próxima a la de la luz y a esa velocidad casi instantánea es capaz de procesar una información infinitamente más amplia que la que torpemente maneja nuestra rudimentaria inteligencia biológica. Y además, de forma completamente objetiva, desinteresada, sin interferencia de sesgos psicológicos o de intereses personales. Y por supuesto -no menos importante- a un menor coste. En un primer momento, esta tecnología va a ser muy cara, pero pronto todo esto se irá abaratando, y seguro que resultará mucho más económica que las retribuciones que perciben los actuales directivos de muchas empresas. De manera que los accionistas, los dueños del capital, se van a beneficiar de la eficiencia que aporta esta forma de inteligencia. Y así, los ciber-consejeros llegarán a ser los verdaderos business angels de nuestro mundo empresarial: unos agentes omniscientes y benévolos que dirigirán sabiamente nuestros negocios para nuestro mayor beneficio.

“¿Por qué no introducir la inteligencia artificial en el mismo ámbito de la política, de las decisiones políticas? Si queremos que robots o programas sabios, eficientes, objetivos y benévolos administren nuestras empresas, ¿por qué no vamos a encomendarles una concejalía de urbanismo, un ministerio o incluso la presidencia del gobierno de la Nación? ¿Es tecnológicamente más difícil dirigir un Estado que una gran sociedad anónima?”

En el marco de esta genérica búsqueda de la eficiencia hay algo muy importante y más específico: la aspiración a una predictibilidad más plena. Lo que esperamos en último término de las máquinas es que acaben con la incertidumbre y la imprevisibilidad de muchas circunstancias y acontecimientos que nos afectan: desde la circulación de las borrascas en la atmósfera o la propagación de un virus a las turbulencias de los mercados, pasando por el veredicto de un jurado o el resultado de unas elecciones generales. Gracias a su capacidad de manejar una información experiencial mucho más extensa tanto en el espacio como en el tiempo, la IA puede descubrir conexiones causales que a nosotros actualmente se nos escapan. En definitiva, debería permitirnos conocer toda la causalidad de la totalidad de los fenómenos del universo y por tanto hacer predecible todo acontecimiento. Lo cual no hace falta decir que podría ser un factor muy competitivo a la hora de dirigir una organización empresarial.
Ahora bien, si es verdad que en algún momento más o menos próximo vamos a alcanzar un estado de la técnica que permita que un agente artificial desempeñe de forma más eficiente la misma función que nuestros actuales administradores sociales de carne y hueso, entonces podemos tener la seguridad de que la cosa no va a quedar ahí. ¿Para qué necesitaremos una junta general de accionistas? ¿Por qué van a ser los propios socios reunidos en junta los que deliberen torpemente y decidan sobre las cuestiones claves de la vida de la empresa? Que sea también una inteligencia algorítmica la que vele por sus intereses de forma más eficaz que ellos mismos.
Para entonces, sin ninguna duda, la conducción de toda clase de vehículos, la ejecución material de todas las operaciones quirúrgicas y además el diagnóstico médico y la prescripción de tratamientos y fármacos, el asesoramiento y consejo legal, la asistencia psicológica y, por supuesto, la contratación bursátil estarán ya a cargo de dispositivos de IA.
¿Y nos vamos a limitar al sector privado? Que los procesos judiciales o los expedientes administrativos sean resueltos no por jueces o funcionarios humanos sino por programas de IA no es algo tan descabellado si pensamos que el silogismo legal o judicial -la subsunción del hecho concreto acaecido en el supuesto de hecho de una norma general para predicar de ese caso la consecuencia jurídica prevista en la norma- tiene mucho de algoritmo y que la propia experiencia jurídica viene generando su propio y peculiar big data, una masa ingente de casos singulares decididos por jueces o autoridades administrativas hoy fácilmente accesibles en forma de datos digitalizados, y de los cuales es posible destilar mediante analítica mecanizada patrones o criterios de decisión homologables para nuevos casos que se vayan presentando.
Pero, más allá de la aplicación del derecho ya existente, ¿por qué no introducir la IA en el mismo ámbito de la política, de las decisiones políticas? Si queremos que robots o programas sabios, eficientes, objetivos y benévolos administren nuestras empresas, ¿por qué no vamos a encomendarles una concejalía de urbanismo, un ministerio o incluso la presidencia del gobierno de la Nación? ¿Es tecnológicamente más difícil dirigir un Estado que una gran sociedad anónima?
Y por supuesto, que legisle también la IA y no lentos, torpes y débiles parlamentarios humanos. Y, ya puestos, ¿para qué necesitamos elecciones, si los ciudadanos también somos un desastre, tan influenciables, tan fáciles víctimas de nuestras pasiones, tan pésimos jueces de nuestro interés? Podríamos prescindir del costoso e inoperativo artificio de la representación política para instaurar la verdadera tecnocracia: el gobierno de los más inteligentes, es decir, de las máquinas.
¿No es esto a lo que nos conduce de forma inexorable el incesante desarrollo tecnológico combinado con nuestro afán por la utilidad, la previsibilidad y la seguridad? Un mundo en el que los humanos nos habremos liberado de toda la incertidumbre y contingencia que rodea nuestras vidas y que nos genera angustia y desazón y también de la ardua tarea de la decisión, y con ella de la carga de la responsabilidad, del sentimiento de culpa y de la ansiedad.
Con lo cual, la cuestión final es: ¿no habremos perdido con ello también el contenido y el sentido mismo de la vida humana?, ¿no se nos acabará difuminando nuestra vida en el tedio, como a los ángeles de Wenders?
Quizá deberíamos tener mucho cuidado con lo que deseamos.

MGM ilustracion

Palabras clave: Inteligencia artificial, Ciber-consejeros, Business angels.
Keywords: Artificial intelligence, Cyber-counselors, Business angels.

Resumen

Ante el anuncio por algunas compañías de la incorporación a sus órganos de administración de dispositivos dotados de inteligencia artificial, este artículo reflexiona sobre ciertas cuestiones tanto tecnológicas como antropológicas y éticas que suscita esta posibilidad, tomando como referencia una reputada obra cinematográfica de los años ochenta: El cielo sobre Berlín, de Wim Wenders. En particular, la reflexión se centra en el tema de la conexión -o más bien, falta de conexión- entre inteligencia artificial y un cuerpo determinado, como presupuesto de una posible responsabilidad y también de una verdadera inteligencia equiparable a la humana; así como en la pretensión última de alcanzar con esta tecnología una predictibilidad completa de todas las circunstancias que afectan a la vida humana.

Abstract

Given the announcement by some companies of the incorporation into their management bodies of devices equipped with artificial intelligence, this article reflects on some technological and also anthropological and ethical issues raised from this possibility, taking as a reference a renowned cinematographic work of the eighties: The sky over Berlin, by Wim Wenders. In particular, the reflection focuses on the issue of the connection – or rather, lack of connection – between AI and a given body, as a presupposition of a possible responsibility and also of a true intelligence comparable to that of humans; as well as in the ultimate claim to achieve with this technology: a complete predictability of all circumstances that affect human life.

El buen funcionamiento de esta página web depende de la instalación de cookies propias y de terceros con fines técnicos y de análisis de las visitas de la web.
En la web http://www.elnotario.es utilizamos solo las cookies indispensables y evaluamos los datos recabados de forma global para no invadir la privacidad de ningún usuario.
Para saber más puede acceder a toda la información ampliada en nuestra Política de Cookies.
POLÍTICA DE COOKIES Rechazar De acuerdo