Menú móvil

El Notario - Cerrar Movil
REVISTA87

ENSXXI Nº 87
SEPTIEMBRE - OCTUBRE 2019


Quis custodiet ipsos custodes?, se preguntaba Juvenal. Hoy en día, cuando el poder -ya sea público o privado- se esconde cada vez con mayor frecuencia detrás de la tecnología digital, cabría preguntarse, ¿quién vigila al algoritmo?

La lucha del derecho contra el poder ha encontrado siempre un gran aliado en la publicidad de las normas. Cuando las reglas están claras y pueden ser conocidas por todos se producen dos efectos enormemente positivos que contribuyen a limitar el riesgo de despotismo. Por un lado, el poder tiene la reputación que merece, pues no es posible afirmar una cosa formalmente bajo la apariencia de regla jurídica y practicar luego la contraria, al menos sin pagar un precio por ello. Por otro, se pone coto al abuso y a la incertidumbre, pues todo exceso es medido por su adecuación a la regla. Sin embargo, como es natural, su propia naturaleza expansiva ha llevado al poder a buscar sin descanso subterfugios con los que desvirtuar esa publicidad, ya sea a través de la ambigüedad de las normas o del tamaño de la letra de los contratos. Pues bien, hoy ha encontrado en la nueva tecnología digital un instrumento idóneo a ese fin: el algoritmo.

“La propia naturaleza expansiva del poder le ha llevado a buscar sin descanso subterfugios con los que desvirtuar el principio de publicidad, ya sea a través de la ambigüedad de las normas o del tamaño de la letra de los contratos. Hoy ha encontrado en la nueva tecnología un instrumento idóneo a ese fin: el algoritmo”

La delegación de aspectos fundamentales de la norma o de la oferta contractual en procesos digitales automatizados es cada vez más frecuente y en el futuro inmediato pasará a ser un fenómeno casi general, lo que plantea un problema de comprensibilidad y transparencia que no se va a solucionar aumentando el tamaño de la letra. Pero lo principal es ser conscientes del riesgo que implica. El que el algoritmo sea un proceso automatizado y ordenado de operaciones sistemáticas le proporciona un aurea de impersonalidad y objetividad que parece situarlo en las antípodas de esa arbitrariedad tan característica del poder descontrolado. Sin embargo, que lo sesgos puedan estar sistematizados no los hace menos peligrosos, sino todo lo contrario. Bajo esa apariencia “tecnocrática” puede esconderse cualquier cosa. En este número analizamos dos ejemplos muy significativos, uno referente al poder público, al ámbito de las normas, y el otro referente al poder privado, al ámbito de los contratos. En los dos casos el poder lucha por defender el secreto del algoritmo, y cabe sospechar que por algo será.
En la nueva era digital los ciudadanos preocupados por defender una sociedad liberal y democrática no solo debemos preocuparnos por el populismo, al fin y al cabo un simple síntoma, sino por las causas que lo explican. Ya sabemos que la revolución tecnológica es una de ellas. Lo que, sin embargo, está pasando más desapercibido, es que el riesgo no procede solo de esos círculos cerrados de complacencia inmunes a la crítica, o de la facilidad a la hora de difundir mensajes virulentos o simples mentiras que en otra época no hubieran llegado al espacio público (vicios que, a la postre, encuentran en el ciudadano tanto su origen como su principal víctima propiciatoria), sino especialmente del manejo interesado de esa tecnología para el beneficio político y/o económico de unos pocos. El peligro tiene muchas ramificaciones, pero el secreto del algoritmo es uno de ellos.
Por eso, resulta imprescindible que el ciudadano de esta era que comienza sea consciente de su responsabilidad a la hora de exigir absoluta transparencia en este tema. Nadie le va a facilitar ese trabajo. Ni los políticos (a menos que se les incentive para ello) ni mucho menos los líderes tecnológicos. Al igual de lo que ocurrió en el mundo grecorromano hace más de dos mil quinientos años, hoy la lucha por el derecho sigue estrechamente vinculada a la lucha por la transparencia, con la finalidad de averiguar lo que, verdaderamente, se esconde al otro lado.

El buen funcionamiento de esta página web depende de la instalación de cookies propias y de terceros con fines técnicos y de análisis de las visitas de la web.
En la web http://www.elnotario.es utilizamos solo las cookies indispensables y evaluamos los datos recabados de forma global para no invadir la privacidad de ningún usuario.
Para saber más puede acceder a toda la información ampliada en nuestra Política de Cookies.
POLÍTICA DE COOKIES Rechazar De acuerdo