Menú móvil

El Notario - Cerrar Movil
REVISTA96

ENSXXI Nº 96
MARZO - ABRIL 2021

Por: MANUEL GONZÁLEZ-MENESES GARCÍA-VALDECASAS
Notario de Madrid


NUEVAS TECNOLOGÍAS

“Nada grande entra en la vida de los mortales sin una maldición”

La película documental del momento se titula “El dilema de las redes sociales” (The social dilemma). El director es el neoyorquino Jeff Orlowski, que antes se había ocupado del cambio climático en Chasing Ice y Chasing Coral. Se estrenó en febrero de 2020 en el festival de cine de Sundance y se puede ver desde el pasado mes de septiembre en la plataforma Netflix, donde ha alcanzado un gran éxito de audiencia. Y no es para menos. Se trata de una dura denuncia de los efectos perniciosos de las redes sociales y lo que cuenta y cómo se nos cuenta impresiona bastante.

La cinta se abre con la siguiente cita de Sófocles: “Nada grande entra en la vida de los mortales sin una maldición”. En su desarrollo combina testimonios en primera persona de algunos de los mismos responsables intelectuales del diseño de las redes sociales más relevantes (Tristan Harris, diseñador ético de Google; Tim Kendall, responsable de monetización de Facebook y luego presidente de Pinterest; Justin Rosenstein, creador del botón Like de Facebook; o el mismísimo Sean Parker, cofundador de Napster y que llegó a ser presidente de Facebook) y opiniones de algunos académicos, con elementos de ficción o dramatización en dos niveles. En el primero presenciamos los efectos de la adicción al teléfono móvil en los diferentes miembros, en especial los más jóvenes, de una familia media estadounidense. En el segundo plano vemos en acción, representados en forma antropomórfica, a los mecanismos tecnológicos de inteligencia artificial -los algoritmos- mediante los que somos manipulados al servicio de los intereses crematísticos de los dueños de las grandes empresas tecnológicas.
El producto resultante tiene la virtud de explicar de forma sencilla, efectista y muy convincente el peligro que para el conjunto de nuestras sociedades representan las redes sociales. Y ello no solo como generadoras de una poderosa adicción que está empobreciendo y hasta literalmente destruyendo la vida de muchos adolescentes, sino como un factor clave en la polarización ideológica y política y en la creciente crispación social en que estamos actualmente inmersos.

“La adicción digital no es un accidente o efecto colateral de las redes sociales sino la base misma de todo un modelo de negocio”

Tampoco le han faltado críticas. Se ha dicho que su mensaje es un tanto simplista y sensacionalista; que no da voz a posibles opiniones contrarias ni a los efectos positivos de las redes; que la parte de ficción es un poco burda; que los remedios de naturaleza tecnológica o de revisión de la conducta individual que propone (desactivar las notificaciones, la geolocalización o la ordenación de las noticias por relevancia, no aceptar los vídeos que nos sugiere YouTube, reducir el tiempo de exposición, no permitir el acceso de menores a la redes) no cuestionan el modelo socioeconómico que se encuentra en la raíz del problema; que el mismo documental no deja de incurrir en aquello que denuncia: generar una alarma conspiranoica en este caso contra esas fuerzas malignas que anidarían en Silicon Valley; incluso el contrasentido que supone que sea la propia Netflix la que esté aireando esta denuncia, valiéndose de las mismas técnicas algorítmicas de captación de audiencia que el documental saca a la luz.
Pero más allá de su propia polémica, a mí me ha parecido que aporta unas cuantas ideas muy interesantes de cara a un debate ya ineludible.
La idea básica es que todo este asunto de las redes sociales está dirigido a captar nuestra atención, a mantenernos enganchados a una pantalla el mayor tiempo posible -como verdaderos yonquis digitales-, que es lo que permite “monetizar” el uso de estas plataformas, es decir, obtener ingresos mediante la comercialización de los correspondientes espacios publicitarios. De manera que la adicción digital no es un accidente o efecto colateral de las redes sociales, sino la base misma de todo un modelo de negocio.
Al logro de este propósito contribuyen, por una parte, la recopilación de la mayor cantidad posible de datos sobre cada uno de nosotros, esa valiosa información sobre nuestros gustos, intereses, ideas, aficiones y por supuesto debilidades, de la que vamos dejando un ostensible rastro en nuestro incesante deambular por el mundo digital (si no estás pagando por un producto, es que el producto eres tú, es decir, tus datos -se nos recuerda por si todavía no nos habíamos dado cuenta-), que es lo que a su vez permite un suministro de reclamos y estímulos completamente personalizado; y por otra parte, el empleo de los más sofisticados conocimientos sobre psicología dirigidos al condicionamiento de la conducta humana. Y no se trata solo de explotar la inseguridad en cuanto a su imagen física y la búsqueda de aceptación social por adolescentes y preadolescentes cada vez más jóvenes, o la necesidad de interacción social, reconocimiento y gratificación a que es sensible cualquier ser humano, sino de una cuestión que podríamos calificar como epistemológica y con una repercusión social de mayor alcance: la tendencia al acomodo y facilidad intelectual. Así, lo que sistemáticamente se lleva a cabo es un refuerzo e insistencia en las ideas y prejuicios de cada uno. Identificada la ideología o el perfil de intereses de un sujeto, la estrategia consiste en alimentar su atención con toda clase de mensajes que confirmen esa particular visión del mundo, como si esa información, completamente unilateral, fuera la única relevante, hasta que llegue a ser asumida como única verdad objetiva sobre el mundo real. Y este cierre del horizonte perceptivo e intelectual, con la consiguiente radicalización ideológica y polarización social, no se promueve por razón ideológica alguna, sino simplemente porque incrementa el enganche y el tiempo de exposición a la red y por tanto la posibilidad de monetizar la plataforma correspondiente por parte de sus titulares.

“El propio diseño de la redes sociales favorece la proliferación y difusión de noticias falsas que se hacen pasar por verdaderas porque confirman las expectativas cognitivas sesgadas de grupos sociales cada vez más acríticos y radicalizados”

Así, la crítica del diseño vigente de las redes sociales pasa del tema de la adicción y sus efectos nocivos en la salud individual tanto mental como física, sobre todo de los adolescentes, al tema de las fake news. La verdad es aburrida y no engancha tanto como lo sensacionalista, lo exagerado, lo sesgado. Y de ahí que el propio diseño de la redes sociales, configurado premeditada e interesadamente para mantener al máximo la atención del usuario, favorece la proliferación y difusión de noticias falsas que se hacen pasar por verdaderas porque confirman las expectativas cognitivas sesgadas de grupos sociales cada vez más acríticos y radicalizados, lo que a su vez entraña un grave peligro para la estabilidad de nuestras democracias. Se está debilitando el mismo fundamento del consenso más básico sobre el que se asienta una sociedad: la idea de formar parte de una misma comunidad humana, lo que requiere compartir unas cuentas ideas elementales sobre el mundo.
Junto a este núcleo temático principal, el documental suscita también algunas reflexiones muy interesantes sobre la cuestión de las relaciones entre tecnología y sociedad, y en particular sobre el uso de la inteligencia artificial (IA).
Una primera idea llamativa es la siguiente. Los estudiosos y divulgadores de este tema de la IA suelen hacer referencia, con entusiasmo o con alarma, al concepto de “singularidad”. Por el momento, los dispositivos o aplicaciones de IA que hemos sido capaces de diseñar y confeccionar son meras herramientas con facultades intelectuales muy limitadas. Son capaces de ejecutar determinadas tareas a una extraordinaria velocidad, muy superior a la humana, pero carecen de esa flexibilidad, versatilidad o plasticidad que define a la inteligencia humana y que la hace superior a cualquier artefacto que con mucho optimismo y también con mucho afán de marketing denominamos “inteligente” o “smart”. Partiendo de este actual estado del arte o de la técnica, se plantea la posibilidad de que en algún momento -no sabemos si muy lejano o mucho más próximo de lo que pensamos- la IA llegue a superar a la singularidad humana, que la IA alcance la inteligencia de propósito general, y sobre todo la autoconciencia y la capacidad de asignarse sus propios fines. Al respecto se habla de “superinteligencia”, porque si a la potencia y velocidad de cómputo que son propias de la tecnología informática electrónica se une una flexibilidad y generalidad equiparables a las que definen la inteligencia humana, el resultado sería un agente dotado de una inteligencia muy superior a la humana. Y si para entonces, en el momento en que se produzca esa eclosión de inteligencia, no hemos conseguido asegurar que esa superinteligencia se comportará con benevolencia respecto de la especie humana, podemos irnos preparando para lo peor.
Pues bien, en uno de los momentos más lúcidos del documental que comento se nos viene a decir que no tenemos por qué preocuparnos de la singularidad. Para que la IA se convierta en una amenaza para nuestra sociedad no es necesario esperar a que supere en capacidad general a la inteligencia humana. Basta con que conozca y sepa explotar nuestras debilidades. Y a esa fase de desarrollo ya sí que hemos llegado. En especial si tenemos en cuenta que la conducta humana solo excepcionalmente puede ser calificada como un proceso inteligente. Una parte muy importante -por no decir la mayor parte- de nuestro comportamiento cotidiano no se rige precisamente por la razón crítica, sino por sentimientos, emociones o simplemente inercias. Y por tanto, somos mucho más fáciles de manipular de lo que pensamos.
Y para que las aplicaciones de IA lleguen a resultar peligrosas tampoco es necesario que hayan alcanzado el nivel de la autonomía, de la capacidad de elegir y asignarse sus propios fines. Basta con que puedan ser empleadas instrumentalmente, como herramientas, por algunos pocos seres humanos, para que estos dispongan de un poder de control y dominación sobre el resto de los seres humanos como nunca antes había sido conocido en toda la historia de la humanidad.

“Para que la IA se convierta en una amenaza para nuestra sociedad no es necesario esperar a que supere en capacidad general a la inteligencia humana. Basta con que conozca y sepa explotar nuestras debilidades”

Esta es una cuestión -el control sobre otros hombres por medio de la tecnología- que ya fue anticipada hace bastante tiempo, en los mismos inicios de la informática a finales de los años 40 del pasado siglo, por el científico norteamericano Norbert Wiener, uno de los dos padres, junto con Claude Shannon, de la teoría de la información.
“Cibernética” (Cybernetics) es el neologismo que acuñó Wiener en un libro publicado en el año 1948 -“Cibernética o el control y la comunicación en animales y máquinas”- para dar nombre a una nueva disciplina transversal que tendría por objeto la información y el control como cuestiones claves para un nuevo enfoque en campos tan diversos como la ingeniería, la biología, la psicología o la sociología. El término lo tomó de la palabra griega kibernetes, que denomina al piloto o timonel de una nave. Así, el ciberneta es el que controla o dirige. Hoy el sustantivo cibernética y el adjetivo cibernético y todos sus ciberderivados (del ciberespacio al cibercafé, pasando por los ciborgs, los ciberpunks, el ciberataque, la ciberseguridad o el cibernotario), los empleamos para hacer referencia a las máquinas informáticas y al mundo de internet, pero esta es una vulgarización y banalización de un concepto más complejo y de un alcance mucho más amplio. En realidad, su origen se encuentra en la fisiología, o para ser más preciso, en una peculiar analogía de doble sentido entre los sistemas biológicos y el funcionamiento de ciertas máquinas propias del desarrollo tecnológico moderno.
Lo que me interesa ahora es que en un posterior libro del año 1950 “El uso humano de los seres humanos. Cibernética y sociedad” -una versión más ligera y accesible de su gran obra del año 1948- Wiener introduce una extensa cita de una reseña de su libro Cybernetics publicada unas pocas semanas después de su aparición, el 28 de diciembre de 1948, en el periódico parisino Le Monde por un fraile dominico, el Père Dubarle, con el título “Une nouvelle science: la cybernetique. Vers la machine à gouverner?”.
Este Padre Dominique Dubarle (1907-1987) no era precisamente un diletante en estos asuntos, pues fue doctor en filosofía y teología, profesor de filosofía y luego decano de l’Institute Catholique de París, con formación en lógica matemática y epistemología e incluso en física nuclear (también participó como experto en los trabajos del Concilio Vaticano II). En cuanto a su artículo en Le Monde, representó precisamente un temprano hito en la recepción de la cibernética en Francia. Fue la primera vez que un artículo en la prensa generalista francesa se ocupaba de las novedosas máquinas computadoras creadas en Estados Unidos durante la Segunda Guerra Mundial, que suscitaban en el público un sentimiento de fascinación mezclado con el temor.

“La IA no es un fenómeno natural sino un artificio o creación del ser humano. Por tanto, nosotros mismos somos los responsables no solo de su uso, sino de su creación y de su diseño”

Gracias a estas grandes máquinas matemáticas -nos decía-, la solución de sistemas de ecuaciones o de derivadas con relevancia para algún problema físico, que hubiera requerido el trabajo de varios años de un equipo de calculadores humanos expertos, se podía encontrar en cuestión de días. Pero esto solo era el principio. Era esperable que en muy poco tiempo se creasen máquinas mucho más rápidas, capaces de atacar problemas bastante más complejos con medios materiales menos onerosos. Y entre otras muchas expectativas novedosas que se abrían, se planteaba la posibilidad de una conducción racional de los procesos humanos, en particular aquellos que presentan alguna regularidad estadística, como los fenómenos económicos o la evolución de la opinión. Al respecto, imaginaba una máquina capaz de recoger las informaciones pertinentes sobre la producción y el mercado, para después determinar, en función de la psicología media de los seres humanos y de las medidas que se pueden tomar en un momento determinado, cuál sería la evolución más probable de la situación. “¿No se podría de la misma manera concebir -nos seguía inquiriendo- un aparato de Estado que cubra todo el sistema de decisiones políticas, ya sea en un régimen de pluralidad de Estados que se distribuyen la tierra ya sea en un régimen aparentemente mucho más simple de un gobierno único sobre todo el planeta? Así, podemos soñar con un tiempo en el que una máquina de gobernar vendrá a suplir -para bien o para mal, ¿quién sabe?- la insuficiencia hoy patente de las cabezas y de los aparatos acostumbrados en la política”.
Vemos como en esta más que temprana aproximación a la informática -que todavía no tenía este nombre- este fraile dominico era ya consciente de su posible significado político: los nuevos autómatas calculadores podían ser el instrumento para transformar la política en una técnica de control de masas, en una gigantesca máquina de gobernar. Así, algo que nació como instrumento auxiliar para realizar más velozmente cálculos numéricos, se vaticinaba como un poderoso medio de control y gestión de los asuntos humanos, como una tecnología de gobierno. Y nos advertía: “la máquina de gobernar definirá al Estado como el jugador más avisado sobre cada plan particular y como el único coordinador supremo de todas las decisiones parciales. Privilegios enormes que, si son adquiridos científicamente, permitirán al Estado someter a todo otro jugador de este ‘juego de los hombres’ a este dilema: o bien la ruina casi inmediata o bien la cooperación según el plan. Y esto será sin más que jugar el juego, sin ninguna violencia exterior. Los amantes del mejor de los mundos tienen aquí bien para soñar”.
Por su parte Wiener, como reflexión suscitada por estas advertencias de Dubarle, nos decía que el verdadero peligro no lo veía en el funcionamiento autónomo de unas máquinas muy poderosas capaces de obtener control sobre la humanidad, sino más bien, en que estas máquinas pudieran ser utilizadas por un ser humano o un bloque de seres humanos para incrementar su control sobre el resto de la raza humana o bien en que líderes políticos pudieran intentar controlar sus poblaciones por medio no de las máquinas en sí mismas, sino por medio de técnicas políticas tan estrechas e indiferentes a las posibilidades humanas como si de hecho hubieran sido concebidas mecánicamente.

“Los seres humanos tenemos la necesidad existencial de vivir en la verdad, en un conocimiento objetivo de la realidad”

Sin embargo, lo que no llegaron a imaginar ni Wiener ni el Padre Dubarle era que este control mediante la informática de la conducta y el pensamiento de amplias masas de seres humanos no sería adquirido primeramente por los Estados, sino por unas corporaciones privadas, por unas empresas -que conocemos como Big Tech- guiadas exclusivamente por el objetivo de maximizar el beneficio, la monetización.
Una segunda idea interesante para la reflexión sobre la IA que nos propone en su tramo final “El dilema de la redes sociales” tiene relación con el tema de la responsabilidad. La IA es, por definición, “artificial”. Es decir, no se trata de un fenómeno natural, sino de un artificio o creación del ser humano. Por tanto, nosotros mismos somos los responsables no solo de su uso, sino de su creación y de su diseño.
Aquí la referencia obligada es el profesor de Derecho constitucional de la Universidad de Stanford Lawrence Lessig, con su célebre obra del año 1999 “Code and others Laws of Cyberspace”, a la que se suele atribuir la divulgación del lema “code is law”: el código -en el sentido de código o programa informático- es la ley en el mundo digital. Con ello lo que quería decir es que la propia tecnología es el elemento regulatorio principal en este ámbito. O dicho de otra forma, que no son los estatutos o leyes que pasan o aprueban los parlamentos los que rigen el mundo que ha creado Internet -el ciberespacio-, sino el software y el hardware que conforman la arquitectura que genera este peculiar espacio y que determinan lo que de facto se puede o no hacer en él. Esto no supone, a su vez, una aceptación acrítica del statu quo que resulta de la implantación de una determinada tecnología, por cuanto la tecnología -como he indicado- no es un dato natural que nos viene dado, sino algo completamente artificial, que construimos precisamente los seres humanos y respecto de cuyo diseño tenemos posibilidades de elección y por tanto responsabilidad. Y en relación con ello, la tecnología no es neutra: optar por un determinado diseño y no por otro supone primar unos determinados valores humanos o sociales sobre otros.
Y así, si las redes sociales están diseñadas como lo están actualmente -si son, podríamos decir, perversas por su propio diseño-, esto es algo que obedece a elecciones humanas. Las cosas no tendrían por qué ser necesariamente así. Podrían haber sido diseñadas y todavía podrían ser rediseñadas -piensa Tristan Harris, que después de dejar Google promueve un uso humano de la tecnología desde la fundación que creó y preside, Center for Human Technology- de una forma no contraria a los valores e intereses humanos, sino respetuosa con la humanidad de sus usuarios y que no los manipulase o instrumentalizase al servicio de la codicia y los fines de lucro de unos pocos.
Y para terminar esta reseña quiero hacer alusión a una cuestión por la que, por profesión, no puedo dejar de sentirme especialmente concernido: el tema de la verdad. Ya he hecho referencia al asunto de las fake news y a ese cierre u oclusión cognitiva de los usuarios de las redes sociales que promueve su actual diseño. En relación con ello, el científico informático Tristan Harris se muestra especialmente elocuente. Los seres humanos -nos viene a decir- tenemos la necesidad existencial de vivir en la verdad, en un conocimiento objetivo de la realidad. En un mundo donde la difusión de la mentira te hace ganar dinero es este un mensaje muy reconfortante -y también una llamada a la responsabilidad-, que nos recuerda el último fundamento humanista de aquella profesión consistente en preservar y custodiar la verdad en algunas de las situaciones más delicadas de las vidas de las personas.

MGM ILUSTRACION

Palabras clave: Redes sociales, Fake news, Inteligencia artificial, Efectos, Verdad.
Keywords: Social networks, Fake news, Artificial intelligence, Effects, Truth.

Resumen

La película documental “El dilema de las redes sociales” tiene la virtud de explicar de forma sencilla, efectista y muy convincente el peligro que para el conjunto de nuestras sociedades representan las redes sociales. Y ello no solo como generadoras de una poderosa adicción que está empobreciendo y hasta literalmente destruyendo la vida de muchos adolescentes, sino como un factor clave en la polarización ideológica y política y en la creciente crispación social en que estamos actualmente inmersos.

Abstract

The documentary film "The Social Dilemma" explains the danger that social networks represent for all of our societies in a simple, effective and highly convincing way. They are dangerous not only due to creating a powerful addiction that is impoverishing and even literally destroying the lives of many of our adolescents, but also due to being a key factor in the ideological and political polarisation and the growing social tension which we are currently experiencing.

El buen funcionamiento de esta página web depende de la instalación de cookies propias y de terceros con fines técnicos y de análisis de las visitas de la web.
En la web http://www.elnotario.es utilizamos solo las cookies indispensables y evaluamos los datos recabados de forma global para no invadir la privacidad de ningún usuario.
Para saber más puede acceder a toda la información ampliada en nuestra Política de Cookies.
POLÍTICA DE COOKIES Rechazar De acuerdo