La proliferación de algoritmos extractivos está posibilitando una cartografía humana exhaustiva. Nuestras intenciones, emociones y estados de ánimo ya pueden ser leídos.

Este acceso al patio trasero neuronal describe un nuevo desafío porque estas máquinas están acumulando capacidad para aguijonear la mente, acceder al yo inconsciente y condicionar subliminalmente el comportamiento.

Como saben este es el punto de partida de la monografía que les presenté hace unos días («Inteligencia artificial y neuroderechos: la protección del yo inconsciente de la persona»).

La cuestión es que el art. 5.1 de la Propuesta de Reglamento de Inteligencia Artificial en su redacción original ofrecía un esperazador instrumento para tratar de contener (al menos formalmente) esta intromisión inaudita. Su literalidad era la siguiente (evidenciando, por otra parte, la entidad del riesgo y su carácter real y no meramente hipotético):

«Las siguientes prácticas de inteligencia artificial estarán prohibidas:

(a) la comercialización, puesta en servicio o uso de un sistema de IA que emplee técnicas subliminales más allá de la conciencia de una persona con el fin de distorsionar materialmente el comportamiento de una persona de manera que cause o sea probable que cause daño físico o psicológico a esa persona o a otra persona».

No obstante, fechado el 9 de mayo 2023, se ha dado a conocer el borrador de una nueva propuesta del Reglamento afectando, entre otros, al precitado precepto.

La nueva redacción es la siguiente (en negrita las novedades / traduzco del inglés):

«Las siguientes prácticas de inteligencia artificial estarán prohibidas:

(a) la comercialización, puesta en servicio o uso de un sistema de IA que emplee técnicas subliminales más allá de la conciencia de una persona o técnicas deliberadamente manipuladoras o engañosas, con el objetivo o el efecto de distorsionar materialmente el comportamiento de una persona o de un grupo de personas, al afectar considerablemente la capacidad de la persona para tomar una decisión informada, causando así que la persona tome una decisión que de otro modo no habría tomado de una manera que cause o sea probable que cause daño significativo a esa persona, a otra persona o a un grupo de personas.

La prohibición de un sistema de IA que emplea técnicas subliminales mencionada en el primer párrafo no se aplicará a los sistemas de IA destinados a ser utilizados con fines terapéuticos aprobados, siempre y cuando se obtenga un consentimiento informado específico de las personas expuestas a ellos o, en su caso, de su tutor legal«.

Para poder valorar la trascedencia de estos cambios, permítanme que, con carácter previo (sintetizando algunas de las ideas expuestas en la precitada monografía), comparta con ustedes algunas reflexiones.

Para poder medir la dimensión de la amenaza que nos acecha tengan en cuenta que se estima que el 95% de nuestra actividad cerebral (¡el 95!) es inconsciente. Como apunta KAHNEMAN, nuestra mente consciente (lo que denomina «Sistema 2») es el personaje secundario que se cree protagonista de la película.

El condicionamiento subliminal, esto es, por debajo del nivel consciente, pretende susurrarnos anticipadamente qué es lo que nos gusta, qué es lo que necesitamos, qué es lo que deseamos. El propósito es convertir a la sociedad en algo parecido a una gran Caja de SKINNER a cambio de socavar el sentido de la libertad. O, como ha apuntado recientemente SUPIOT (2023: 99), aspira a metamorfosear a los ciudadanos en perros de PÁVLOV.

Sólo podemos elegir con libertad (SANDEL: 113) «si no estamos indebidamente presionados (…) y sí razonablemente bien informados sobre las demás posibilidades». Los estímulos subyacentes en estas tecnologías operan como si fueran incentivos voluntariamente aceptados.

No obstante, conviene tener muy presente que los incentivos son una manifestación de ingeniería social y conductual (dirigidas por expertos) que ofrecen personas e instituciones con poder a quienes no lo tienen. En estas condiciones (asumiendo – GRANT: 70 y 57 – que son instrumentos de poder), es obvio que pueden ser objeto de abuso. Especialmente porque (GRANT: 48) intentan de algún modo «evitar la necesidad de convencer a la gente, dándoles razones extrínsecas para escoger lo que las personas o instituciones que proponen los incentivos quieren que escojan». Este diseño experto de las instituciones puede laminar la democracia porque en él «no entra en juego el tipo de debate público y el consentimiento que idealmente caracteriza los procesos democráticos de toma de decisiones».

Si nuestra autonomía y capacidad de actuar y elegir libremente está comprometida (porque algunas opciones han sido deliberadamente descartadas o subliminal y deliberadamente sugeridas), ya no podremos decir (en términos de la filosofía kantiana) que actuamos conforme a una ley que nos damos a nosotros mismos. En tal caso (SANDEL: 126 a 129), lo haremos sometidos a unos fines dados desde fuera de nosotros (porque han sido dictados por terceros).

Esta arquitectura de ejecución tampoco es inocua en términos de la identidad. Especialmente (PEARL y MACKENZIE: 371), si todo nuestro concepto del yo presupone que existe algo que podemos denominar elección. La matematización que alimenta el gobierno de los números (por emplear un concepto sugerido por SUPIOT) desvela una de las principales amenazas a nuestra identidad, pues «reducen al hombre al nivel de un animal de conducta condicionada».

Si se acepta que la mente inconsciente merece ser protegida, pues, son diversas las amenazas que la acechan, cabe delimitar diversos ámbitos de protección (que podrían materializarse en forma de derechos, o bien, integrarlos en otros ya existentes – como les expuse, poco importa cómo se haga, mientras seamos capaces de protegernos de forma efectiva).

Permítanme que les hable de dos de ellos (de los 6 que creo que podrían ser merecedores de regulación y que expongo en el libro):

– Derecho a la preservación de la mente inconsciente y que integraría el siguiente fin: la autonomía y la identidad son espacios absolutamente inexpugnables, porque fundamentan la validez del consentimiento libre consciente. Son la base absolutamente irrenunciable de nuestra individualidad. La esencia de la esencia. Sin ella, ¿qué nos queda?

– Derecho a la no intervención subliminal y que integraría el siguiente fin: Cualquier decisión procesada a partir del descifrado (por el medio que sea – algorítmicamente o no) de nuestros procesos mentales profundos y con el propósito de susurrarnos por debajo del nivel consciente, debe ser prohibida y declarada nula y sin efecto.

La nulidad debería predicarse, aunque el yo consciente sea partícipe (en algún grado) en la conducta finalmente exteriorizada. La naturaleza del bien jurídico protegido, la entidad de la amenaza y el hecho de que sea materialmente imposible distinguir entre la aportación volitiva y la inconsciente así lo sugieren. Por otra parte, en el eventual caso que el resultado final de la conducta condicionada (con participación volitiva o no) arroje un efecto positivo en el agente, tampoco bastaría para validarla (de otro modo, implícitamente, se estaría admitiendo que cierto tipo de condicionamiento subliminal es jurídicamente admisible).

A la luz de todo lo expuesto, el nuevo borrador sobre el contenido del art. 5.1 es manifiestamente insatisfactorio (el anterior tampoco lo era en su plenitud, a la luz de lo expuesto). Y les admito que esta nueva propuesta me suscita una honda preocupación.

Abre la puerta al condicionamiento subliminal (lo que, por ejemplo, en el ámbito de la publicidad no se admite en modo alguno) y de todas las posibles y heterogéneas afectaciones, permítanme que en este momento, me centre en dos aspectos:

– Primero, al condicionar la prohibición a que el comportamiento subliminal tenga una «afectación considerable» ya está delimitando un espacio de intromisión en nuestra mente inconsciente absolutamente abrumador.

– Segundo, la extensión de este espacio se visualiza con mayor claridad cuando se constata que sólo se prohiben los condicionamientos que causen un «daño significativo» (con todos los problemas que la evaluación de este tipo de daño pueden plantear, especialmente en términos de relación de causa y efecto).

En definitiva, estamos admitiendo la posibilidad de que se anule o lime nuestra individualidad y autonomía. Es decir, un estar sin ser.

Es absolutamente imprescindible que esto se corrija. No obstante, hay muchos modelos de negocio que dependen de que esto no suceda o que incluso se relaje todavía más. Y aunarán todos los esfuerzos para conseguirlo.

Si tienen hijos, piensen en esta reflexión de SUPIOT (118):

La adicción a las redes sociales «prepara bien a los niños ‘adictos’ a internet para una vida de trabajo programada por las plataformas, encadenada a las pantallas, manejada por algoritmos y receptiva a los ‘nudges'» (esto es, al condicionamiento subliminal).

Blindar a nuestro yo inconsciente de todas las intromisiones externas es el mejor legado que podríamos dejar a las generaciones futuras.

Si comparten esta reflexión, sería muy oportuno que me ayudaran a difundirla.

 

 

 

 

---

Bibliografía citada

• Ruth W. GRANT (2021), Los hilos que nos mueven, Avarigani
• Judea PEARL y Dana MACKENZIE (2020), El libro del porqué, Pasado y Presente.
• Michael J. SANDEL (2016), Justicia, Debolsillo
• Alain SUPIOT (2023), El trabajo ya no es lo que fue, Siglo XXI.