By bbernat

 

 

Seguramente han oído esta frase en diversas ocasiones: «la tecnología no es ni buena ni mala, todo depende del uso que se haga de ella».

Con la irrupción de la inteligencia artificial (IA), se ha convertido en una expresión manida.

El martillo o un cuchillo son los ejemplos que se acostumbran a añadir a continuación: no tienen un uso o finalidad predefinidos, ambos pueden utilizarse benévolamente o para infligir dolor o sufrimiento.

Luego, la IA disfruta de idéntico status.

No obstante, se trata de un tópico, cargado de imprecisión y, dado que en muchos casos es deliberada, también de intención.

La técnica no tiene un efecto neutro y, obviamente, la IA tampoco.

El propósito de esta entrada es desmontar este tópico.

 

Martillos, sierras, libros y espejos

Como les expuse en la entrada «Lenguaje, libros y lectura profunda: la tecnología más allá de las herramientas«, se tiende a identificar las herramientas y las máquinas con la tecnología. No obstante (siguiendo la exposición de MUMFORD, 2010, 12 a 27), eso supone confundir una parte con el todo.

Si dejamos de lado el uso y la conservación del fuego, las técnicas primitivas humanas de fabricación de herramientas y utensilios no difieren en exceso de las de otros animales. De modo que lo que verdaderamente singularizó la capacidad de fabricación humana fue su combinación o modificación con «símbolos lingüísticos, diseños estéticos y conocimientos socialmente transmitidos».

La transformación que acompañó a la gran implosión cultural que tuvo lugar hacia el cuarto milenio a. C., y que suele denominarse como el nacimiento de la civilización (23), no puede explicarse como «el resultado de inventos mecánicos, sino de una forma de organización social radicalmente nueva». Esta «implosión de fuerzas políticas sagradas y de instalaciones tecnológicas no puede explicarse mediante ningún inventario de herramientas, máquinas elementales y procesos técnicos entonces disponibles».

En definitiva, lo que marcó la diferencia profunda de nuestra evolución con respecto a la del resto de especies no fue la «mano del hombre», sino su cerebro.

El ímpetu tecnológico presente hace que tendamos a sobreestimar a las herramientas (y las armas, los aparatos físicos y las máquinas) como el factor diferencial de nuestra especie. Pensar en nosotros mismos como (meros) «animales fabricantes» supone omitir etapas trascendentales de nuestra evolución «tecnológica».

De hecho (19), en griego clásico la palabra tekhné no distingue entre producción industrial y arte «refinado» o simbólico y durante gran parte de la historia humana estos eran aspectos inseparables, «pues por un lado se atenía a las condiciones y funciones objetivas, y por otro respondía a necesidades subjetivas».

No obstante (27), hemos trazado un cuadro distorsionado de nosotros mismos al interpretar la historia de acuerdo con los módulos de nuestro afán de fabricar máquinas y conquistar la naturaleza. Y nuestro entorno presente, que tiende hacia una acelerada automatización, ha agudizado esta impresión de nosotros mismos como (meros) «homo faber» (o hoy «hombre tecnológico»), dando por supuesto que los instrumentos materiales de producción predominaron sobre todas las demás actividades.

Hecha esta puntualización y centrándonos en estos últimos, a grandes rasgos, la tecnología humana puede dividirse en cuatro categorías (CARR, 2011, 61 y 62), según la forma de complementar o ampliar las capacidades humanas. Un primer grupo (como el arado o un avión de combate) aumentan nuestra fuerza y resistencia física. Un segundo grupo (como el microscopio o un amplificador), extienden el alcance o la sensibilidad de nuestros sentidos. Un tercer grupo (como un embalse o la píldora anticonceptiva) nos permite remodelar la naturaleza para atender a nuestros deseos o necesidades. Y, un cuarto grupo (como un reloj o un mapa) la utilizamos para ampliar o apoyar a nuestra capacidad mental (encontrar y clasificar información, ampliar la capacidad de memoria, formular y articular ideas, etc.). Estas últimas son «tecnologías intelectuales» y la IA pertenece a este grupo.

El repaso de estas categorías permite colegir que ninguno de estos artefactos (ninguno) está desprovisto de un fin propio, moralmente relevante.

Para empezar con artefectos menos sofisticados, es claro que un martillo o una sierra han alterado de forma irreversible la forma cómo el hombre se relaciona con el medio natural y, desde su irrupción, han transformado radicalmente a las personas y a la sociedad. Lo hacen porque cualesquiera de estas herramientas incrementan nuestras capacidades (es difícil clavar un clavo de hierro sin un martillo o cortar un árbol sin una sierra). Estas innovaciones nos convierten (LATORRE, 73) en seres aumentados. Pero, a su vez, (CARR, 2016, 247), «la tecnología, al permitirnos actuar de maneras que van más allá de nuestros límites corporales, también altera nuestra percepción del mundo y lo que el mundo significa para nosotros». El martillo y la sierra transforman nuestra relación con el entorno, posibilitándonos la modulación de la naturaleza a nuestro antojo (cosificándola y/o domesticándola).

La invención de la escritura, los libros y, posteriormente, la fijación de normas al orden de las palabras (ver al respecto en «Lenguaje, libros y lectura profunda: la tecnología más allá de las herramientas«) es otro de los grandes progresos tecnológicos con un efecto verdaderamente transformador para la humanidad (provocando un surco tan profundo en el curso de nuestra evolución que todavía estamos experimentando y tratando de evaluar sus efectos).

Otras innovaciones, aparentemente inocuas, también han transformado radicalmente nuestra comprensión del mundo y el papel que juegamos en él. Hacia el Siglo XIII (siguiendo el estudio de MUMFORD, 2020, 176 a 182 y 323 y 324), se fundaron los famosos talleres de vidrio de Murano, cerca de Venecia. Aunque el cristal es un descubrimiento muy antiguo (se tiene constancia de su uso, al menos, en el antiguo Egipto), la mejora técnica de su fabricación introducida por dichos cristaleros y su extensión (a su pesar) por toda Europa no sólo impactó en el mundo exterior (por ejemplo, permitiendo el aislamiento de edificios o la creación de invernaderos), sino que, al posibilitar la creación de mejores espejos, también dio acceso a un mundo interior inexplorado. Aunque en Roma se empleaba el vidrio como espejo, la imagen que proyectaba no era mucho más nítida que la que se obtenía del reflejo del agua, porque el fondo era oscuro. Hacia el Siglo XVI, la superficie del cristal había mejorado hasta tal punto que, cubriéndola con una amalgama de plata, podía crearse un excelente espejo. La posibilidad de acceder a la imagen exacta de uno mismo que la proliferación de los espejos habilitó (pues su coste no era excesivo), abrió las puertas a la exploración introspectiva. Esta dimensión íntima alteró el concepto mismo del yo, porque potenció el sentimiento independiente de la personalidad y, obviamente, de la propia identidad.

Esta biografía introspectiva sufrió una profunda transformación, siglos más tarde, con la invención de la cámara y el cinematógrafo. El hecho de posar para la cámara o actuar para el cinematógrafo amplificó la sensación de estar en un mundo público, produciendo, a los ojos de la tecnología contemporánea, un tránsito absolutamente trascendente: «del examen de sí a la exposición de sí». Y, las redes sociales (unas cuantas décadas más tarde) simplemente se han limitado a explotar (de forma mucho más sofisticada) una versión hipertrofiada de esta transformación. La cuantificación de la popularidad (como les expuse en «Redes sociales, marca personal y ¡dopamina!«) y los disparadores dopaminérgicos que la alimenta, describe el último estadio de este avance tecnológico.

Desde esta primera aproximación, se desprende con claridad que la tecnología, incluso la que en apariencia tiene una escasa sofisticación («mecánica/digital»), también porta valores éticos, políticos y sociales trascendentales, más o menos velados.

 

Tecnología originariamente cargada de propósitos

Algunos avances técnicos, no obstante, incuestionablemente están, desde su origen, cargados de un propósito.

Creo que el ejemplo que les expondré a continuación contribuirá a hacer visible esta idea. Aunque un misil nuclear pueda albergar usos benévolos (alguien podría decir que, al asegurar la mutua destrucción masiva, es la garantía definitiva de la paz), es obvio que este artefacto tecnológico está pensado con un propósito muy específico: segar la vida de miles de personas. Y, como apunta DIÉGUEZ (42 a 46) la función atribuida a esta tecnología está valorativamente cargada y no puede ser soslayada para entender qué es y por qué se fabrica y se posee. El diseño de un instrumento de esta naturaleza responde expresamente a un propósito que no puede ser calificado como neutro.

El teléfono móvil también atesora un conjunto de valores subyacentes. La disponibilidad plena para terceros, la inmediatez, junto con la posibilidad de ser geolocalizado y las amenazas a la privacidad, convierten a este instrumento en un dispositivo cargado de intención. No hay forma de obviarlo.

Si se amplia el foco, esto se aprecia con mayor claridad si cabe. Las fuerzas económicas y políticas convergen (y compiten geoestratégicamente al máximo nivel) para que este avance sea una realidad (se diseñe, se produzca, se transporte y se comercialice) y esté a disposición de los ciudadanos (aunque, en realidad, viendo el ostracismo al que quedan sometidos quienes no poseen un teléfono móvil, quizás, es mejor decir que su tenencia ya está siendo exigida – socavando ciertas manifestaciones de la libertad individual).

Desde el instante que una persona tiene a su disposición una tecnología, automáticamente, cambian sus incentivos, porque determinadas acciones se dificultan y otras fluyen con facilidad. Por este motivo, la conducta humana experimenta un cambio, conduciéndola a determinados «resultados más probables que implican la realización de ciertos valores o disvalores» (el mundo del trabajo, como les expuse en la entrada «Automatización y obsolescencia humana«, ha sido testimonio de primera mano de este fenómeno).

 

La política de la técnica

Todos los artefactos tecnológicos tienen política: encarnan valores sociales y políticos. O, mejor dicho, empujan a la predominancia de alguno de estos fines. La IA, como en el caso del misil nuclear, también.

Los debates sobre la condición humana, la gobernanza, la educación, la seguridad, la privacidad, la desigualdad y un largo etcétera, que esta tecnología plantea son tan profundos que sostener su neutralidad parece una broma de mal gusto.

Toda esta cuestión no es un mero pasatiempo teórico, circunscrito a la discusión académica. No se lleven a engaño. La pretendida neutralidad de la tecnología (que los partidarios del instrumentalismo sostienen) tiene un efecto colateral curioso: al sostenerse que está desprovista de un fin y, por lo tanto, proclamarse que siempre queda subordinada a los deseos conscientes de su usuario, sus fabricantes aspiran a quedar exonerados de toda responsabilidad que el uso de la misma pueda plantear (aunque el carácter aluvional de estos avances y autoría dispersa hacen que el denominado como problema de «muchas manos», dificulte la singularización de esta responsabilidad).

En este estadio, el cinismo campa a sus anchas (especialmente cuando quienes defienden esta postura son los propios creadores de estas innovaciones). Despojar a estos avances de las implicaciones profundas que conllevan, aislándolos del contexto de significado, de cómo y por qué han sido desarrollados, de cuál se espera que será su uso, de su impacto medioambiental y del contexto cultural, educativo, social político y económico en el que se desplegará es un acto de ocultación deliberada.

Está por ver qué efectos acabará teniendo la IA; y es posible que se alejen de los inicialmente previstos por sus creadores. Lo que no obsta que estos artefactos fueran creados con un firme propósito y aspiren a que su uso se acabe alineando con el mismo.

 

Una valoración final

En el horizonte se vislumbra el tránsito hacia una posible tecnocracia (o algo que muy próximo a la misma). Dado que hemos interiorizado (sin apenas cuestionárnoslo) que la técnica se ha convertido en el mejor remedio para corregir nuestros problemas, hemos iniciado una desenfrenada carrera tecnológica. De modo que (DORISH/MAINSWARING – en MOROZOV, 19), “La pregunta predominante, ‘¿qué construimos mañana?’, nos impide ver las preguntas que deberíamos hacernos sobre nuestra responsabilidad actual por lo que construimos ayer”.

En efecto, bajo el predominio de un mal entendido solucionismo tecnológico, la búsqueda de la eficacia en la resolución de los problemas (muchos de los cuales, paradójicamente, son un efecto colateral de la propia técnica), está ocupando porciones cada vez mayores del debate público. Un entorno liderado por expertos o por los dueños de las máquinas, quienes, como sacerdotes del nuevo clero, deliberadamente tratan de relegar a un plano marginal las implicaciones éticas, sociales y políticas de tales sistemas.

Estos adalides de la objetividad, de la eficacia y de la neutralidad, continuamente están tomando decisiones controvertidas, cargadas (indudablemente) de valores y totalmente alejadas de los procesos de decisión democráticos y de los principios del Estado de Derecho.

Cada vez que oigo la manida frase que abría esta entrada, (acudiendo a la metáfora de KAHNEMAN sobre el funcionamiento de la mente) mi «sistema 2» se pone en alerta y, de algún modo, a la defensiva. Automáticamente, como si de un acto reflejo se tratara, se centra en averiguar el cargo que ostenta quien la profesa y, a continuación, sondea cuál es el interés subyacente que se esconde tras el tópico.

Aunque muchas veces es difícil decodificarlo, la realidad tiene muchas más capas de complejidad que las que nos pretenden mostrar.

 

 

Bibliografía citada

• Nicholas CARR (2016), Atrapados, Taurus.
• Nicholas CARR (2011), Superficiales, Taurus.
• Antonio DIÉGUEZ (2024), Pensar la tecnología, Shackleton.
• José Ignacio LATORRE (2019), Ética para máquinas, Ariel.
• Evgeny MOROZOV (2015), La locura del solucionismo tecnológico, Katz.
• Lewis MUMFORD (2020), Técnica y civilización, Pepitas Ed.
• Lewis MUMFORD (2010), El mito de la máquina, 3ª Ed., Pepitas de Calabaza.

 

#AIFree