By bbeltran

 

 

Al observar el acelerado y generalizado uso de la Inteligencia Artificial Generativa, lo que más me sorprende es que no nos hayamos preguntado si es legítimo utilizarla.

Nos servimos de ella porque es fácil hacerlo y porque nos hace la vida más simple. Entonces, ¿dónde está el problema?

En esta entrada me gustaría compartir algunas reflexiones a propósito del uso de esta tecnología en el mundo profesional, educativo y personal, a partir de algunas preguntas:

– ¿deberíamos asumir que nos estamos dopando cognitivamente?;
– ¿es «correcto» hacerlo?;
– en este entorno, ¿qué queda de los valores y de la ética del saber y del aprendizaje?
– ¿qué impacto tendrá sobre las virtudes cívicas de los individuos y la sociedad del futuro?

Siempre que sea capaz de formularlo de forma sugerente, les despierte la curiosidad y pueda captar su atención (y, obviamente, me acompañe un poco la fortuna), me gustaría tratar de abrir un debate sobre todas estas cuestiones. Especialmente, porque creo que son preguntas subyacentes que (debido a la vorágine, espectacularidad y asombro que el avance de esta tecnología nos está provocando) han quedado invisibilizadas en el ágora.

 

¿Deberíamos asumir que nos estamos dopando cognitivamente?

Al hacer balance y evaluar el uso de la inteligencia artificial generativa (IAG), podría concluirse que es una herramienta «buena» para la humanidad por dos motivos: en primer lugar, porque, en esencia, democratiza las habilidades entre los humanos (muchas más personas pueden hacer muchas más cosas); y, en segundo lugar y derivado de lo anterior, porque, gracias a ella, el azar ya no es un elemento determinante para poder tener una habilidad específica. De esta forma, en la conjunción de ambos efectos, deberíamos estar agradecidos porque contribuirá a neutralizar los efectos perversos que subyacen en la meritocracia.

Lo anterior es (en cierta medida) cierto y, probablemente, deberíamos sentirnos muy orgullosos de que la cultura humana haya sido capaz de alcanzar este estadio de sofisticación (aunque alrededor de estos efectos, no todo son fuegos artificiales: por un lado – siguiendo la irónica tesis de Pino APRILE -, es probable que contribuya a expandir y acelerar la imbecilidad; y, por otro lado, si todo el mundo tiene «superpoderes», acabará siendo más difícil destacar en algo y poder «sobrevivir»).

Sin embargo, contraponiéndose a estas virtudes, no deberíamos olvidar lo siguiente: aunque no lo veamos, el funcionamiento regular de la IAG tiene terribles (de verdad, terribles) efectos climáticos; y, además, está anudada a una extrema explotación laboral, porque (aunque resulte paradójico), necesita mucha (micro) inteligencia humana para funcionar (les sugiero que lean los sobrecogedores testimonios que al respecto recoge Karen HAO). La invisibilidad de estos efectos colaterales (como si fuera un virus) no los hace menos amenazantes. El modelo y la arquitectura de crecimiento escogido por las empresas de IAG (pura «fuerza bruta» de cálculo y rapiña sin escrúpulos de datos) es tan mastodóntico que el consumo de agua (por cierto, potable), de exploración minera (por cierto, normalmente en países menos desarrollados) y de electricidad son indecentes e insostenibles a largo plazo (hasta el punto que se está planteando orbitar a los servidores alrededor de la Tierra para poder garantizar las expectativas de crecimiento).

No sería sensato tomarnos estas cuestiones a la ligera (por favor, traten de no olvidarlo cada vez que apuesten por implementarla y, en la medida de lo posible, cuando la utilicen).

Tampoco deberíamos frivolizar sobre el hecho de que, en realidad, la IAG ofrece un rendimiento totalmente anabolizado de nuestras capacidades cognitivas reales. Lo que nos permite hacer (cualitativa o cuantitativamente) es pura artificiosidad.

Es cierto que un martillo (o un hacha) también lo hace (gracias a estos instrumentos, somos humanos aumentados y nos hacen parecer más fuertes de lo que somos). Nadie piensa que con su uso se esté engañando a nadie. Sin embargo, cuando utilizamos una calculadora, sería ilusorio pensar que podemos atribuirnos como propio el resultado (rápido, preciso y sin esfuerzo) que nos ofrece. Estarán conmigo que sería absurdo alardear de los resultados que nos ofrece nuestra calculadora.

La IAG (sin perjuicio de lo que expondré sobre los «prompts» y el «trabajo previo» que requieren) es una manifestación hipertrófica del alardeo por los resultados de la calculadora. No es solo una apariencia absoluta, sino que en ella, además, (y sin pretender incomodarles ni ofenderles), late poderosamente un engaño (más o menos velado).

Es como si hubiéramos aceptado (sin más) que es posible doparse para competir en las Olimpiadas.

Quizás esté chapado a la antigua, pero deberíamos admitir que, con el uso de la IAG, (consciente o inconscientemente) nos estamos dopando cognitivamente. Y, debo confesarles que, quizás por mi trayectoria académica, yo no me siento «cómodo» con lo que observo a mi alrededor (en despachos profesionales, centros educativos, universidades y la sociedad en general).

A su vez, de forma muy apresurada, también nos han hecho creer (y hemos asumido también sin cuestionarlo) que no hay alternativa: si queremos competir en estas Olimpiadas (léase, sobrevivivir), tiene que utilizarse, sí o sí. Es obvio que este argumento está poderosamente inspirado por un propósito comercial salvaje e insaciable de las empresas propietarias de la IAG (de otro modo, no sé cómo se rendibilizarán las astronómicas inversiones que están haciendo); pero también sospecho (podría estar equivocado) que es un razonamiento que hemos interiorizado con suma rapidez, pues, pese anabolizar a nuestras neuronas, nos permite seguir sintiéndonos cómodos con nosotros mismos. Al encontrar una «causa mayor» (que gravita en el orden de lo vital), nos ha permitido redefinir el umbral de lo que es «correcto» y seguir con nuestras vidas como si nada.

A la luz de lo expuesto y les he avanzado, me gustaría aprovechar este foro para ahondar un poco más en estas reflexiones y, con un poco de suerte, abrir el debate (y con ello, contrastar cuán equivocado estoy).

 

¿La corrupción de los valores del aprendizaje y del saber?

Algunos podrían pensar que la democratización de la IAG se erige en una amenaza muy singular para los «académicos» porque cuestiona su «atalaya de saber» y, a partir de ahora, cualquiera puede aspirar a cuestionarla y destronarlos. No sé cómo lo percibirán otros compañeros, pero si (como apunta Lee McINTYRE), la humildad profunda y la conciencia de la propia ignorancia están en el corazón de la actitud científica, que aparezcan nuevos «agentes» (humanos o no) que contribuyen a desplazar la frontera de lo desconocido, no debería ser motivo de preocupación. Como investigadores, nuestra labor radica en empujar la barrera de la ignorancia. Y, en este empeño, claramente, más (personas empujando), es (mucho) mejor.

Pero, entonces, ¿dónde esta problema?

Alguien podría reprocharme que algo parecido sucedió con la invención y la generalización de la escritura. Para SÓCRATES, aunque el registro de los pensamientos por escrito tenía sus ventajas prácticas, en el fondo, entendía que provocaba una alteración de la mente de las personas, pues, suponía la sustitución de la memoria interna por símbolos externos. Y, al sustituir al recuerdo, se amenazaba, según él, al pensamiento intelectualmente profundo. En cambio, el paso del tiempo evidenció su error de cálculo: precisamente, la escritura (y los progresos técnicos que permitieron su progresiva sofisticación) acabó posibilitando un avance cultural sin paragón (una mayor granularidad en la descripcion de los fenómenos y un incremento abisal en la profundidad de las reflexiones).

La IAG (pensarán algunos), precisamente, nos estaría permitiendo sumerginos a mayores brazadas de profundidad (y, en mi minusculidad, yo estaría incurriendo en un error de cálculo similar al del maestro).

Personalmente (y utilizo las categorías conceptuales de Michael J. SANDEL) sin negar que esto pueda acabar pasando (aunque todavía no sabemos si sucederá ni en qué medida ni a cuántas personas acabaría beneficiando) creo que con el uso de la IAG se está corrompiendo el valor intrínseco de la lectura, la comprensión, el estudio, la síntesis, la creación, la autoría y el aprendizaje en el sentido más amplio y profundo del término. Y aunque es cierto que el marco del concepto de «inteligencia» y de la propia epistemología se está desplazando aceleradamente y asumo que pueda anidar cierta «inquietud» o «inseguridad» en mi posicionamiento por este motivo, estoy plenamente convencido que la IAG alberga un proceso de transformación que invisibiliza y anula todos atributos que les he enumerado. Claramente los estamos colocando en un nivel muy inferior al que le es propio. De ahí que (si se me permite decirlo de algún modo) el «error de SÓCRATES» no creo que sea extrapolable a lo que se nos viene encima.

Es como si la productividad, la eficiencia y la rapidez (en una especie de imperalismo trumpista brutal) hubiera ocupado este espacio del aprendizaje y del saber (y, en el fondo, de la cultura humana en un sentido amplio) y lo hubiera hecho sin preguntar; haciéndolo simplemente porque «deseaba» hacerlo, y lo ha hecho, básicamente, porque tiene la fuerza para imponerlo y, por este motivo, puede hacerlo. Es la máxima «primero romper, luego preguntar» llevada al extremo.

 

¿Qué queda de los valores y de la ética del saber y del aprendizaje?

No sé si lo compartirán, pero a resultas de todo lo que les he expuesto, creo que hay algunas preguntas que deberíamos formularnos al utilizar la IAG: ¿en qué lugar queda (o con qué intensidad se preservan) los valores y la ética que subyacen en el aprendizaje, el esfuerzo, la paciencia, la comprensión, el descubrimiento por uno mismo, la autoría, el placer por el saber o el goce de compartir?

Es claro que estas preguntas quedan literalmente sin respuesta porque el proceso que subyace en el uso de la IAG las aniquila. Y, con ellas (y aquí radica el origen de mi inquietud), los valores que la inspiran.

El efecto en los más jóvenes y, por lo tanto, en el futuro de la humanidad es demoledor. Esta tecnología lima la mayor parte de las asperezas e incomodidades del acto de aprender (en sus múltiples, intrinticadas y complejas manifestaciones y con todo lo que esto implica). El problema es que (siguiendo con HAIDT y LUKIANOFF) al adaptarnos a estas nuevas y mejores circunstancias, estamos bajando el listón de los niveles de incomodidad y riesgo que consideramos intolerables. De modo que los deja muy (muy) expuestos y debilitados frente a los contratiempos y la gestión de los imprevistos de la vida. Los seres humanos necesitamos desafíos físicos y mentales y ciertos estresores para aprender, adaptarnos y crecer. Sin ellos, desplazamos el más nímio esfuerzo a la categoría de abismo insuperable. La IAG, en aras a garantizar un flujo en el aprendizaje sin resistencia, hace desaparecer estos ingredientes imprescindibles para el conocimiento (y, sin ellos, impedimos que los atributos de la antifragilidad, como les expuse en «Ser fuego y desear el viento«, pueda aflorar en nuestros jóvenes).

Sin estas habilidades (y que, dado lo lejos que empezamos a estar de alcanzarlas, hoy diría que prácticamente se han convertido en «superpoderes») es imposible hacer un buen «prompt». Imposible.

Obviamente, atreverse a cuestionar o plantearse siquiera la respuesta de una IAG es, literalmente, una quimera.

Es (profundamente) absurdo (y diría que perverso) valorar los aspectos positivos que el uso de la IAG pueda tener sobre personas con un amplio bagaje profesional y de conocimiento, con el que puede tener en las etapas más tempranas del aprendizaje. El uso de la IAG debería ser un «placer adulto» (y por «adulto», debería entenderse reservado a «cerebros cognitivamente maduros»). De otro modo, es muy difícil que, efectivamente, contribuya a la formación intelectiva de los jóvenes (e, incluyo a los universitarios). Si no tengo nada dentro de la cocorota (o muy poco o muy desordenado), porque siempre me he asistido de un «tercero» que me ha ofrecido todo lo que necesito cuando quiero y sin esfuerzo y, por ello, con severas dificultades para retenerlo, no hay forma de alimentar la curiosidad ni de conformar un espíritu crítico; y, sin él, no cabe aspirar a construir un valor cívico en comunidad. En este entorno, los silos de conocimiento y la impermeabilización frente a posicionamientos que los rebaten están servidos. La polarización extrema (y los riesgos que conlleva) es su corolario natural.

En cambio, como apuntaba recientemente Matthew CONNELLY, vicedecano de iniciativas de inteligencia artificial de la Universidad de Columbia (NYT, 12/02/26), lejos de proteger a los jóvenes de estos elementos, (cándida e ingenuamente) estamos permitiendo que el ánimo de lucro de las corporaciones propietarias de la IAG se adueñe de los espacios educativos. Lejos de velar por la conformación de su identidad intelectiva, alimentamos los factores que acelerarán su deterioro. Ya nos pasó con la irrupción de las pantallas en el pasado en las aulas (animados fervientemente por los cantos de sirena de las mismas empresas propietarias que ahora nos están vendiendo las virtudes de su nuevo invento) y está volviéndonos a pasar ahora.

Pero el conflicto no sólo se plantea con los más jóvenes. También afecta a los (cerebros) más maduros. El uso de la IAG empobrece severamente el sentido de la cultura y del proceso de transmisión de información que ha caracterizado al ser humano (y su prodigiosa evolución): ¿la formulación de un «prompt» es el último reducto que nos quedará del saber? ¿Es este el único espacio en el que podremos operar?

Honestamente, es una migaja minúscula y muy (muy) pobre (un insulto para el sentido de lo que es ser inteligente).

Por otra parte, gracias a nuestra estimulación mediante las oportunas indicaciones, ¿podemos seguir diciendo que el resultado de la máquina nos es verdaderamente «propio»?

El pensamiento que precede al uso de una calculadora es el que, si bien no nos «autoriza» a atribuirnos la capacidad de cálculo, si nos permite concluir que hemos alcanzado el propósito que perseguíamos y según un itinerario de razonamiento previo (tras una cena con amigos, dividimos y no multiplicamos en la calculadora a la hora de repartir el importe de la factura). Sin embargo, la IAG lo que hace es invadir progresivamente este espacio de reflexión previo y se anticipa (o se anticipará) de tal modo a nuestro deseo que prácticamente será capaz de dar respuesta a meros estímulos que subyacen por debajo de nuestro nivel consciente (al acabar la cena, al tener conocimiento de la reserva, el algoritmo ya sabrá cuántos comensales han participado y detraerá de nuestra cuenta corriente automáticamente el importe necesario – de modo que no tendremos que pensar sobre la operación matemática que debe hacerse).

Por consiguiente, en nuestra interacción hemos empezado un proceso de retroalimentación continua (un especie de vals entre el «cerebro humano» y el «cerebro de sílice»). El problema es que el margen para el aprendizaje real se está limitando progresivamente (y ya no llevamos el paso): atrapados por su cuenca de atracción, vamos delegando más y más funciones intelectivas a la máquina. De modo que, ¿hasta cuándo podremos seguir atribuyéndonos el resultado de la estimulación que contiene un «prompt»?

No niego que haya personas que efectivamente mantengan «a raya» a la IAG y sigan pilotando todo el proceso con mano firme. Pero, si todo sigue así, no debería sorprendernos que su número vaya decayendo progresivamente (y, o bien, sea un atributo muy muy marginal entre las nuevas generaciones)

Sin embargo, frente a este proceso, hemos adoptando un razonamiento que roza lo infantil: seguimos convencidos que siempre podremos atribuirnos los caballos de potencia de una escavadora simplemente porque sabemos mover sus palancas.

Algunos sectores de alto nivel ya empiezan a experimentar los efectos perjudiciales de esta barra libre. Creo que no exegero si afirmo que el mundo académico o de la investigación está sufriendo una hipertrofia patalógica . «Gracias» a la IAG, se escriben más artículos e informes que nunca y, dado su desmesurado volumen, los revisores también deben recurrir a la IAG para gestionar la avalancha de peticiones. En el fondo, todo se reduce un diálogo (¿de besugos?) entre máquinas, en el que los humanos participamos simplemente como observadores, y únicamente para aparentar que seguimos siendo soberanos y autores del proceso; y, así, dándonos palmaditas condescendientes, manteniendo la ilusión de que la ciencia prospera (y ya son unas cuantas las voces de alarma que advierten que no será fácil superar la resaca tras esta borrachera sin sentido).

Es obvio que en una visión utilitarista pura (que – no se engañen – es la que inspira y alimenta toda esta tecnología), todas estas cuestiones son insignificantes y deben permanecer en un plano absolutamente marginal. Lo que cuenta es el resultado final, el proceso es lo de menos. Lo único que prima es el rendimiento y la productividad. Nada más. Y su incremento es tan deslumbrante que nos olvidamos de sus efectos fáusticos.

Por otra parte, para estas mentes intelectualmente maduras, su uso es todo menos liberador. Las calles y los parques no se están llenando de trabajadores ociosos que disfrutan de la vida y se regodean de la suerte que han tenido al poder usar esta tecnología (aunque, seguramente, estas personas son numerosísimas y lo que me sucede es que no las veo porque todas están en los barrios vecinos al mío).

Las que no están ociosas y siguien trabajando, parece que, «gracias» a la IAG, lo hacen con la misma intensidad o, incluso, mayor. De hecho, reviviendo la «profecía marxista», estas personas pasan a ser «esclavos» en un sentido muy literal del término. En efecto, sin saberlo (o sabiéndolo, pero sin darle demasiada importancia), de forma progresiva e implacable van dependiendo de una muleta cognitiva sin la cual ya no sabrán hacer nada sin ella (y al garantizar su uso «de por vida y para todo», las compañías propietarias de la IAG se asegurarán el color verde de sus cuentas de resultados)

Ante este panorama, como les exponía en «A propósito de la imbecilidad«, sólo si las personas mantienen un compromiso estoico y, pese a no necesitarlo, siguen entrenando y perfeccionando sus facultades cognitivas, el entumecimiento psíquico (la imbecilidad), lenta e inexorablemente, ira ocupando espacios cada vez más amplios de su red neuronal.

 

No se preocupen, todavía queda margen para la esperanza

Es obvio que lo expuesto está sometido a dos restricciones inapelables (y sometido a un riesgo extremo para quien les escribe): la primera es que el objeto de estudio excede con mucho el alcance posible de un ensayo de estas características; y la segunda es que el futuro es tan incierto que es como si estuviera a nuestras espaldas y sólo pudiéramos asomarnos a él de soslayo (de ahí que solo cabe pedir que el tiempo y, en especial, el lector del futuro sean indulgentes con lo apuntado).

En todo caso, como les exponía al inicio, el propósito de este escrito era doble: en primer lugar compartir algunas reflexiones (seguramente sesgadas y, muy probablemente, débiles y/o erróneas frente a lo que nos acabará deparando el futuro a medio o largo plazo); y, en segundo lugar, también aspiraba a que (con un poco de suerte) se abriera un debate que, honestamente, creo que se nos está pasando por alto.

En ningún caso pretendía incomodarlos (muchas de las cosas expuestas, son un reflejo de mi propia conducta).

En todo caso, no se preocupen (y ya concluyo), todavía hay esperanza para pensar que un mundo mejor es posible:

Llegará un momento, cuando ya no sepamos trabajar sin la IAG; nos sintamos inseguros al vestirnos sin su consejo; nos alimentemos gracias a sus sabias recomendaciones; cuando no podamos explicar chistes y hacer reír a nuestros amigos sin ella; cuando no podamos seducir a nuestra pareja sin sus susurros románticos; cuando no podemos enfrentarnos a una lectura compleja sin su apoyo ni tampoco escribir algo mínimamente sensato sin ella; cuando no sepamos descifrar cómo nos sentimos sin su diagnóstico preciso y no podamos superar los baches de la vida sin su sabio consejo…, entonces, sólo entonces, una vez garantizado un estado de anomía profundo, seremos felices…

 

 

#AIFree