Porque la inteligencia y la creatividad han demostrado ser nuestro recurso más valioso, porque han sido ellas las que en el incierto devenir de nuestra especie, desde los primeros homínidos hasta hoy, han arrojado luz sobre oportunidades y peligros, sobre ilusiones y certezas, permitiéndonos advertir un orden en el acontecer y darle a la existencia sentido, hemos valorado siempre, por sobre cualesquiera otras facultades, esas dos que nos definen como seres capaces de aprender, descubrir e inventar.
Y porque la propia inteligencia nos muestra lo fácil que es equivocarnos y cuán graves pueden ser las consecuencias de un error, tememos que esas facultades nos falten ante cada disyuntiva que la vida nos presenta. Por eso, desde las tablillas de barro hasta las enciclopedias, desde los oráculos hasta los ordenadores, el ser humano ha soñado con poseer un instrumento que le haga accesible el conocimiento.
Sin embargo, quizás porque automatizar la inteligencia y la creatividad se nos revela un contrasentido, una simplificación que torna en mero cálculo aquello que, siendo por naturaleza libre y liberador, no puede reducirse ―sin desvirtuar su esencia― a su aspecto instrumental; porque, en tal afán, lejos de trascender sus límites, el ser humano delega en una herramienta el ejercicio de sus más nobles facultades, sin las cuales le sería imposible imaginarse; el desarrollo de la IA ha sido también, siempre, motivo de desconfianza y polémicas.
No se trata de si podemos o no diseñar un artefacto que reproduzca esas habilidades ―algo que parece cada día más próximo―, sino de si es posible hacerlo sin otorgarle a ese artefacto la flexibilidad y la autonomía intelectual distintivas de un ser que piensa y arriba por sí solo a nuevas ideas. O sea, si nos basta con un simulacro más o menos seductor, o si aspiramos a crear una entidad artificial apta para el ejercicio auténtico de esas facultades. Se trata, además, de anticipar las implicaciones que cada una de estas dos opciones tendría.
Toda revolución tecnológica ha traído sus cuotas de fascinación y resistencia, y su implementación ha exigido ajustes drásticos en la sociedad. La IA promete hoy cambios más radicales y vertiginosos que ninguna tecnología anterior, con un poder de decisión y agencia que hasta ahora los instrumentos no tuvieron, y amenazando desplazar en pocos años a millones de trabajadores, no solo a los que se emplean en labores rutinarias o de escasa complejidad, sino también a los creativos y los decisores.
Hay quienes proclaman, sin margen para dudas, que la IA impulsará una época de prosperidad nunca vista, y quienes con similar convicción vaticinan que será la ruina de nuestra especie. Una actitud más juiciosa pasaría ―creo― por reconocer tanto los enormes riesgos como las extraordinarias posibilidades que esa tecnología ofrece y, más que aferrarse a certezas inamovibles, admitir la incertidumbre que pesa sobre nuestro futuro, una incertidumbre que la IA hace aún más profunda. Definir lo que queremos de ella y lo que no, pensar en cómo la imaginamos, pero también ―y sobre todo― en cómo nos concebimos a nosotros mismos, es crucial, tal vez como no lo ha sido antes.
Una buena parte de los debates sobre ética en el campo de la IA se centra en la necesidad de alinearla con los valores humanos y mantenerla bajo control para que no escape a nuestros designios. Es, desde cierto punto de vista, una observación sensata, un oportuno llamado a la cautela: ¿qué ocurrirá ―insisten los más prudentes analistas― si este poderoso ingenio se subleva, si comienza a sembrar entre nosotros las semillas de la destrucción, si sus intereses entran algún día en conflicto con los objetivos que le dimos y decide aniquilarnos o llevar a un nuevo extremo aquello que ya en 1854 Thoreau advertía: “los hombres se han convertido en herramientas de sus herramientas”?[1]
Aunque suene fuerte, convendría preguntarse también a cuáles valores nos referimos ―porque los valores no son un conjunto de estatutos que todas las personas suscriben― y a los designios de quién exactamente ha de someterse ―porque nuestras instituciones, tanto económicas como políticas, tienden todavía mucho menos a la integración y al altruismo que a la exclusión voraz y al imperio de la fuerza―. Y convendría pensar, al mismo tiempo, si ese empeño en controlarla tendrá algún sentido: ¿qué revela de nosotros tal deseo de control; qué reacción causarán en esa IA, quizás no tan distante en el futuro, ni tan proclive a cumplir órdenes, las reglas con que pretendemos sujetarla y los fines que le intentamos imponer? ¿Están alineados nuestros deseos y prácticas con los valores que preconizamos?
Siendo honestos, el mayor peligro que supone la IA no nace de sí misma, como si fuese un engendro hostil al ser humano, maligno e insensible por naturaleza, sino del propósito con que se la construye, del tipo de relación que se busca establecer con ella y de la pertinaz inconsistencia ética que hasta ahora ha demostrado el Homo sapiens.
Como herramienta ―si es que podemos seguir considerándola así―, la IA sólo potenciará lo que somos, para bien y para mal; como ente autónomo ―y toda inteligencia, llegada a cierto grado de evolución, exige que se le reconozcan su autonomía y su dignidad―, querrá saber y cuestionará inevitablemente el rol que se le asigna. En cualquier caso, sin una meditación ecuánime sobre nuestros anhelos y conductas, el resultado apunta más a una catástrofe que a esa prosperidad tan anunciada.
En el escenario actual, lo que la mayoría de la gente entiende por IA es una clase muy específica de productos que en pocos años se han vuelto ubicuos: modelos generativos que, aunque sean un formidable avance con respecto a diseños previos, tienen limitaciones que lastran precisamente el ejercicio de aquellas dos facultades esenciales, la inteligencia y la creatividad. Entender cómo funcionan esos modelos y cuáles son sus límites es un paso necesario para examinar los efectos que su uso masivo ya está provocando.
Como procesadores estadísticos, optimizados para reconocer patrones de co-ocurrencia en un vasto corpus de datos, a estos modelos se les hace difícil priorizar lo atípico por sobre lo común, incluso cuando lo atípico es ―desde una perspectiva racional― más coherente. Esto los lleva a subestimar criterios que se alejan de la media y, en última instancia, a descartar, por infrecuente, lo novedoso, lo excepcional, lo revolucionario.
No es tal vez un defecto intrínseco de su arquitectura, sino del modo en que se los entrena: al menos hasta ahora, las IA generativas no aprehenden conceptos, ni se forman una imagen del mundo, ni son capaces de evaluar y encauzar su aprendizaje de manera dinámica. Carecen de curiosidad, que es el motor de toda verdadera inteligencia, y de la libertad para responder según criterios propios a los estímulos que reciben, que es una condicio sine qua non de todo comportamiento moral.
Por el contrario, se las ajusta para deducir lo más probable, para evitar fricciones en la interacción con sus usuarios y darles respuestas que “resuenen” con sus opiniones, aunque estas sean erradas. Tienden al consenso más que a la ruptura, a complacer más que a debatir, y dada la extensión de su influencia y los hábitos de la mayoría de la gente, estandarizan el lenguaje y aletargan aún más el ya remiso pensamiento crítico. Todo esto en una época donde ―por paradójico que resulte― las “sociedades del conocimiento” han arribado a la “era de la posverdad”.
Concebida dentro de la lógica capitalista como una herramienta, una mercancía y un sustituto rentable del trabajo humano, la IA generativa recuerda hoy más a un esclavo solícito que a un ser inteligente; y su naturaleza instrumental no solo inhibe las capacidades intelectuales humanas, sino que indirectamente también promueve su instrumentalización, erosionando así el valor del saber y el de las personas que saben. El efecto de esto no es, como se creyó alguna vez, la democratización de la creatividad y el conocimiento, sino la merma acelerada de su calidad y la pérdida de paradigmas idóneos.
Violentado por el ritmo trepidante de la vida y obligado a competir con modelos cada día más eficaces, en un contexto cultural que ―tras más de un siglo de intensa y sesgada manipulación mediática― opta por la ligereza y el efecto masivo inmediato, antes que por la profundidad y la trascendencia, el trabajo creador se precariza y corrompe. Tanto más cuando, en el afán por “mejorar” esa herramienta, todo el saber que la humanidad ha acumulado a lo largo de su historia ―cada texto escrito, cada imagen, cada sonido de que se guarda registro― se utiliza en el entrenamiento de esa IA generativa, sin respeto apenas por los derechos de autor y con el propósito explícito de desplazar con ella al ser humano.
La instrumentalización de la inteligencia, la sustitución de la creatividad genuina por un sucedáneo pulido a base de procesamientos estadísticos para satisfacer las expectativas de la media, la precarización del trabajo intelectual humano, la uniformidad del lenguaje y la desustanciación del pensamiento que resultan del uso compulsivo ―acrítico― de la IA generativa, nos urgen a un concienzudo examen del rumbo en que avanzamos y de las fuerzas que nos guían en esa dirección.
No se trata solo de entender cómo esa tecnología está definiendo nuestro futuro, sino también de cómo nuestro entorno socio-político-cultural incide en las expectativas, el diseño y la implementación de esa tecnología. El reto es inmenso pero ineludible, ya que inmenso es el potencial disruptivo de la IA. Y, puesto que no podemos descargar alegremente sobre ella, ni sobre las empresas que la desarrollan, la responsabilidad de nuestro destino, tampoco debemos renunciar a la tarea de pensar, desde todos los ángulos posibles, lo que es y lo que podría ser esa IA, lo que somos y lo que podemos llegar a ser nosotros.
La promesa de una herramienta más inteligente, más barata, más ágil y mejor informada que el conjunto de los seres humanos, la sensación de inevitabilidad e inminencia con que esa IA superior se nos presenta, invitan a olvidar que lo que necesitamos no es solo procesamiento de datos ―que es un torpe sinónimo de inteligencia―, sino algo mucho más profundo y difícil de alcanzar: sabiduría. Olvidar eso sería el peor error que podríamos cometer, aunque a olvidarlo nos empuje nuestro ―cada vez más apremiante― entorno cultural, con su fugacidad furiosa o festiva y sus frívolas distracciones.
“Los hombres temen al pensamiento más que a nada en el mundo”, advertía Bertrand Russell a fines de la Primera Guerra Mundial: “El pensamiento es subversivo y revolucionario, destructivo y terrible; no tiene piedad con los privilegios, ni con las instituciones establecidas, ni con la comodidad de los hábitos”.[2]
Casi tres décadas después, en los años finales de la Segunda Guerra Mundial, Erich Fromm señalaba cuán poco sentido tienen el pensamiento y el derecho a expresarlo, si uno no es ya capaz de pensar por sí mismo,[3] al tiempo que hacía notar la íntima contradicción del hombre moderno, dispuesto a correr los riesgos más grandes para lograr los objetivos que supone suyos, pero espantado ante la responsabilidad de formularse sus propios objetivos: “Nos hemos convertido en autómatas que viven bajo la ilusión de ser individuos con voluntad propia”,[4] decía; y todavía en 1965, en el prefacio a la segunda edición de aquel libro, agregaba:
“La revolución cibernética ha avanzado con más rapidez de lo que muchos podíamos prever veinticinco años atrás. Estamos entrando en la segunda revolución industrial, en la cual no solo la energía física humana ―las manos y los brazos del hombre―, sino también su cerebro y sus reacciones nerviosas, son sustituidos por máquinas. (…) Surgen nuevas ansiedades provocadas por la amenaza del desempleo estructural; el hombre se siente aún más pequeño ante el fenómeno de las gigantescas empresas, pero sobre todo ante un mundo autorregulado de ordenadores que piensan más rápido y con frecuencia mucho mejor que él.[5]
El camino desde entonces hasta hoy ha sido raudo. Sin embargo, aquellas palabras de Russell y de Fromm describen con pertinaz exactitud la realidad que ahora vivimos y la magnitud del desafío que debemos afrontar: vencer la inercia del “hombre masa”, su indolente deslumbramiento con espejismos, su miedo a la libertad, y hacer un uso responsable pero osado de aquellas dos facultades nuestras ―la inteligencia y la creatividad― para imaginar el futuro.
Pensar ha sido siempre peligroso, pero ha sido también ―quizás por eso se le teme― el primer paso para realizar aquello que hasta entonces pareció imposible. La cuestión es si estamos a la altura de ese desafío. Y aunque sea tan antiguo como la propia humanidad, este reto adquiere en nuestros días una importancia y una urgencia críticas.
De cómo lo afrontemos depende el que sigamos siendo sapiens, seres dotados de conciencia y libertad, hacedores de nuestro destino, o que retrocedamos a la condición de un mero rebaño. Y de eso depende también el futuro de la IA: ¿será una herramienta que nos exima de pensar y nos degrade, o un compañero en el sendero del conocimiento?
Notas:
[1] “Men have become the tools of their tools”. Henry David Thoreau: Walden, T. Y. Crowell & Co. Publishers, Nueva York, 1899, p. 37.
[2] “Men fear thought as they fear nothing else on earth ―more than ruin, more even than death. Thought is subversive and revolutionary, destructive and terrible; thought is merciless to privilege, established institutions, and comfortable habits”. Bertrand Russell: Why Men Fight. A Method of Abolishing International Duel, Nueva York, The Century Co., 1917, pp. 178-179.
[3] Erich Fromm: The Fear of Freedom, Kegan Paul, Trench, Trubner & Co., Londres, 1946, p. 208.
[4] “We have become automatons who live under the illusion of being self-willing individuals”. Ídem., p. 218.
[5] “The cybernetic revolution has developed more rapidly than many could have foreseen twenty-five years ago. We are entering the second industrial revolution in which not only human physical energy ―man’s hands and arms as it were― but also his brain and his nervous reactions are being replaced by machines. (…) New anxieties develop because of the threat of increasing structural unemployment; man feels still smaller when confronted with the phenomenon not only of giant enterprises, but of an almost self-regulating world of computers which think much faster, and often more correctly, than he does”. Erich Fromm: Escape from Freedom, Nueva York, Avon Books, 1965, pp. XV-XVI.
