Quien sigue la recomendación de Netflix de ver “Envidiosa” y devora las cuatro temporadas en un solo día le está diciendo al sistema que le encantó, aunque jamás haya respondido una encuesta que le pregunte explícitamente si fue así. En relación con la IA, la versión moderna del reparto de culpas entre el chancho y quien lo alimenta parece ser la cuestión del humano en el loop (bucle): el grado de intervención humana dentro de un sistema automatizado, como los algoritmos de recomendación de series y películas o el mismísimo ChatGPT. En un extremo, el sistema opera de forma completamente autónoma; en el otro, hace exactamente lo que el humano le indica.
La pregunta que se cae de maduro es cuánto de lo que observamos de interactuar con la IA (las películas que vemos, las ideas que tomamos del ChatGPT, las noticias que leemos) está determinado por el sistema y cuánto por nuestras propias decisiones. El término técnico es reinforcement learning from human feedback (aprendizaje por refuerzo a partir de retroalimentación humana): el sistema aprende de nuestras reacciones, que a su vez fueron moldeadas por el sistema, en un ciclo que recuerda al meme de los hombres araña apuntándose mutuamente. La reciente charla TED de la joven estudiante Naomi Couriel explica con notable claridad esta idea, que parece compleja pero que, bien contada, resulta sospechosamente familiar.
Esta idea, como es de esperar, no es nueva: es una variación de la vieja tensión entre quién decide realmente y quién solo cree que decide. Los economistas y administradores llevan décadas estudiando la brecha entre la autoridad formal y el poder real en las organizaciones; los filósofos llevan siglos preguntándose si el libre albedrío existe. La IA no inventó el problema: lo hizo especifico y urgente.
A 40 años de su desaparición física, resulta iluminador indagar qué tenía para decir Jorge Luis Borges al respecto. En “Ajedrez”, su célebre poema de 1960, dice Borges que las piezas del juego “no saben que la mano señalada del jugador gobierna su destino, no saben que un rigor adamantino sujeta su albedrío y su jornada”, y remata con un espeluznante “Dios mueve al jugador, y éste, la pieza. ¿Qué Dios detrás de Dios la trama empieza de polvo y tiempo y sueño y agonía?” Borges no da respuesta, quizás porque lo único que importa es la pregunta.
Los sistemas de recomendación y de pronósticos automatizados recuerdan al perro que busca complacer a su dueño. No es que el perro “aprenda a hacer el muertito” sino que aprende a realizar una acción ante una indicación de su dueño (“¡símil cadáver!” le gritaba Inodoro Pereyra a su entrañable Mendieta, personajes del enorme Roberto Fontanarrosa), que luego lo premia con una caricia o un pedazo de carne. La pregunta borgeana no es solo qué hace reaccionar a Mendieta sino cuál es el complejo entramado que explica tanto lo que hace el perro como lo que hace su dueño.
Los pronósticos moldean las acciones de sus usuarios tanto como estos moldean a los pronósticos. A quien es capaz de amargarse la semana por haber visto una película mala solo le cabe el pronóstico conservador de “toda película es mala”; y exactamente lo contrario a quien no tolera perderse las buenas. Naturalmente, ver cada tanto una película mala es el inevitable costo de no quedarse al margen de las conversaciones sobre las buenas. Entonces, ante una misma película, el mismo pronosticador será cauto con un tipo de usuario y aventurero con otro, máxime si quien “guía” (retroalimenta) el pronóstico es el mismísimo usuario: el humano en el loop tunea y es tuneado por el algoritmo.
Claramente, las alegorías borgeanas no se agotan en “Ajedrez”. Es más, en algún sentido, casi toda su obra gira en torno al rol del destino y la voluntad. En el complejo “Tlön, Uqbar, Orbis Tertius” una ficción fabricada por humanos termina reemplazando la realidad que esos humanos habitan; en “Las ruinas circulares” el que sueña a otro descubre que él mismo es soñado; en “El Aleph”, Borges se maravilla ante el punto que lo contiene todo (en tiempo y espacio) incluyéndose a sí mismo contemplándolo.
Una conexión menos obvia pero igualmente iluminadora se encuentra en “El idioma analítico de John Wilkins”. En este inspirado ensayo, Borges plantea la pregunta de en qué sentido cualquier orden está necesariamente sujeto a alguna arbitrariedad. A modo de ejemplo, a los celíacos les conviene que en el supermercado los productos sin gluten estén todos juntos; no así a los golosos, que querrían que todas las galletitas (con o sin gluten) estén en una misma góndola. Al respecto, dice Borges que “notoriamente no hay clasificación del universo que no sea arbitraria y conjetural. La razón es muy simple: no sabemos qué cosa es el universo”; es decir, a la larga, cualquier clasificación depende de cómo creamos que funcionan las cosas. Dicho de otra manera, cualquier algoritmo que ordene (productos en góndolas, votantes en distintas campañas publicitarias, invitados en mesas de un casamiento) conlleva alguna arbitrariedad, producto de cómo opinamos que funcionan o deberían funcionar los mercados, la política o las familias. Agrega Borges que “la imposibilidad de penetrar el esquema divino del universo no puede, sin embargo, disuadirnos de planear esquemas humanos, aunque nos conste que estos son provisorios”. Es decir, el algoritmo que ordena objetos o personas es alterado por el humano en el loop (recursiva y dinámicamente) a medida que se actualizan sus conocimientos sobre cómo funcionan las cosas.
La cuestión clave no es la circularidad en sí misma sino el equilibrio (o la falta de él) al que esta “lucha libre” entre humanos y máquinas conduce. En “La lotería en Babilonia” Borges narra una sociedad cuyas decisiones son determinadas por el azar, como en el hilarante episodio de The Big Bang Theory en el que Sheldon Cooper deja libradas varias decisiones (comprar una PlayStation o una Xbox) al lanzamiento de una moneda. Más dramáticamente, la sociedad descripta por Borges termina tomando todas las decisiones posibles de sus habitantes a través de La Compañía, una entidad que administra el azar con creciente opacidad. Borges deja abierta la pregunta de si La Compañía realmente existió alguna vez o si el azar imperante no es otra cosa que el producto de la interacción entre el sistema que lo administra y quienes están sujetos a él: otra vez el humano en el loop, esta vez aceptando (pasiva o activamente) que el algoritmo y el azar lo gobierne todo.
En la medida en que el humano tenga voz y voto en el loop de la IA, la visión inquietante de “Tlön” o de “La lotería en Babilonia” parece ser una ficción lejana. Mientras ChatGPT o Claude reaccionen a nuestro input, como Mendieta a las instrucciones de Inodoro Pereyra, la sociedad retendrá parte del control ético y funcional de los algoritmos. La pregunta, que permanece abierta, es si algún día veremos a la IA corrernos del loop, y comenzar a indagarnos por iniciativa propia, como si don Inodoro divisara a lo lejos a Mendieta practicando solo “dar la patita” para después pavonearse ante los otros canes del pueblo con sus habilidades recién descubiertas.
Los comentarios están cerrados.