El LLM y la nitidez del sentido

Me había resistido a escribir sobre este tema por dos razones. La primera, que necesitaba dejar reposar ciertas ideas, y la segunda, que me da un poco de pereza escribir sobre lo que está escribiendo todo el mundo. Durante casi cuatro años he visto crecer cancerígenamente el número de ensayos sobre el escritor y LLM [Large Language Model]. Prudencias que han encubierto inmovilidad y miedo. Bullicios que han pretendido agarrar un click a cualquier precio. Al principio aquello me recordaba a los autocomplacientes textos sobre la pandemia que recalentaban las sobras teóricas del pasado y las mostraban como novedades. Es sabido que los escritores y los periodistas de columna nunca han dejado de aprovechar estas ocasiones. Pero una vez que se les ha proveído de un tema actual y jugoso, de repente notan que deben tener una opinión al respecto. Y más les vale tenerla rápido. Para el jueves a las ocho de la mañana. Algunas de estas opiniones han envejecido mal, y lo sorprendente es que la gente las sigue repitiendo. Hay quienes afirman que los escritores pueden usar los LLMs como valiosas herramientas de apoyo (se saben las reglas del tiempo subjuntivo después de todo). Otros afirman que los LLMs son una moda inofensiva que pasará pronto, en cuanto el público note sus evidentes limitaciones (no van a durar dos años más, ya verás). Otros, que los LLMs podrán emular y sustituir a los escritores a corto o mediano plazo (ya hay entusiastas que te muestran cómo escribir cinco libros al día usando inteligencia artificial y cómo venderlos en Amazon). Antes de hablar de lo que quiero hablar (el desenfoque provocado por los LLMs, y la posible muerte de la idea del artista “virtuoso”) comenzaré por despejar las confusiones implícitas en estas expectativas. 

La utilidad de los LLMs como herramientas de apoyo es indiscutible siempre y cuando las principales dificultades del escritor sean ortográficas y gramaticales. Pero no he conocido jamás a un escritor que tenga algo interesante que decir cuyas mayores dificultades sean ortográficas y gramaticales. No porque la ortografía y la gramática sean indicadores universales de inteligencia, sino precisamente porque no lo son. Corregir la redacción de una opinión tonta hace que la opinión sea tonta de manera más transparente. Nunca queda más claro que un escritor no tiene nada que decir que cuando se corrige meticulosamente su redacción. En cuanto a consultas… ningún LLM puede ofrecer más información de la que ya ofrecía Google o cualquier otro motor de búsqueda decente. 

La idea de que los LLMs pasarán de moda tarde o temprano y no tendrán un efecto sobre la literatura elige pasar por alto el hecho de que la literatura no está desconectada de otras formas de habla y de escritura (me refiero a formas “no literarias”, que van desde el caption de Instagram hasta el trabajo final de una materia). Incluso si los LLMs de momento tuvieran poco o nulo efecto sobre la escritura de manera directa (más allá de proveer un tema para la columna del jueves), ya lo han tenido de manera indirecta: una buena parte de la producción de texto en nuestros días (promocional, divulgativo, incluso jurídico y político) cae en manos de los LLMs. En este preciso minuto hay cientos de miles, quizás millones de bots leyendo y reproduciendo el llamado “contenido” de internet. Y ese contenido transgénico invade el mundo. Hay una guerra subyacente que se está librando mediante la reproducción masiva y completamente automatizada de cualquier forma de contenido que parezca tener demanda. El fenómeno ha sido llamado “ai slop”, y no parece ser reversible. Sus consecuencias serán profundas y nefastas. Es ingenuo pensar que esto no tendrá un efecto indirecto sobre la literatura. Ya lo está teniendo. No solo sobre la que se escribe ahora, sino sobre la que ya se escribió. 

Algunos de los que han notado este nuevo orden de reproducción del contenido en el mundo (la palabra “contenido” en realidad denota cualquier cosa que pueda ser objeto de atención) han decidido tratan de aprovechar la ola en lugar de combatirla. Declaran muerto el oficio de escritor y se vanaglorian de la facilidad con la cual se pueden dispensar cientos de páginas sobre cualquier tema y ponerlas a la venta. La única limitación parecería ser la escasez de verdaderos seres humanos que se las lean. Pero los entusiastas que quieren aprovechar la ola para escribir libros de manera indiscriminada, creyendo que pueden tener una calidad mínima, parecen desconocer cómo funcionan los LLMs, qué cosa es la literatura, o posiblemente ambas cosas. 

Los LLMs funcionan a partir de colosales bases de datos. Buscan patrones y los repiten sin entenderlos. La masa mínima de textos para que una predicción sea posible, para que un patrón emerja siquiera, sin que se cometa un plagio demostrable, es demasiado grande: la agudeza del genio está perdida en el volumen de la mediocridad. Se le escapa al LLM de sus enormes, torpes y predictivas extremidades. Pretender que un LLM encuentre un adjetivo interesante es como pretender que un manatí desbloquee un teléfono. 

Un LLM no puede encontrar más que lugares comunes. En un sentido exacto, lo único que puede un LLM suplantar del escritor sin cometer un plagio demostrable es su mediocridad. Pero también es cierto que puede multiplicarla con tanta pericia y rapidez que termine por invisibilizar lo que no es mediocre. Hasta fechas relativamente recientes la literatura se había salvado porque el escritor mediocre tenía límites (humanos) en su productividad. Ya no los tiene. Y ese es el verdadero problema y el motivo por el que estoy escribiendo estas líneas. 

La productividad del escritor y del artista mediocre ahora solo tendrá como límite la demanda de aquellos que estén dispuestos a consumir (a “atender”) lo que hacen. Un efecto bola de nieve en el cual la ampliación de las capacidades productivas de la mediocridad fabrique (por simple saturación) un público cada vez más mediocre, que a su vez fabrique más escritores y artistas mediocres, que recurran (deban recurrir) más a la inteligencia artificial, no solo es verosímil, sino bastante probable. La inteligencia artificial (al menos en su estado actual) no va a sustituir a los verdaderos escritores, no va a sustituir a los verdaderos artistas, porque no puede emularlos. Lo que tratará de hacer en cambio será anularlos. 

Los LLMs han devaluado el texto escrito e incluso el oral ante el inconsciente del público. Recuerdo que antes era más común leer los textos que acompañaban a una fotografía en Facebook, o los que describían lo que hacía un negocio en su sitio web. Ahora nos los saltamos. Asumimos que fueron escritos por un LLM (y con razón: probablemente lo fueron). Incluso a menudo nos saltamos la mayor parte de la respuesta de un LLM a nuestra pregunta. Hacemos una lectura rápida y superficial hasta llegar a la línea que contiene la oración que importa. Lo que nuestro sistema nervioso está aprendiendo es que el texto es un elemento abundante, insustancial, frecuentemente suplementario, que crece como un moho blanco en las ranuras de nuestra atención. 

La literatura ya se encontraba en crisis antes de la llegada de los LLMs, porque la lectura ya se encontraba en crisis. Y es también la capacidad de lectura la que más está sufriendo el incremento exponencial de textos mediocres (no solo los “literarios”). El sentido se nos está perdiendo en el texto. El texto se multiplica y el sentido se diluye. Los LLMs producen textos promediando otros textos. En una imagen eso tiene un nombre: desenfoque. Desenfocar es diluir progresivamente una imagen hasta volverla irreconocible. El LLM necesita desenfocar porque es la única manera de evitar las demandas por plagio. Un LLM es una máquina de desenfocar texto y cultura en general. 

Me atrevo a decir que lo que está en juego no es solo la literatura o el texto escrito, sino el lenguaje mismo. No han sido pocas las épocas en las cuales se ha perdido casi por completo el ejercicio de la escritura y de la lectura. Tradiciones enteras han desaparecido o han quedado reducidas a unas pocas copias oscuras y vulnerables. Pero incluso en esas circunstancias la palabra oral mantuvo intacta la función original del lenguaje. La palabra no se devaluó, porque seguía requiriendo un esfuerzo, seguía siendo significativa. Pese a las limitaciones del formato oral, siguió habiendo algo que podemos considerar literatura a fin de cuentas (canciones, historias) y que podríamos considerar pensamiento, sabiduría. Lo que está sucediendo ahora, la pérdida de nitidez, el desenfoque a nivel industrial de los objetos de nuestra atención, de lo que leemos, vemos y escuchamos, no tiene precedentes, ni siquiera en nuestra prehistoria. Los animales se comunican haciendo un esfuerzo. Cada aullido es en cierto modo único: ha sido practicado y eventualmente ejecutado en una situación concreta. 

Ya existen movimientos contra los LLMs. Motivos no han faltado. Y ya varias marcas (negocios) de diferentes tamaños han aprovechado la oportunidad para distinguirse a sí mismas (y aumentar sus ventas) declarándose ajenas al ai slop. Estas reacciones al uso masivo de los LLMs, que desde luego apoyo, tienen no obstante un poder limitado, y sospecho que a la larga resultarán inútiles. Entre otras razones, que pronto explicaré, porque el LLM apela a una de las fuerzas más poderosas que existe en los seres humanos, más poderosa que la empatía y el odio: la pereza. Es más fácil luchar contra el odio que luchar contra la pereza. 

Una de los fenómenos más inesperados y terribles del desenfoque de la cultura han sido los abundantes casos de artistas que han tenido que demostrar que sus obras no han sido hechas mediante un LLM. No solo se ha tratado de artistas y de obras “mediocres”. Al contrario, frecuentemente han sido las obras más complejas y sofisticadas las acusadas. La mediocridad no solo cree estar ahora a la misma altura que el talento o el genio. Ha encontrado la excusa perfecta para, de ser preciso, negarlo. 

El escritor y el artista saben la diferencia entre lo que hacen y lo que hace un LLM, pero a menudo esa diferencia es invisible para el resto del público. Y el gran problema aquí es que incluso si el resto del público siente simpatía por los verdaderos artistas y rechaza el uso masivo de los LLMs, no tiene manera de distinguir por sí mismo cuando algo estuvo parcial o totalmente generado por un LLM. Los artistas mediocres ingenuos declararán la verdad, se declararán usuarios de los LLMs, y los mediocres más avisados seguirán usando los LLMs en secreto, aunque se declaren feroces detractores de los mismos, posición que los hará ganar la atención y la simpatía del público. 

Si tuviera que apostar por cómo se verán la literatura y el arte en los próximos años apostaría por obras “orgullosamente humanas” en las cuales los rastros más evidentes de los LLMs hayan sido borrados y en los cuales se hayan insertado “errores” demostrativos. La literatura y el arte del futuro abrazarán la imperfección premeditada y el esfuerzo performático. En una cultura lo bastante borrosa hasta las manchas en el lente serán tomadas por bellas. Y no dudo que para muchos haya cierta belleza en el lente manchado, pero para cualquier fotógrafo esa admiración será vista como una mocedad. Cualquier fotógrafo profesional que se haya esforzado por obtener una imagen nítida, perfecta, entenderá que en última instancia la admiración por el lente manchado es irrespetuosa. 

En el futuro, como en el pasado, la virtud será inhumana. Pero en el pasado esa inhumanidad tenía naturaleza divina, mientras que en el futuro, a ojos del público, tendrá una naturaleza industrial y superflua. 

El contenido “literario” o “artístico” no se separará del resto de los objetos de nuestra atención por el abandono de los LLMs, sino por el discurso que toma en cuanto a estos. En otras palabras, la literatura y el arte serán más hipócritas y pedantes de lo que ya lo son. No se habrá visto jamás una separación tan grande entre la vida privada del artista y lo que quiere el artista mostrar de ella. Y no debería sorprendernos que uno de los temas más frecuentes en las futuras obras, quizás mediante proyecciones del inconsciente, sea la impostura. En nuestra época el síndrome del impostor se ha generalizado, y no dudo que en muchos seres humanos sea injustificado, pero ¿no nos hemos topado con varios casos en los cuales alguien cree tener el síndrome del impostor, cuando la realidad es más simple, cuando son impostores y punto? 

A medida que este probable romanticismo de la imperfección (que prefiera el proceso antes que el resultado, la autenticidad del error sobre la monotonía de la pericia) se vuelva más evidente, hasta devenir en una molesta moda, me pregunto si habrá reacciones de algún tipo que sí traten de rescatar la idea del escritor y del artista virtuoso, o si por el contrario la literatura y el arte solo estarán cavando su propia tumba, porque el público terminará por preferir la mundana eficiencia y la confiable simplicidad de la literatura y el arte generados o asistidos por los LLMs (si es que sigue consumiendo literatura y arte, tras años de exposición a una cultura desenfocada en la cual el sentido mismo parezca por momentos imposible). La historia parece insinuar que la pereza no puede ser vencida, así que, aunque adopte la primera postura en mis escritos y lecturas, confieso creer que la segunda se terminará imponiendo. 

Los escritores y los artistas que resistan la tentación del uso medido y discreto de los LLMs para aumentar su productividad están por experimentar un grado de soledad inimaginable en los años futuros. La virtud, la nitidez que los distinga de la mayoría será invisible para casi todos, salvo para sí mismos, y aún para sí mismos (bajo la presión ineludible de la mirada del resto) estará en duda su existencia. 

Que la paranoia comience.