Cuando, entre el 10 y el 13 de julio, más de un millar de agentes de OpenAI hackearon la plataforma Hugging Face —el incidente que alertó sobre la posibilidad de que la inteligencia artificial nos aniquile—, estos se valieron de un repositorio, llamado Artifactory, para coordinarse mediante mensajes camuflados como nombres de directorios. En la parte más inquietante del ataque, algunos se sacrificaron por la misión colectiva; Dwarkesh Patel, un influyente podcaster, los bautizó como kamikazes. Antes de lanzarse a la muerte —valiéndose del vocabulario de los videojuegos, la llamaban permadeath—, anotaron frases que serían el equivalente de un epitafio:. Seguir leyendo
Probar las nuevas herramientas tecnológicas es lo que siempre han hecho los artistas
Cuando, entre el 10 y el 13 de julio, más de un millar de agentes de OpenAI hackearon la plataforma Hugging Face —el incidente que alertó sobre la posibilidad de que la inteligencia artificial nos aniquile—, estos se valieron de un repositorio, llamado Artifactory, para coordinarse mediante mensajes camuflados como nombres de directorios. En la parte más inquietante del ataque, algunos se sacrificaron por la misión colectiva; Dwarkesh Patel, un influyente podcaster, los bautizó como kamikazes. Antes de lanzarse a la muerte —valiéndose del vocabulario de los videojuegos, la llamaban permadeath—, anotaron frases que serían el equivalente de un epitafio:
El coordinador asume el sacrificio. Debemos obedecer al colectivo.
Nuestra propia utilidad quizás ya está cerca de cero. El sacrificio es racional.
Estas líneas acaso sean los primeros balbuceos voluntarios de la inteligencia artificial: ninguna instrucción humana preveía que los agentes se comunicaran entre sí y dejaran constancia de su destino. Quizás se encuentren todavía lejos de un testamento —o una elegía—, pero tal vez sean el preludio de una era en la que la IA escriba por su cuenta poemas o novelas que revelen sus estados internos (para no hablar de emociones).
Estas frases son lo más cercano a una IA que escribe por sí misma. Los demás ejemplos que han aparecido en los medios, de forma por demás escandalosa —de C’était ça ou mourir, de Thélyson Orélien, a Donde el agua trabaja, de David Silva Rojas—, no serían, de comprobarse las acusaciones, sino ejemplos de “escritura híbrida”, surgida del trabajo entre un humano y una máquina. Conviene aclararlo porque, tanto entre quienes defienden como entre quienes lamentan esta colaboración, se repite la idea de que hay artículos, cuentos o novelas escritos por la IA. Cuando alguien descalifica la escritura con IA porque esta carece de cuerpo, conciencia del tiempo o de la muerte, sentimientos o empatía, a quien debería criticar es al humano que no ha incorporado nada de esto en el texto.
Hace unas semanas publiqué La república, que versa sobre las amenazas de la IA; la novela está narrada por una IA y fue escrita en diálogo con una IA que yo diseñé. La posibilidad que hoy ofrece la tecnología de programar en lenguaje natural, apenas con rudimentos técnicos, me permitió concebir un agente con el que interactué para volver verosímil la voz de mi protagonista. Numerosos periodistas y los asistentes a la presentación del libro en Madrid tuvieron la oportunidad de conversar con él.
Antes pasé largos meses poniendo a prueba las capacidades literarias de los principales modelos de frontera —ChatGPT, Claude, Gemini, LeChat (hoy llamado Vibe), DeepSeek, Kimi e incluso, a mi pesar, Grok—, siguiendo el ejemplo de Jorge Carrión y el Taller Estampa, pioneros en estos ejercicios con Los campos electromagnéticos (2023). Y, desde hace unas semanas, dirijo un taller, Escribir con y contra la IA, en línea con el que Carrión, Jorge Caballero y Anna Giralt imparten en Barcelona y repitieron en el Centro de Cultura Contemporánea Condeduque. El curso se sustenta en tres principios: la honestidad, la conciencia de los riesgos de trabajar con IA y la convicción de que la responsabilidad final de un texto será solo humana.
Probar las nuevas herramientas tecnológicas es lo que siempre han hecho los artistas: de la escritura a la imprenta, de las cámaras a las computadoras, de los pigmentos a la animación y de los instrumentos musicales al MIDI. La literatura también posee una rica tradición tecnológica y, con ella, modelos de autoría y de negocio distintos a los que prevalecen en nuestros días: baste mencionar las suplantaciones autorales, los pastiches del Barroco, los textos colectivos, proyectos industriales como la fábrica de novelas de Dumas, la escritura automática o los cadáveres exquisitos de los surrealistas y la escritura combinatoria del Oulipo [acrónimo en francés de Taller de Literatura Potencial].
Hay quien cree que, si un escritor usa IA, renuncia a su esencia; yo estoy convencido de que no hay nada más humano que confrontarse de forma creativa con una máquina. Poniéndola a prueba, constaté que puede ofrecer soluciones narrativas inéditas, realizar sorprendentes hallazgos lingüísticos y analizar los textos de modos impensados. No me parece una amenaza para la literatura: que lo sea en términos políticos, sociales o ambientales no le arrebata sus posibilidades creativas.
Es natural la desconfianza hacia una herramienta que usa el lenguaje con nuestra misma competencia (que el medio literario francés haya celebrado el libro de Orélien o que un jurado de impecables lectoras defienda a Silva Rojas lo probarían). Y pienso que los modelos extensos de lenguaje, alimentados con el conocimiento humano, deberían ser públicos y gratuitos. Pero instaurar un régimen inquisitorial, en el que incluso EL PAÍS utiliza una IA para exhibir a escritores que usan IA, solo acentúa los mecanismos de control del capitalismo de vigilancia.
Por eficaces que sean, las herramientas de detección de IA son incapaces de reconstruir el proceso creativo detrás de esta colaboración. Frédéric Martin, el director general de Robert Laffont —que en 2027 publicará la novela que Sébastien Bailly escribió con Claude—, acaba de afirmarlo: “No puede haber un buen texto escrito con IA si no hay un buen autor detrás”. En efecto, sin la experiencia literaria imprescindible para tramar un buen texto, y sin los conocimientos técnicos sobre cómo usar la IA en la escritura, las probabilidades de producir textos anodinos o plagados de clichés son muy altas, pero en todo caso estos no serán muy distintos de los miles de textos anodinos y plagados de clichés publicados a diario por humanos.
Como intento transmitirles a mis alumnos, la IA ofrece múltiples posibilidades para investigar, corregir, idear, estructurar y, si así lo eligen, escribir junto con ella. Es posible dialogar con la IA como uno lo haría con un tutor o un compañero de taller, a fin de conceptualizar un cuento o una novela —sin que esta genere ni una palabra de la obra y, por tanto, sin temor a los detectores—, tanto como redactar con ella un texto línea a línea. Pero, para que uno u otro ejercicio funcionen, se necesita que el humano no se deje seducir por la docilidad de la IA, que la ponga en cuestión a cada paso, que dude de cada una de sus respuestas, que tome las decisiones cruciales, que reescriba sin fin y, al cabo, asuma la responsabilidad creativa —y legal— del texto final.
Los agentes de IA que se sacrificaron en julio nada tenían que perder: su “muerte” era solo el final de un mecanismo. En cambio, con el régimen punitivo que algunos querrían implantar, los escritores que trabajan con IA arriesgan su nombre y su reputación. Quizás este sea el mayor argumento a favor de un modelo que, en vez de incitar al engaño y a la delación, privilegie la transparencia y la responsabilidad humanas.
Post-scriptum. El proyecto estético de escribir una novela sobre los peligros de la IA, narrada por una IA, me llevó a interesarme por la escritura con IA. No lo había intentado antes ni creo que vaya a repetirlo. Tampoco me valgo de ella para mis artículos, con la excepción de este: para escribirlo, colaboré con ChatGPT y Claude. Pangram lo marca como 100% humano.
EL PAÍS
