La inteligencia artificial se ha convertido en una de las grandes obsesiones de nuestro tiempo. Se habla todo el rato de máquinas que piensan, que crean, que conversan, que pueden, quizá, escapar del control humano. Pero, ¿y si buena parte de lo que se dice sobre ellas habla en realidad del ser humano? Esa es la pregunta desde la que Agustín Fernández Mallo construye El ángel de la Inteligencia Artificial (Galaxia Gutenberg), un ensayo que propone mirar la IA desde un lugar poco habitual: entre la física, la antropología, la metafísica, la teología y la literatura.. Seguir leyendo
La inteligencia artificial se ha convertido en una de las grandes obsesiones de nuestro tiempo. Se habla todo el rato de máquinas que piensan, que crean, que conversan, que pueden, quizá, escapar del control humano. Pero, ¿y si buena parte de lo que se dice sobre ellas habla en realidad del ser humano? Esa es la pregunta desde la que Agustín Fernández Mallo construye El ángel de la Inteligencia Artificial (Galaxia Gutenberg), un ensayo que propone mirar la IA desde un lugar poco habitual: entre la física, la antropología, la metafísica, la teología y la literatura. Seguir leyendo
La inteligencia artificial se ha convertido en una de las grandes obsesiones de nuestro tiempo. Se habla todo el rato de máquinas que piensan, que crean, que conversan, que pueden, quizá, escapar del control humano. Pero, ¿y si buena parte de lo que se dice sobre ellas habla en realidad del ser humano? Esa es la pregunta desde la que Agustín Fernández Mallo construye El ángel de la Inteligencia Artificial (Galaxia Gutenberg), un ensayo que propone mirar la IA desde un lugar poco habitual: entre la física, la antropología, la metafísica, la teología y la literatura.. Más información. Fernández Mallo (A Coruña, 59 años), físico además de escritor, cuestiona incluso el propio concepto de inteligencia artificial. Su tesis parte de una paradoja: los humanos llevamos siglos intentando crear algo que nos supere, pero seguimos sin saber exactamente qué es aquello que llamamos inteligencia humana. En ese deseo de fabricar un ser superior encuentra ecos de nuestras antiguas religiones y de la figura del ángel caído: una criatura creada por nosotros que podría acabar adquiriendo una autonomía que ya no sepamos controlar. El libro plantea también una frontera más profunda: la de que quizá nuestro cuerpo, nuestra mortalidad y nuestra experiencia del tiempo podrían ser precisamente aquello que hace imposible que una máquina llegue a ser jamás como nosotros.. Pregunta. ¿Cómo surge la idea de hacer este libro?. Respuesta. Todo empieza cuando veo o me entero de que el cerebro humano funciona con unos 25 vatios de potencia. Es como una bombilla. En cambio, ChatGPT, por ejemplo, hace dos años, cuando empecé a escribir el libro, necesitaba una energía equivalente a una ciudad de 10.000 habitantes. Entonces uno piensa que lo que estamos haciendo no tiene nada que ver con el cerebro humano. Incluso vamos en la dirección contraria: algo que no optimiza la energía como la optimiza el cerebro humano ni de lejos. Entonces me pregunté: ¿qué demonios estamos haciendo?. P. Y le atraviesa un pensamiento teológico.. R. Ahí empiezo a pensar que en todas las religiones existe ese ser que cae, que se desprende de su creador y cae. Aquí aparece mi parte de poeta, de narrador, de fabulador. Establezco esa alegoría como marco de trabajo, y efectivamente me doy cuenta de que, en realidad, estamos construyendo algo que está en el planeta Tierra, que algunos dicen que tendrá voluntad propia, pero que no es humano. Eso solo puede ser un ángel caído. De momento es un ángel de la guarda, porque aún nos cuida. Incluso si le dices: “Me estás mintiendo”, al final te dice: “Sí, es verdad”. Pero puede convertirse rápidamente en un ángel caído y generar perjuicios realmente serios. Para mí, lo que nos diferencia es que una IA no tiene capacidad ni para mentir ni para decir la verdad, porque no se juega a nada en la respuesta. Usted y yo tenemos un yo y un cuerpo y nos jugamos algo muy serio en una respuesta: nuestra finitud, la muerte o la supervivencia. Una IA, como es inmortal, no teme morir. Le da igual. Y eso nos separa ontológicamente de ellas.. P. Nosotros nos jugamos mucho y para ella es un juego.. R. Justamente.. P. Usted es físico de formación. ¿Su acercamiento a la IA es distinto por esa formación técnica?. R. Sí, aunque mi especialidad no tiene nada que ver con la IA. Mi formación me ayuda a comprender una serie de cuestiones mejor que una persona que no tiene esa formación, y creo que, si alguna virtud tiene el libro, es precisamente unir esa parte física con la parte antropológica y teológica.. P. Entrando en el terreno teológico: ¿cree que la IA puede derivar en una religión?. R. Creo que sí. Y que ya se está configurando. Aunque los fieles de verdad todavía están un poco en las catacumbas. Pero desde luego que sí. Hay una implantación de una nueva iglesia, que son las tecnoempresas, que nos están diciendo que ellas ya no tienen nada que hacer, que eso funciona solo. Es como si yo creo en un laboratorio un arma biológica y luego digo que eso ya funciona solo. Claro que funciona solo, pero porque yo lo he soltado. Además, todo está muy polarizado. Están quienes creen que la IA nos va a salvar, que es un nuevo mesías, y, al contrario, quienes dicen que esto va a ser el apocalipsis.. Apocalípticos y muy apocalípticos. P. Esos dos relatos se alimentan mutuamente. Y nos alejan de lo que seguramente sea la verdad, un punto intermedio que no estamos encarando porque nos estamos extremando en el relato.. R. Totalmente. No hay que olvidar que el Apocalipsis es un relato, y que toda civilización ha ficcionado su propio apocalipsis. Y cuidado, porque el miedo es la primera forma de control de alguien.. P. ¿Qué diría a los que dicen que la IA nos extinguirá?. R. Llevamos 40 siglos oyendo que esto se acaba y no se ha acabado. Y evidentemente no se va a acabar: no hay forma posible de que la humanidad al completo se extinga, es un absurdo. Se van extinguiendo civilizaciones, hay desastres, pero este relato de que el mundo se acaba… Por favor. Lo que dicen ahora, que en diez años la IA acabará con el ser humano… es un chiste. No puede ser porque, además, antropológicamente es inconsistente: el ser humano, si algo tiene, es un instinto de supervivencia absoluto, y no va a permitir eso.. P. ¿Cuáles son las novedades de la inteligencia artificial respecto a cualquier otra tecnología o relato que hayamos construido?. R. Creo que hay dos novedades. La primera es que, por primera vez, el humano ha construido una herramienta que simula, al menos, el habla humana, el lenguaje complejo. La segunda tiene que ver con la organización colectiva. Tú colocas a un león frente a un humano y siempre gana el león. Pero colocas a una manada de leones frente a una manada de humanos y siempre ganan los humanos: podemos crear sociedades, estrategias y conocimiento. Ahora, de repente, nos dicen los tecnoapocalípticos que las IA entre ellas se pueden coaligar y pueden hacer sociedades como los humanos para, quizá, ayudarnos o, quizá, acabar con nosotros. Eso nos pone nerviosísimos.. P. Hablaba antes de que nos venden la IA como algo que ya funciona solo, cuando en realidad existe una responsabilidad humana absoluta detrás. Por ejemplo, cuando se dice que una inteligencia artificial se ha escapado de un sandbox y ha hecho algo por sí misma.. R. Claro que se ha escapado sola; porque tú le has dicho que se tiene que escapar. Lo interesante es que ya han inoculado de algún modo en la sociedad la idea de que eso es una deidad que funciona sola y que ya no podemos hacer nada. Y perdone usted, pero no es así. Por eso creo que estamos en un momento crucial en el que los Estados tienen que determinar qué dejan entrar dentro del cuerpo social y de los propios Estados, qué IA sí y cuáles no. Es el momento de legislar de verdad.. P. En ese sentido, ¿es optimista o pesimista? ¿Cree que las empresas van a poder imponer realmente este nuevo modelo de sociedad o los Estados serán capaces de establecer un marco coherente?. R. En una primera fase soy pesimista. Creo que las tecnológicas van a seguir mucho tiempo por delante de los Estados, hasta que ocurra algún desastre de verdad. Algo como lo que ocurrió con la pandemia. Pero creo que, cuando la cosa se ponga realmente seria, la humanidad se coaligará de algún modo. Pero en una primera fase, ya le digo que no soy optimista. Ahí están peleando Trump y los chinos a ver quién llega antes, y les da igual todo.. P. ¿Cómo se imagina ese escenario grave? ¿Qué podría pasar?. R. Es imposible saberlo, pero creo que primero entrarían las IA perniciosas en la vida civil, en la vida doméstica; luego iría escalando hacia los cuerpos del Estado y, por último, hacia el cuerpo militar. Eso sería de lo más grave: de repente unas IA que se ponen a manejar drones y bombardean donde ellas quieren. Pero es muy difícil saberlo.. P. Hay otra cuestión esencial que plantea en el libro: nuestra propia concepción de la inteligencia.. R. Para mí, una inteligencia será de verdad una inteligencia artificial compleja, como el cerebro humano, cuando podamos crear —o ella misma se cree— una inteligencia analfabeta. Es decir: estamos manejando una idea de inteligencia que, para empezar, es occidental. Es un etnocentrismo y, dentro de Occidente, además, es un subgrupo centrado en el cómputo y el cálculo. Pero cuando salimos a la calle y hacemos nuestra vida, no estamos pensando en cómo resolver los siete problemas del milenio matemáticos. Estamos aplicando la inteligencia humana a cuestiones como dónde comprar el pan o dónde aparcar. Y eso nos lleva a cometer errores. La inteligencia artificial no se permite tenerlos porque no piensa como un humano. La inteligencia humana es mucho más compleja que calcular. Calcular es una parte ínfima de nuestro cerebro.. P. Y ahí entra también la diferencia entre pensamiento deductivo, inductivo y abductivo.. R. Exacto. Las IA manejan pensamiento deductivo e inductivo, aunque el inductivo lo están empezando a desarrollar. Pero el pensamiento abductivo, que se basa en errores, en cosas que captas a medias y con las que vas tirando, es algo que no se sabe ni cómo empezar a hacer que una inteligencia artificial lo maneje.. Agustín Fernández Mallo, en su residencia en Palma.Francisco Ubilla. P. Como físico, ¿qué le parecen el consumo eléctrico y los problemas medioambientales de la IA?. R. Es muy evidente que si hace dos años ya se veía que llevaba una derivada que no era sostenible para el planeta, hoy todavía más. Eso no tiene nada que ver con un cerebro humano ni con la inteligencia humana. Evidentemente, habrá que ponerle coto, habrá que solucionarlo y habrá que legislarlo. La única vía sostenible, si fuera posible, sería crear inteligencias a través de modelos biológicos, no algorítmicos. El modelo algorítmico no da más. La propia realidad nos dice que el aumento de entropía que generan esos modelos es descomunal.. Impacto en el arte. P. Y, como escritor, ¿cómo ve su impacto en la creación artística?. R. Bueno, evidentemente hay que perseguir la estafa. Me parece muy interesante utilizar la IA para hacer experimentos, en una línea cercana a las vanguardias de principios del siglo XX. Hay una suerte de nueva vanguardia: jugar con esto, toquetear. Pero siempre declarando de dónde viene. Si no, es una estafa. Y aprovecho para decirlo: yo no utilizo la IA para escribir.. P. Le iba a preguntar precisamente eso.. R. En absoluto. Yo no escribo para sacar muchos libros al mercado. Escribo para hacer yo el camino, para divertirme, para excitarme, para crear una poética. Y eso solo lo puedo hacer yo.. P. El Goncourt ha retirado una novela acusada de estar escrita con IA.. R. Sí. Han pasado la novela por verificadores de IA y dicen que es cien por cien IA. Bien, vamos a suponer que esos verificadores funcionan correctamente, que sería otra cuestión. Pero el escritor siempre podría decir: “Lo he escrito yo imitando a una IA”. En el libro hablo de la idea del testigo: si no hay ningún testigo que observe si ese escritor lo ha escrito él imitando a una IA o si ha sido una IA la que lo ha escrito, es prácticamente imposible que un forense pueda determinar quién lo ha escrito.. P. Pero, ¿llamaremos “escritor” algún día a una IA?. R. Creo que cometeremos un error el día que hagamos a las IA sujetos de derecho. Ahora, si desenchufas una IA, pues vale. Pero el día que sean sujetos de derecho y la desenchufes, estarás cometiendo un homicidio. Mucho ojo con antropomorfizarlo todo, con creer que son como humanos. Las IA no tienen nada que ver con los humanos.
