Éric Sadin, filósofo: «Por primera vez en la historia de la humanidad las tecnologías nos dan órdenes»

—Hace poco, en una entrevista en estas páginas, decía Juan Manuel de Prada que la inteligencia artificial es el castigo que nos merecemos.

—Solo es una afirmación, no una argumentación. El problema, y no hablo de esta persona en concreto, es que hay mucha gente que afirma cosas que van en todos los sentidos sin argumentos. Y es algo que me molesta mucho. Porque, generalmente, cuando hablamos sin argumentos hablamos a partir de algún interés. Todos los periódicos, para entender la inteligencia artificial, siempre van a preguntar a las mismas personas. ¿Quiénes son? Las empresas digitales o los ingenieros. Nos olvidamos de que siempre están hablando desde su interés privado y desde su visión del mundo. Yo llevo teorizando desde hace mucho tiempo, dada la gravedad de lo que está ocurriendo con la inteligencia artificial, y no son esas personas las que tenemos que consultar. Son las que sufren las consecuencias. Yo creo que habría que ir a ver a los profesores. ¿Qué ocurre con la digitalización en las escuelas? O también en el campo de la medicina. Desde hace diez años, se dice que se necesitarían más sistemas de inteligencia artificial en los hospitales, como si los médicos fueran a dejar de cometer errores. Desde la pandemia hemos visto que lo que hacía falta era personal, la calidad del cuidado, respiradores... Hay que luchar contra los tecnodiscursos.

—¿Qué efecto va a tener la inteligencia artificial en la cultura del pensamiento?

—Desde finales de 2022 y la puesta en línea de la primera versión de ChatGPT estamos viendo lo que yo llamo el giro intelectual y creativo de la inteligencia artificial. Quiere decir que estamos delegando, y cada vez más, en sistemas que cumplen con tareas que hasta ahora movilizaban nuestras facultades intelectuales y creativas. Esto es algo extremadamente grave, y no lo estamos viendo. Las primeras inteligencias artificiales, de hace 20 años, llegaron con una nueva misión, que era evaluar la realidad. La aplicación Waze [similar a Google Maps] es el ejemplo más emblemático. Va evaluando el estado del tráfico en tiempo real y sugiere tomar un itinerario u otro. Es la dimensión conminatoria de la inteligencia artificial. Da órdenes. Por primera vez en la historia de la humanidad las tecnologías nos van sugiriendo, nos aconsejan, nos dan órdenes. Desde finales de 2022 estamos viendo que hay sistemas que hacen lo que nos caracteriza como humanos, es decir, inventar de forma tanto individual como colectiva.

—¿Hay riesgo del que el espíritu crítico sea cada vez menor?

—Pensamos que ChatGPT es un lenguaje, pero no lo es. Esos sistemas van tragando todos los corpus existentes que han sido digitalizados: artículos de los periódicos, libros, textos... El objetivo es someterlos a tratamientos estadísticos, a esquemas lógicos. Es una matematización del lenguaje. Se construye ese pseudolenguaje con ecuaciones probabilísticas. Todo ese sistema es lo opuesto de la forma en que nosotros utilizamos el lenguaje. Para nosotros el lenguaje tiene un carácter. Es el lugar de encuentro entre cada individuo y el legado que tenemos en común: la gramática, la cultura... Crea esa tensión entre cada individuo y el legado común. Nuestra relación con el lenguaje no es una base de datos. Yo no sé lo que voy a decir ahora mismo, igual que cuando escribes, no sabes qué vas a escribir. Ahí está la libertad misma. La pregunta que nos van a hacer nuestros hijos va a ser: ¿Por qué voy al colegio? ¿Para qué? Si existen sistemas que a partir de una simple instrucción van a producir textos. Hay muchísimas consecuencias civilizatorias, pero no lo vemos. El utilitarismo se ha vuelto tan normal que ve el lado práctico sin ver las consecuencias civilizatorias y son muy graves.

—¿Cuáles son las consecuencias políticas de esta entrega a la tecnología?

—Hay que plantear una gran cuestión filosófica y moral. ¿Qué papel desempeñamos cuando hay sistemas que organizan las cosas y nos dicen cómo actuar? ¿Qué nos queda cuando delegamos nuestras facultades intelectuales y creativas a sistemas? Por Dios, ¿qué nos queda? Igual nos vamos a convertir en verdura, o en legumbres, delante de pantallas. Esos son problemas democráticos. Las inteligencias artificiales generativas también generan imágenes. La sociedad ya está bastante marcada por las 'fake news', la postverdad... Ahora con una instrucción vamos a publicar imágenes completamente fabricadas. Es extremadamente grave. Una sociedad no es solo principios comunes, también hay referentes comunes. Si no, no podemos entendernos. De aquí a un año y medio, o dos, vamos a entrar en un régimen en el que ya no sabremos cuál es la naturaleza de una imagen. Vamos a poner a disposición de todos los individuos del planeta herramientas que van a llevarnos a jugar con la percepción del otro.

—¿La verdad está en riesgo?

—Sí, claro. La verdad y la referencia. En dos años quizás me va a enseñar una imagen y yo le voy a decir: ¿Se la cree? Vamos a crear una desconfianza generalizada. Cada uno se va a replegar sobre sí mismo hacia sus creencias. ¿Y qué dice el que legisla? Remuneremos a los que tienen derechos de autor, en lugar de prohibirlo. Es el utilitarismo. Nunca vemos los eventos en el momento en el que ocurren. Hace diez años, muchos países europeos se lanzaron a digitalizar la escuela pública, con tabletas digitales. Cuando me enteré, enseguida escribí una tribuna. Cuando me enfado, enseguida escribo tribunas en los periódicos. Ahora se han dado cuenta de que se han equivocado. Han sacrificado a una generación, y ahora vuelven a los libros y a la escritura manuscrita.

—En una visita reciente a Argentina dijo que los Mileis se van a ir replicando por el mundo.

—Ya no creemos para nada en el poder político. Milei es eso, dice que no hay que creer en la política. Milei va a ser una catástrofe. ¿Y qué va a haber después de él? Yo tengo una teoría, y quizá me equivoque. Cada uno va a satisfacer su interés como pueda. Es decir, es el fin de la política. Y eso es el principio de la violencia organizada. Creo que vamos hacia ello.

—¿Qué papel ocupan figuras como Mark Zuckerberg, de Facebook, o Sam Altman, de OpenAI?

—Son portadores de una visión del mundo. Que el mundo está lleno de defectos, pero existe un milagro: la tecnología de lo exponencial, que no para de acelerarse, y que va a arreglar todos los problemas. Que hay sistemas capaces de hacer las cosas que hasta ahora hacían los humanos de forma más rápida, con un coste menor. Tienen una visión del mundo y lo grave es que lo imponen.

—¿Habrá manera de dar marcha atrás a todo esto? ¿De frenarlo?

—Dar marcha atrás seguramente no. En el ámbito laboral usted está en peligro. Porque hoy el 80 por ciento de los oficios en la mayoría de los países son del sector terciario. Son oficios que movilizan facultades intelectuales y creativas. Sam Altman, en el primer aniversario de ChatGPT, dijo: «Todo esto no es nada con lo que está por venir». Dijo que el futuro son los superasistentes. ¿Cómo no podemos ver que esa lógica va a poner en peligro muchísimos oficios? En la medida en que esos sistemas son capaces de realizar tareas intelectuales y creativas de forma muchísimo más rápida, supuestamente más fiable y a menor coste. ¿Cómo no podemos ver la tormenta para los periódicos, para los intérpretes, los abogados, los médicos? Seguimos pensando según el dogma de Schumpeter, quien dijo que el desarrollo tecnológico iba a destrozar empleos para crear otros nuevos. Pero esto se ha acabado. Schumpeter se ha acabado. No va a haber ninguna transferencia hacia empleos nuevos. Es una pesadilla. No lo estamos viendo, pero va a ocurrir. Yo lo sé. Estoy convencida de ello. En quince años jamás me he equivocado. Se habla de dar un salario mínimo. Vamos a ser mendigos. No es un proyecto de sociedad. Tendríamos que movilizarnos. Hay un ejemplo muy bonito, la huelga de los guionistas de Hollywood. Todavía hay un margen de dos o tres años para que podamos actuar antes de que sea tarde.

—¿La única manera de frenar esto es la movilización?

—Seguro. No es la regularización, porque el legislador no conoce nada. Me he levantado esta noche pensando en esto: el legislador hoy en día se ha transformado en un tecnócrata. Podemos decir que la democracia ya no existe. Solo valen los intereses utilitarios y los económicos. Eso es la tecnocracia. Ya no estamos en democracia. Es el olvido de los valores fundamentales: el respeto de la libertad, de la dignidad, de la integridad, de la inventiva, de la inteligencia humana, de la sociabilidad. Esos son los grandes valores que tendríamos que defender y celebrar. La tecnocracia es solo utilitarismo e intereses económicos. Estamos olvidando los grandes valores. Los lobbies están ganando. Mientras hablábamos, he escrito que el tecnoliberalismo ha llevado a una tecnocracia integral. Voy a trabajar sobre ello. El tecnoliberalismo es un espíritu que viene del mundo económico, de Silicon Valley, que ha transformado las democracias en tecnocracias. Es algo muy interesante, lo voy a teorizar.