Calidad democrática e IA

Los tiempos cambian y, poco a poco, se aproximan nuevas tecnologías que, a buen seguro, tendrán consecuencias relevantes en los próximos años en múltiples dimensiones de nuestras vidas personales, pero también para la democracia. La idea sobre la que descansan es la de que nuevos agentes virtuales de IA Gen nos acompañen de forma diaria y permanente en todas nuestras actividades cotidianas vitales, conociendo perfectamente nuestros gustos, necesidades, preferencias, emociones y sesgos cognitivos, incluidas nuestras propias ideologías. Una especie de consejeros virtuales privilegiados no sólo porque lo sabrán absolutamente todo sobre nosotros, sino porque serán generadores de contenido intelectual y emocional preciso y personal, aliviándonos de toda carga cognitiva innecesaria: ellos pensarán por nosotros y nos ofrecerán su mejor asesoramiento sin juzgarnos ni poniendo límites innecesarios a lo que en cada momento deseemos de estos.

La descarga cognitiva es importante por varias razones; la primera es pensar ¿Qué sucederá si esa voz externa que nos acompaña pudiera llamarse o comunicarse con la voz interna de la mente? Una segunda etapa –decisiva– será precisamente la señalada, que podríamos denominar como 'la conexión'. Todo ese conocimiento obtenido de plataformas externas a lo largo de nuestras decenas de miles de interacciones en años que, acumulado y procesado, representa una forma precisa de nuestra identidad compuesta por toda esa información conductual, emotiva, sentimental y racional, podría abandonar el soporte externo y migrar hacia tecnologías más eficientes en su disponibilidad y uso por el propio sistema nervioso cerebral a través de neuroprótesis. Lo anterior conduce a que se deleguen en tecnologías externas altamente eficientes pero no mentales recursos cerebrales cruciales que son y han sido la base de nuestro progreso como seres humanos racionales a lo largo de la historia de la humanidad. Las nuevas tecnologías basadas en agentes políticos virtuales arranca, en su dimensión de agencia de apoyo, en los pioneros trabajos de Weizenbaum, quien desarrolló una herramienta capaz de suponer en quienes con ella interactuaban la 'sensación real' de relacionarse con una genuina persona humana.

En conexión con lo anterior en algunos países se están implantando instrumentos –plataformas horizontales de participación electrónica– dedicados fundamentalmente a permitir que la ciudadanía proponga y participe en asuntos públicos, por ejemplo, a través del establecimiento de agendas de interés político social descentralizado que están suscitando la investigación en la comunidad académica, porque –no lo olvidemos– practicar la democracia implica una voluntad de experimentación. Lo anterior supone una clara y progresiva pérdida de confianza en los partidos políticos y en la democracia representativa –debida a su falta de control y de responsabilidad no política, sino jurídica– que ofrece signos de desgaste y agotamiento severos en sociedades fuertemente polarizadas como la nuestra. Sociedades en las que la posverdad y las redes sociales han fragmentado la opinión pública, que hoy está más cerca de múltiples opiniones privadas contendientes y con agendas y narrativas propias exclusivas y excluyentes que una opinión pública caracterizada por mostrar líneas narrativas y valores compartidos comunes y coherentes que ya no representa.

Quizás estas nuevas plataformas puedan encauzar esa opinión pública fragmentada e incoherente al permitir que la opinión atomizada de sus participantes, mediante el uso de la IA neutralice los múltiples focos de influencia, en muchos casos fuertemente emocionales y escasamente racionales que hoy operan en nuestras sociedades en red. A nuestro juicio, estas herramientas podrían –con las limitaciones que veremos en otro lugar– formar parte de los pilares de una nueva democracia participativa, mediada y estructurada por sistemas de IA que, en un futuro a medio plazo y con ciudadanos instruidos y conscientes de sus nuevos roles, siempre que se evite la excesiva descarga cognitiva y la forma de administrar el poder, complementará los modelos de democracia exclusivamente representativa.

Las tecnologías performativas que redefinen las reglas del juego se aproximan rápidamente. Neil Postman, alumno de McLuhan, se fijó en su idea más citada porque resulta de interés para nuestro estudio: el medio es el mensaje ¿Qué significa esta frase elíptica y provocadora? McLuhan viene a señalar que nuestros líderes políticos a menudo afirman que las tecnologías dominantes, entre ellas las redes sociales o la IA, son buenas porque a menudo se utilizan de manera adecuada: los programas de televisión contienen contenido educativo o las armas se disparan por los cuerpos de seguridad a menudo contra los objetivos adecuados, es decir, los criminales o el enemigo, sea esto lo que quiera que sea en cada momento histórico. La idea clave de McLuhan es que los efectos realmente claves de cualquier tecnología surgen, en realidad, de su forma, de cómo se construyen realmente. Cada tecnología comunica un mensaje implícito que nos cambia a quienes hacemos uso de ella, nos impregna de nuevos deseos, nuevos sentimientos de posibilidad. Casi cualquiera que haya disparado un arma de fuego puede recordar la primera vez que tuvo una en sus manos; incluso un activista contrario a las armas se sentirá invadido por el deseo de disparar a algo, tal vez a unas botellas, a un blanco de cartón para hacer puntería. El arma, en cierto modo, comunica un sentido y transmite mensajes: eres poderoso, eres temible; te doy seguridad y confianza. En una palabra, amplía las fronteras de lo que con el poder potencial y real que acumulan se puede hacer y, por ello, produce un cambio en la mentalidad de quien la posee; sus posibilidades y su poder han variado extraordinariamente de disponer de ella o no.

En análogo sentido, Jünger o Anders recuerdan que la libertad de disponer de la técnica presupone su fe en que hay partes de nuestro mundo que no son más que 'medios' a los que se podría adjudicar 'ad libitum' «buenas finalidades», lo que no es más que pura ilusión. Los dispositivos mismos son 'facta' –hechos– que, además, nos marcan. Y este hecho, que nos marquen sin importar para qué fin, lo aprovechemos, no desaparece degradándolos verdaderamente a ser 'medios'. El problema es que estas tecnologías, como la IA, además de ser performativas no son neutrales y están creadas por seres humanos para dominar a otros seres humanos, como precisara Lewis, por lo que son increíblemente poderosas.