La IA alucina, pero no imagina
Beñat Zaldua
H
ace un año, el primer ministro sueco, Ulf Kristersson, recibió contundentes críticas tras reconocer que utilizaba “con bastante frecuencia” herramientas de inteligencia artificial (IA) a la hora de tomar decisiones. Las principales críticas, al margen de la publicidad gratuita ofrecida a algunas plataformas, fueron dos. La primera tenía que ver con la seguridad. ¿Qué clase de información estaba compartiendo el dirigente conservador con una empresa privada como ChatGPT? En la medida en que la IA aprende con nuestras propias preguntas, ¿incorporaría la información de Kristersson en respuestas futuras a otros usuarios? La segunda tenía que ver con los errores y los sesgos asociados a la inteligencia artificial. No es una máquina neutral ni infalible, hay aspectos en los que falla más que una escopeta de feria, por lo que supeditar decisiones gubernamentales a sus respuestas tiene sus peligros.
En agosto de 2025 ignoré consciente y activamente la polémica. En parte por una pereza innata hacia todo lo que tiene que ver con la IA, y en parte porque las críticas no me parecieron excesivamente trabajadas. Si EU tuvo pinchado durante años el teléfono de la canciller alemana Angela Merkel, y el rey de Marruecos tuvo acceso, como parece, al del presidente del gobierno español, Pedro Sánchez, no creo que las consultas que un mandatario haga a la IA constituyan semejante peligro. Y sobre los errores de la inteligencia artificial, el trabajo del gobernante es, a menudo, decidir entre diferentes opciones presentadas por sus colaboradores. Con consulta a la IA o sin ella, la decisión seguía siendo humana, pensé.
Así, de entrada, no me gusta la inteligencia artificial. La uso en el trabajo, como si de un buscador avanzado se tratara, pero le sigo pidiendo las cosas “por favor”, lo cual a estas alturas creo que es más signo de estupidez que de educación. Se me cae el alma a los pies cada vez que me toca editar un artículo manifiestamente creado con IA; son textos-barbie, perfectos por fuera, huecos por dentro. Con lo bonito y útil que es el error. Sé que ha venido para quedarse y que va a cambiar muchas cosas, algunas de ellas para bien. Hacerle frente con las armas del ludismo me parece la mejor forma de comprar billetes para el fracaso, pero echo de menos críticas constructivas y comprensibles a la irrupción de la IA. Entre el optimismo ciego y la crítica a cualquier precio debería haber algún punto medio. Un poco de finura entre tanta brocha gorda.
La he encontrado, en el ámbito de las políticas públicas, en un artículo académico publicado este mes de julio en la Revista Española de Ciencia Política. Se llama ‘‘La irrupción de la inteligencia artificial en la decisión pública’’ y está firmado por el catedrático y ex ministro de Universidades Joan Subirats, por Marta Cruells y por Jaume Blasco.
En el texto, los autores consideran que la entrada de sistemas avanzados de IA en ámbitos gubernamentales y administrativos está empezando a reorganizar “la naturaleza misma de la decisión pública”, y no en la mejor de las direcciones, ya que puede comprometer la legitimidad democrática de un sistema y los derechos de la ciudadanía. ¿Cómo? Básicamente de dos maneras. Por un lado, afectando a la evidencia científica que sirve para tomar decisiones políticas, reforzando la engañosa idea tecnocrática de un gobierno de expertos –¿qué sería entonces de la política que tanto nos entretiene?–. Por otro, asumiendo el papel de decisor en una administración, por ejemplo a la hora de adjudicar ayudas o pensiones, un ámbito en el que el diseño –opaco y con sesgos– de la IA condiciona el resultado, sin que los afectados puedan acudir a alguna ventanilla a protestar. “La discrecionalidad no desaparece con la automatización, sino que migra, a menudo, fuera del alcance de los mecanismos de control democrático”, dicen en el artículo.
“La doble presencia de la IA, como productor de conocimiento y como apoyo o sustituto del decisor, multiplica las preguntas democráticas sobre legitimidad y responsabilidad”, añaden los autores, que no obstante reconocen que “la IA ofrece también oportunidades reales para mejorar la decisión pública”. Pero subrayan que su incorporación a una administración “requiere garantías sustantivamente más robustas que las disponibles hoy”.
El artículo es de acceso libre para todo aquel que quiera algo de finura en la crítica a la IA. A mí me ha servido para ordenar ideas y confirmar académicamente algunas prevenciones hacia estos algoritmos predictivos. El principal tiene que ver quizá con nuestra capacidad de innovar políticamente, de imaginar y disputar futuros mejores. Helga Nowotny ha estudiado esto. La IA aprende del pasado, por lo que a la hora de tomar decisiones, siempre parte de los patrones que han dado forma al presente, cayendo en una forma de determinismo políticamente nefasto. Nos interesa la política exactamente para lo contrario. La IA, por lo tanto, tiene respuestas viejas para preguntas nuevas, cuando a veces, lo que necesitamos son respuestas nuevas a preguntas viejas.
La Jornada
