El Estado no puede delegar su “conciencia” en la inteligencia artificial

La inteligencia artificial ha dejado de ser una promesa tecnológica para convertirse en una cuestión de Estado. Mientras gobiernos de todo el mundo incorporan sistemas capaces de procesar información, coordinar organismos y anticipar escenarios con una velocidad inédita, surge una pregunta que trasciende la innovación: ¿puede un algoritmo participar en la formulación de las políticas públicas o su papel debe limitarse a mejorar su implementación? La respuesta exige recuperar un viejo debate de la teoría política y administrativa . Durante la segunda mitad del siglo XX, Charles Lindblom, Aaron Wildavsky y Yehezkel Dror discutieron hasta qué punto los gobiernos podían planificar racionalmente sus decisiones o debían aceptar que las políticas surgen, en gran medida, de la negociación, el conflicto y el aprendizaje que acompañan su ejecución. Aquella controversia se desarrolló en un mundo donde coordinar significaba, sobre todo, coordinar personas. Hoy, la irrupción de la IA modifica las condiciones tecnológicas de ese debate, pero no elimina su núcleo político. Los sistemas inteligentes pueden consultar registros interoperables, verificar requisitos, distribuir tareas y procesar enormes volúmenes de datos con una eficacia muy superior a la de los procedimientos tradicionales. Allí reside su mayor aporte: reducir los costos de coordinación que durante décadas limitaron la capacidad de los Estados para ejecutar políticas complejas. Sin embargo, una administración más eficiente no equivale necesariamente a un gobierno más justo ni más creativo. Conviene distinguir dos funciones que con frecuencia se confunden. Una cosa es automatizar operaciones; otra muy distinta es transferir autoridad. La primera puede agilizar trámites, reducir errores y ofrecer servicios más oportunos. La segunda supone decidir quién recibe un beneficio, qué riesgos son aceptables, qué derechos prevalecen y cómo se distribuyen los recursos públicos. Esas decisiones no son técnicas: son esencialmente políticas. Pensemos en un ejemplo cotidiano. El nacimiento de un niño podría activar automáticamente la inscripción registral, la cobertura sanitaria y las prestaciones sociales correspondientes. Gracias a la interoperabilidad, la familia no necesitaría recorrer oficinas ni presentar repetidamente la misma documentación. Este modelo de Estado proactivo representa un avance extraordinario en términos de accesibilidad y calidad del servicio. Pero inmediatamente aparecen interrogantes que ningún algoritmo puede resolver por sí solo. ¿Qué prestaciones corresponden exactamente? ¿Qué datos son suficientes para acreditarlas? ¿Qué excepciones deben contemplarse? ¿Cómo puede una persona corregir un error o impugnar una decisión? La tecnología acelera el procedimiento, pero no determina los criterios que lo justifican. De aquí surge una idea que considero esencial: el desafío actual no consiste en construir un Estado automatizado, sino un Estado orquestador. Durante mucho tiempo concebimos al Estado como un coordinador de organismos relativamente estables. Cada ministerio, cada dependencia y cada funcionario ejecutaban una parte del proceso administrativo. Hoy, junto a las capacidades humanas aparecen agentes de inteligencia artificial especializados en buscar información, clasificar situaciones, detectar inconsistencias o proponer cursos de acción. Gobernar ya no implica solamente coordinar personas; implica orquestar capacidades distribuidas entre organizaciones, datos y sistemas inteligentes. La metáfora musical resulta útil porque evita un equívoco frecuente. Una orquesta no produce una obra simplemente porque reúne excelentes músicos. Hace falta una partitura, una dirección y una escucha permanente entre sus integrantes. Del mismo modo, los agentes de IA pueden ejecutar tareas altamente especializadas, pero corresponde al Estado definir el mandato, establecer las reglas de interacción y corregir las desviaciones cuando los resultados contradicen el interés público. Los algoritmos interpretan; no componen la obra. Las experiencias internacionales muestran con claridad tanto el potencial como los riesgos de esta transformación. En los Países Bajos, los sistemas utilizados para identificar posibles fraudes en prestaciones sociales terminaron integrándose a una cultura administrativa excesivamente punitiva. Miles de familias fueron injustamente perjudicadas por perfiles de riesgo y procedimientos opacos que luego motivaron una profunda crisis institucional. La lección no es que la inteligencia artificial sea incompatible con el Estado de derecho, sino que la eficiencia tecnológica puede agravar las injusticias cuando faltan transparencia, revisión efectiva y mecanismos de reparación. En contraste , Singapur desarrolló un gemelo digital de la ciudad que permite simular escenarios urbanos antes de ejecutar grandes proyectos. Allí la IA no sustituye la decisión política: mejora la información disponible para quienes deben decidir. La diferencia es fundamental. Un sistema puede ayudar a comprender mejor las consecuencias de una política, pero no puede establecer cuáles de esas consecuencias son socialmente deseables. La tentación de delegar también la formulación de políticas proviene de una confianza excesiva en los datos. Si un algoritmo puede identificar la alternativa más eficiente, parecería lógico permitirle escoger la mejor política. Pero toda optimización presupone que alguien definió previamente qué significa “mejor”. Reducir tiempos de espera, maximizar cobertura o disminuir costos son objetivos perfectamente cuantificables. Lo que ningún sistema puede decidir es cuál de esos objetivos merece prioridad cuando entran en conflicto. Los datos describen regularidades, mientras que la política crea horizontes . Los modelos entrenados con información histórica tienden a reproducir patrones existentes y a perfeccionar soluciones conocidas. Las democracias, en cambio, avanzan precisamente cuando cuestionan esas regularidades: ampliando derechos, corrigiendo desigualdades o redefiniendo prioridades colectivas. La innovación institucional no surge de extrapolar el pasado, sino de deliberar sobre futuros posibles. Por eso resulta insuficiente la conocida expresión human-in-the-loop , que propone mantener a una persona supervisando las decisiones automatizadas. Un funcionario que simplemente convalida la recomendación de un algoritmo puede convertirse en un mero intermediario burocrático. La verdadera garantía democrática exige algo más profundo. Propongo pensar en una democracy-in-the-loop . Es decir, un modelo donde no sólo exista intervención de un humano, sino también autorización, deliberación y control democrático sobre los propios sistemas inteligentes. Antes de desplegar un algoritmo deberían discutirse públicamente sus objetivos, las categorías que utilizará, los datos que podrá consultar, el grado de autonomía permitido y las vías mediante las cuales cualquier ciudadano podrá conocer, cuestionar y corregir una decisión que lo afecte. Esta diferencia es mucho más que semántica. La democracia no debe ingresar al circuito únicamente al final, cuando alguien revisa un resultado; debe estar presente desde el momento en que se define para qué servirá el sistema y bajo qué reglas actuará. La legitimidad no puede añadirse como una capa posterior sobre una arquitectura tecnológica ya diseñada. La inteligencia artificial ofrece una oportunidad extraordinaria para fortalecer la capacidad estatal . Puede mejorar la coordinación entre organismos, personalizar servicios, anticipar necesidades sociales y enriquecer el análisis prospectivo de los gobiernos. Renunciar a esas posibilidades sería tan equivocado como abrazarlas acríticamente. El verdadero desafío consiste en preservar una distinción que la fascinación tecnológica tiende a desdibujar: la implementación puede automatizarse parcialmente; la legitimidad política no. Los gobiernos pueden delegar cálculos, verificaciones y operaciones repetitivas. En cambio, no deberían delegar la responsabilidad de decidir qué derechos proteger, qué prioridades adoptar ni qué distribución de costos resulta aceptable para la sociedad. En definitiva , un Estado orquestador no es aquel que reemplaza su juicio por una constelación de agentes inteligentes. Es aquel que utiliza esas capacidades para ejecutar mejor sus políticas, mientras conserva íntegramente la obligación de justificar las reglas que las orientan y de responder públicamente por sus consecuencias. La eficiencia en la articulación de los medios puede ser un atributo de los algoritmos; la inteligencia social aplicada en la elección de los fines, debe seguir siendo una responsabilidad indelegable de la democracia.