- Introducción
La incorporación de herramientas de inteligencia artificial al funcionamiento de la Administración Pública constituye uno de los fenómenos más relevantes del derecho administrativo contemporáneo. La expansión de sistemas automatizados de procesamiento de información, algoritmos predictivos y modelos de inteligencia artificial aplicados a la gestión estatal ha generado profundas transformaciones en los modos de producción de decisiones administrativas, permitiendo agilizar procedimientos, optimizar recursos públicos y ampliar la capacidad operativa de las organizaciones estatales.
En este contexto, la digitalización administrativa y el empleo de inteligencia artificial aparecen frecuentemente asociados a valores como eficiencia, celeridad, transparencia y modernización institucional. La posibilidad de automatizar tareas repetitivas, procesar grandes volúmenes de datos y reducir tiempos de respuesta presenta ventajas evidentes para administraciones públicas tradicionalmente caracterizadas por estructuras burocráticas complejas y procedimientos lentos.
Sin embargo, el desarrollo de estas tecnologías también plantea interrogantes jurídicos de enorme trascendencia constitucional. Particularmente, surge la necesidad de determinar si el uso de inteligencia artificial dentro del procedimiento administrativo puede extenderse hasta sustituir íntegramente la intervención humana en la emisión de actos administrativos con efectos jurídicos sobre los ciudadanos.
La cuestión excede ampliamente una discusión técnica acerca de la conveniencia operativa de la automatización estatal. En rigor, el problema central consiste en establecer si el orden constitucional argentino admite que decisiones capaces de afectar derechos, imponer obligaciones o producir consecuencias jurídicas relevantes sean generadas exclusivamente por sistemas algorítmicos carentes de legitimación democrática, responsabilidad institucional y control político.
En este sentido, sostengo que la incorporación de inteligencia artificial al procedimiento administrativo resulta compatible con el orden constitucional argentino únicamente en la medida en que dichas herramientas operen como instrumentos auxiliares destinados a optimizar el funcionamiento de la Administración Pública, sin sustituir la decisión humana en la formación y aprobación del acto administrativo.
La tesis central del trabajo consiste en afirmar que el acto administrativo constituye una manifestación de voluntad estatal jurídicamente imputable a órganos humanos investidos de competencia conforme al sistema constitucional y sometidos a responsabilidad política, administrativa y jurisdiccional. En consecuencia, la producción íntegramente automatizada de actos administrativos mediante sistemas de inteligencia artificial, sin intervención humana significativa, resulta incompatible con los principios estructurales del derecho administrativo y con las garantías propias del Estado constitucional de derecho.
En esta línea, corresponde señalar que la actividad administrativa no se agota en la mera producción formal de decisiones estatales, sino que se encuentra constitucional y legalmente orientada a la satisfacción del interés público y al cumplimiento del principio de buena administración, incorporado expresamente al artículo 1° bis de la Ley Nacional de Procedimientos Administrativos por la Ley 27.742. Dicho principio exige una actuación estatal eficaz, transparente, proporcional, motivada y centrada en la tutela efectiva de los derechos de las personas. En consecuencia, el procedimiento administrativo no puede ser concebido exclusivamente como un mecanismo técnico de gestión eficiente de información, sino como un ámbito institucional en el cual la Administración debe ponderar razonablemente intereses públicos y derechos individuales mediante decisiones jurídicamente responsables e imputables a órganos humanos investidos de competencia.
La investigación procura así diferenciar conceptualmente entre automatización administrativa y deshumanización de la decisión estatal. Mientras la primera constituye una forma legítima de modernización institucional compatible con los principios constitucionales, la segunda implica un desplazamiento inadmisible de la voluntad estatal hacia mecanismos algorítmicos incapaces de asumir responsabilidad jurídica y política por el ejercicio del poder público.
A partir de esta distinción, se propone desarrollar la idea de “reserva humana de decisión administrativa” como límite constitucional al uso de inteligencia artificial en el ejercicio de potestades públicas. Dicha noción supone reconocer que determinadas decisiones estatales requieren irreductiblemente intervención humana significativa debido a exigencias derivadas de la legitimidad democrática, el debido proceso y el control judicial efectivo.
Con tal finalidad, se analizarán los principales principios del derecho administrativo argentino vinculados con la teoría del órgano, la competencia administrativa, el debido procedimiento y el control jurisdiccional, así como las experiencias regulatorias desarrolladas en el derecho comparado, particularmente en la Unión Europea y en los Estados Unidos.
- La legitimidad democrática de la decisión administrativa
Uno de los principales límites constitucionales a la sustitución de la decisión administrativa humana por sistemas de inteligencia artificial se encuentra en el principio de legitimidad democrática que estructura el ejercicio del poder público dentro del Estado constitucional de derecho.
La actividad administrativa no constituye una mera actividad técnica orientada exclusivamente a la gestión eficiente de recursos, sino una manifestación concreta del poder estatal, ejercida en nombre de la comunidad política y sometida a las condiciones de juridicidad, responsabilidad y control derivadas de la Constitución Nacional.
En el sistema argentino, la Administración Pública actúa por delegación constitucional del Poder Ejecutivo, órgano cuya legitimidad deriva de la voluntad popular expresada mediante el sistema representativo previsto en los artículos 1 y 22 de la Constitución Nacional. Ello implica que las decisiones administrativas no son jurídicamente neutras ni meramente operativas, sino expresiones de potestades públicas ejercidas por órganos investidos conforme al ordenamiento jurídico y sometidos a responsabilidad política, administrativa, patrimonial y jurisdiccional.
La teoría clásica del órgano explica precisamente que la voluntad estatal se exterioriza a través de personas humanas que actúan en ejercicio de competencias atribuidas legalmente. El funcionario o agente público no actúa en nombre propio, sino como órgano del Estado, permitiendo imputar jurídicamente sus decisiones a la Administración y, en última instancia, al Poder Ejecutivo constitucionalmente legitimado.
Esta estructura orgánica no constituye una formalidad accidental del derecho administrativo, sino una garantía esencial del sistema republicano, en tanto asegura que toda manifestación de poder estatal pueda ser atribuida a autoridades identificables, responsables y sometidas a control.
Desde esta perspectiva, la legitimidad de la actuación administrativa no proviene únicamente de la corrección técnica de la decisión adoptada, sino de su inserción dentro de un sistema institucional de representación y responsabilidad política.
La incorporación de sistemas de inteligencia artificial al proceso decisorio administrativo introduce una tensión significativa respecto de estos principios estructurales. Ello se debe a que la inteligencia artificial carece de los elementos que justifican constitucionalmente el ejercicio del poder público.
Un sistema algorítmico no posee representación política, no integra la estructura orgánica del Estado, no accede al ejercicio de funciones públicas mediante mecanismos constitucionales de investidura y tampoco puede asumir responsabilidad jurídica o política por las consecuencias de sus decisiones.
La inteligencia artificial no puede ser sometida a los mecanismos de responsabilidad propios del sistema republicano. No responde políticamente ante autoridades electas, no puede ser removida mediante procedimientos institucionales, no se encuentra sujeta a deberes funcionales ni puede ser alcanzada por regímenes de responsabilidad administrativa, disciplinaria o patrimonial.
Esta ausencia de legitimación democrática y responsabilidad institucional adquiere especial relevancia cuando los sistemas automatizados son utilizados para producir decisiones con efectos jurídicos directos sobre los ciudadanos. En tales supuestos, la sustitución integral del decisor humano por mecanismos algorítmicos puede generar una progresiva despersonalización del ejercicio del poder administrativo, desplazando la responsabilidad estatal hacia procesos técnicos opacos carentes de control político efectivo.
En consecuencia, aun cuando la inteligencia artificial pueda aportar enormes ventajas en términos de rapidez, procesamiento de datos y optimización de recursos públicos, tales beneficios no resultan suficientes para justificar la sustitución absoluta de la voluntad humana en la producción del acto administrativo.
La eficiencia técnica no constituye, por sí sola, una fuente autónoma de legitimidad constitucional.
III. La teoría del órgano y la imposibilidad de atribuir competencia pública a la inteligencia artificial
La teoría del órgano constituye uno de los pilares estructurales del derecho administrativo contemporáneo y adquiere especial relevancia al analizar la posibilidad de utilizar sistemas de inteligencia artificial en la producción de actos administrativos.
En la tradición jurídica continental —y particularmente en el derecho administrativo argentino— el Estado, como persona jurídica pública, sólo puede actuar a través de órganos integrados por personas humanas investidas de competencia conforme al ordenamiento jurídico.
La teoría del órgano surge precisamente para explicar el mecanismo mediante el cual la voluntad de determinados individuos es jurídicamente imputada al Estado, permitiendo atribuir a éste los efectos de la actuación administrativa.
Desde esta perspectiva, el órgano no constituye simplemente una dependencia administrativa o una estructura organizativa, sino un centro jurídico de imputación de competencias públicas. La actuación del funcionario en ejercicio de su competencia no se considera una actuación personal o privada, sino una manifestación de voluntad estatal jurídicamente atribuible a la Administración Pública.
El acto administrativo tradicionalmente ha sido definido como una declaración unilateral de voluntad emanada de un órgano estatal competente en ejercicio de función administrativa. Tal definición contiene elementos esenciales que no pueden ser soslayados sin alterar la propia naturaleza jurídica del acto administrativo: existencia de un órgano, titularidad de competencia, exteriorización de voluntad y posibilidad de imputación jurídica.
La competencia ocupa, en este contexto, un lugar central. Conforme a los principios clásicos del derecho administrativo, la competencia constituye el conjunto de atribuciones conferidas por el ordenamiento jurídico a determinados órganos estatales para actuar válidamente en nombre de la Administración.
La inteligencia artificial, sin embargo, no reúne las condiciones necesarias para ser considerada órgano administrativo ni titular de competencia pública. Los sistemas algorítmicos carecen de investidura jurídica, no forman parte de la estructura orgánica estatal y no poseen aptitud para ejercer potestades públicas en sentido jurídico.
En consecuencia, la utilización de inteligencia artificial dentro de la Administración Pública plantea una distinción fundamental entre asistencia técnica y ejercicio de competencia. Mientras la IA puede ser utilizada legítimamente como herramienta auxiliar destinada a colaborar con el órgano administrativo en tareas de análisis, sistematización o automatización procedimental, la titularidad de la competencia y la responsabilidad por la decisión continúan correspondiendo necesariamente al órgano humano investido conforme a derecho.
La posibilidad material de que un sistema automatizado adopte decisiones eficientes no implica que el ordenamiento jurídico le reconozca aptitud para ejercer potestades públicas.
Precisamente por ello, la inteligencia artificial no puede sustituir integralmente al decisor administrativo sin afectar la estructura misma del acto administrativo. Si la voluntad estatal sólo puede exteriorizarse a través de órganos investidos de competencia, la eliminación de toda intervención humana significativa en el proceso decisorio comprometería la posibilidad de imputar jurídicamente el acto a un órgano estatal en sentido estricto.
- El debido proceso administrativo frente a las decisiones automatizadas
El debido proceso administrativo constituye una derivación necesaria del principio republicano de gobierno, del derecho de defensa consagrado en el artículo 18 de la Constitución Nacional y de la exigencia de juridicidad que rige toda actuación estatal.
En el derecho administrativo argentino, el debido procedimiento administrativo supone, entre otras garantías esenciales:
el derecho a ser oído,
el acceso a la información relevante,
la posibilidad de ofrecer y controlar prueba,
la motivación suficiente de las decisiones,
el derecho a obtener una resolución fundada, en un plazo razonable,
y la posibilidad de impugnar eficazmente la actuación administrativa.
Estas garantías constituyen mecanismos destinados a racionalizar el ejercicio del poder administrativo y evitar decisiones arbitrarias o irrazonables.
La utilización de sistemas de inteligencia artificial en la producción de actos administrativos genera tensiones relevantes respecto de estas garantías, particularmente cuando las decisiones son adoptadas mediante modelos algorítmicos complejos cuya lógica interna resulta difícil de reconstruir o explicar.
La denominada “caja negra algorítmica” constituye uno de los mayores desafíos contemporáneos en esta materia. Muchos sistemas de inteligencia artificial —especialmente aquellos basados en aprendizaje automático— operan mediante procesos internos de inferencia estadística cuya lógica resulta parcialmente inaccesible incluso para sus propios desarrolladores.
Como consecuencia, puede tornarse extremadamente difícil identificar:
qué variables fueron ponderadas,
cómo se relacionaron entre sí,
qué criterios condujeron al resultado final,
o por qué el sistema adoptó una determinada decisión respecto de un caso concreto.
Esta falta de explicabilidad resulta particularmente problemática en el ámbito administrativo, donde la motivación del acto constituye un requisito esencial de validez.
Cuando la decisión administrativa deriva exclusivamente de un proceso automatizado opaco, el administrado puede verse privado de la posibilidad real de comprender las razones de la decisión que lo afecta. Ello debilita significativamente el ejercicio del derecho de defensa, pues resulta extremadamente difícil impugnar una decisión cuyos criterios de producción permanecen inaccesibles o técnicamente incomprensibles.
Asimismo, la automatización decisoria puede afectar el principio de individualización de la decisión administrativa. El debido proceso exige que la Administración considere adecuadamente las circunstancias particulares de cada caso concreto, especialmente cuando ejerce potestades discrecionales o cuando la decisión involucra ponderaciones complejas de razonabilidad y proporcionalidad.
No obstante, la necesidad de preservar intervención humana significativa no se limita exclusivamente al ejercicio de potestades discrecionales. Aun en el ámbito de los actos reglados, la actividad administrativa no puede reducirse a una mera verificación automática de requisitos mediante lógicas puramente binarias o sistemas de “check list”. La determinación acerca de si efectivamente se encuentran configurados los presupuestos de hecho previstos por la norma exige, en numerosos casos, tareas de interpretación jurídica, valoración contextual, control de razonabilidad y verificación de la adecuación entre los hechos acreditados y las consecuencias jurídicas aplicables. Incluso en supuestos de regulación intensa, la Administración continúa ejerciendo funciones de calificación jurídica y control de legalidad que requieren responsabilidad institucional y capacidad de revisión crítica sobre el resultado producido por el sistema automatizado. Precisamente por ello, la automatización procedimental puede asistir y agilizar la actividad reglada, pero no eliminar completamente la necesidad de intervención humana en la formación de decisiones estatales con efectos jurídicos sobre los ciudadanos.
A ello se agrega que la pretensión de construir marcos regulatorios capaces de prever exhaustivamente todas las situaciones posibles y mantenerse permanentemente actualizados frente a la complejidad dinámica de la realidad administrativa resulta, en gran medida, ilusoria. Incluso en ámbitos intensamente reglados, las normas requieren ser interpretadas y aplicadas a contextos fácticos variables, muchas veces atravesados por circunstancias excepcionales, conflictos entre principios, vacíos regulatorios o situaciones no previstas expresamente por el legislador o el reglamentador. La actividad administrativa no opera sobre realidades abstractas y estáticas, sino sobre situaciones humanas concretas cuya singularidad frecuentemente exige tareas de contextualización, razonabilidad y ponderación imposibles de reducir completamente a esquemas automatizados de subsunción mecánica. Aun en los actos reglados subsiste un núcleo irreductible de interpretación y valoración jurídica que impide concebir la decisión administrativa como un proceso enteramente automatizable sin intervención humana significativa.
Precisamente por ello, la incorporación de inteligencia artificial al procedimiento administrativo sólo resulta compatible con las garantías del debido proceso cuando se preservan determinadas condiciones esenciales:
transparencia suficiente del sistema,
posibilidad de explicación racional de la decisión,
identificación de la autoridad responsable,
revisión humana efectiva,
auditabilidad del algoritmo,
y acceso del administrado a mecanismos reales de impugnación y control.
- El control judicial efectivo frente a las decisiones administrativas automatizadas
El control judicial de la actividad administrativa constituye una de las garantías esenciales del Estado constitucional de derecho y uno de los mecanismos fundamentales destinados a preservar la juridicidad en el ejercicio del poder público.
La Administración no actúa en un ámbito exento de control, sino sometida permanentemente a la Constitución, a la ley y a la revisión de los tribunales.
El control judicial efectivo exige que el Poder Judicial posea la posibilidad real y concreta de examinar adecuadamente la juridicidad de la actuación administrativa, verificando:
la competencia del órgano emisor,
la existencia de causa suficiente,
la razonabilidad de la decisión,
la proporcionalidad de las medidas adoptadas,
la adecuación a la finalidad prevista por el ordenamiento,
la motivación del acto,
y el respeto de las garantías constitucionales del administrado.
La revisión judicial de la actividad administrativa supone, por lo tanto, la posibilidad de reconstruir racionalmente el proceso de formación de la decisión estatal.
Sin embargo, la utilización de sistemas de inteligencia artificial capaces de producir decisiones automatizadas plantea importantes dificultades para el ejercicio efectivo de este control jurisdiccional.
Particularmente, cuando la decisión administrativa se apoya en modelos algorítmicos complejos o en sistemas de aprendizaje automático, puede resultar extremadamente difícil reconstruir el iter lógico que condujo al resultado adoptado.
La opacidad algorítmica compromete así uno de los presupuestos básicos del control judicial efectivo: la posibilidad de comprender racionalmente cómo se produjo la decisión cuestionada.
Si no es posible determinar:
qué datos fueron utilizados,
qué variables fueron ponderadas,
qué criterios aplicó el sistema,
o cómo se arribó al resultado final,
el control jurisdiccional corre el riesgo de transformarse en una revisión meramente superficial o aparente, incapaz de penetrar efectivamente en el núcleo decisorio del acto administrativo.
A ello se suma la dificultad de identificar claramente al sujeto responsable de la decisión administrativa. El control judicial presupone la existencia de un órgano estatal competente cuya actuación pueda ser revisada y eventualmente declarada inválida.
Precisamente por ello, tanto la doctrina contemporánea como las regulaciones europeas más recientes han comenzado a enfatizar la necesidad de garantizar la auditabilidad y trazabilidad de los sistemas utilizados por la Administración Pública.
La utilización de inteligencia artificial dentro de la Administración Pública sólo resulta compatible con el Estado constitucional de derecho en la medida en que las decisiones producidas permanezcan jurídicamente revisables y suficientemente transparentes para permitir un examen judicial efectivo.
- Derecho comparado: la experiencia europea y norteamericana
- La Unión Europea
Uno de los antecedentes normativos más relevantes en materia de decisiones automatizadas se encuentra en el Reglamento General de Protección de Datos de la Unión Europea (GDPR), particularmente en su artículo 22.
Esta disposición reconoce a toda persona el derecho a no ser objeto de una decisión basada únicamente en un tratamiento automatizado de datos —incluida la elaboración de perfiles— cuando dicha decisión produzca efectos jurídicos sobre ella o la afecte significativamente de modo similar.
La importancia de esta norma excede el ámbito específico de la protección de datos personales y se proyecta directamente sobre el derecho administrativo contemporáneo.
El GDPR introduce así un verdadero límite jurídico al ejercicio automatizado de decisiones capaces de incidir sobre derechos individuales.
A partir de esta regulación comenzó a desarrollarse doctrinariamente el denominado “right to explanation”, entendido como el derecho del individuo afectado a comprender razonablemente los criterios que condujeron a la decisión automatizada.
La evolución regulatoria europea alcanzó un nuevo nivel con el Artificial Intelligence Act (AI Act), considerado actualmente el marco normativo más avanzado en materia de regulación de inteligencia artificial.
El AI Act no prohíbe de manera absoluta la utilización de sistemas de IA por parte de las administraciones públicas, pero establece un conjunto de requisitos particularmente estrictos cuando dichas tecnologías son empleadas en contextos capaces de afectar derechos fundamentales.
Entre los principios más relevantes establecidos por el AI Act se destacan:
supervisión humana significativa,
transparencia,
explicabilidad,
auditabilidad,
trazabilidad,
evaluación de riesgos,
y posibilidad de revisión.
La noción de “human oversight” ocupa un lugar central dentro de esta arquitectura normativa. La regulación parte de la idea de que ciertos procesos decisorios no pueden quedar completamente autonomizados respecto de la intervención humana.
La doctrina europea ha distinguido entre “automated administrative decision-making” y mera asistencia algorítmica. Mientras esta última suele considerarse compatible con los principios tradicionales del derecho administrativo, la automatización decisoria plena genera mayores objeciones jurídicas debido al riesgo de diluir la imputación de responsabilidad y afectar el control jurisdiccional.
1.1 El caso BOSCO y la consolidación del principio de transparencia algorítmica
Uno de los precedentes jurisprudenciales más relevantes en materia de decisiones administrativas automatizadas y control de algoritmos estatales lo constituye la Sentencia n.° 1119/2025 del Tribunal Supremo de España, dictada el 11 de septiembre de 2025 en el denominado “caso BOSCO”. Este pronunciamiento representa un verdadero hito en la construcción de estándares jurídicos de transparencia algorítmica aplicables al ejercicio automatizado de potestades públicas.
El caso tuvo origen en la solicitud formulada por la Fundación Ciudadana Civio para acceder al código fuente de la aplicación informática “BOSCO”, utilizada por la Administración española para verificar automáticamente si determinados solicitantes reunían las condiciones necesarias para acceder al denominado “bono social eléctrico”, prestación estatal destinada a personas en situación de vulnerabilidad económica.
La controversia adquirió especial relevancia debido a que el sistema automatizado había sido cuestionado por excluir indebidamente a personas que, conforme a la normativa vigente, reunían efectivamente los requisitos legales para acceder al beneficio. La Administración rechazó reiteradamente el acceso al código fuente invocando razones vinculadas con propiedad intelectual, seguridad pública y protección de datos.
Sin embargo, el Tribunal Supremo español adoptó una posición de enorme trascendencia institucional al reconocer que el código fuente y la lógica operativa del algoritmo utilizado por la Administración constituían información pública susceptible de acceso y control. La sentencia sostuvo que el empleo de sistemas automatizados en decisiones administrativas con efectos jurídicos sobre los ciudadanos intensifica —y no reduce— las exigencias de transparencia propias del Estado de derecho.
El Tribunal afirmó expresamente que el derecho de acceso a la información pública adquiere una relevancia reforzada frente a los riesgos derivados de la utilización de nuevas tecnologías en el ejercicio de potestades públicas, particularmente cuando se encuentran involucrados derechos sociales o situaciones jurídicas individuales.
La decisión posee especial importancia porque rechaza la idea de que los algoritmos utilizados por la Administración puedan operar como “cajas negras” inmunes al escrutinio público o judicial. Por el contrario, el Tribunal sostuvo que la transparencia algorítmica constituye un presupuesto indispensable para garantizar:
la motivación suficiente de las decisiones administrativas,
el derecho de defensa de los ciudadanos,
la auditabilidad de los sistemas automatizados,
y el control jurisdiccional efectivo de la actuación estatal.
Particularmente relevante resulta el razonamiento desarrollado por la sentencia respecto de la relación entre transparencia algorítmica y control judicial. El Tribunal entendió que, si la Administración adopta decisiones mediante sistemas automatizados capaces de afectar derechos individuales, los ciudadanos y los órganos de control deben poder conocer suficientemente la lógica de funcionamiento del sistema para verificar su adecuación a derecho. En este sentido, la opacidad algorítmica aparece concebida como un riesgo incompatible con las exigencias propias del principio republicano y de la tutela judicial efectiva.
La sentencia también reviste importancia porque relativiza el alcance de ciertos argumentos frecuentemente invocados para justificar la opacidad de los sistemas automatizados estatales. El Tribunal sostuvo que ni la propiedad intelectual ni las referencias genéricas a razones de seguridad pública resultan suficientes, por sí solas, para excluir completamente el acceso y control sobre algoritmos utilizados en el ejercicio de potestades públicas. Por el contrario, toda restricción a la transparencia debe encontrarse específicamente justificada y superar un examen estricto de proporcionalidad.
En términos doctrinarios, el caso BOSCO constituye una manifestación especialmente significativa de una tendencia creciente en el derecho comparado: la progresiva consolidación del principio de transparencia algorítmica como garantía estructural del Estado constitucional de derecho. La utilización de inteligencia artificial o sistemas automatizados dentro de la Administración Pública no elimina las exigencias clásicas de motivación, control y responsabilidad estatal; por el contrario, las intensifica.
Desde la perspectiva de la presente investigación, el caso BOSCO aporta además un argumento central en favor de la tesis de la “reserva humana de decisión administrativa”. La sentencia pone de manifiesto que cuanto mayor es el grado de automatización de la actividad estatal, mayor debe ser también el nivel de supervisión, transparencia y control humano sobre el funcionamiento del sistema utilizado.
En otras palabras, la experiencia europea demuestra que la incorporación de inteligencia artificial a la Administración Pública no conduce hacia una progresiva sustitución del decisor humano, sino hacia un reforzamiento de las garantías destinadas a preservar la juridicidad y controlabilidad de la actuación administrativa.
El precedente evidencia así que la legitimidad constitucional de las decisiones automatizadas depende, en última instancia, de que los sistemas utilizados permanezcan: auditables, explicables, revisables, jurídicamente imputables, y sometidos a supervisión humana efectiva. Precisamente por ello, el caso BOSCO constituye una confirmación particularmente relevante de que la eficiencia algorítmica no puede reemplazar las exigencias de transparencia, responsabilidad y control propias del ejercicio constitucionalmente válido del poder administrativo.
- Estados Unidos y el “algorithmic governance”
En los Estados Unidos, el debate jurídico se ha desarrollado principalmente en torno a conceptos como “algorithmic governance”, “due process” y “black box government”.
La expresión “algorithmic governance” refiere al uso de sistemas algorítmicos y modelos automatizados para la toma de decisiones dentro de estructuras gubernamentales y administrativas.
La preocupación central no se limita a la precisión técnica de los algoritmos, sino al modo en que la automatización puede alterar la relación entre ciudadano y Estado, debilitando las garantías de control democrático y debido proceso.
Autores como Frank Pasquale han desarrollado la noción de “Black Box Government” para describir el riesgo de que el Estado adopte decisiones crecientemente dependientes de sistemas tecnológicos opacos e inaccesibles para los ciudadanos.
Desde esta perspectiva, las decisiones automatizadas pueden vulnerar el debido proceso cuando impiden al ciudadano comprender o cuestionar adecuadamente el razonamiento utilizado por el sistema.
A pesar de las diferencias regulatorias entre Europa y Estados Unidos, el derecho comparado evidencia una tendencia convergente particularmente relevante: la creciente aceptación de herramientas de inteligencia artificial como mecanismos auxiliares de gestión administrativa, acompañada de fuertes límites frente a la sustitución integral de la decisión humana.
VII. Automatización administrativa y reserva humana de decisión
Uno de los principales riesgos que presenta el debate contemporáneo sobre inteligencia artificial y Administración Pública consiste en abordar el fenómeno desde posiciones extremas.
Sin embargo, el verdadero problema jurídico no reside en la utilización de inteligencia artificial dentro de la Administración, sino en determinar cuáles son los límites constitucionales de dicha utilización cuando se encuentra comprometido el ejercicio de potestades públicas.
Desde esta perspectiva, resulta necesario distinguir conceptualmente entre “automatización administrativa” y “deshumanización de la decisión administrativa”.
La automatización administrativa puede ser entendida como la incorporación de herramientas tecnológicas destinadas a optimizar el funcionamiento de la Administración Pública mediante la simplificación de procedimientos, el procesamiento eficiente de información y la mejora en la prestación de servicios públicos.
Bajo esta concepción, la inteligencia artificial opera como una herramienta instrumental subordinada al órgano administrativo humano, funcionando como mecanismo auxiliar de apoyo técnico dentro del procedimiento administrativo.
La decisión continúa siendo jurídicamente imputable al órgano competente, mientras que la tecnología actúa como medio para optimizar la actividad estatal sin alterar la estructura constitucional del ejercicio del poder administrativo.
La cuestión adquiere una dimensión sustancialmente distinta cuando la utilización de inteligencia artificial deja de operar como asistencia instrumental y pasa a sustituir integralmente la intervención humana en la formación de la decisión administrativa.
En tales supuestos ya no se está frente a un fenómeno de automatización administrativa, sino ante un proceso de deshumanización de la decisión estatal.
La diferencia entre ambos fenómenos no es meramente cuantitativa ni tecnológica, sino esencialmente jurídica y constitucional.
Precisamente por ello, el problema constitucional no radica en la existencia de algoritmos dentro del procedimiento administrativo, sino en la sustitución del decisor constitucionalmente legitimado por sistemas autónomos incapaces de asumir responsabilidad institucional por el ejercicio del poder público.
En este marco adquiere especial relevancia el concepto de “reserva humana de decisión”, desarrollado progresivamente en sectores de la doctrina y regulación europea contemporánea.
Esta noción parte de la idea de que determinadas decisiones estatales requieren irreductiblemente intervención humana significativa debido a la naturaleza misma de las potestades involucradas y a la necesidad de preservar condiciones mínimas de legitimidad democrática, responsabilidad institucional y control jurisdiccional.
La reserva humana de decisión implica reconocer que existen ámbitos del ejercicio del poder público donde la intervención humana no constituye una mera formalidad prescindible, sino una garantía constitucional sustancial.
Determinadas decisiones administrativas exigen necesariamente:
juicio humano,
ponderación contextual,
valoración razonable de circunstancias particulares,
interpretación normativa,
consideración de principios constitucionales,
y asunción de responsabilidad institucional.
La inteligencia artificial puede asistir técnicamente estos procesos, pero no reemplazar integralmente la dimensión humana inherente al ejercicio legítimo de potestades públicas.
La reserva humana de decisión aparece así vinculada:
al principio republicano de gobierno,
al debido proceso administrativo,
a la responsabilidad estatal,
y al control judicial efectivo.
VIII. Conclusiones
La incorporación de inteligencia artificial al ámbito de la Administración Pública constituye un fenómeno irreversible dentro de los procesos contemporáneos de modernización estatal. La utilización de herramientas tecnológicas avanzadas puede contribuir significativamente a mejorar la eficiencia administrativa, optimizar recursos públicos y facilitar el acceso de los ciudadanos a servicios estatales.
Sin embargo, la modernización tecnológica de la Administración no puede implicar la despersonalización constitucional del ejercicio del poder público.
El acto administrativo no constituye una mera operación técnica de procesamiento de información, sino una manifestación de voluntad estatal jurídicamente imputable a órganos investidos de competencia y sometidos a responsabilidad política y jurídica conforme al sistema constitucional.
La inteligencia artificial puede asistir, complementar y optimizar la actividad administrativa, pero no puede reemplazar integralmente la decisión humana sin afectar principios estructurales del derecho público.
La legitimidad democrática, la teoría del órgano, el debido proceso administrativo y el control judicial efectivo exigen preservar un núcleo irreductible de intervención humana significativa en aquellas decisiones estatales capaces de afectar derechos o intereses de los ciudadanos.
En consecuencia, la utilización constitucionalmente válida de inteligencia artificial en la Administración Pública debe estructurarse sobre un modelo de automatización instrumental subordinada al control humano efectivo y no sobre esquemas de sustitución autónoma del decisor administrativo.
La eficiencia algorítmica puede mejorar el funcionamiento del Estado; pero no puede reemplazar la legitimidad democrática, la responsabilidad institucional y el juicio humano que caracterizan al ejercicio constitucionalmente válido de la función administrativa.
- Reflexión final
El avance de la inteligencia artificial representa uno de los mayores desafíos contemporáneos para las estructuras jurídicas e institucionales del Estado constitucional. Sin embargo, el problema central que plantea la automatización administrativa no es meramente tecnológico, sino profundamente humano y político: determinar si el ejercicio del poder público puede desvincularse de la responsabilidad moral inherente a toda decisión estatal que afecta derechos, intereses y situaciones jurídicas de las personas.
La creciente capacidad de los sistemas algorítmicos para procesar información, predecir conductas y producir respuestas automatizadas no debe conducir a concebir la actividad administrativa como una mera operación técnica de optimización de datos. La Administración Pública no administra únicamente recursos o procedimientos; administra relaciones humanas, derechos fundamentales y decisiones capaces de incidir concretamente sobre la dignidad y la vida de las personas.
En este sentido, resulta especialmente valiosa la reflexión desarrollada por la Carta Encíclica Magnifica Humanitas de León XIV, al advertir que el progreso tecnológico sólo constituye un verdadero avance cuando permanece subordinado a la centralidad de la persona humana y al servicio del bien común. La Encíclica destaca que ninguna innovación técnica puede sustituir la responsabilidad ética inherente al juicio humano ni desplazar la dimensión moral de las decisiones que comprometen la vida de otros: “En la Encíclica Laudato si’ el Papa Francisco denunciaba el creciente afianzamiento de un paradigma tecnocrático en el mundo globalizado: la tendencia a dejar que la lógica de la eficiencia, del control y del lucro gobierne por sí sola las decisiones personales, sociales y económicas. Así se manifiesta con mayor evidencia que la técnica no es un simple instrumento y que, cuando se vuelve criterio, termina por establecer qué cuenta y qué puede descartarse, reduciendo la creación a un objeto de explotación y a las personas a engranajes de un sistema que sea cada vez más eficaz.”, desplazando la lógica del bien común que debe regir la actividad gubernamental.
Trasladada al ámbito del derecho administrativo, esta idea permite comprender que la denominada “reserva humana de decisión” no constituye únicamente una garantía procedimental o una exigencia técnica de control, sino una manifestación concreta de un principio más profundo: la imposibilidad de deshumanizar el ejercicio del poder público sin afectar simultáneamente la dignidad de quienes quedan sometidos a él.
La inteligencia artificial puede asistir, optimizar y fortalecer el funcionamiento estatal. Puede contribuir a una Administración más eficiente, accesible y transparente. Pero el ejercicio legítimo de potestades públicas continúa requiriendo algo que ningún algoritmo puede proporcionar: responsabilidad institucional, juicio prudencial, ponderación humana y conciencia moral acerca de las consecuencias de la decisión adoptada.
Precisamente por ello, el desafío jurídico contemporáneo no consiste en resistir irracionalmente el avance tecnológico, sino en asegurar que la tecnología permanezca subordinada al orden constitucional y a la persona humana, y no a la inversa.
La eficiencia algorítmica puede mejorar la Administración; pero sólo la responsabilidad humana puede legitimarla.
Bibliografía
Balbín, Carlos F., Tratado de Derecho Administrativo.
Cassagne, Juan Carlos, Derecho Administrativo.
Cassagne, Juan Carlos, El acto administrativo.
Citron, Danielle, Technological Due Process.
Dromi, Roberto, Derecho Administrativo.
Eubanks, Virginia, Automating Inequality.
Goodman, Bryce y Flaxman, Seth, “European Union regulations on algorithmic decision-making and a ‘right to explanation’”.
Gordillo, Agustín, Tratado de Derecho Administrativo.
Hutchinson, Tomás, Régimen de Procedimientos Administrativos.
Nielsen Enemark, Carlos A., “El uso de inteligencia artificial en el acto administrativo”.
OECD, OECD AI Principles.
Pasquale, Frank, The Black Box Society.
Valero Torrijos, Julián, El acto administrativo automatizado.
Wachter, Sandra y Mittelstadt, Brent, “Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation”.
Reglamento General de Protección de Datos de la Unión Europea (GDPR).
Artificial Intelligence Act de la Unión Europea.
Carta Encíclica MAGNIFICA HUMANITAS del SANTO PADRE LEÓN XIV sobre LA CUSTODIA DE LA PERSONA HUMANA EN EL TIEMPO DE LA INTELIGENCIA ARTIFICIAL
