La inteligencia artificial ya está presente en muchas administraciones públicas. Pero, ¿están preparadas las entidades públicas para demostrar cómo la utilizan, qué riesgos implica y bajo qué criterios se supervisa?
Ante el nuevo marco regulatorio europeo, avanzar en IA exige algo más que incorporar herramientas: implica identificar, ordenar y controlar sus usos para garantizar transparencia, trazabilidad y seguridad jurídica.
La inteligencia artificial ya está en la Administración. Ahora toca gobernarla
La IA generativa, la automatización de procesos o el análisis avanzado de datos empiezan a utilizarse en el sector público para agilizar tareas y mejorar servicios. Pero este avance exige una pregunta básica: ¿bajo qué criterios se está utilizando la IA?
Gobernar la inteligencia artificial implica definir políticas, roles, procedimientos y controles para saber qué sistemas se usan, con qué finalidad, qué datos tratan, quién los supervisa y qué garantías existen.
En una institución pública, esto es especialmente importante porque la IA puede intervenir en procesos que afectan a ciudadanos, empresas, empleados públicos o colectivos vulnerables. Por eso, no basta con que una herramienta funcione: debe poder explicarse, supervisarse y documentarse.
¿Qué cambia con el Reglamento Europeo de Inteligencia Artificial?
El Reglamento Europeo de Inteligencia Artificial conocido como AI Act, introduce obligaciones en función del nivel de riesgo de los sistemas de IA.
Para las instituciones públicas, esto implica identificar los sistemas en uso, clasificarlos, evaluar sus riesgos y documentar su funcionamiento. Además, determinados sistemas de alto riesgo pueden requerir evaluaciones específicas de impacto, especialmente cuando puedan afectar a derechos fundamentales.
La consecuencia es clara: la IA debe integrarse en un modelo de cumplimiento propio, con responsabilidades definidas y evidencias suficientes.
¿Qué riesgos aparecen cuando no existe un modelo de gobernanza?
La ausencia de gobernanza no significa que no haya IA. Muchas veces significa que ya se está utilizando, pero sin una visión global de la organización.
Uno de los principales riesgos es la Shadow AI: el uso de herramientas de inteligencia artificial por parte del personal sin supervisión formal, sin criterios comunes y sin validación de las áreas responsables.
Esto puede derivar en tratamientos de datos sin garantías, uso de información sensible en plataformas externas, respuestas no verificadas, decisiones poco trazables o dependencia de soluciones que no han sido evaluadas desde el punto de vista técnico, jurídico y organizativo.
¿Qué debe incluir un proyecto de gobernanza de IA?
Un proyecto de gobernanza de IA debe empezar por un diagnóstico realista: qué usos existen, quién los utiliza, con qué finalidad, qué datos intervienen y qué nivel de control tiene actualmente la organización.
A partir de ahí, la entidad puede crear un inventario de sistemas y casos de uso, clasificar riesgos, revisar proveedores, definir políticas internas, establecer directrices de uso y fijar responsabilidades claras. También puede ser recomendable crear un Comité de IA o una estructura similar que coordine la toma de decisiones y reúna a las áreas implicadas.
No todas las instituciones públicas tienen el mismo tamaño, recursos o madurez tecnológica. Por eso, la gobernanza debe ser proporcional, práctica y aplicable. Lo importante es empezar de forma ordenada y avanzar hacia un modelo que permita cumplir con la normativa y utilizar la inteligencia artificial con garantías.
Desde Integra Tecnología, a través de nuestro equipo de Consultoría Legal acompañamos a administraciones autonómicas, diputaciones, ayuntamientos y entidades públicas empresariales en la definición e implantación de modelos de gobernanza de IA adaptados a su realidad organizativa y a sus obligaciones regulatorias.