La discusión sobre inteligencia artificial administración pública ha dejado de ser teórica. En Cataluña, la Generalitat opera ya 31 sistemas de IA y tiene otros dos en desarrollo, según detalla el registro público de algoritmos del Centre de Telecomunicacions i Tecnologies de la Informació (CTTI). Hablamos de modelos que influyen en diagnósticos médicos, gestión penitenciaria, lucha contra la pobreza energética o automatización de trámites. Para cualquier empresa tecnológica que trabaje (o aspire a trabajar) con el sector público, esto marca el listón real de exigencia: resultados medibles, supervisión humana y gobernanza robusta.
Panorama actual: cómo la administración catalana ya usa la inteligencia artificial en su operativa diaria
En menos de una década, la Generalitat ha pasado de proyectos piloto a un catálogo vivo de sistemas de IA integrados en su operativa diaria. La mayoría (27) son modelos de aprendizaje automático que se entrenan con los datos que gestiona la propia administración; el resto son algoritmos deterministas, basados en reglas explícitas, que siguen siempre los mismos pasos ante datos similares. El mensaje para el ecosistema proveedor es claro: el cliente público ya no pregunta “qué es la IA”, sino “cómo la incorporo a mis procesos críticos sin romper nada”.
Un elemento diferenciador es el registro público de algoritmos impulsado por el CTTI y la Secretaría de Telecomunicacions i Transformació Digital. Este registro no es solo un inventario técnico: documenta rendimiento, funciones, base jurídica para el tratamiento de datos, nivel de intervención humana y clasificación de riesgo de cada sistema. Para una empresa de software o consultoría, esto anticipa el tipo de documentación y trazabilidad que deberá aportar en cualquier licitación seria vinculada a IA.
Los casos de uso ya desplegados son amplios y muy concretos. En justicia, RisCanvi estima el riesgo de reincidencia de personas internas en prisión; en servicios sociales, un sistema online automatiza informes de pobreza energética; en salud, proyectos como DigiPatICS o CRITIC-CONTAS IA aceleran diagnósticos y monitorizan pacientes críticos; en gestión interna, asistentes virtuales y herramientas de redacción automática agilizan trámites y borradores de informes técnicos. Incluso herramientas generalistas como Microsoft Copilot están entrando en el día a día del empleado público, acompañadas de guías y formación para evitar usos imprudentes.
Modelos de riesgo y registro público de algoritmos: qué exige la nueva gobernanza de la IA en el sector público
El secretario de Telecomunicacions i Transformació Digital, Albert Tort, subraya que estos algoritmos pueden impactar en decisiones administrativas y en derechos fundamentales. Desde el punto de vista empresarial, esta frase resume el marco de gobernanza que cualquier proveedor debe asumir: la IA en la administración no es solo desempeño técnico, es responsabilidad jurídica y reputacional compartida. La Generalitat clasifica sus sistemas alineándolos con la futura regulación europea, distinguiendo entre riesgo bajo, riesgo limitado y alto riesgo.
Cinco sistemas están marcados como de “alto riesgo” y otros diez como de “riesgo limitado”. El criterio combina el tipo de datos utilizados (especialmente si son personales), la posibilidad de sesgos, los errores de procesamiento y el peligro de filtración de información. Esta taxonomía no es un ejercicio académico: determina el nivel de supervisión humana exigido, los requisitos de transparencia y los mecanismos de reclamación que deben acompañar al sistema.
La regla operativa que destaca Tort es sencilla, pero tiene implicaciones profundas de diseño: si no se usan datos personales, el riesgo se considera bajo y la supervisión puede ser menor; si hay impacto directo en prestaciones, resoluciones administrativas o acceso a servicios básicos, el estándar se multiplica. Esto condiciona la arquitectura de cualquier proyecto de inteligencia artificial y administración pública: cómo anonimizar, qué datos son imprescindibles, dónde se almacenan, qué logs se conservan, cómo se explica el modelo a un ciudadano si lo cuestiona.
| Criterio | IA en servicios informativos / bajo riesgo | IA en decisiones con impacto en derechos / alto riesgo |
|---|---|---|
| Tipo de datos | Datos no personales o agregados | Datos personales y, en ocasiones, sensibles (salud, situación social, justicia) |
| Supervisión humana | Revisión puntual o muestreo | Validación sistemática por personal responsable antes de la decisión final |
| Transparencia requerida | Información general sobre el uso de IA | Registro público detallado, base jurídica explícita y explicación del impacto |
| Gobernanza y controles | Procedimientos internos simplificados | Evaluaciones de riesgo, protocolos de reclamación y auditorías periódicas |
Además, la Generalitat ha identificado un riesgo adicional que muchas empresas infraestiman: el “exceso de confianza” del personal en herramientas generativas como Copilot. El Govern advierte sobre la posibilidad de que la IA genere contenidos incorrectos o revele información involuntaria si se le suministran datos que no deben salir del entorno corporativo. Esto se traduce en requisitos claros para proveedores: formación, guías de uso responsable, mecanismos para evitar que datos sensibles se filtren fuera del perímetro autorizado y diseño de flujos donde la supervisión humana no sea opcional, sino parte del proceso.
Casos de uso clave para proveedores: justicia, salud, servicios sociales y automatización de trámites
Para las empresas que desarrollan soluciones de automatización de trámites administrativos con IA y sistemas analíticos avanzados, el detalle de los casos catalanes dibuja un mapa de oportunidades muy concreto. En justicia, el caso RisCanvi ilustra cómo un algoritmo determinista puede apoyar decisiones sobre clasificación de internos, beneficios penitenciarios o riesgos de autolesión. El modelo se alimenta de datos personales, entrevistas, antecedentes y contexto penitenciario, y alcanza un 89% de acierto en predicción de violencia autodirigida y un 69% en reincidencia. Sin embargo, el resultado es explícito: la decisión final sigue en manos de profesionales, que interpretan la salida del sistema como apoyo, no como veredicto automático.
En servicios sociales, el sistema que automatiza informes de pobreza energética es un ejemplo de IA aplicada a políticas públicas muy sensibles. Genera certificados que acreditan dificultades económicas para evitar cortes de suministro de luz, gas o agua a personas vulnerables, de acuerdo con la normativa catalana. El propio registro de la Generalitat reconoce una tasa de error del 10%, lo que basta para catalogarlo como “alto riesgo” por el impacto directo en suministros básicos y posibles tratos desiguales. Como proveedor, esto obliga a pensar desde el diseño en revisiones humanas para casos límite, trazabilidad completa de decisiones y canales claros de reclamación.
El ámbito sanitario, por su parte, se ha convertido en un laboratorio avanzado. El proyecto DigiPatICS automatiza el análisis de muestras de tejido para diagnosticar cáncer de mama mediante patología digital, reduciendo tiempos y homogeneizando criterios diagnósticos en toda la red catalana. CRITIC-CONTAS IA integra datos de monitorización y de la historia clínica electrónica para mejorar la detección precoz de complicaciones en pacientes críticos y apoyar la decisión clínica. Son entornos donde el proveedor debe coordinar algoritmos, interoperabilidad con sistemas existentes y flujos clínicos que no pueden fallar.
En el terreno de la eficiencia operativa, destaca el algoritmo en desarrollo en el Hospital Vall d’Hebron para optimizar la planificación de quirófanos. Entrenado con datos históricos del propio centro, el sistema propone distribuciones de tiempo y equipos según diagnósticos, listas de espera y disponibilidad. El objetivo declarado es reducir demoras quirúrgicas y mejorar el uso de la capacidad instalada. Más allá de la sanidad, este tipo de modelo es extrapolable a otros entornos públicos donde hay recursos escasos que deben asignarse: salas de vistas, agendas de atención ciudadana, recursos de emergencia o inspecciones.
El uso transversal de IA alcanza también la gestión del territorio y el control: predicción de volumen de llamadas en el 112, verificación de cultivos declarados para ayudas agroganaderas, localización de tejados con amianto o detección de conductores sin cinturón mediante visión artificial. Cada uno de estos casos introduce combinaciones distintas de imagen, datos estructurados y reglas de negocio, lo que abre espacio a integradores y desarrolladores especializados en automatización de procesos con IA, siempre dentro de los marcos de riesgo y transparencia que fija la administración.
Hoja de ruta para empresas tecnológicas: cómo trabajar con la administración pública en proyectos de inteligencia artificial
La experiencia catalana de gobernanza de algoritmos ofrece una guía muy pragmática para cualquier empresa que quiera vender soluciones de inteligencia artificial y administración pública. Primero, hay que asumir que la IA se concibe como infraestructura de servicio público, no como un “experimento innovador”. Eso implica métricas de rendimiento claras (precisión, tasa de error, impacto en tiempos de tramitación), documentación exhaustiva y procesos de actualización y recalibración (como se ha hecho con RisCanvi) que puedan comunicarse de forma transparente a reguladores y ciudadanía.
Segundo, la clasificación de riesgo obliga a incorporar desde el inicio una evaluación de impacto de algoritmos públicos. Aunque no adopte todavía el formato jurídico definitivo, la administración espera que el proveedor pueda explicar qué datos usa, qué sesgos potenciales existen, cómo se mitigan y cuál es el grado de autonomía del sistema. Para herramientas generativas o asistentes a empleados (como chatbots internos o integraciones de Copilot), el foco se sitúa en evitar la fuga de información sensible y el exceso de confianza. El diseño debe incorporar límites claros: qué se puede automatizar, qué no y qué debe revisar siempre una persona.
Tercero, el sector público demandará cada vez más proyectos donde la automatización no se limite al algoritmo, sino que abarque todo el flujo: captura de datos, conexión con sistemas existentes, generación de documentos oficiales y seguimiento de expedientes. La Generalitat ya utiliza IA para agilizar ayudas a placas solares y movilidad eléctrica, o para generar borradores de informes técnicos medioambientales que luego revisan los especialistas. Aquí, las empresas con capacidad de integrar CRMs, ERPs, sistemas de gestión documental y motores de IA estarán mejor posicionadas que quienes solo ofrezcan “modelos sueltos”.
Desde la óptica de una agencia como AdPalabras, que combina inteligencia artificial, automatización, desarrollo web e integración de APIs, el avance de la IA en el sector público refuerza una idea clave: la tecnología solo aporta valor cuando se inserta en procesos bien diseñados, con métricas claras y controles adecuados. Las administraciones necesitan socios capaces de traducir estos requisitos de gobernanza en arquitecturas concretas, cuadros de mando y flujos de trabajo automatizados que respeten la normativa. Para las empresas tecnológicas que quieran jugar ese papel, este es el momento de alinear sus capacidades con las lecciones que ya está dejando Cataluña en materia de registro de algoritmos, gestión del riesgo y supervisión humana.
