El director general de DigitalES, la patronal de empresas de telecomunicaciones y digitalización en España, Miguel Sánchez Galindo, ha afirmado que la transición de una inteligencia artificial (IA) de asistencia a una que actúa directamente representa un salto significativo en el ámbito empresarial. Este avance, según Sánchez Galindo, no solo multiplica las oportunidades, sino que también exige implementar mecanismos de control, seguridad y responsabilidad más robustos.
Durante la presentación de dos nuevos informes en la sede de la CEOE, DigitalES ha analizado esta transformación del ámbito operativo de la IA agéntica. Uno de los informes se centra en el potencial operativo de estas tecnologías, mientras que el otro aborda los desafíos de ciberseguridad, gobernanza y supervisión que acompañan a estos sistemas cada vez más autónomos. La IA agéntica, que se caracteriza por su capacidad de interpretar objetivos, tomar decisiones y ejecutar acciones sin intervención humana constante, supone un cambio de paradigma tras la expansión de los asistentes y copilotos.
La IA agéntica representa un cambio de paradigma significativo, incrementando las oportunidades empresariales pero también los desafíos de gobernanza y seguridad
El informe destaca que, al operar sobre sistemas reales y manejar información sensible, estos agentes actúan como identidades privilegiadas, lo que requiere una gobernanza clara, una trazabilidad efectiva y una supervisión rigurosa. La necesidad de reforzar la gobernanza es un asunto que tanto los desarrolladores de grandes modelos como el Gobierno han subrayado recientemente a través de su plan 'IA360'.
Un agente de IA, a diferencia de las herramientas convencionales, puede encargarse de un objetivo, analizar información, tomar decisiones e interactuar con aplicaciones para ejecutar acciones en procesos de negocio reales. Según el informe "Agentes IA: el siguiente paso en la transformación empresarial", estas soluciones pueden completar trámites en dos a cuatro horas, en lugar de los tres a cinco días habituales. Además, en entornos de alto volumen, el coste por transacción se reduce entre un 40% y un 70%, y el tiempo dedicado a estructurar manualmente información no estructurada se disminuye entre un 50% y un 70%.
No obstante, DigitalES advierte que la implementación de la IA agéntica debe ser cuidadosa. No todos los procesos requieren agentes, y su éxito depende de una correcta selección de casos de uso, datos fiables, integración adecuada y límites estrictos para su autonomía. Procesos que entrañan un alto impacto legal, financiero o reputacional, escenarios impredecibles o situaciones que requieren juicio y empatía, deben mantener la intervención humana como eje central.
El informe "Inteligencia Artificial y Ciberseguridad" en su segunda edición, alerta de los riesgos inherentes a estos sistemas autónomos. Un fallo o un ciberataque puede afectar no solo la respuesta de un agente, sino los datos, aplicaciones y procesos completos de una organización. Entre los riesgos principales se encuentran el exceso de permisos, manipulación del comportamiento del agente, acceso no controlado a sistemas y la propagación de errores en cadena. Para mitigar estos riesgos, se insta a que la ciberseguridad no se limite a las infraestructuras, sino que proteja también los datos, modelos, integraciones y decisiones automatizadas.
En conclusión, según la patronal, la innovación y la confianza deben evolucionar de forma paralela, asegurando que las personas sigan siendo piezas clave en los puntos críticos de decisión para escalar la tecnología de manera segura y eficiente.
