Agentes de IA:
productividad, privilegios y el nuevo problema de gobierno
Ya no hablamos solo de asistentes que responden preguntas o generan código. Estamos entrando en la era de agentes capaces de ver, abrir archivos, navegar sistemas y ejecutar acciones. La oportunidad es enorme, pero el riesgo también.
Hace unas horas actualicé Codex en mi Mac y me llamó la atención algo que cada vez veremos más seguido: ya no estamos hablando de asistentes que solo responden preguntas o generan código.
Estamos entrando en la era de los agentes.
La diferencia parece pequeña, pero no lo es.
Un chatbot tradicional espera instrucciones y responde. Un agente puede interactuar con aplicaciones, abrir archivos, navegar por sistemas e incluso ejecutar acciones por cuenta propia dentro de los límites que le permitamos.
De asistente conversacional a operador digital
Hace apenas unos meses muchos videos recomendaban instalar proyectos como ClaudeBot, OpenDevin u Open Interpreter para convertir una computadora en una especie de asistente autónomo.
Hoy algunos de esos mismos creadores recomiendan hacerlo con más precaución. La tecnología avanza tan rápido que lo que ayer parecía una novedad, mañana es un riesgo.
¿Estamos preparados para entregar ese nivel de acceso?
En mi caso, la actualización solicitó permisos que antes no eran necesarios: acceso a pantalla, accesibilidad, archivos y otros componentes del sistema.
Técnicamente tiene sentido. Si queremos que una IA pueda ayudarnos de forma más autónoma, necesita ver y hacer.
Pero desde la perspectiva de seguridad y gobierno tecnológico, el desafío cambia completamente.
El problema ya no es solo la credencial
Hasta ahora, buena parte de la conversación de seguridad se centraba en proteger credenciales, restringir accesos y monitorear usuarios privilegiados.
Con los agentes aparece una nueva capa: qué puede hacer una IA cuando opera con los mismos privilegios que una persona.
La conversación sobre IA en las empresas suele centrarse en productividad, automatización o reducción de costos. Sin embargo, creo que en los próximos años hablaremos mucho más de:
- Gobierno de agentes de IA
- Gestión de privilegios
- Auditoría de acciones automatizadas
- Supervisión humana
- Zero Trust aplicado a agentes
- Trazabilidad y explicabilidad de decisiones
La velocidad del cambio es impresionante. Hoy aparece un nuevo agente autónomo. Mañana aparecen diez más. Incluso para quienes pasamos horas al día frente a una computadora resulta difícil seguir el ritmo.
Y, sin embargo, la confianza debe avanzar al mismo ritmo que la tecnología.
ARIA: un agente útil, pero con límites
No tengo dudas de que los agentes serán una de las herramientas más efectivas para la productividad.
Hace algunos meses desarrollé ARIA, un agente capaz de administrar tareas de telefonía, apoyar al negocio como analista de datos, monitorear KPIs en tiempo real y realizar ajustes automáticos basados en métricas operativas.
Brillante, ¿verdad?
Pero tampoco le entregué las llaves de la empresa.
Implementé múltiples capas de seguridad, validaciones, límites operativos y mecanismos de control. Ninguna decisión puede ejecutarse sin las restricciones adecuadas.
Le construí un Jarvis, pero también un botón de apagado.
Gobernar agentes como usuarios privilegiados
La verdadera pregunta no es si los agentes serán capaces de hacer más. Eso ya está ocurriendo.
La pregunta es si las organizaciones están preparadas para administrarlos con el mismo rigor con el que hoy administran a sus usuarios más privilegiados.
Un agente no debería tener acceso ilimitado por defecto. Debería operar con permisos mínimos, acciones registradas, límites claros y supervisión proporcional al impacto de lo que puede ejecutar.
La productividad de los agentes será real. La diferencia entre ventaja competitiva y riesgo operacional estará en el gobierno que construyamos alrededor de ellos.