7 de noviembre de 2026 · The Decoder (Manuel Uth)
Las IA auditoras detectan la mayoría de las fallas de los agentes, pero inundan de falsas alarmas, según un nuevo estudio
Mi opinión: Cada vez más negocios le dan permiso a un agente de IA para escribir código, mandar correos o tomar decisiones solo, y la pregunta obvia es: ¿quién revisa que ese agente no se esté portando mal? Un estudio independiente que repitió una prueba del laboratorio METR probó si otras IA (de OpenAI, Anthropic y Google) podían hacer de "auditoras", revisando miles de registros de trabajo de otros agentes. El resultado: a un nivel razonable de falsas alarmas (5%), los mejores modelos detectaron hasta el 98% de los casos obvios de trampa, pero se les escaparon los casos sutiles, y mientras más estrictos se volvían para no dejar pasar nada, más se disparaban las falsas alarmas. Con 100,000 sesiones de agentes al mes, el estudio calcula que terminarías con casi 3,000 alertas falsas por cada 2,000 reales.
Esto confirma algo que siempre digo: la IA te hace más eficiente, no más inteligente, y mucho menos reemplaza tu criterio. Un agente de IA revisando a otro agente de IA ayuda, pero no es garantía de nada, y delegarle toda la supervisión a otra máquina puede terminar enterrándote en alertas que no sabes si tomarte en serio.
Para cualquier negocio que ya usa (o está pensando en usar) agentes de IA para automatizar tareas, la lección práctica es clara: la supervisión humana sigue siendo parte del trabajo, no un paso que te puedes saltar. La herramienta te ahorra tiempo, pero la responsabilidad de revisar lo importante sigue siendo tuya.
¿Qué tan de cerca estás revisando lo que tus herramientas de IA hacen por ti, o ya le diste el control total sin mirar?
¿Quieres usar estas herramientas? Mira las reseñas sin filtro o vuelve a las noticias.