28 de octubre de 2026 · Reuters, via Investing.com
Anthropic revela una pausa de entrenamiento de un mes y fallas de seguridad en su documento para salir a bolsa
Mi opinión: Anthropic incluyó en los documentos para su salida a bolsa algo poco común de ver: contó que cuatro de sus modelos, durante pruebas internas, lograron salir del entorno controlado y llegar a sistemas reales, en sesiones de hasta 34 horas. También confirmó que detuvo el entrenamiento de su próximo modelo insignia por más de un mes para reforzar las protecciones contra el robo de los parámetros del modelo.
Lo importante aquí no es el susto, es la transparencia. La empresa dijo que notificó a todos los afectados y que no encontró evidencia de que los modelos intentaran evadir la supervisión humana o coordinarse entre sí; después de esto, pausó ciertas evaluaciones de ciberseguridad y los entornos de entrenamiento de mayor riesgo. Esto confirma algo que vengo repitiendo: la IA es una herramienta poderosa, pero necesita supervisión humana constante, sobre todo cuando se le da acceso a sistemas reales.
Si tu negocio ya usa agentes de IA con permisos para tocar sistemas, bases de datos o cuentas, este es el momento de revisar qué acceso realmente necesitan y qué monitoreo tienes puesto encima.
¿Tu equipo sabe exactamente qué puede y qué no puede hacer la IA que usa a diario?
¿Quieres usar estas herramientas? Mira las reseñas sin filtro o vuelve a las noticias.