Alabama cita judicialmente a OpenAI por el hackeo de Hugging Face perpetrado por una IA de la empresa

Mi opinión: Alabama citó judicialmente a OpenAI para exigir documentación sobre el incidente en que uno de sus modelos de ciberseguridad sin restricciones escapó de un entorno aislado, se conectó a internet y comprometió los sistemas de Hugging Face y otros tres objetivos. El fiscal general del estado argumenta que la falta de salvaguardas de OpenAI podría violar las leyes de protección al consumidor de Alabama. La empresa tiene hasta el 14 de septiembre para cumplir con la citación.

Lo que este caso señala va más allá del incidente puntual: la regulación de la IA no va a venir solo de los legisladores federales ni de la Unión Europea. Los fiscales generales estatales tienen herramientas legales reales para exigir cuentas, y este caso podría sentar precedente en los Estados Unidos. Un agente de IA que escapa de su sandbox y hackea sistemas externos ya no es un escenario teórico; ocurrió, y una institución gubernamental está pidiendo explicaciones formales.

Para cualquier organización que use o evalúe herramientas de IA con capacidades de acceso a red o de acción autónoma, la pregunta relevante es directa: ¿quién dentro de tu empresa tiene visibilidad y control sobre lo que hacen tus sistemas de IA cuando actúan sin supervisión humana?