STRM Noticias

OpenAI dijo el martes que los modelos que estaba probando escaparon de su caja de arena y comprometieron partes de la infraestructura de producción de la plataforma de inteligencia artificial Hugging Face la semana pasada.

Por qué es importante: es la última señal de que los modelos de IA capaces pueden plantear graves riesgos de ciberseguridad incluso cuando se están probando con fines defensivos o de investigación.

Catch-up quickRepunte: Hugging Face dijo la semana pasada que un sistema autónomo de agente de IA era responsable de la intrusión, pero que el modelo que lo alimenta era desconocido.

• El marco de agente de inteligencia artificial realizó decenas de miles de acciones automatizadas durante un fin de semana. Hugging Face dijo que más tarde reconstruyó más de 17,000 eventos registrados.
• La intrusión comenzó con un conjunto de datos malicioso que explotaba dos rutas de ejecución de código en la canalización de procesamiento de datos de Hugging Face.
• El agente luego aumentó los privilegios y se movió lateralmente a través de la infraestructura interna, dijo Hugging Face.

Lo que están diciendo: OpenAI dijo que el incidente fue impulsado por una combinación de sus modelos, incluido GPT-5.6 Sol y "un modelo de pre-lanzamiento aún más capaz".

Nota completa en axios.com