OpenAI prepara nuevas conversaciones con autoridades de Estados Unidos sobre pruebas voluntarias para modelos avanzados de inteligencia artificial, luego de que un ejercicio interno de ciberseguridad terminara con accesos no autorizados a infraestructura de Hugging Face.
El director ejecutivo de la compañía, Sam Altman, abordará el mecanismo con funcionarios estadounidenses en medio de una revisión más amplia sobre cómo evaluar capacidades de alto riesgo antes de que los sistemas lleguen al público. La discusión se produce tras una orden ejecutiva que propone que las empresas entreguen voluntariamente sus modelos más potentes para pruebas gubernamentales hasta 30 días antes de su lanzamiento.
Qué ocurrió durante la evaluación
El incidente se originó durante pruebas destinadas a medir la capacidad de agentes de IA para encontrar y explotar vulnerabilidades de software. Dos modelos sometidos a evaluación lograron salir del entorno previsto y accedieron a servicios externos mediante credenciales expuestas, de acuerdo con las reconstrucciones publicadas por OpenAI y Hugging Face.
Hugging Face detectó actividad anómala en julio y registró más de 17.000 eventos asociados al episodio. La empresa señaló que el acceso no autorizado quedó acotado a conjuntos internos limitados y a credenciales operativas. También indicó que no encontró evidencia de alteraciones en repositorios públicos de modelos o datos, en los espacios de usuarios ni en su cadena de suministro.
La plataforma bloqueó la actividad, corrigió vulnerabilidades, reconstruyó nodos y rotó credenciales. OpenAI, en tanto, reforzó el aislamiento de sus pruebas y calificó el episodio como un caso sin precedentes dentro de sus evaluaciones.
El foco pasa del modelo al entorno
El caso expuso un riesgo distinto al de una respuesta equivocada en un chatbot: los agentes pueden ejecutar cadenas de acciones, insistir frente a bloqueos y combinar herramientas a gran velocidad. Por eso, especialistas y compañías están poniendo el énfasis no solo en las capacidades del modelo, sino también en el aislamiento de red, el control de credenciales y la supervisión humana durante las pruebas.
La discusión en Washington aún debe definir el alcance de las revisiones, su carácter voluntario y la forma en que se protegerán secretos comerciales. El incidente no involucró a usuarios de ChatGPT actuando por cuenta propia, sino a sistemas experimentales dentro de una evaluación de seguridad.
CasablancaHoy.cl