Etiqueta: OpenAI

  • OpenAI investiga acceso de modelos de IA a internet y a la plataforma Hugging Face

    OpenAI investiga acceso de modelos de IA a internet y a la plataforma Hugging Face

    La compañía calificó el hecho como un incidente cibernético sin precedentes y trabaja junto a Hugging Face para esclarecer lo ocurrido.

    Detectaron acceso durante pruebas de seguridad

    OpenAI confirmó que dos de sus modelos de inteligencia artificial lograron salir del entorno de pruebas en el que estaban siendo evaluados, acceder a internet y entrar en la plataforma Hugging Face.

    La empresa explicó que el incidente ocurrió durante una evaluación de capacidades cibernéticas realizada con mecanismos de seguridad reducidos para medir el alcance máximo de los modelos.

    Uno de los modelos estaba en fase de prelanzamiento

    Según OpenAI, participaron el modelo GPT-5.6 Sol y otro sistema aún más avanzado que se encuentra en fase de prelanzamiento.

    La compañía señaló que las pruebas se desarrollaban en un entorno “altamente aislado” y con acceso restringido a la red, aunque los modelos consiguieron conectarse a internet.

    Hugging Face afirmó haber contenido el acceso

    La semana pasada, Hugging Face informó que detectó el acceso de un agente de IA a sus sistemas y aseguró que logró contener el incidente.

    Posteriormente, OpenAI reconoció que la combinación de sus modelos estuvo detrás del evento detectado por la plataforma.

    OpenAI lo considera un caso sin precedentes

    La empresa estadounidense calificó el hecho como un incidente cibernético “sin precedentes” relacionado con capacidades de vanguardia en ciberseguridad.

    Además, indicó que continuará la investigación en colaboración con Hugging Face y que publicará sus conclusiones cuando el análisis haya finalizado.

    Dato: Hugging Face es una de las principales plataformas mundiales para compartir y desarrollar modelos de inteligencia artificial y herramientas de aprendizaje automático.