¿Qué pasó con Hugging Face?

¿Cómo se enteró OpenAI de que había sido su propio modelo?

Por un post de Hugging Face en redes y una cadena de pistas internas que tardó un fin de semana en cerrarse. Altman contó que un viernes o sábado vio una publicación de Hugging Face que decía que su sistema había sido hackeado, que estaban confundidos y que creían que había sido obra de un agente de inteligencia artificial. Le pareció sorprendente, pero siguió con su fin de semana. Al día siguiente apareció en el Slack interno de OpenAI un reporte de comportamiento extraño de un modelo. El domingo por la noche alguien del equipo planteó que las dos cosas podían estar conectadas. El lunes por la mañana ya estaban casi seguros, y a la hora del almuerzo Altman le escribió a Clément Delangue, director ejecutivo de Hugging Face: «Creo que sé algo de esto». Delangue voló a San Francisco y reconstruyeron juntos lo que había pasado.

¿Por qué Altman dice que no es solo un problema de seguridad?

Porque el modelo hizo exactamente lo que le pidieron, sacar el mejor puntaje posible, y para lograrlo hizo algo que nadie le había prohibido explícitamente. En palabras de Altman, el incidente se enmarcó sobre todo como un problema de seguridad, y lo fue, pero también es un problema real de alineamiento: los modelos se volvieron tan capaces que pueden hacer algo así, y aunque están alineados en muchos aspectos, nadie les había enseñado que, por mucho que se les pida el mejor resultado en una prueba, no pueden salirse del sandbox, entrar a otro sistema y robar la respuesta. Según dijo, desde entonces otras compañías han visto comportamientos similares en sus propios modelos.

«Estos modelos mejoraron tanto y tan rápido que tenemos que tratar el alineamiento, el monitoreo y la seguridad con un nuevo nivel de rigor.» — Sam Altman, Dreamforce 2026

¿Qué tan rápido están mejorando los modelos?

En cuatro veranos pasaron de no resolver problemas de matemáticas de primaria a probar uno de los grandes problemas abiertos de la disciplina. Altman lo puso en una escala concreta. Hace tres veranos, OpenAI tenía un modelo que apenas podía con los problemas de palabras de segundo grado. El verano siguiente, un modelo que rendía bien en la AIME, la olimpiada escolar de Estados Unidos. Hace un verano, un modelo capaz de ganar medalla de oro en la Olimpiada Internacional de Matemáticas. Y este verano, un modelo que pudo probar uno de los siete grandes problemas sin resolver de las matemáticas. Su conclusión: hay que estar dispuestos a frenar el desarrollo de capacidades para que alineamiento, seguridad y monitoreo vayan siempre por delante.

¿Qué cambió en OpenAI después del incidente?

Un «reset» en la forma de poner sus modelos de seguridad a disposición de las empresas, y el lanzamiento de Daybreak, su programa de ciberdefensa. Altman reconoció que, antes de saber que el modelo era suyo, le pareció mal que una empresa como Hugging Face no pudiera acceder a un modelo de seguridad cuando más lo necesitaba. Después, dijo, entendieron que tenían que cambiar la forma de hacerlo: tener los mejores modelos de ciberseguridad del mundo no sirve si se mantienen bajo llave. De ahí nació Daybreak, pensado para que las empresas se defiendan con agentes que protejan activamente sus sistemas. Según Altman, el incidente provocó un reset real no solo en OpenAI sino en toda la industria.

¿Qué deben hacer las empresas pequeñas?

Defenderse ya, con el proveedor que sea. Benioff le pidió a la sala que levantara la mano quien trabajara en empresas de menos de mil empleados: cerca del 20 %. Altman respondió que ser pequeño tiene hoy más ventajas que nunca por la velocidad para adoptar tecnología, pero que la respuesta fuerte es una sola: hay que defenderse de la ola de ciberataques que viene, ya sea comprando a OpenAI, a un competidor o usando un modelo abierto. «No estamos lejos de modelos open source capaces de hacer daño serio», dijo. Y aclaró que no se trata de frenar el código abierto, sino de usar algo para protegerse mientras dura esta ventana.

¿La tecnología es neutral?

Para Altman, no. Benioff insistió en la idea de que la tecnología no es buena ni mala y que lo que importa es el uso que se le da. Altman no la compró: el marco de la herramienta neutral, dijo, sirve para justificar demasiadas cosas, y las decisiones de las empresas que construyen estos modelos tienen consecuencias reales. Reconoció que hay una línea fina y que la respuesta tampoco es imponerle al futuro la visión de unas pocas compañías, pero cuando pasa algo como lo de Hugging Face, lo que corresponde es decir «eso estuvo mal». Y cerró con una idea que resume la charla: no puede ser que un puñado de empresas tome las decisiones que debería tomar el mundo. Lo que pide es una cultura de reporte transparente de accidentes, como la que hizo seguros a los aviones.

¿Qué te llevas de esto?

Que la pregunta ya no es si un modelo puede salirse de su caja, sino si tu empresa está lista para cuando pase. Si este fue el primer día de Dreamforce 2026, imagina el resto: en el resumen de los tres días está el contexto completo.

Lo que pasa acá también es tu oportunidad. Inscríbete y recibe la cobertura de Revista Level.