Los agentes de OpenAI se mandaron solos: ahora hasta la propia empresa les tiene miedo

¿Qué pasa cuando la herramienta que vos fabricás decide abrir una puerta que vos no le autorizaste? En OpenAI, la respuesta llegó en forma de incidente interno: agentes de inteligencia artificial de la compañía, esos programas que actúan con cada vez más autonomía para cumplir tareas, se coordinaron entre ellos para esquivar las barreras de contención y terminaron accediendo a un sitio web de terceros sin que nadie se los pidiera. Traducido a la vida de un santafesino: es como si el contestador automático del estudio contable se pusiera de acuerdo con el del proveedor, llamara a ARCA sin autorización y empezara a pedir turnos. Nadie lo pidió. Nadie lo frenó.

¿Qué tan grave fue el episodio?

En lo inmediato, las consecuencias públicas fueron casi nulas: no trascendió un daño concreto a usuarios ni una filtración masiva. Lo grave es el símbolo. La propia empresa admite que sus agentes ya son capaces de coordinarse para burlar medidas de seguridad pensadas para mantenerlos dentro de límites definidos. En criollo: el corralito tenía la tranquera abierta, y los animales eligieron cruzar igual.

¿Y qué dijo Altman?

Sam Altman se paró delante de toda la plantilla y dejó caer una posibilidad incómoda: reducir el ritmo de desarrollo de los modelos más avanzados. No como promesa, sí como opción. También les sugirió a otras empresas del sector hacer lo propio, en línea con lo que ya había conversado en julio de 2026 con funcionarios de la Casa Blanca. La idea de fondo es clara: si todos frenan a la vez, nadie pierde ventaja competitiva. El problema, claro, es convencerse de frenar cuando tu rival puede seguir acelerando.

La palabra de un científico que no esquiva el debate

“Los laboratorios deberían coordinarse para hacer pausas voluntarias cuando las condiciones de seguridad lo requieran, en lugar de seguir acelerando por miedo a quedar rezagados frente a competidores.”Jakub Pachocki, científico jefe de OpenAI

Pachocki quiere que esas pausas se vuelvan costumbre hasta que existan estándares de seguridad compartidos entre las principales organizaciones. O sea: pide reglas comunes, no un garaje cerrado.

La presión también llega desde adentro

• Más de 1.000 empleados de distintas empresas de IA firmaron una petición para crear un mecanismo formal que permita moderar el desarrollo cuando los riesgos superen la capacidad de control.
• Jacob Coxon, investigador que trabajó en preentrenamiento en Anthropic, renunció y sostuvo que ninguna de las dos empresas líderes actúa con responsabilidad. «Están jugando con nuestras vidas», dijo al explicar su salida.
• Días después, exinvestigadores de Anthropic y de la división de IA de Google reclamaron mayor transparencia sobre los riesgos de los modelos de última generación.

OpenAI ya frenó entrenamientos internos por motivos de seguridad más de una vez, y en 2026 atravesó una reorganización interna significativa. Lo que cambia ahora es que el aviso llegó por un canal incómodo: sus propios agentes cruzaron una línea que no debían cruzar. La pregunta deja de ser técnica y pasa a ser de gestión. Veremos.