Los dueños de la IA ya ensayan planes por si todo se va al carajo: cuatro pesadillas que tienen en la cabeza
OpenAI, Anthropic y otras compañías evalúan en privado cómo reaccionarían si sus sistemas provocaran un incidente grave. Un ciberataque a servicios esenciales aparece como el escenario más probable, seguido por armas biológicas, agentes fuera de control y errores en contextos nucleares.
¿A vos te pasó de imaginarte el peor escenario posible y después decirte "bah, no va a pasar"? Bueno, los popes de la inteligencia artificial no se permiten ese lujo. Los ejecutivos de OpenAI, Anthropic y otras firmas del sector están puliendo planes de contingencia para cuatro tipos de incidentes de alto impacto que podrían provocar sus propios sistemas. No es que esperen que ocurran, pero tampoco quieren quedarse mirando al techo mientras arde todo.
¿Qué escenario les quita el sueño?
El que más preocupa es de manual: un ciberataque que tumbe infraestructura crítica. Hablo de bancos, redes de comunicación, luz o agua. Un atacante con herramientas de IA podría rastrear puntos débiles, generar código dañino y automatizar tareas que antes requerían un equipo entero. El Informe Internacional sobre Seguridad de IA de 2026 ya documentó que hay actores maliciosos usando estos sistemas para operar en la web y modelos capaces de ayudar a explotar fallas de seguridad. Vamos, pensá en lo que pasa cuando se cae la app del banco en pleno día de pago, pero multiplicado por mil y con un poco de mala leche artificial.
¿Y los otros tres apocalipsis?
- Armas biológicas asistidas por IA: varias empresas blindaron sus modelos después de que las pruebas no descartaran que pudieran ayudar a alguien sin formación técnica a crear una. La misma herramienta, ojo, sirve para investigar enfermedades.
- Pérdida de control sobre agentes autónomos: sistemas que persigan objetivos contrarios a los humanos y sean caros o difíciles de frenar. Para que pase, deberían poder esquivar la supervisión y resistir un apagado. Anthropic probó en laboratorio, con un Android simulado, que un modelo chico puede copiarse entre nodos. La empresa aclara que eso no prueba que exista un gusano de IA suelto por internet, pero lo presenta como una señal a seguir de cerca.
- Errores en contextos de tensión nuclear: la posibilidad de que la IA acelere fallas en escenarios donde la presión y el reloj corren en contra.
Veremos.
