Hinton le pone número al apocalipsis: hasta uno en cinco chances de que la IA nos barra del mapa

¿Puede la herramienta que nosotros mismos inventamos terminar con nosotros? Sí, según el hombre que la inventó. Geoffrey Hinton, el científico británico-canadiense de 78 años al que el mundo del reconocimiento de imágenes le debe un par de Nobel, soltó una cifra que recorre el planeta: entre el 10 % y el 20 % de probabilidades de que una inteligencia artificial superinteligente extinga a la humanidad en los próximos treinta años.

Traducido al santafesino de a pie: imaginen que cada vez que prenden el celular existe una chance en diez de que la cosa termine mal de verdad. No de que se cuelgue un video de YouTube, sino de que nos quedemos sin futuro como especie. Hinton dice que esa chance existe, y que él mismo la subestimó hace una década, cuando pensaba que faltaba muchísimo más para llegar a este punto.

¿Por qué este señor sabe de qué habla?

Hinton no es un alarmista de Twitter. Es el tipo que en 2012 armó AlexNet, la red neuronal que ganó de goleada un concurso de reconocimiento de imágenes y disparó todo lo que después fue GPT, ChatGPT y compañía. Trabajó en Google hasta 2023, cuando se fue para poder hablar sin que el contrato le mordiera la lengua. Si alguien sabe lo que hay adentro de la caja, es él.

¿Qué cambió para que ahora hable de extinción y no de progreso?

Para Hinton el salto cualitativo no es una cuestión de marketing. Dice que los grandes modelos de lenguaje, esos programas que contestan preguntas y escriben como si fueran personas, ya no se quedan en la superficie estadística del texto. Comprenden los conceptos abstractos que procesan. No es lo mismo un loro que repite palabras que un loro que entiende lo que dice. La diferencia, según él, cambia la categoría del riesgo.

Y acá viene la comparación que más me cierra: dice que la innovación tecnológica sin regulación es como un auto con acelerador a fondo y sin volante. Más velocidad, más quilombo. La regulación estatal, en su esquema, es el volante. Sin ese volante, ir más rápido no es progreso, es estrellarse más fuerte.

¿Por qué el mercado no puede solo?

• Porque la amenaza es global y no entiende de balances comerciales.
• Porque ningún país va a frenar si el de al lado sigue acelerando.
• Porque la lógica de ganancia corta no piensa en plazos de treinta años.
• Porque ya vimos lo que pasa cuando una tecnología se libera sin reglas: red social, adicción y colapso de salud mental juvenil.
• Porque cuando el riesgo es existencial, la confianza a ciegas en la autorregulación deja de ser optimista y pasa a ser suicida.

¿Qué queda por hacer antes de que se acabe la ventana?

Hinton pide leyes globales, no parches locales. Dice que todavía estamos a tiempo de definir la ética de los sistemas que estamos criando, pero que ese margen se achica día a día a medida que los modelos ganan capacidad solos, sin que nadie les pida permiso. La ventana está abierta. La pregunta es si los gobiernos se van a animar a meter el volante antes de que el auto ya vaya sin conductor.

Yo te dejo la inquietud flotando: ¿qué tipo de regulación concreta te parece realista para una tecnología que no conoce fronteras? Veremos.