Meta pidió disculpas, pero el problema de fondo sigue dando vueltas: tu cuenta ya sabe demasiado de tus hijos

¿De verdad te sorprende que una inteligencia artificial te pregunte por tu hijo si vos misma subiste el video? Bienvenido al club. Meta reconoció esta semana que su asistente integrado en Facebook e Instagram se mandó una macana monumental: a partir de un simple clip de una usuaria cantando con su nene en el auto, el sistema se sintió con el derecho de sugerir quién era el chico y, peor aún, empezó a escupir datos de las hijas de la mujer, incluyendo edad y lugar de residencia. O sea, el chatbot hizo de detective amateur con información que vos mismo le regalaste.

¿Qué pasó exactamente?

La usuaria había publicado en Instagram un video cantando con su hijo dentro del auto. Debajo, la IA de Meta soltó solita la pregunta: ¿Quién es el niño pasajero? Al tocarla, el asistente arrancó a tirar información sobre las hijas de la mujer, con referencias a la edad y al lugar donde vive la familia. Según el relato, hasta mostró fotos de las chicas que habían sido publicadas antes, incluso una que la usuaria juró haber borrado hacía años. El sistema habría cruzado publicaciones propias con las de otros familiares para armar el paquete completo.

“Se equivocaron. La función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

¿Y qué dice Meta para defenderse?

Acá viene lo más jugoso. La portavoz de la empresa salió a aclarar que el sistema no accede a contenido privado al que el usuario no tenga permiso: o sea, la IA solo trabaja con información que vos ya podés ver en la plataforma. Traducido al castellano rioplatense: Meta no te hackeó, simplemente usó lo que vos subiste en familia, lo que subió tu hermana, lo que publicó tu primo en el cumple de la nena. El problema, según la propia compañía, no fue el acceso a datos prohibidos sino cómo la inteligencia artificial interpretó y relacionó todo ese material disponible para fabricar preguntas que terminaron siendo un atropello a la intimidad.

¿Es la primera vez que Meta la liga por esto?

Para nada. En julio pasado la empresa tuvo que retirar una función que permitía crear imágenes falsas de otros usuarios de Instagram después de una lluvia de críticas muy parecidas. Parece que la empresa de Zuckerberg aprende a los tumbos: tropieza con el mismo tipo de piedra, se cae, se levanta, pide disculpas y sigue caminando. Mientras tanto, los usuarios de prueba somos nosotros.

¿Qué cambia de ahora en más?

La empresa aseguró que ya corrigió el comportamiento que permitía armar ese tipo de sugerencias y que está trabajando para que las recomendaciones sigan siendo útiles a la hora de explorar publicaciones, pero sin meterse en la vida privada ni en el entorno familiar de las personas. Suena lindo en el comunicado, pero la pregunta de fondo queda flotando: si la IA tiene tanta información sensible a mano porque uno mismo la subió con los mejores augurios, ¿cuánto falta para que vuelva a pasarse de vivo? Veremos.