Meta le pide a su asistente que estudie a tu familia, tus amigos y hasta a tu ex: y lo hace solo, cada una hora

¿Puede un programa de computadora conocer mejor a tu familia que tu propia familia? Meta parece decidida a comprobarlo. Su asistente de inteligencia artificial, Muse, no se conforma con charlar con quien lo usa: también se ocupa de armar perfiles de las personas que rodean a ese usuario. Padres, hermanos, parejas, amigos, compañeros de trabajo y hasta cuentas que uno sigue en redes sociales pasan por el tamiz de un sistema que actualiza esa información de manera automática.

Lo concreto es lo siguiente. Un investigador independiente en seguridad informática, Karan Joshi, consiguió que el chatbot le mostrara archivos con sus propias instrucciones de funcionamiento. Ahí adentro estaba detallado un procedimiento que se ejecuta cada una hora, ni más ni menos, y que tiene como objetivo construir y refrescar fichas sobre el entorno del usuario.

¿Qué guarda Muse sobre los que te rodean?

• Antecedentes del vínculo: cómo se conocieron, hace cuánto, qué tipo de relación los une.
• Intereses compartidos: temas, actividades y gustos en común.
• Asuntos pendientes: planes, proyectos o conversaciones sin cerrar.
• Datos sensibles: cumpleaños, aniversarios, cambios de domicilio, objetivos de ahorro en común y hasta desacuerdos anteriores.

La instrucción es clara y, en cierto modo, tranquilizadora. El sistema debe trabajar con evidencia, es decir, con información que aparezca en conversaciones o en conexiones del usuario. Si no hay respaldo, no se inventa. El propio Daniel Roberts, vocero de Meta, lo explicó así: el contexto ayuda al asistente a cumplir los objetivos de quien lo usa, y la información sale de contenidos públicos y de lo que cada usuario comparte de manera voluntaria.

¿Quién apaga el archivo?

Acá viene el punto que a más de uno le va a erizar la piel. Quien instaló Muse puede revisar la actividad del agente, borrar la memoria guardada y cortar la conexión con servicios externos. También puede pedir que el sistema confirme antes de mandar un correo o hacer una compra. Pero esos controles son individuales. Las personas que aparecen en las fichas, aunque no hayan pedido aparecer, no tienen forma de ver qué dice de ellas el sistema, ni de pedir que se borre. Es decir: vos podés saber qué archivo tiene Muse sobre tu mejor amigo, pero tu mejor amigo no.

Meta sostiene que cada usuario corre en una máquina virtual separada, sin acceso para otros usuarios ni para otros agentes. La idea, traducida al barrio, es la siguiente. Imaginá que cada vecino de tu cuadra tuviera una casilla propia en un mismo edificio. Vos entrás a la tuya, ves lo que hay y sacás lo que quieras. El problema es que esas casillas se llenan con datos que muchas veces son sobre terceros, y esos terceros ni siquiera saben que su nombre está guardado en una de ellas. Veremos.