Anthropic le abre la puerta a seis ojos externos con poder de empleado: la auditoría más invasive de la historia de la IA

¿A vos te dejarían vivir gratis en la casa de tu enemigo y revisar sus cajones cuando quieras? Bueno, eso, más o menos, fue lo que hizo Anthropic con seis tipos de METR, una organización sin fines de lucro que se dedica a evaluar sistemas de inteligencia artificial. La empresa les dio computadora, oficina, acceso a las herramientas internas y hasta el privilegio de hablar con el personal como si fueran uno más del área de evaluación de riesgos. Casi nada.

¿Qué pueden hacer y qué no?

Los seis investigadores pueden mirar lo que quieran, salvo en tres temas sensibles: datos de clientes, información bajo secreto profesional entre abogado y cliente y detalles sobre la arquitectura de los modelos. Todo lo demás es juego limpio. Y la parte clave: pueden publicar sus hallazgos sin que Anthropic levante un dedo para frenarlos. En criollo: si encuentran algo turbio, lo cuentan. Y listo.

¿Qué nivel de poder tienen los abogados?

• Nivel bajo: organizaciones como SecureBio hacen revisiones acotadas y necesitan pedir permiso para publicar.
• Nivel medio: reciben más información y pueden publicar sin pedir autorización previa.
• Nivel alto: solo METR. Acceso equivalente al de un empleado y libertad total para sacar a la luz evaluaciones, reportes de incidentes y análisis de prácticas internas.

Eso sí, la compañía puede pedir que se redacte información que entre en temas sensibles predefinidos. Pero acá viene lo jugoso: METR queda libre para decir públicamente si esa redacción le parece justificada o si la empresa está exagerando el secretismo. Una especie de cláusula anti-tapada de boca.

¿Por qué tanto poder para un auditor externo?

Anthropic enumeró cuatro condiciones para que una auditoría sirva de algo: que el equipo tenga la experiencia técnica para detectar cuándo un modelo finge estar alineado en lugar de estarlo realmente; que sea independiente económica y operativamente; que el acceso vaya más allá del modelo en sí e incluya cómo se entrenó y cómo funcionan sus mecanismos de seguridad; y que puedan publicar sin restricciones previas. Cero mordaza. La compañía fue clara: parte de la información de seguridad no puede ser pública porque podría ser útil para actores maliciosos o es sensible desde el punto de vista comercial. Por eso el acceso profundo va solo a un grupo chico que opera bajo acuerdos exigibles. El resto de METR ni se entera de este trabajo.

¿Es la primera vez que pasa esto?

No. METR ya había revisado varios informes de riesgo durante el año anterior a recibir el nivel ampliado. O sea, la relación viene de antes. Lo que cambió es la profundidad: pasaron de mirar informes a sentarse en la propia oficina con la llave de la mayoría de las puertas digitales. Una decisión que, en un sector donde las auditorías suelen ser de palabra y sellito, suena casi a ciencia ficción. Veremos si los primeros hallazgos confirman que el sistema funciona o si se queda en un gesto de marketing bien envuelto.