Anthropic le abre la cocina a seis auditoress y les deja publicar lo que quieran

Otra vez la misma promesa: transparencia total, auditorías independientes y bla bla bla. Pero esta vez, parece, hay algo concreto. Anthropic les dio a seis investigadores de METR, una organización sin fines de lucro que se dedica a evaluar sistemas de inteligencia artificial, el mismo nivel de acceso que tiene un empleado del área de riesgos. Computadora de la empresa, oficina, herramientas internas y vía libre para charlar con el personal como si fueran un compañero más.

Lo interesante, y lo raro en esta clase de acuerdos, es qué queda afuera. Los auditors no pueden ver datos de clientes, ni información cubierta por secreto profesional entre abogado y cliente, ni los detalles finos de cómo están armados los modelos por dentro. Todo lo demás, manos a la obra.

Tres niveles de confianza

• Nivel uno: grupos como SecureBio hacen revisiones puntuales y necesitan pedir permiso antes de publicar lo que encontraron.
• Nivel dos: más información y pueden publicar sin pedir autorización.
• Nivel tres: lo tiene hoy solo METR. Acceso de empleado y libertad absoluta para sacar a la luz evaluaciones, reportes de incidentes y críticas a las prácticas de la empresa, sin que Anthropic pueda frenarlos.

La compañía sí puede pedirles que tapen información en categorías muy concretas, las mismas tres de antes. Pero hay un detalle clave: METR puede salir a decir públicamente si le parece que esa redacción estuvo justificada o no. O sea, no se callan la boca ni aunque les tapen un dato.

Para justificar tanto acceso, Anthropic marcó cuatro condiciones que, según ellos, tiene que cumplir cualquier auditoría que sirva para algo. Primero, experiencia técnica real, del tipo que permite detectar cuando un modelo finge estar alineado en vez de estarlo de verdad. Segundo, independencia económica y operativa: el auditor no puede depender de la empresa auditada para financiarse. Tercero, acceso que vaya más allá del modelo en sí e incluya cómo funcionan los mecanismos de seguridad y de entrenamiento. Y cuarto, libertad para publicar sin restricciones previas.

La propia empresa reconoció que no puede abrir toda su información de seguridad al público, porque parte podría servirle a gente con malas ideas o es información sensible desde el punto de vista comercial. Por eso eligieron este formato: acceso profundo a un grupo chico, con acuerdos exigibles, y el resto de METR queda afuera de ese trabajo puntual.

El equipo de METR ya había revisado varios informes de riesgo de Anthropic durante el año anterior, antes de que les soltaran la mano con este nivel ampliado. Digamos que vienen haciendo la tarea, y la compañía, esta vez, les creyó el libreto.

Mi veredicto, con la escala de siempre: lo compro. No porque me crea el verso de la transparencia corporativa, sino porque el mecanismo está atado de una manera poco habitual. Le dieron al auditor la llave, le dejaron publicar y hasta le reconocieron el derecho de quejarse si le tapan algo. Falta ver cuánto dura el entusiasmo cuando aparezcan los primeros hallazgos incómodos. Por ahora, la batería de la promesa lleva cargada más de lo que uno esperaba.