Noticias sobre METR

Anthropic otorga a las instituciones de seguridad externas un acceso interno similar al de los empleados y permite la publicación independiente de los resultados de las evaluaciones, lo que significa que la gobernanza de seguridad de la industria de la IA está pasando de una revisión interna a una supervisión transparente y externa de terceros. El establecimiento de este mecanismo de confianza no solo cambia la relación de juego entre los laboratorios y las instituciones de seguridad independientes, sino que también se convertirá en el nuevo paradigma de la industria para que los grandes modelos hagan frente a la presión regulatoria.

Anthropic concedió a la organización sin ánimo de lucro METR acceso interno para examinar sus modelos de IA, lo que significa que la gobernanza de seguridad de los principales laboratorios de LLM está pasando de los compromisos corporativos internos a auditorías independientes de terceros verificables. Esta práctica no solo mejora la transparencia de los modelos, sino que también construye un nuevo paradigma para la futura supervisión del cumplimiento normativo en la industria.

Anthropic está tomando medidas para mejorar su transparencia y rendición de cuentas, permitiendo a los investigadores de METR acceder a su información interna y renunciando al derecho de impedir que METR publique evaluaciones. Esto demuestra que Anthropic se está esforzando por generar confianza y credibilidad.

Anthropic está reforzando las evaluaciones de terceros independientes de sus modelos y prácticas de seguridad, como parte de su compromiso con el acuerdo de la Casa Blanca sobre superinteligencia. La colaboración con METR es su iniciativa más reciente para trabajar con evaluadores independientes, con el objetivo de mejorar la transparencia y la fiabilidad de sus modelos y prácticas de seguridad.