15 października Anthropic poinformowało, że sześciu pracowników Model Evaluation and Threat Research (METR), organizacji non-profit oceniającej modele AI, otrzymało firmowy sprzęt, miejsce pracy oraz dostęp do wewnętrznych narzędzi i systemów. Zakres dostępu miał być zbliżony do tego, z którego korzystają zespoły oceny ryzyka Anthropic. Tak opisała to Cristina Criddle z Financial Times w relacji opublikowanej przez Ars Technica.
Anthropic zachęcało pracowników, by dzielili się informacjami z ewaluatorami METR tak jak z kolegami z zespołów oceny ryzyka.
Co METR może opublikować
METR może opublikować swoją analizę bez zgody Anthropic. Firma może jednak zażądać usunięcia danych klientów, informacji objętych tajemnicą adwokacką oraz szczegółów dotyczących architektury modeli. Prawo do publikacji nie oznacza więc, że każdy poznany przez ewaluatorów szczegół trafi do publicznego raportu.
Jak opisano finansowanie METR
Ars Technica podało, że Anthropic nie płaci METR za to porozumienie, a organizacja nie przyjmuje darowizn od firm AI ani ich pracowników. METR wspierają osoby prywatne, organizacje filantropijne i instytucje rządowe, w tym UK AI Security Institute.
Jakie wyniki oceny opisano
Relacja opisuje warunki dostępu i publikacji, ale nie zawiera końcowych ustaleń METR ani wyniku oceny bezpieczeństwa Claude’a. Sześciu ewaluatorów otrzymało możliwość pracy z wewnętrznymi systemami Anthropic; samo porozumienie nie przesądza o rezultacie ich oceny.
