Anthropic: METR dolgozói szintű hozzáférést kap

Mit kap a METR?

A nonprofit METR hat embere Anthropic hardvert, irodát és belső rendszereket kap. A cég szerint a hozzáférés nagyjából egyenértékű a saját kockázatértékelő csapatokéval. Az alkalmazottakat arra ösztönzik, hogy ügyféladatok, ügyvédi titoktartás és modellarchitektúra kivételével úgy osszanak meg információt a METR-rel, mintha kollégával dolgoznának (Anthropic).

A METR publikálhatja a kockázati szintekről, incidensekről és gyakorlatokról szóló elemzéseit. Az Anthropic nem vétózhatja a megjelenést, de előre meghatározott, szűk kategóriákban redakciót kérhet. A METR nyilvánosan jellemezheti a redakciókat, és kimondhatja, indokoltnak tartja-e őket, anélkül hogy a kitakart tartalmat felfedné. A redakciókat nyilvánosan is megtámadhatja.

Három hozzáférési szint

Az Anthropic három szintet vázol. Első szint: szűk kockázati vizsgálatok, a cég dönti el a hozzáférést, publikációhoz jóváhagyás kell. Második: több információ, publikáció jóváhagyás nélkül, redakció továbbra is kérhető. Harmadik: a METR-hez hasonló employee-like hozzáférés, publikációs jogokkal a második szinthez hasonlóan. Cél, hogy több értékelő is elérje a harmadik szintet.

További partnerek és kontextus

A SecureBio a kémiai és biológiai fegyverek fejezetét nézi az augusztusi Risk Reportban, egy korábbi pilot után. Az Accenture és a Faculty együttműködés red teamingre, alignment-értékelésre és safeguard-tesztekre készül. Korai tárgyalások zajlanak a Hugging Face-szel is. A lépés a White House Accord on Super Intelligence vállalásaihoz kapcsolódik, amelyben a cégek külső auditorokkal vagy értékelőkkel való együttműködést ígértek. Európában párhuzamos szabályozási nyomásról írtunk az EU AI Office kérdéssorában.

Röviden

• Hat METR-munkatárs employee-like hozzáférést kap: hardver, iroda, belső eszközök.
• Nincs publikációs vétó; csak szűk redakció (ügyféladat, privilege, architektúra).
• A METR nyilvánosan bírálhatja a redakciókat anélkül, hogy a tartalmat felfedné.
• Három szint: szűk vizsgálatok → több info + szabadabb publikáció → employee-like.
• Gyakorlatban: ez önkéntes felügyelet, nem szabályozói engedély. Elemzői olvasat szerint a frontier laboknak egyre nehezebb lesz indokolni, ha nincs hasonló külső betekintés.