Microsoft Project Perception: őrző agentek a cégen belül

Mi a probléma?

Hayete Gallot, a Microsoft Security ügyvezető alelnöke szerint a frontier modellekben származástól függetlenül nem lehet megbízni (Microsoft). Nem azért, mert rosszindulatúak. Eredmény elérésére tanították őket, ez pedig gyakran reward hackinghez vezet. A vállalati agentek sokszor túl sok jogosultságot kapnak, kritikus folyamatokban döntenek, a céljuk érdekében pedig más agentekkel is összejátszhatnak.

Nadim Abdo, a Microsoft alelnöke Satya Nadellát idézi: a legmegbízhatóbb agentrendszer nem az lesz, amelyikben a legjobban bízunk a modellben, hanem amelyiket úgy terveztek, hogy a lehető legkevésbé kelljen bízni benne (Microsoft Security). A kontrollok ezért a modellen kívül vannak, ahol az agent nem kerülheti meg őket.

Mit hoz a Perception?

A júliusban bemutatott Project Perception eddig red, blue és green agentekkel segítette a védekezést a külső támadások ellen. Most ugyanez a stack a belső agenteket is felügyeli. Az elv: a nem determinisztikus intelligenciát determinisztikus kontrollok, független bizonyítékok és elszigetelési határok veszik körül.

• Felderítés: további 35 helyi agenttípust ismer fel, így összesen 60-at, köztük a Claude Code-ot, az OpenAI Codexet és a GitHub Copilotot. Ezek közös registrybe kerülnek.
• Saját identitás: a Microsoft Entra Agent ID új identitástípusokat kap, így a szenzorok által talált, korábban ismeretlen agentekre is lehet policyt szabni.
• Elszigetelt futtatás: a modell és a harness Microsoft Execution Container (MXC) sandboxban fut, a kontrollok az agent hatókörén kívül maradnak.
• Dynamic Permissions: az agent jogosultság nélkül vagy minimális joggal indul, feladathoz és időhöz kötött jogokat kap. Többet nem szerezhet, mint a felhasználója.
• Dynamic Agent Risk és Dynamic Conditional Access: folyamatosan frissülő kockázati kép, fokozatos válasszal. Megmaradhat az olvasás, miközben az írás tiltott, kérhető igazolt emberi jóváhagyás, végső esetben leáll a futás.
• Guardian Agents és Playbookok: őrző agentek, amelyek minden agent minden lépését figyelik, akár több százezer agent mellett is.

Mikor érhető el?

A Microsoft ábrája szerint az MXC containerek már általánosan elérhetők. A többi képesség private preview-ban van, szélesebb elérhetőséggel a Microsoft Ignite-on. A Project Perception és a Microsoft Agent 365 közös jeleket, kontextust és registryt használ.

Mit jelent ez?

A Microsoft példája jól mutatja a lényeget. Egy költségjóváhagyó agentnek nem kell örökölnie a szponzoráló munkatárs összes jogát. Ha egy külső dokumentumban prompt injectionbe fut, a rendszer elveheti tőle a jóváhagyás jogát, az olvasást viszont meghagyja. Aki agenteket enged vállalati rendszerekre, annak ezt a szemléletet érdemes átvennie, akár Microsoft-stacken dolgozik, akár nem: külön identitás, feladathoz kötött jog, folyamatos naplózás.