Anthropic: hamarosan az AI gyorsíthatja a saját fejlesztését

Mi történt?

Az Anthropic november 2-án beadta az amerikai tőzsdefelügyeletnek (SEC) az IPO-tájékoztatója módosított változatát, az S-1/A-t (SEC). A kockázati tényezők közé új bekezdés került. Eszerint a cég belső becslései és a jövőbeli modellekkel kapcsolatos várakozásai alapján az Anthropic hamarosan elérheti a saját Responsible Scaling Policyjében (RSP) rögzített küszöböt: az AI-nak tulajdonítható, drámaian felgyorsult fejlődést.

Ezt a szakma rekurzív önfejlesztésként (recursive self-improvement, RSI) emlegeti, a TechCrunch is így írt róla (TechCrunch). A filing szerint az Anthropic egyik jelenlegi modelljét sem sorolta a küszöb fölé, az adatokat még értékelik. A cég azt is leírja, hogy a múltban előfordult, hogy egy jelentős gyorsulást csak utólag vettek észre, mert a mérés lemaradó mutatókra épül.

Ember marad a folyamatban

Az Anthropic szerint nem tudná biztonságosan, érdemi emberi felügyelet nélkül, teljesen autonóm módon a Claude-ra bízni a következő frontier modellek tervezését és megépítését, ha ez technikailag lehetségessé válik. Ezért fontolgatják az RSP frissítését, hogy a frontier modellek fejlesztése emberi kontroll alatt maradjon. A küszöb elérésének következményeiről további jelentéseket ígérnek.

A számok

A filing szerint a bevétel a szeptember 30-ig tartó negyedévben 17,0 milliárd dollár volt, 1127%-kal több, mint egy évvel korábban. A compute- és infrastruktúra-költség ugyanebben az időszakban 382%-kal nőtt. A cég nagyjából 895,4 milliárd dollárnyi, szinte teljesen compute-ra és infrastruktúrára vonatkozó kötelezettséget vállalt, ebből 69,8 milliárd a következő 12 hónapban esedékes. A The Decoder a Bloomberg és a The Information alapján 23,3 milliárd dolláros negyedéves nettó veszteségről ír (The Decoder).

Mit jelent ez?

Egy S-1 egyszerre kötelező kockázatfeltárás és befektetőknek szóló anyag, ezt a TechCrunch is megjegyzi. Egy tőzsdei dokumentumban rögzített állítás viszont jogi súllyal bír, ezért többet nyom egy blogposztnál. A következő mérföldkő az RSP frissítése lesz: abból derül ki, pontosan milyen emberi kontrollt ír elő az Anthropic a saját modellfejlesztésében.