EszközökHír
Cloudflare AI Gateway: modellalias a failoverhez
🇬🇧 Read this article in English →
A Cloudflare AI Gatewaybe megérkeztek a model aliasok: egy néven hívható modellpool, sorrendes fallbackkel vagy smart routinggal, redeploy nélkül cserélhető.
· 1 perc olvasás
Új funkció
November 4-én a Cloudflare AI Gateway bevezette a model aliasokat. Egy alias (például custom/support-fast) modellpoolra mutat: a gateway a megadott sorrendben próbálkozik, hiba esetén a következőre lép, vagy smart routinggal választ. Az alkalmazás csak az aliast hívja, a pool cseréje redeploy nélkül megy. A lépés a Cloudflare Clairic extraction modell után tovább bővíti a Workers AI / AI Gateway eszköztárát.
Hívás
A REST API model mezőjébe az alias neve kerül. A cf-aig-gateway-id header választja ki a gatewayt; az aliasok gatewayenként érvényesek. Beállítás a Routing oldalon, a dynamic route-ok mellett.
MI segítségével készült, szerkesztő ellenőrizte. Hogyan készülnek a cikkeink
Szerkesztőségünk ellenőrizte és szerkesztette. Rólunk
