AnyLanguageModel 1.0: bármilyen modell az Apple API-jával

Mi változott?

Az AnyLanguageModelt tavaly novemberben mutatta be a Hugging Face. Az ötlet egyszerű: az Apple Foundation Models frameworkjének API-ja marad, a modellt viszont az app fejlesztője választja. Egy év és több tucat release után most jött az 1.0, vele együtt a swift-huggingface 1.0 és a swift-xet 1.0 is (Hugging Face).

Átállni egy sor: az import FoundationModels helyére import AnyLanguageModel kerül. Ugyanaz a session-kód ezután megy a rendszermodellel, a llama.cpp, MLX és Core ML alatt futó open-weight modellekkel, illetve felhős szolgáltatókkal.

Ami az év során bekerült

• Tool calling és guided generation minden szolgáltatónál, beágyazott @Generable típusokkal és ezek tömbjeivel együtt.
• Képek csatolása a promptokhoz a Foundation Models 27 szintaxisával, a rendszermodellnél is iOS, macOS és visionOS 27 alatt.
• OS 27-en bármilyen modell, amely megfelel a Foundation Models LanguageModel protokolljának, a Core AI modelleket is beleértve.
• Felhős oldalon OpenAI Chat Completions és Responses, Open Responses, Anthropic Messages (adaptive thinkinggel és effort opcióval), Gemini API, Ollama, Private Cloud Compute (OS 27), HF Inference Providers, illetve egyedi base URL-lel más OpenAI-kompatibilis végpont, például az OpenRouter.
• A reasoning blokkok bekerülnek a transcriptbe. Szolgáltatóváltáskor a csomag automatikusan kihagyja őket, ha az új szolgáltató nem tudja visszajátszani.
• Az API-kulcs closure-ből jön, nem stringből, így az app rövid életű tokent kérhet a saját szerveréről.
• Linuxon is fut, tehát ugyanaz a kód szerveren is használható.

Milyen modellekkel érdemes kezdeni?

A HF a Hub mostani legtöbbet letöltött modelljei közül hármat emel ki. A Google Gemma 4 E2B GGUF-ban kb. 3,4 GB Q4_0-n, quantization-aware traininggel. A Liquid AI LFM2.5 2.6B GGUF-ban kb. 1,7 GB Q4_K_M-en. Ez a kettő elfér iPhone-on. Az Alibaba Qwen3.8 27B MLX-verziója 4 biten kb. 16 GB, ehhez legalább 32 GB memóriás Mac kell. Ami nem fér el a gépen, például a kb. 1,5 TB-os GLM-5.3, az Inference Providersen át ugyanazzal a kóddal hívható.

Mit jelent ez a fejlesztőknek?

Aki Apple platformra épít AI-funkciót, egy API-val kezelheti a lokális és a felhős modelleket. Nem kell minden szolgáltatóhoz külön integrációt írni. A Swift Package Managerben from: "1.0.0" és a kívánt trait (például MLX) kell hozzá. Meglévő appnál érdemes átnézni a három csomag release notes migrációs útmutatóját (GitHub). A HF szerint a következő lépés a döntéshozó és a hangot értő modellek hasonló Swift API-ja.