2026. szeptember 12., szombat · Eszközök

NVIDIA PAIR: helyi hálózaton osztja el az AI-feladatokat

Az NVIDIA bejelentése szerint béta állapotban elérhető a Personal AI Router (PAIR), amely a helyi hálózaton lévő több gép között automatikusan szétosztja az egyes AI-kéréseket; a cég hangsúlyozza, hogy a GPU-kat nem egyesíti, és a videomemóriát sem vonja össze egyetlen nagyobb gyorsítóvá. A vállalat célja elsősorban a többügynökös (multi-agent) munkafolyamatok támogatása, ahol egyetlen GPU-t túlterhelhetnek a párhuzamos modellhívások; PAIR ezt proxyként kezeli, és a bejövő kérést a megfelelő csomópontra irányítja anélkül, hogy az ügynöknek vagy a mögöttes architektúrának változnia kellene. NVIDIA saját demója szerint egy Hermes Desktop–Ollama–PAIR kombináció, amely RTX Spark, DGX Spark és RTX 5090 gépeket kapcsolt össze, körülbelül kétszeres gyorsulást ért el egyetlen RTX Spark laptophoz képest, ám a cég hangsúlyozza, hogy ez nem teljesítménygarancia, mert az eredmény a munkaterheléstől, a modelltől és a hálózattól is függ. A PAIR zökkenőmentesen illeszkedik olyan meglévő helyi inferenciaszolgáltatásokhoz, mint az Ollama és az LM Studio, és Windows 11, Linux, valamint macOS alatt, x64 és arm64 architektúrán egyaránt használható.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

Az NVIDIA PAIR nevű bétaeszköze konkrétan azt oldja meg, hogy több helyi gép (pl. RTX Spark, DGX Spark, RTX 5090) GPU-kapacitását ossza szét az Ollama és LM Studio által futtatott multi-agent AI-feladatok között, a cég demója szerint mintegy kétszeres gyorsulással.

Források

InfoQ AI

Kapcsolódó témák

Napi összefoglalók AI eszközök #NVIDIA PAIR#helyi AI-infrastruktúra

Napi összefoglaló

Ez a hír a 2026. szeptember 12., szombat napi AI összefoglaló része.

Helyesbítés · 2026. október 2., péntek

Helyesbítés (2026-10-02): az összefoglaló korábban azt írta, hogy a PAIR a gépek „számítási kapacitását vonja össze”. A forrás szerint az NVIDIA kifejezetten hangsúlyozza, hogy a PAIR nem egyesíti a GPU-kat és nem vonja össze a videomemóriát, hanem az egyes kéréseket osztja szét.

Kapcsolódó hírek

NVIDIA PAIR: helyi hálózaton osztja szét az AI-számításokat

Az NVIDIA saját közlése szerint bemutatta a Personal AI Router (PAIR) nevű nyílt forráskódú eszközt, amely a helyi hálózaton lévő kompatibilis gépek között osztja el a független AI-következtetési feladatokat, hogy tehermentesítse a több ügynökből álló munkafolyamatokat. A vállalat állítása szerint a rendszer a meglévő Ollama és LM Studio felületekkel is működik, így az ügynök-keretrendszereken nem kell módosítani. Az NVIDIA egy öt-alügynökös demonstrációt is közölt: egy háromeszközös PAIR-klaszter 8 perc 48 másodperc alatt végzett el egy feladatot, míg egyetlen RTX Spark laptopon ugyanez 18 percet vett igénybe. A router mDNS-alapú párosítást, MTLS titkosítást és élő ütemezést használ; a beta Windows, macOS és Linux rendszerekre elérhető, a támogatott hardverek közé pedig RTX 20-as és újabb GPU-k, RTX PRO munkaállomások, DGX Spark és Apple M4+ chipek tartoznak.

DeepSeek nyílt forráskódúvá tette gyors következtetési motorját, a DeepInfert

A DeepSeek Apache 2.0 licenc alatt nyílt forráskódúvá tette DeepInfer nevű belső következtetési keretrendszerét, amely a V4.1-Flash modelljét szolgálja ki gyorsan és olcsón – írja a The Decoder. A vLLM-re épülő rendszer optimalizált számítási kerneleket, több chipre elosztott feldolgozást és gyorsabb szöveggenerálási technikákat használ, és a cég jövőbeli modelljeinek kódját is nyíltan teszi közzé. Emellett megjelenik a deepseek-recipe is, amely a hivatalos DeepSeek API tokenfeldolgozását replikálja, hogy az önüzemeltetett rendszerek ugyanúgy viselkedjenek. A vállalat közlése szerint a cél a közösség számítási költségeinek és energiafelhasználásának csökkentése, hogy az AI megfizethetőbb legyen. A lap szerint a lépés egyben árversenyt gerjeszt a nyugati szolgáltatókkal, és a kínai–amerikai AI-verseny fényében akár politikai motivációja is lehet.

A Google is bemutatta saját PyTorch-verzióját, hogy gyengítse az Nvidia dominanciáját

A Google a TechCrunch beszámolója szerint kedden nyílt forráskódúként tette közzé a TorchTPU nevű eszközt, amely a népszerű PyTorch keretrendszer saját, Tensor Processing Unit (TPU) chipekre optimalizált változata. A cég állítása szerint a meglévő PyTorch-alkalmazások egyszerű konfigurációváltással, újraírás nélkül átvihetők a Google Cloud TPU-ira. A lépéssel a Google csatlakozik Amazonhoz, amely hétfőn jelentette be saját TorchNeuron megoldását a Trainium chipekhez, és emellett kódot nyújtott be a fő PyTorch projekthez, hogy a keretrendszer alapból kevésbé kötődjön az Nvidia hardveréhez. A TechCrunch szerint a Google azt állítja, hogy közvetlenül együttműködött a Metával, a Hugging Face-szel, valamint a vLLM-et és az SGLang-ot fejlesztő cégekkel a kompatibilitás biztosítása érdekében, és egy új TPU agent suite eszközt is indított a migráció segítésére. A PyTorch-ot eredetileg a Meta fejlesztette 2016-ban, majd 2022-ben a Linux Foundation nonprofit szervezetnek adta át.

Amazon új TorchNeuron eszközzel támadja Nvidia szoftveres fölényét

Az Amazon Web Services hétfőn bemutatta a TorchNeuron nevű fejlesztői eszközt, amely a vállalat állítása szerint lehetővé teszi, hogy a PyTorch keretrendszerben írt AI-alkalmazások mindössze egyetlen konfigurációs sor módosításával, kódátírás nélkül fussanak az Amazon saját Trainium chipjén. Az Amazon szerint az AI-alkalmazások mintegy 85 százaléka PyTorchban készül, amely keretrendszert eredetileg a Facebook fejlesztette, 2022 óta pedig a Linux Foundation gondozza. A cég szerint a Trainiumra költözés nemcsak egyszerű, hanem hozzáférést is ad az Amazon teljes felhőinfrastruktúrájához, szemben a sok esetben Nvidia-hardverhez kötött „neocloud” szolgáltatókkal, mint a CoreWeave vagy a Nebius. Az AWS Annapurna Labs technológiai alelnöke, Colin Brace a TechCrunchnek nyilatkozva hangsúlyozta, hogy a startupok így nem egyetlen, szűk célú számítási szolgáltatóra fogadnak.