2026. július 17., péntek · Eszközök

A BlueField-4 DPU infrastruktúra-tehermentesítéssel skálázza az ágens AI-gyárakat

Az NVIDIA műszaki blogja részletezi, hogyan oldja meg a BlueField-4 DPU és a Vera BlueField-4 STX tárolóprocesszor az ágens AI munkafolyamatok infrastrukturális szűk keresztmetszeteit. A korábban bemutatott Vera CPU architektúrára épülő BlueField-4 akár 800 Gb/s hálózati kapcsolatot, 64 magos Grace CPU-t, PCIe Gen6-ot és LPDDR5X memóriát integrál, a hálózati, tárolási és biztonsági feladatokat a gazdagép processzoráról átterhelve. A DOCA szoftverplatform kontextus-újrafelhasználást, zero-trust biztonságot és többbérlős életciklus-kezelést biztosít. Az NVIDIA állítása szerint mindez magasabb GPU-kihasználtságot, kiszámíthatóbb késleltetést és alacsonyabb tokenenkénti költséget eredményez.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

A BlueField-4 architektúra konkretizálja, hogyan terhelhetők át az ágens AI infrastrukturális feladatai dedikált processzorra a GPU-k hatékonyabb kihasználása érdekében.

Források

NVIDIA Technical Blog Hivatalos

Kapcsolódó témák

Napi összefoglalók AI eszközök #NVIDIA BlueField-4#DOCA

Napi összefoglaló

Ez a hír a 2026. július 17., péntek napi AI összefoglaló része.

Helyesbítés · 2026. október 1., csütörtök

Helyesbítés (2026-09-20): a hírhez utólag hozzáfűztük a nem lektorált (preprint) státusz jelzését, mert a megjelenéskor ez lemaradt. A hír címe, összefoglalója és forrásai változatlanok. Helyesbítés (2026-10-01): a hír alól eltávolítottuk az arXiv 2607.13049 hivatkozást („SPINE: Bridging the Cyber-Physical Gap with Agentic AI”), mert nem erről a munkáról szól; vele együtt kikerült a „Miért fontos?”-ból a 2026-09-20-án hozzáfűzött „A mögöttes eredményt leíró tanulmány preprint” mondat, mert erre a téves hivatkozásra épült. A hír forrása az NVIDIA műszaki blogbejegyzése.

Kapcsolódó hírek

DeepSeek nyílt forráskódúvá tette gyors következtetési motorját, a DeepInfert

A DeepSeek Apache 2.0 licenc alatt nyílt forráskódúvá tette DeepInfer nevű belső következtetési keretrendszerét, amely a V4.1-Flash modelljét szolgálja ki gyorsan és olcsón – írja a The Decoder. A vLLM-re épülő rendszer optimalizált számítási kerneleket, több chipre elosztott feldolgozást és gyorsabb szöveggenerálási technikákat használ, és a cég jövőbeli modelljeinek kódját is nyíltan teszi közzé. Emellett megjelenik a deepseek-recipe is, amely a hivatalos DeepSeek API tokenfeldolgozását replikálja, hogy az önüzemeltetett rendszerek ugyanúgy viselkedjenek. A vállalat közlése szerint a cél a közösség számítási költségeinek és energiafelhasználásának csökkentése, hogy az AI megfizethetőbb legyen. A lap szerint a lépés egyben árversenyt gerjeszt a nyugati szolgáltatókkal, és a kínai–amerikai AI-verseny fényében akár politikai motivációja is lehet.

A Google is bemutatta saját PyTorch-verzióját, hogy gyengítse az Nvidia dominanciáját

A Google a TechCrunch beszámolója szerint kedden nyílt forráskódúként tette közzé a TorchTPU nevű eszközt, amely a népszerű PyTorch keretrendszer saját, Tensor Processing Unit (TPU) chipekre optimalizált változata. A cég állítása szerint a meglévő PyTorch-alkalmazások egyszerű konfigurációváltással, újraírás nélkül átvihetők a Google Cloud TPU-ira. A lépéssel a Google csatlakozik Amazonhoz, amely hétfőn jelentette be saját TorchNeuron megoldását a Trainium chipekhez, és emellett kódot nyújtott be a fő PyTorch projekthez, hogy a keretrendszer alapból kevésbé kötődjön az Nvidia hardveréhez. A TechCrunch szerint a Google azt állítja, hogy közvetlenül együttműködött a Metával, a Hugging Face-szel, valamint a vLLM-et és az SGLang-ot fejlesztő cégekkel a kompatibilitás biztosítása érdekében, és egy új TPU agent suite eszközt is indított a migráció segítésére. A PyTorch-ot eredetileg a Meta fejlesztette 2016-ban, majd 2022-ben a Linux Foundation nonprofit szervezetnek adta át.

Amazon új TorchNeuron eszközzel támadja Nvidia szoftveres fölényét

Az Amazon Web Services hétfőn bemutatta a TorchNeuron nevű fejlesztői eszközt, amely a vállalat állítása szerint lehetővé teszi, hogy a PyTorch keretrendszerben írt AI-alkalmazások mindössze egyetlen konfigurációs sor módosításával, kódátírás nélkül fussanak az Amazon saját Trainium chipjén. Az Amazon szerint az AI-alkalmazások mintegy 85 százaléka PyTorchban készül, amely keretrendszert eredetileg a Facebook fejlesztette, 2022 óta pedig a Linux Foundation gondozza. A cég szerint a Trainiumra költözés nemcsak egyszerű, hanem hozzáférést is ad az Amazon teljes felhőinfrastruktúrájához, szemben a sok esetben Nvidia-hardverhez kötött „neocloud” szolgáltatókkal, mint a CoreWeave vagy a Nebius. Az AWS Annapurna Labs technológiai alelnöke, Colin Brace a TechCrunchnek nyilatkozva hangsúlyozta, hogy a startupok így nem egyetlen, szűk célú számítási szolgáltatóra fogadnak.

Az Amazon Bedrock támogatja az Anthropic Claude modellek strukturált kimenetét

Az AWS bejelentette, hogy az Amazon Bedrock mostantól minden Anthropic Claude modellnél támogatja a strukturált kimenetet, mind a bedrock-runtime, mind a bedrock-mantle végpontokon. A vállalat szerint a funkció kényszerített dekódolást használ, vagyis a modell már a tokenek generálása közben betartja a megadott JSON-sémát, nem utólag javítja a hibás formátumot. Az AWS állítása szerint ez megszünteti a JSON-feldolgozási hibákat, feleslegessé teszi az egyéni elemzést és az újrapróbálkozási logikát, emellett csökkentheti a kimeneti tokenek számát és ezzel a következtetési költséget nagy terhelésű feladatoknál. A cég közlése szerint a funkció kötegelt (batch) feldolgozással és régiók közötti (cross-Region) következtetéssel is együttműködik, valamint valós idejű streamingnél is használható. Az AWS példaként pénzügyi jelentések, egészségügyi feljegyzések és szerződések strukturált feldolgozását említi.