2026. október 6., kedd · Eszközök

AWS: új aws-ai-ml skill a SageMaker AI következtetés-optimalizáláshoz

Az AWS bemutatta az aws-ai-ml nevű új képességet, amely az Agent Toolkit for AWS részeként érhető el, és az Amazon SageMaker AI optimalizált generatív AI következtetési szolgáltatásához kapcsolódik. A vállalat állítása szerint a Model Context Protocol (MCP) protokollt támogató kódoló ügynökök, például a Kiro, a Claude Code és a Codex, ezzel a bővítménnyel mélyreható szakértelmet kapnak a következtetési végpontok teljesítményének benchmarkolásához, a telepítési konfigurációk ajánlásához és a futtatási eredmények összehasonlításához. A skill futtatható SageMaker Python SDK v3 kódot generál, amelyet a felhasználó a saját környezetében ellenőrizhet és módosíthat, mielőtt lefuttatná. Az AWS szerint a telepítés a helyi gépen vagy a SageMaker Studio JupyterLab térben is elvégezhető, és a cég állítása szerint mindössze 10 perc alatt eljuthatunk egy működő beszélgetésig.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

A jelentősége, hogy a SageMaker AI valós idejű, kötegelt és aszinkron hosztolási módokat, heterogén instance-típusokat és VPC-izolációt kínál, és az aws-ai-ml skill épp ezt a komplex infrastruktúra-választást automatizálja a fejlesztők helyett.

Források

AWS Machine Learning Hivatalos

Kapcsolódó témák

Napi összefoglalók AI eszközök #Amazon SageMaker AI#Agent Toolkit for AWS

Napi összefoglaló

Ez a hír a 2026. október 6., kedd napi AI összefoglaló része.

Kapcsolódó hírek

Az AWS bemutatta a SageMaker AI többfordulós megerősítéses tanulását kereső ügynökökhöz

Az Amazon AWS hivatalos blogbejegyzésben mutatta be, hogyan finomhangolhatók kereső ügynökök (search agent) többfordulós megerősítéses tanulással (MTRL) a SageMaker AI platformon. A cég állítása szerint a hagyományos felügyelt finomhangolás drága szakértői demonstrációkat igényel, az egylépéses megerősítéses tanulás pedig figyelmen kívül hagyja a több lépésben egymásra épülő döntések közötti összefüggéseket. Az AWS szerint az MTRL ezzel szemben a teljes döntési sorozatot optimalizálja, és a végeredmény minősége alapján ad visszajelzést, így egy kisebb, specializált modell is elérheti egy frontier modell megbízhatóságát, miközben gyorsabb és olcsóbb marad a futtatása. A bejegyzés a módszer működését és a visszakeresési minőségben mért eredményeket ismerteti, konkrét számszerű teljesítményadatok nélkül.

DeepSeek nyílt forráskódúvá tette gyors következtetési motorját, a DeepInfert

A DeepSeek Apache 2.0 licenc alatt nyílt forráskódúvá tette DeepInfer nevű belső következtetési keretrendszerét, amely a V4.1-Flash modelljét szolgálja ki gyorsan és olcsón – írja a The Decoder. A vLLM-re épülő rendszer optimalizált számítási kerneleket, több chipre elosztott feldolgozást és gyorsabb szöveggenerálási technikákat használ, és a cég jövőbeli modelljeinek kódját is nyíltan teszi közzé. Emellett megjelenik a deepseek-recipe is, amely a hivatalos DeepSeek API tokenfeldolgozását replikálja, hogy az önüzemeltetett rendszerek ugyanúgy viselkedjenek. A vállalat közlése szerint a cél a közösség számítási költségeinek és energiafelhasználásának csökkentése, hogy az AI megfizethetőbb legyen. A lap szerint a lépés egyben árversenyt gerjeszt a nyugati szolgáltatókkal, és a kínai–amerikai AI-verseny fényében akár politikai motivációja is lehet.

A Google is bemutatta saját PyTorch-verzióját, hogy gyengítse az Nvidia dominanciáját

A Google a TechCrunch beszámolója szerint kedden nyílt forráskódúként tette közzé a TorchTPU nevű eszközt, amely a népszerű PyTorch keretrendszer saját, Tensor Processing Unit (TPU) chipekre optimalizált változata. A cég állítása szerint a meglévő PyTorch-alkalmazások egyszerű konfigurációváltással, újraírás nélkül átvihetők a Google Cloud TPU-ira. A lépéssel a Google csatlakozik Amazonhoz, amely hétfőn jelentette be saját TorchNeuron megoldását a Trainium chipekhez, és emellett kódot nyújtott be a fő PyTorch projekthez, hogy a keretrendszer alapból kevésbé kötődjön az Nvidia hardveréhez. A TechCrunch szerint a Google azt állítja, hogy közvetlenül együttműködött a Metával, a Hugging Face-szel, valamint a vLLM-et és az SGLang-ot fejlesztő cégekkel a kompatibilitás biztosítása érdekében, és egy új TPU agent suite eszközt is indított a migráció segítésére. A PyTorch-ot eredetileg a Meta fejlesztette 2016-ban, majd 2022-ben a Linux Foundation nonprofit szervezetnek adta át.

Amazon új TorchNeuron eszközzel támadja Nvidia szoftveres fölényét

Az Amazon Web Services hétfőn bemutatta a TorchNeuron nevű fejlesztői eszközt, amely a vállalat állítása szerint lehetővé teszi, hogy a PyTorch keretrendszerben írt AI-alkalmazások mindössze egyetlen konfigurációs sor módosításával, kódátírás nélkül fussanak az Amazon saját Trainium chipjén. Az Amazon szerint az AI-alkalmazások mintegy 85 százaléka PyTorchban készül, amely keretrendszert eredetileg a Facebook fejlesztette, 2022 óta pedig a Linux Foundation gondozza. A cég szerint a Trainiumra költözés nemcsak egyszerű, hanem hozzáférést is ad az Amazon teljes felhőinfrastruktúrájához, szemben a sok esetben Nvidia-hardverhez kötött „neocloud” szolgáltatókkal, mint a CoreWeave vagy a Nebius. Az AWS Annapurna Labs technológiai alelnöke, Colin Brace a TechCrunchnek nyilatkozva hangsúlyozta, hogy a startupok így nem egyetlen, szűk célú számítási szolgáltatóra fogadnak.