2026. szeptember 15., kedd · Eszközök

AWS nyolclépéses útmutatót adott ki a generatív AI testreszabásához

Az AWS hivatalos blogbejegyzése egy nyolclépéses döntési keretrendszert mutat be, amellyel a fejlesztők eldönthetik, milyen mélységű testreszabás szükséges egy generatív AI-feladathoz az Amazon Bedrock platformon. A bejegyzés szerint a testreszabási spektrum három fő kategóriára oszlik: a modell változtatás nélküli használata jobb promptokkal, a dokumentumok bevonása retrieval augmented generation (RAG) technikával, illetve a finomhangolás vagy teljesen egyedi modell betanítása. Az AWS azt állítja, hogy a csapatok gyakran rossz döntést hoznak: túl korán nyúlnak finomhangoláshoz, amikor egy jól megírt prompt is elég lenne, vagy éppen ellenkezőleg, hetekig ragaszkodnak a prompt-optimalizáláshoz olyan feladatoknál, amelyek valójában dedikált tanítóadatot igényelnének. A cég szerint mindkét hiba plusz számítási költséggel, csúszó határidőkkel és a megrendelők bizalmának elvesztésével jár. A bejegyzés az Anthropic Claude, az Amazon Nova és a Meta Llama modellek Bedrock-on keresztüli elérhetőségét említi konkrét példaként.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

Az AWS a Bedrock-felhasználóknak konkrét kockázatként nevezi meg a rossz szintű testreszabás anyagi és időbeli költségét, ami közvetlenül befolyásolja, mennyi vállalati fejlesztési büdzsé megy veszendőbe felesleges finomhangolási projektekre.

Források

Kapcsolódó témák

Napi összefoglaló

Ez a hír a 2026. szeptember 15., kedd napi AI összefoglaló része.

Kapcsolódó hírek

AWS KnowledgeForge: mesterséges intelligencia bányássza az IT-hibajegyekből a tudást

Az AWS hivatalos blogbejegyzése a KnowledgeForge nevű megoldást mutatja be, amely a vállalati IT-support (ITSM) rendszerekben felhalmozódott, lezárt hibajegyekből nyer ki hasznosítható tudást. Az AWS állítása szerint a lezárt jegyek tünet-ok-megoldás hármasa jellemzően nem kerül be a tudásbázisba, ezért a hasonló hibával szembesülő mérnök elölről kezdi a diagnosztizálást. A cég szerint a rendszer a meglévő tudásbázist is karbantartja: típus szerint rendszerezi a cikkeket, kiszűri a duplikátumokat, minőséget pontoz és újraírja a gyenge tartalmakat, miközben egy tudásmenedzser hagyja jóvá a végeredményt. Technikailag az Amazon Bedrock végzi a tartalomgenerálást, az Amazon S3 Vectors a duplikátumkeresést, az AWS Step Functions pedig az összeállítás vezérlését. A bejegyzés az architektúrát és tervezési célokat ismerteti, független teljesítménymérést nem közöl.

DeepSeek nyílt forráskódúvá tette gyors következtetési motorját, a DeepInfert

A DeepSeek Apache 2.0 licenc alatt nyílt forráskódúvá tette DeepInfer nevű belső következtetési keretrendszerét, amely a V4.1-Flash modelljét szolgálja ki gyorsan és olcsón – írja a The Decoder. A vLLM-re épülő rendszer optimalizált számítási kerneleket, több chipre elosztott feldolgozást és gyorsabb szöveggenerálási technikákat használ, és a cég jövőbeli modelljeinek kódját is nyíltan teszi közzé. Emellett megjelenik a deepseek-recipe is, amely a hivatalos DeepSeek API tokenfeldolgozását replikálja, hogy az önüzemeltetett rendszerek ugyanúgy viselkedjenek. A vállalat közlése szerint a cél a közösség számítási költségeinek és energiafelhasználásának csökkentése, hogy az AI megfizethetőbb legyen. A lap szerint a lépés egyben árversenyt gerjeszt a nyugati szolgáltatókkal, és a kínai–amerikai AI-verseny fényében akár politikai motivációja is lehet.

A Google is bemutatta saját PyTorch-verzióját, hogy gyengítse az Nvidia dominanciáját

A Google a TechCrunch beszámolója szerint kedden nyílt forráskódúként tette közzé a TorchTPU nevű eszközt, amely a népszerű PyTorch keretrendszer saját, Tensor Processing Unit (TPU) chipekre optimalizált változata. A cég állítása szerint a meglévő PyTorch-alkalmazások egyszerű konfigurációváltással, újraírás nélkül átvihetők a Google Cloud TPU-ira. A lépéssel a Google csatlakozik Amazonhoz, amely hétfőn jelentette be saját TorchNeuron megoldását a Trainium chipekhez, és emellett kódot nyújtott be a fő PyTorch projekthez, hogy a keretrendszer alapból kevésbé kötődjön az Nvidia hardveréhez. A TechCrunch szerint a Google azt állítja, hogy közvetlenül együttműködött a Metával, a Hugging Face-szel, valamint a vLLM-et és az SGLang-ot fejlesztő cégekkel a kompatibilitás biztosítása érdekében, és egy új TPU agent suite eszközt is indított a migráció segítésére. A PyTorch-ot eredetileg a Meta fejlesztette 2016-ban, majd 2022-ben a Linux Foundation nonprofit szervezetnek adta át.

Amazon új TorchNeuron eszközzel támadja Nvidia szoftveres fölényét

Az Amazon Web Services hétfőn bemutatta a TorchNeuron nevű fejlesztői eszközt, amely a vállalat állítása szerint lehetővé teszi, hogy a PyTorch keretrendszerben írt AI-alkalmazások mindössze egyetlen konfigurációs sor módosításával, kódátírás nélkül fussanak az Amazon saját Trainium chipjén. Az Amazon szerint az AI-alkalmazások mintegy 85 százaléka PyTorchban készül, amely keretrendszert eredetileg a Facebook fejlesztette, 2022 óta pedig a Linux Foundation gondozza. A cég szerint a Trainiumra költözés nemcsak egyszerű, hanem hozzáférést is ad az Amazon teljes felhőinfrastruktúrájához, szemben a sok esetben Nvidia-hardverhez kötött „neocloud” szolgáltatókkal, mint a CoreWeave vagy a Nebius. Az AWS Annapurna Labs technológiai alelnöke, Colin Brace a TechCrunchnek nyilatkozva hangsúlyozta, hogy a startupok így nem egyetlen, szűk célú számítási szolgáltatóra fogadnak.