Cég · Üzlet · ellenőrizve 29 napja
Nvidia
Amerikai félvezetőgyártó, amely a mesterséges intelligencia számítási hátterét adó grafikus és AI-gyorsítóchipek piacvezetője.
Más néven: NVIDIA Corporation, NVDA
Az Nvidia 1993-ban alapított amerikai technológiai vállalat, amely eredetileg grafikus processzorok (GPU-k) fejlesztésével foglalkozott videojátékok és számítógépes grafika céljára. Az évek során a GPU-k párhuzamos számítási képességei kulcsfontosságúvá váltak a gépi tanulás és a mély neurális hálózatok tréningezéséhez, így a vállalat fokozatosan a mesterséges intelligencia infrastruktúrájának egyik legmeghatározóbb szereplőjévé vált.
A cég CUDA nevű szoftverplatformja lehetővé teszi, hogy fejlesztők általános célú számításokra használják a GPU-kat, ez az ökoszisztéma pedig szorosan összefonódott a modern AI-kutatással és -fejlesztéssel. Az Nvidia adatközponti GPU-i (például a H100 és utódaik) a nagy nyelvi modellek és más mélytanulási rendszerek betanításának és futtatásának alapvető hardverei, emellett a vállalat hálózati technológiákat, szoftvereket és teljes AI-szervermegoldásokat is kínál.
Az Nvidia piaci súlya és technológiai befolyása miatt az AI-ipar egyik legfontosabb infrastrukturális szállítójának számít: termékei nélkülözhetetlenek a nagy technológiai vállalatok, kutatóintézetek és startupok AI-fejlesztései szempontjából, ezáltal a cég sorsa és üzleti döntései szorosan összefonódnak az AI-terjedés ütemével és irányával.
Nvidia a hírekben
-
Nvidia: a szoftveres keret dönti el az AI-ügynök sikerét, nem a modell
Az Nvidia péntek óta ismert kutatása szerint hosszú távú, sok lépésből álló feladatoknál nem a modell, hanem a köré épített szoftveres keret (harness) a döntő tényező. A cég állítása szerint egy egyedi, memóriakezelésre optimalizált és „felügyelő” komponenssel ellátott keretben a Claude Opus 5 modell 100%-os eredményt ért el az ARC-AGI-3 benchmarkon, amely instrukció nélküli 2D-s játékokból áll. Ugyanez a modell harness nélkül csak 30%-ot ért el, ami így is a legjobb eredmény volt a tesztelt modellek között. Az Nvidia szakembere szerint az ügynök valójában nem csak a modellből áll, hanem az eszközökből, a futásidőből és a hozzáférhető könyvtárakból is, amelyek együtt adják a tényleges teljesítményt. A cikk kontrasztként megemlíti a Microsoft áprilisi kutatását is, amely szerint 19 nagy nyelvi modell mindegyike hibázott hosszú dokumentumszerkesztési feladatoknál.
-
NVIDIA nyílt eszközzel méri, mennyit javítanak az AI-ügynökökön a beépített skillek
Az NVIDIA saját közlése szerint nyílt forráskódú SkillEvaluator eszközt épített, amely három lépésben – statikus ellenőrzés, megkülönböztethetőségi elemzés és élő feladatvégrehajtás izolált környezetben – méri, hogy az úgynevezett verified skillek mennyit javítanak az AI-ügynökök teljesítményén. A vállalat állítása szerint több mint 300 hitelesített skillt teszteltek 30-nál több NVIDIA terméken, két ügynök-keretrendszerben, és a skillek használatával átlagosan 31 pontos javulást mértek a helyesség, felfedezhetőség, hatékonyság és eredményesség terén, a biztonsági kategóriát kihagyva pedig 39 pontosat. Az NVIDIA szerint a javulást inkább a termékdomén és az értékelési módszertan befolyásolja, mint az ügynök-keretrendszer. Az eredmények kizárólag a vállalat saját méréséből származnak, független validálásról a közlemény nem szól.
-
Föderált tanulás vizuális-nyelvi modellekhez: NVIDIA FLARE és FedUMM
Az NVIDIA hivatalos blogbejegyzése bemutatja, hogyan koordinálja a FLARE keretrendszer a vizuális-nyelvi modellek föderált tanítását olyan esetekben, ahol az adatok nem centralizálhatók intézmények között. A megoldás nagyméretű objektumok kiszervezésével, tenzor-streameléssel és lemezalapú aggregációval kezeli a hálózati és memóriakorlátokat. A William & Mary egyetemmel közösen fejlesztett FedUMM csak könnyű LoRA-adaptereket cserél egy fixen tartott BLIP-háttérmodell felett, ami a vállalat állítása szerint kísérleteiben 28,6 GB-ról 0,094 GB-ra csökkentette a kliensenkénti kommunikációt, miközben a teljesítmény közel maradt a centralizált alapmodellekhez. A FedUMM-ot az NVIDIA akadémiai grantprogramja támogatta, és díjat kapott egy szakmai workshopon.
-
Kína kis tételben engedélyezi az Nvidia H200 chipek beszerzését
A Financial Times értesülése szerint Peking kis mennyiségben engedélyezi az Nvidia H200 chipjeinek behozatalát a szárazföldre, hogy a hazai AI-cégek lépést tarthassanak az amerikai versennyel. A The Decoder cikke szerint a ByteDance és a Tencent egyenként mintegy 10 000 H200 processzort kapott, és további vállalatok is követhetik őket, bár a vásárláshoz az NDRC tervhivatal jóváhagyása is szükséges. A H200 már legalább két generációval elmarad az Nvidia legerősebb, exportkorlátozás alá eső chipjeitől, az USA pedig cégenként legfeljebb 100 000 darabot engedélyez. Kína eközben inkább saját gyártóit, például a Huaweit igyekszik erősíteni, a Hongkongba irányuló szállítást pedig a helyi adatközpont- és energiahiány korlátozza. A cikk szerint a kínai AI-laborok technikailag közelítenek az amerikai szinthez, de a rendelkezésre álló inferencia-kapacitásban jelentősen lemaradnak riválisaiktól.
-
NVIDIA: több GPU-s UMAP-számítás 870 GB-os adathalmazon 8 perc alatt
Az NVIDIA saját technikai blogja szerint a cuML és cuVS könyvtárak 25.06-os verziója már több GPU-n is támogatja az UMAP dimenziócsökkentő algoritmus legköltségesebb lépését, az összes szomszédot kereső kNN-gráf felépítését. A vállalat állítása szerint a módszer az adathalmazt kiegyensúlyozott klaszterekre osztja, ezekhez külön-külön számol lokális kNN-gráfot, majd ezeket globális gráffá egyesíti, elkerülve a teljes körű GPU-k közötti kommunikációt. Az NVIDIA mérései alapján a MIRACL és Wiki adathalmazokon nyolc H100 GPU-val akár 74-szeres gyorsulást értek el a becsült CPU-s futásidőkhöz képest, és 870 GB-nyi vektort mindössze 8 perc alatt dolgoztak fel, az elmondásuk szerint a beágyazások pontosságának megőrzése mellett. A korábbi megoldásban csak a transzformációs lépés futhatott több GPU-n, a tanítás egyetlen GPU-ra korlátozódott.
-
Nvidia 1,5 milliárd dollárt fektet az OpenAI ohiói adatközpontjába
A TechCrunch által ismertetett SEC-dokumentumok szerint a Nvidia bejelentette, hogy 1,5 milliárd dollárt fektet az SB Energybe, a SoftBankhoz és az OpenAI-hoz köthető adatközpont-fejlesztőbe. A befektetés biztosítja, hogy a Nvidia legyen a kizárólagos infrastruktúra-beszállító az OpenAI Cincinnati melletti Ports-Pike adatközpontjában, amelyhez a chipgyártó akár 105 milliárd dollár hitelkeretet is nyújt. A létesítmény 4,25 gigawattról 8 gigawattra bővülhet, a helyszínen pedig egy 9,2 gigawattos, 33 milliárd dollár értékű földgáz erőmű is épül egy korábban katonai uránjátás területén. A TechCrunch szerint a földgázerőmű-építés költsége két év alatt 66 százalékkal nőtt, ami a beruházás árát is felhajtja. Az OpenAI saját közleménye csupán azt erősíti meg, hogy csatlakozott a Ports-Pike projekthez, amely dél-ohiói munkahelyeket és közösségi fejlesztéseket is támogat.
-
Nvidia 1,5 milliárd dollárt fektet az OpenAI ohiói adatközpontjába
A Nvidia hétfőn bejelentette, hogy 1,5 milliárd dollárt fektet az SB Energybe, amely a SoftBankhoz és az OpenAI-hoz köthető adatközpont-fejlesztő. A TechCrunch által ismertetett SEC-dokumentumok szerint a befektetés biztosítja, hogy a Nvidia legyen a kizárólagos infrastruktúra-beszállító az OpenAI Cincinnati melletti Ports-Pike adatközpontjában, amelyhez akár 105 milliárd dollár hitelkeretet is nyújt, és amely 4,25 gigawattról 8 gigawattra bővülhet. A telephelyen egy 9,2 gigawattos, 33 milliárd dolláros földgáz erőmű is épül olyan területen, amely korábban az amerikai atomfegyver-programhoz szolgáltatott dúsított uránt. Az OpenAI saját közleménye csak azt erősíti meg, hogy csatlakozott a Ports-Pike projekthez, bővítve közösségi beruházásait és több ezer dél-ohiói munkahelyet támogatva.
-
A Groq 350 millió dollárt vont be neocloud-átállásához, felére csökkent értékeltség mellett
A Groq startup 350 millió dollár friss tőkét szerzett, miközben tovább folytatja átalakulását saját AI-chipeket gyártó cégből Nvidia-alapú GPU-kat kínáló, úgynevezett neocloud-szolgáltatóvá. A kört a Disruptive vezette, Nvidia tervezett részvételével, és a Groq-ot 3,5 milliárd dollárra értékelte, ami jóval elmarad a tavaly szeptemberi 6,9 milliárd dollártól. A cég szóvivője a TechCrunch-nak azt állította, ez nem down round, hanem az Nvidia-licencszerződés utáni új Groq értékelése. A vállalat júniusban már bevont 650 millió dollárt a pivot elindítására, és jelenleg 13 adatközpontot üzemeltet, több millió fejlesztőt kiszolgálva. A cikk szerint nyitott kérdés, hogy a neocloud-modell hosszú távon elég jövedelmező lesz-e a hatalmas beruházások megtérüléséhez.
-
NVIDIA NVFP4-re tömöríti a Nemotron 3.5 Lightning modellt, elérhető AWS-en is
Az NVIDIA technikai blogja szerint kvantálás-tudatos disztillációval (QAD) készült el a Nemotron 3.5 Lightning NVFP4 verziója, amely a teljes pontosságú, 66 GB-os BF16 modellhez képest 22 GB-ra zsugorodik, és a vállalat állítása szerint akár négyszeres áteresztőképességet ér el, közel a BF16 pontosságával. A módszer PTQ-val indul, majd a diákmodellt a fagyasztott tanárhoz igazítja KL-divergencia veszteséggel, ami a cég mérései szerint jobb pontosságmegtartást ad, mint a puszta PTQ. Az AWS bejegyzése szerint a Nemotron 3.5 Lightning – egy 30 milliárd paraméteres, de csak 3 milliárd aktív paramétert használó MoE modell – az Amazon SageMaker JumpStartban is elérhető, nagy volumenű AI-ágensekhez optimalizálva.
-
Francia startup szoftveres trükkökkel gyorsítaná a GPU-alapú AI-következtetést
A francia Kog startup azt állítja, hogy szoftveres optimalizálással jelentősen felgyorsítható az AI-következtetés meglévő adatközponti GPU-kon, például AMD MI300X és Nvidia H200 kártyákon. Májusi technológiai bemutatójuk a Hacker News címlapjára is felkerült, és a vezérigazgató, Gaël Delalleau szerint azóta mintegy 200 konkrét üzleti érdeklődő jelentkezett. A demóban 3000 token/másodperc sebességet értek el, de ezt egy célzottan épített, mindössze 2 milliárd paraméteres kis modellel, a Laneformer 2B-vel mutatták be, amelyet azóta nyílt forráskódúvá tettek. A cég szerint ugyanez a módszer nagy nyelvi modelleknél is működne, ez azonban egyelőre igazolatlan ígéret, mivel az erre optimalizált verzió még fejlesztés alatt áll. Az összefoglaló kizárólag a Kog és vezetője állításain alapul, független mérés nem szerepel a forrásban.
-
Alibaba 2,4 billió paraméteres Qwen-modellje NVIDIA GB300 chipeken fut
Az NVIDIA technikai blogja szerint az Alibaba nyílt súlyokkal publikálta a Qwen3.8-2.4T-A95B (Qwen3.8-Max) modellt, eddigi legnagyobb nyílt modelljét: 2,4 billió összparaméterrel, tokenenként 95 milliárd aktivált paraméterrel, finomszemcsés MoE-architektúrával és teljes, illetve lineáris figyelmet vegyítő megoldással, amely akár egymillió tokenes kontextust és 128 ezer tokenes kimenetet kezel. Az NVIDIA saját mérése szerint a modell külön finomhangolás nélkül, FP8 pontosságon már az első napon GPU-nkánt 4000, felhasználónkénti pedig 350 tokent másodpercenként ér el GB300 NVL72 rendszeren. A cég szerint a jövőben tervezett NVFP4 pontosság további teljesítménynövekedést hozhat, ez azonban még csak kilátás, nem mért eredmény.
-
Nvidia bemutatta a gyors, nyílt Nemotron 3.5 Lightning modellt
Az Nvidia kiadta a Nemotron 3.5 Lightning nevű nyílt súlyozású modellt, amely a vállalat közlése szerint 30 milliárd paraméteres Mixture-of-Experts architektúrát használ, de csak 3 milliárd paraméter aktív egyszerre, és az önműködő AI-ügynökök gyors, nagy volumenű végrehajtási feladataira optimalizálták. A modell a Nemotron 3 Nano 30B A3B utódja, megtartva a hibrid Mamba-Transformer felépítést. A független Artificial Analysis benchmarkplatform szerint a Lightning az Intelligence Indexen 24 pontot ér el, ami megegyezik az OpenAI gpt-oss-120b eredményével, negyedannyi paraméterből, és mintegy 670 token/másodperces sebességgel a mért modellek közül a leggyorsabbnak számít. Az Nvidia engedékeny licenc alatt, súlyokkal és tréningreceptekkel együtt adta ki a modellt.
-
Nvidia 500 milliárd dolláros AI-infrastruktúra finanszírozási terve
Az Nvidia szándéknyilatkozatot írt alá hat nagy pénzügyi céggel – Apollo, BlackRock, Blackstone, Brookfield, Goldman Sachs és KKR –, hogy évek alatt több mint 500 milliárd dollár külső tőkét mozgósítsanak adatközpontok, chipgyárak és erőművek építésére. A Financial Times szerint a hír nyilvánosságra kerülése után az Nvidia részvénye kb. 1,4 százalékot esett, ami több mint 70 milliárd dollár piaci értéket törölt el. A megállapodás kulcseleme, hogy az Nvidia maga garantálja a beépített chipek maradványértékének akár 25 százalékát, ha azok az elvárt szint alá esnek, így átvállal egy részt az amortizációs kockázatból. Jensen Huang szerint ez az arány jóval alacsonyabb, mint más finanszírozási konstrukciókban, és a hardver hosszú élettartamára, illetve az emelkedő bérleti díjakra hivatkozva cáfolja a lufi-aggodalmakat, amelyeket kritikusok, például Michael Burry, hangoztatnak.
-
NVIDIA NeMo Switchyard: modellek közötti terheléselosztó AI-ügynökökhöz
Az NVIDIA a NeMo Switchyard nevű eszközt ismertette, amely az AI-ügynökök feladatait dinamikusan osztja el különböző méretű és képességű nyelvi modellek között, a feladat jellege, a költség és az infrastruktúra alapján. A vállalat közlése szerint a rendszer szolgáltatófüggetlen SDK-t biztosít, automatikus és testre szabható útválasztási algoritmusokat támogat, és elválasztja az útválasztási logikát a konkrét modellszolgáltatóktól. Az NVIDIA saját tesztjei és a LangChain, illetve a Cognition partnerekkel végzett kipróbálás szerint az útválasztás jelentősen csökkentheti a költségeket a pontosság megtartása mellett, ám ezek az adatok a vállalat saját közléséből származnak, független megerősítés nélkül. A cél, hogy egyetlen nagy, drága modell helyett feladatonként a legmegfelelőbb modellt használják.
-
Meta megjelentette a Muse Glimmer nyílt súlyú AI-ügynökmodellt
Meta kiadta a Muse Glimmer nevű 30 milliárd paraméteres, sűrű architektúrájú modellt, amelynek súlyait Apache 2.0 licenc alatt, nyíltan tette elérhetővé a Hugging Face-en. A vállalat szerint a modellt kifejezetten helyi, folyamatosan futó AI-ügynökök számára optimalizálták: egyetlen fogyasztói GPU-n, akár internetkapcsolat nélkül is képes futni, és több mint 100 nyelven, szöveget és képet is kezel. A The Decoder szerint Meta saját benchmarkjai alapján a Glimmer a Google Gemma és az Alibaba Qwen hasonló méretű nyílt modelljeivel versenyképes ügynöki feladatokban, ám a mérés a vállalat saját, nem független tesztkörnyezetében történt. Ez Meta első nyílt modellje a 2025 tavaszi Llama 4 óta, amelyet gyenge fogadtatás és manipulált benchmarkok miatti kritika ért. NVIDIA és Hugging Face már nap-nulla támogatást biztosít a modellhez több futtatókörnyezetben.
-
NVIDIA kiterjesztette a nyílt súlyú Magpie TTS beszédszintetizátor nyelvi támogatását
Az NVIDIA a Hugging Face blogján bemutatta a Magpie Multilingual TTS legújabb kiadását, egy 364 millió paraméteres, nyílt súlyú szövegfelolvasó modellt, amely kaszkádolt beszéd-AI architektúrába illeszthető. A vállalat állítása szerint a modell mostantól 12 nyelvet támogat, a legújabb frissítés három új nyelvvel – modern standard arabbal, koreaival és brazíliai portugállal – bővítette a palettát, és javította több meglévő nyelv minőségét is frissített tréningadatokkal. Az NVIDIA azzal érvel, hogy a nyílt súlyok és a saját infrastruktúrán futtatás lehetővé teszi a késleltetés finomhangolását és a testreszabást, szemben a zárt, „egy API-hívásos” beszéd-megoldásokkal. A cikk elsősorban vállalati termékbejelentés, amely a Magpie NVIDIA NIM-integrációját hangsúlyozza.
-
Google DeepMind diffúziós nyelvmodellé alakította a Gemma 4-et
A Google DeepMind technikai jelentést tett közzé a júniusban kiadott DiffusionGemma modellről. A vállalat állítása szerint nem nulláról építették: a meglévő Gemma-4-26B-A4B modellt alakították diffúziós architektúrává, az eredeti tanítási tokenmennyiség kevesebb mint tíz százalékának felhasználásával. A hagyományos, soronként tokeneket generáló modellekkel szemben a DiffusionGemma 256 tokenes blokkokat párhuzamosan finomít, ami Nvidia H100 gyorsítón a cég szerint mintegy 1500 token másodpercenkénti sebességet ad. A jelentés szerint a kétlépéses tanítás, benne az SD·RL nevű megerősítéses tanulás és mintavevő-desztilláció kombinációja, átlagosan tíz ponttal javította a teljesítményt érvelési benchmarkokon, a válaszok pedig mintegy 50 százalékkal rövidebbek lettek.
-
Nvidia és Amazon milliárdokat fektet AI-energiaellátásba
A The Information szerint az Nvidia akár 3 milliárd dollárt fektethet a texasi Lancium energiafejlesztőbe, amely az OpenAI és az Oracle közös adatközpontját is ellátja; egy 2 milliárd dolláros részesedés a cég kb. 20 százalékát jelentené a 10 milliárd dollárra becsült vállalatban. A Lancium már 4 gigawattra kötött szerződést Texasban, és további 15 gigawattnyi kapacitást fejleszt. A New York Times szerint az Amazon egy Pecos megyei gázüzemű erőmű mögé állt be, amely évi akár 33 millió tonna CO2-t bocsáthatna ki, ami az ország legszennyezőbb erőművévé tenné; a 35 turbina akár 7,65 gigawattot termelhetne egy Amazon-adatközpont számára. Az Amazon szóvivője szerint a klímacélok érvényben vannak, de az AI-adatközpontok nehezítik elérésüket.
-
NVIDIA bemutatta az Alpamayo 2 Super önvezető AI-modellt
Az NVIDIA hivatalos bejelentése szerint az Alpamayo 2 Super egy 34 milliárd paraméteres, nyíltan elérhető vizuális-nyelvi-cselekvési modell, amely önvezető autók fejlesztését hivatott egységesíteni. A rendszer a 32 milliárd paraméteres Cosmos 3 Super Reasoner nevű okfejtő komponenst és egy 2 milliárd paraméteres, diffúzió-alapú Action Expert modult kapcsolja össze, megerősítő tanulással utótanítva. A vállalat állítása szerint akár hét kamerából 360 fokos érzékelést biztosít, és egyetlen modellből ad jövőbeli pályát, okfejtési láncot, magas szintű cselekvési predikciót, jelenet-alapú kérdésválaszolást és automatikus adatannotálást. Az NVIDIA saját méréseket közölt, amelyek szerint a modell több benchmarkon – köztük pályaelőrejelzésben és LingoQA teszten – felülmúlja a korábbi megoldásokat, ezek az adatok azonban független validálás nélkül a vállalat saját közlésén alapulnak.
-
NVIDIA: a World Action Modellek felváltják a robotikai VLA-kat
Az NVIDIA technikai blogja szerint a robotpolitikák új generációja, az úgynevezett World Action Model (WAM) videó-alapú világmodellekre épül, nem a megszokott nyelv-látás (VLM) alapú vision-language-action (VLA) rendszerekre. A cég állítása szerint a WAM-ok jobban általánosítanak új feladatokra, robotokra és környezetekre, mert a tanult fizikai dinamikát használják, nem csak szemantikus leképezést. Az NVIDIA saját, nyílt Cosmos 3 modelljét mutatja be alapként, amely Mixture-of-Transformers architektúrára épül, és rendkívül nagy, több száz millió kép-, videó- és akciómintát tartalmazó adathalmazon tanult. A vállalat szerint a Cosmos 3 munkaállomásos és Jetson-alapú, valós idejű futtatást is lehetővé tesz, kevesebb feladatspecifikus adattal érve el jobb teljesítményt. Az állítások az NVIDIA saját blogbejegyzéséből származnak, független megerősítés nélkül.
-
NVIDIA szerint Vera storage-processzora akár 3,7-szer gyorsabb titkosítási feladatokban
Az NVIDIA saját technikai blogján közölt benchmarkeredményei szerint a Vera BlueField-4 STX storage-processzor – amely 88 Olympus Armv9.2 magot, Spatial Multithreading technológiát és SOCAMM2 LPDDR5X memóriát integrál – felülmúlja az x86 CPU-kat AI-natív adatplatformok tárolási feladataiban. A vállalat állítása szerint a chip titkosításnál 1,43-szoros, dekódolásnál 1,29-szoros, Reed-Solomon hibajavításnál 3,26-szoros, CRC32C integritásellenőrzésnél 3,67-szoros, tömörítésnél 3,29-szoros sebességtöbbletet ér el. Az NVIDIA szerint ez lehetővé teszi, hogy az agentikus AI-munkafolyamatok alacsonyabb energia- és hűtési igény mellett skálázódjanak. Az adatok kizárólag a vállalat saját, független megerősítés nélküli mérésén alapulnak.
-
Kínai chipfejlesztések rengették meg a globális AI-részvénypiacot
A kínai CXMT memóriachip-gyártó sanghaji tőzsdei debütálása 466 százalékos árfolyamemelkedést hozott, ugyanaznap pedig arról érkezett hír, hogy Kína saját mélyultraibolya litográfiai eszközöket fejlesztett, amely technológia korábban a holland ASML monopóliuma volt. A hírek nyomán világszerte estek az AI-hoz kötődő részvények: a Kospi kedden 11,5, szerdán további 6 százalékot zuhant, a Nasdaq korrekcióba süllyedt, az Nvidia pedig több mint 5 százalékot vesztett, és az Apple átvette tőle a legnagyobb tőzsdei vállalat címet. Pénteken az Amazon és a Microsoft erős eredményei nyomán a piacok visszapattantak, de a hónap így is 2008 óta a legrosszabb volt a Kospi számára. A cikk értelmezése szerint a CXMT DRAM-chipeket gyárt, nem GPU-kat, ezért nem az Nvidia, hanem inkább az SK Hynix és a Micron versenytársa lehet.
-
Kínai nyílt AI-modellek szítanak vitát Washingtonban és Szilícium-völgyben
A Guardian szerint az elmúlt hetekben kínai fejlesztésű, ingyenesen letölthető, nyílt súlyú AI-modellek – például a Moonshot AI Kimi K3 nevű rendszere – piaci zavart okoztak, mivel egyes alkalmazásokban felveszik a versenyt az OpenAI és az Anthropic drágább, zárt termékeivel. A lap állítása szerint ez megosztotta mind a Fehér Házat, mind a techipart: egyes chipgyártók és cégek az olcsó nyílt modellek mellett állnak, míg az OpenAI és az Anthropic biztonsági kockázatokra hivatkozva óvna tőlük. Bessent pénzügyminiszter kínai cégek elleni szankciókat helyezett kilátásba állítólagos szellemitulajdon-lopás miatt, míg Lutnick kereskedelmi miniszter startupalapítóktól kapott leveleket a nyílt modellek megtartása mellett. A cikk szerint a Microsoft, az Nvidia, a Palantir és a Meta közös levélben kérte a törvényhozókat, ne korlátozzák a nyílt modellek használatát.
-
Az NVIDIA gyakorlati tervezési útmutatót ad a hosszú kontextusú AI-modellek gyorsításához
Az NVIDIA hivatalos technikai blogja szerint a mesterséges intelligencia modellek figyelem-mechanizmusának teljesítményét a lekérdezés-fejek és kulcs-érték fejek aránya, a fejdimenzió és a szekvenciahossz határozza meg, ezek eltérően hatnak a feltöltési és a dekódolási fázisra. A cég szerint a dekódolás hatékonysága a csoportmérettel skálázódik, míg a feltöltést a szekvenciahossz uralja, ezért 128 vagy 256 fejdimenziót ajánlanak a GPU-memória illesztéséhez. Az NVIDIA négy gyakorlati irányelvet fogalmaz meg fejlesztőknek, köztük a KV-gyorsítótár tömörítését és a párhuzamosítási stratégia megválasztását a KV-fejek száma alapján, a TensorRT-LLM keretrendszerben implementálva. Az elemzés saját mérési adatokra és matematikai számításokra épül, tehát vállalati, gyártófüggő technikai ajánlás.
-
AI-ügynökök biztonsági kockázatai: NVIDIA-teszt és kutatói ütemterv
Az NVIDIA AI Red Team fél éven át tesztelt vállalati AI-ügynököket, és állítása szerint visszatérő hibákat talált: hiányos hozzáférés-szabályozást, tetszőleges kódfuttatást lehetővé tevő eszközöket, kontrollálatlan hálózati kimenetet és nyílt szövegű titkok tárolását. Az NVIDIA szerint a prompt-alapú és LLM-bíróra épülő védelmek megbízhatatlanok social engineering és „frog-boiling” támadásokkal szemben, ezért determinisztikus, a modell irányítási körén kívüli architektúrai kontrollokat javasol: hozzáférés-korlátozást, sandboxolt futtatást, alapértelmezetten tiltó hálózati szabályokat és a tartós titkok kizárását. Egy különálló, lektorálatlan arXiv-preprint iparági és kormányzati szakértők bevonásával négy prioritási témát azonosít az AI-biztonság fejlesztésére, köztük az agentikus AI ellenséges nyomás alatti irányítását.
-
NVIDIA: rejtett konfigurációs hibák lassíthatják az AI-klasztereket
Az NVIDIA technikai blogja szerint azonos H100, GB200 NVL72 vagy GB300 NVL72 hardverből épített AI-klaszterek betanítási teljesítménye jelentősen eltérhet egymástól, akár 8-12 százalékos réssel a referenciaarchitektúrához képest ugyanazon munkaterhelés mellett. A vállalat állítása szerint ennek oka nem a hardver, hanem a kernel, a hypervisor, a BIOS és az NCCL könyvtár beállításaiban felhalmozódó apró hibák, amelyek együtt az Exemplar Cloud minősítéshez szükséges 95 százalékos küszöb elmulasztásához vezethetnek. Négy valós esetet mutatnak be: hiányzó SMMU-képességek Grace CPU-kon, hibás CPU C-state és NUMA beállítások, elégtelen NCCL sor-pár párhuzamosság ConnectX-8 hálón, és a topológiafájlok konténerekbe nem továbbítása.
-
NVIDIA útmutató: önhosztolt, ellenőrzött AI kódolóasszisztens NeMo Guardrails-szal
Az NVIDIA hivatalos technikai blogja útmutatót közöl, amellyel saját infrastruktúrán, StarCoder2-7B NIM végponttal futtatható AI kódolóasszisztens építhető ki. A vállalat állítása szerint ez megoldja három tipikus problémát: a forráskód nem hagyhatja el a hálózatot, a modell időnként kitalált csomagneveket javasol, ami ellátásilánc-kockázatot jelent, és nincs auditnyom, ha egy generált módosítás hibát okoz. A megoldás NeMo Guardrails házirend-réteget használ, amely megtagadja a hozzáférést emberi jóváhagyáshoz kötött fájlokhoz, egy CI-lépés kiszűri a hallucinált csomagokat, Prometheus/Grafana metrikák pedig mérik a hibaarányra gyakorolt hatást. Az NVIDIA szerint a validáció a modellen kívül történik, ami fokozatos bevezetést és auditálható munkafolyamatot tesz lehetővé, legalább 24 GB memóriájú GPU-t igénylő környezetben.
-
NVIDIA GPU-alapú fizikai szimulációt épít egészségügyi robotokhoz
Az NVIDIA saját blogbejegyzésében bemutatta a Medical Physics Simulation keretrendszert, amely az Isaac for Healthcare platform része, és GPU-natív, moduláris szimulációs környezeteket kínál orvosi robotok fejlesztéséhez. A vállalat állítása szerint az endoluminális és sebészeti modulok valós idejű, nagy pontosságú eszköz-anatómia modellezést tesznek lehetővé Warp, Newton Physics és CUDA felhasználásával, célként a klinikai adathiány pótlását megjelölve, mivel a valós demonstrációk száma jellemzően csak néhány száz. Az NVIDIA szerint a Cosmos-H generatív világmodell integrálásával szintetikus adatok és akció-feltételes videó-előrejelzés is előállítható. A leírás kizárólag vállalati technikai blogbejegyzésen alapul, független megerősítés vagy klinikai validáció nem szerepel a forrásban.
-
Az NVIDIA Nemotron 3 Ultra vezeti a nyílt modellek mezőnyét chiptervezési kódolásban
Az NVIDIA saját közleménye szerint az ACE-RTL nevű ágens és a Nemotron 3 Ultra modell kombinációja élen jár a regiszter-transzfer szintű (RTL) chiptervezési feladatokban. A vállalat állítása szerint az iteratív generálás-tesztelés-visszacsatolás munkafolyamatot alkalmazó rendszer a CVDP benchmarkon 97,1 százalékos átlagos sikerarányt ért el kilenc feladatkategóriában, megelőzve a GLM 5.2 és a Kimi K2.6 modelleket, akár 71 százalékkal kevesebb tokenfelhasználás mellett. Az NVIDIA szerint a Nemotron 3 Ultra hibrid Mamba-Attention keverék-szakértői architektúrája és szintetikus RTL-adatokon végzett tanítása teszi lehetővé az olcsó, hosszú kontextusú következtetést, amely alapot adhat a Cadence, Siemens és Synopsys tervezőeszközeivel való integrációhoz. Az állítások a gyártó saját mérésein alapulnak, független megerősítés egyelőre nem ismert.
-
NVIDIA nyílt AI-modellje kvantumszámítógépeket kalibrálna
Az NVIDIA saját blogbejegyzése szerint megjelent az Ising Calibration 1.5, egy 31 milliárd paraméteres, nyílt forráskódú vizuális-nyelvi modell, amely kvantumprocesszorok diagnosztikai kimeneteit értelmezi és javaslatot ad a hangolásukra. A vállalat állítása szerint a modell BF16 pontosságnál 11,4 százalékkal kisebb az előző verziónál, és most először NVFP4-kvantált formában is elérhető, ami egyetlen GPU-n vagy NVIDIA DGX Spark eszközön futtatható. Az NVIDIA a QCalEval nevű benchmarkon mért eredmények alapján azt közli, hogy a modell minden nyílt modellnél jobban teljesít, és felveszi a versenyt a vezető zárt rendszerekkel is. A modellt több kubitmodalitás – szupravezető kubitok, kvantumpöttyök, ionok, neutrális atomok – partneradatain tanították, és a teljes csomag, beleértve a súlyokat és az adatkészleteket, OpenMDW licenc alatt válik elérhetővé.
-
Az NVIDIA nyílt forráskódú NOOA ügynökkeretet mutatott be
Az NVIDIA Labs technikai blogján jelentette be a NOOA (NVIDIA Labs Object-Oriented Agents) nevű, nyílt forráskódú, objektumorientált AI-ügynökkeretet. A vállalat közlése szerint a rendszer minden ügynököt egyetlen Python osztályként kezel, ahol a metódusok a képességeket, a mezők az állapotot, a docstringek pedig a promptokat testesítik meg, a típusannotációk pedig kikényszerített szerződésként működnek. A keretrendszer típusos, kapcsolati memóriát tart fenn egy emberi szemmel is olvasható SQLite-adatbázisban, ami az NVIDIA szerint feleslegessé teszi a kontextus-tömörítést. A cég állítása alapján a NOOA a SWE-bench Verified, a CyberGym L1 és az ARC-AGI-3 benchmarkokon jobb pontosságot és alacsonyabb tokenköltséget ér el a korábbi keretrendszerekhez képest, a kódot és kiértékeléseket pedig nyilvánosan elérhetővé tették.
-
NVIDIA ModelExpress: modellsúlyok villámgyors elosztása GPU-k között a klaszterben
Az NVIDIA bemutatta a ModelExpress (MX) nevű platformot, amely a nagy nyelvi modellek súlyainak klaszteren belüli mozgatását gyorsítja fel. A rendszer a betöltés előtt megkeresi, hol található már kompatibilis súlymásolat, és a leggyorsabb elérhető útvonalat választja: ha egy kiszolgáló társgépen megvannak a súlyok, azokat közvetlenül GPU-ról GPU-ra másolja RDMA-n keresztül az NIXL könyvtár segítségével, elkerülve az objektumtárolót, a lemezt és a gazdagép memóriáját. Az NVIDIA szerint az MX a DeepSeek-V4 Pro súlyait és a JIT kernelgyorsítótárat kevesebb mint 10 másodperc alatt képes átvinni egy új replikába. A platform többszálú streamelést, elosztott atomi gyorsítótárazást és GPUDirect Storage támogatást alkalmaz, valamint integrálódik a vLLM, SGLang, Dynamo és llm-d keretrendszerekkel, így az éles LLM-telepítések hidegindítási és skálázási idejét jelentősen csökkenti.
-
Bizalmas GPU-inferencia teljesítményvizsgálata NVIDIA H100-on Intel TDX környezetben
Kutatók összehasonlító mérést végeztek az NVIDIA H100 GPU-n futó nagy nyelvi modellek hagyományos és bizalmas számítástechnikai módú inferenciája között Intel TDX környezetben. A nem lektorált tanulmány a Mistral-7B és a Qwen3-30B-A3B modelleket vizsgálta. A szerzők szerint a bizalmas mód 21,8–27,8%-kal növelte az első token előállítási idejét, a globális áteresztőképesség pedig 17,7–21,1%-kal csökkent. Zárt hurkú tesztekben a veszteség 11,5–20,2% maradt, de a nagyobb modell hamarabb telítődött. Az eredmények szerint a bizalmas inferencia használható marad, de a kapacitástervezésnek számolnia kell a többletköltséggel.
-
Az NVIDIA bemutatta a Vera CPU-t: Olympus magokkal az ágens AI munkaterhelésekre tervezve
Az NVIDIA technikai blogján ismertette a Vera CPU architektúráját, amelyet az Olympus processzormag köré épített, kifejezetten ágens AI munkaterhelésekre. A vállalat szerint a processzor az egyszálú teljesítmény maximalizálására fókuszál, mivel az ágens rendszerek szekvenciális, elágazás-intenzív és késleltetés-érzékeny programutakat futtatnak, amelyek eltérnek a hagyományos felhős CPU-k terhelésétől. Az NVIDIA állítása alapján a chip 3,4 TB/s sávszélességű koherenciafabrikot és akár 1,2 TB/s összesített sávszélességű LPDDR5X memóriát tartalmaz. A skálázhatóságot koherens NVLink-C2C, PCIe 6.4, CXL 3.1 és bizalmas számítástechnikai megoldások támogatják.
-
Az NVIDIA Nemotron 3 Nano modell testreszabása percek alatt elvégezhető a Prime Intellect Lab platformon
Az NVIDIA technikai blogján közzétett útmutató szerint a Nemotron 3 Nano nyílt modell testreszabása a Prime Intellect Lab platformmal mindössze öt perc helyi beállítást igényel. A bemutatott munkafolyamat három lépésből áll: kiindulási teljesítmény mérése, megerősítéses tanulás (reinforcement learning) futtatása egy Python matematikai környezetben, majd az eredmények kiértékelése – a folyamat végén letölthető LoRA adapter jön létre. Az NVIDIA szerint a testreszabás után jelentős pontosságjavulás érhető el. A blogbejegyzés kiemeli, hogy ugyanez a folyamat alkalmazható a nagyobb Nemotron 3 Super és Ultra modellekre is, a nyílt súlyok, adatok és tanítási receptek pedig a reprodukálhatóságot és az átláthatóságot szolgálják. A megoldás lényege, hogy az infrastrukturális és szaktudásbeli akadályokat a felhőalapú platform nagymértékben csökkenti.
-
Az AMD akár 5 milliárd dollárt fektet az Anthropicba, cserébe a Claude-fejlesztő az AMD chipjeit választja
Az AMD bejelentette, hogy akár 5 milliárd dolláros befektetést hajt végre az Anthropicban – a The Verge beszámolója szerint az ügylet részeként az Anthropic akár 2 gigawattnyi kapacitásban telepíti az AMD Instinct MI450 AI-gyorsítóit a chipgyártó új Helios rack-szintű rendszerében. Az első gigawattnyi kapacitást 2027 első felében tervezik üzembe helyezni. A partnerség emellett többéves mérnöki együttműködést is tartalmaz: az AMD saját szoftverfejlesztésében és terméktervezésében is alkalmazza majd az Anthropic Claude modelljét. Az Anthropic korábban a Google-lal, az Amazonnal, a SpaceX-szel és a TeraWulffal is kötött infrastrukturális megállapodásokat. A korábbi hírekhez képest – amelyek egy nem megerősített GitHub-profil alapján jelezték, hogy az Anthropic tesztelheti az AMD hardverét – most hivatalos, nagyszabású stratégiai megállapodás született a két cég között.
-
A TensorRT motorépítés immár valós időben nyomon követhető és megszakítható
Az NVIDIA technikai blogján bemutatta, hogyan használható a TensorRT-ben több kiadás óta elérhető IProgressMonitor API a motorépítés valós idejű követésére és megszakítására Python és C++ környezetben. A cég szerint nagy modellek és mély taktikakeresés akár percekig tartó építést eredményezhet, ami felügyelet nélkül elvesztegetett GPU-órákat okozhat. Az API három metódus felülírásával fa struktúrájú fáziskövetést és Ctrl-C vagy programozott leállítási jelekre való reagálást tesz lehetővé. Az integráció révén a haladási információ terminálba, IDE-be, HTTP-szolgáltatásba vagy ügynök-futtatókörnyezetbe továbbítható, de szálbiztonság és megszakítási késleltetés gondos kezelését igényli.
-
Az NVIDIA GB300 NVL72 világrekordot állított a DeepSeek-V3 671B MoE-modell előtanításában
Az NVIDIA saját technikai blogján jelentette be, hogy a GB300 NVL72 rendszer GPU-nként 1 648 TFLOPS teljesítménnyel világrekordot ért el a DeepSeek-V3 671B paraméteres Mixture of Experts (MoE) modell előtanításában. A vállalat szerint a teljesítmény kulcsa a teljes rack-szintű együttervezés: az ötödik generációs NVLink GPU-nként 1,8 TB/s sávszélességet és összesen 130 TB/s nem blokkoló all-to-all kommunikációt biztosít. Az NVIDIA állítása alapján szoftveres optimalizálásokkal – a Megatron Core, a TorchTitan és a JAX keretrendszerek révén – 3–10-szeres teljesítménynövekedést értek el az előző generációhoz képest, miközben a GPU-nkénti áteresztőképesség 256-ról 1 024 GPU-ra skálázva is 97% felett maradt. A MoE-architektúrák hatékonyságának lényege, hogy a tokenek csak a paraméterek kis részhalmazát aktiválják, ami viszont fokozott kommunikációs igényt támaszt a GPU-k között.
-
Az Nvidia a Vera Rubin platformmal a teljes adatközponti chippiacot célozza meg
Az Nvidia a Vera Rubin rendszerrel nemcsak GPU-, hanem CPU-szállítóként is pozicionálni kívánja magát az AI-adatközpontok piacán – derül ki a WIRED beszámolójából egy Santa Clara-i műhelybeszélgetésről. A Vera Rubin NVL72 rack 36 Vera CPU-t és 72 Rubin GPU-t integrál egyetlen folyadékhűtéses egységbe, és az Nvidia állítása szerint wattonként tízszer annyi tokent képes feldolgozni, mint az előző generációs Blackwell. Ian Buck, az Nvidia gyorsított számítástechnikáért felelős alelnöke szerint a cég párhuzamosan fejleszt új CPU- és GPU-architektúrákat. A WIRED szerint az OpenAI már használatba vett egy Vera Rubin rackot. Az Nvidia műszaki blogja részletezi, hogy a Rubin GPU 336 milliárd tranzisztort, 288 GB HBM4 memóriát és harmadik generációs Transformer Engine-t tartalmaz, amelyet kifejezetten az ágens jellegű, többlépéses AI-feladatokra optimalizáltak.
-
A Microsoft kiterjeszti AMD-partnerségét, az Nvidia chipmonopóliuma gyengül az AI-piacon
A Microsoft hivatalosan bejelentette, hogy az Azure felhőinfrastruktúráját az AMD legújabb Helios AI-platformjával és következő generációs EPYC processzoraival bővíti. Az együttműködés keretében három új virtuálisgép-típus érkezik: HDv2 adatfeldolgozásra, HXv2 elektronikai tervezésautomatizálásra és ND MI455X v7 AI-következtetési feladatokra. A The Decoder szerint az AMD egy másik nagy ügyfelet is megszerezhet: egy nyilvános GitHub-profil arra utal, hogy az Anthropic teszteli az AMD hardverét, de ez egyelőre nem megerősített. Satya Nadella szerint az ügyfeleknek több választási lehetőségre van szükségük az AI-infrastruktúrában, míg Lisa Su mérföldkőnek nevezte a partnerséget. Az Nvidia továbbra is erős árképzési pozícióban van, de az AMD és más egyedi chipgyártók egyre komolyabb versenyt támasztanak.
