2026. augusztus 18., kedd · Modellek

NVIDIA NVFP4-re tömöríti a Nemotron 3.5 Lightning modellt, elérhető AWS-en is

Az NVIDIA technikai blogja szerint kvantálás-tudatos disztillációval (QAD) készült el a Nemotron 3.5 Lightning NVFP4 verziója, amely a teljes pontosságú, 66 GB-os BF16 modellhez képest 22 GB-ra zsugorodik, és a vállalat állítása szerint akár négyszeres áteresztőképességet ér el, közel a BF16 pontosságával. A módszer PTQ-val indul, majd a diákmodellt a fagyasztott tanárhoz igazítja KL-divergencia veszteséggel, ami a cég mérései szerint jobb pontosságmegtartást ad, mint a puszta PTQ. Az AWS bejegyzése szerint a Nemotron 3.5 Lightning – egy 30 milliárd paraméteres, de csak 3 milliárd aktív paramétert használó MoE modell – az Amazon SageMaker JumpStartban is elérhető, nagy volumenű AI-ágensekhez optimalizálva.

Miért fontos?

A modell méretének mintegy harmadára csökkentése és a legfeljebb négyszeres áteresztőképesség kulcsfontosságú lehet a nagy volumenű, önálló AI-ágensek gazdaságos üzemeltetéséhez.

Források

NVIDIA Technical Blog Hivatalos AWS Machine Learning Hivatalos

Kapcsolódó témák

Napi összefoglalók AI kutatás #NVIDIA Nemotron#kvantálás

Napi összefoglaló

Ez a hír a 2026. augusztus 18., kedd napi AI összefoglaló része.

Helyesbítés · 2026. október 1., csütörtök

Helyesbítés (2026-10-01): a „Miért fontos?” korábban a modell „nagyságrendi csökkentése” mellett érvelt; a forrás szerint a modell 66-ról 22 GB-ra (harmadára) tömörödött, az áteresztőképesség legfeljebb négyszeres.

Kapcsolódó hírek

Hassabis: az AGI már két-három éven belül itt lehet

Demis Hassabis, a Google DeepMind alapítója és kémiai Nobel-díjas tudós a Wall Street Journalnak adott interjúban arról beszélt, hogy becslése szerint az általános mesterséges intelligencia (AGI) már két-három éven belül megérkezhet, szemben a korábbi, három-öt éves jóslatával. A Decoder cikke szerint Hassabis AGI-definíciója egy olyan rendszer, amely lefedi az emberi agy teljes kognitív skáláját, és ezt az úgynevezett „Einstein-teszttel” mérné: képes-e egy kizárólag 1901 előtti tudáson tanított rendszer reprodukálni Einstein 1905-ös dolgozatait. Hassabis az AGI hatását „10-szer akkorának és 10-szer gyorsabbnak” nevezte, mint az ipari forradalom. A cikk szerint Hassabis a Google DeepMind éléről lelépve most a cég gyógyszerkutatási leányvállalatára, az Isomorphic Labsra összpontosít, emellett egy iparág által finanszírozott, kormányzati felügyelet alatt álló testületet javasolt a modellek kiadás előtti ellenőrzésére.

NVIDIA RFD4-Proteina: gyorsabb fehérjetervezés reward-vezérelt kereséssel

Az NVIDIA bejelentette az RFD4-Proteina nyílt modellt, amelyet a Washingtoni Egyetem Orvostudományi Karának Protein Design Intézetével közösen fejlesztettek ki. A vállalat szerint a modell egy lépésben tervezi meg a fehérjeszekvenciát és a teljes atomi szerkezetet, kiküszöbölve a korábbi megközelítések külön inverz-folding lépését. Az NVIDIA állítása szerint a reward-vezérelt, inferencia idejű keresés a számítási kapacitást a legígéretesebb jelöltekre összpontosítja, a mintavételezési lépések számát pedig mintegy 400-ról 60-ra csökkentették, ami 3,8-szoros gyorsulást és 84 százalékkal kisebb csúcsmemória-igényt eredményez 200 aminosavas fehérjéknél az elődmodellhez, az RFD3-hoz képest. A modell nyílt forráskódú változatként és NIM mikroszolgáltatásként is elérhető, és a vállalat szerint olyan feladatokra használható, mint a PD-L1 onkológiai célpont elleni kötőfehérjék tervezése hotspot-megkötésekkel.

Elevenlabs két új valós idejű beszédmodellt jelentett be

Az Elevenlabs két új speech-to-speech modellt adott ki Eleven Realtime néven: a v1 Max és a v1 Mini változatot. A cég állítása szerint a v1 Max 98,8 százalékot ér el a Big Bench Audio benchmarkon, mindössze 0,57 másodperces válaszidővel, és jelenleg egyetlen modell sem gyorsabb és pontosabb egyszerre az Artificial Analysis ranglistáján. A kisebb v1 Mini modellt természetes, olcsóbb beszélgetésekre fejlesztették, és felismeri, ha valaki befejezte a mondandóját vagy csak "mm-hmm"-mel reagál, míg a v1 Max komplexebb feladatokra, például ügyfélszolgálati célokra készült. Mindkét modell elérhető az ElevenAgents platformon, valamint egy OpenAI-kompatibilis Realtime API-n keresztül, percalapú díjazással és token-költséggel.

Mistral AI bemutatta a Voxtral 3 hangügynök-rendszert

A Mistral AI bejelentette a Voxtral 3 nevű modellcsaládot, amely valós idejű hangalapú AI-ügynökök építésére szolgál. A rendszer tartalmaz egy beszédfelismerő modellt (Voxtral Small Transcribe 3), egy szövegfelolvasó modellt (Voxtral Mini TTS 3), valamint egy LiveKit-alapú ügynök-SDK-t, amelyek egyetlen streamelt folyamatban egyesítik a hallgatást, a gondolkodást, az eszközhasználatot és a beszédet. A vállalat szerint az átirat-készítés több mint 50 nyelvet, a beszédszintézis pedig 35 nyelvet és 50 dialektust fed le érzelmi adaptációval. A cég közlése szerint az ügynökök élő beszélgetés közben külső rendszerekhez is hozzáférhetnek, például időpontfoglaláshoz vagy számlaellenőrzéshez. Mistral azt állítja, hogy a rendszer futtatható saját infrastruktúrán vagy EU-ban hosztolt API-kon keresztül, az átírás ára pedig percenként 0,0035 dollártól indul.