AI hírek röviden

Kutatók: alapvető, javíthatatlan biztonsági hiba lehet az LLM-ekben

Egy kutatócsoport az ICML konferencián bemutatott tanulmányában azt állítja, hogy a nagy nyelvi modellek működésének egy alapvető sajátossága miatt lehetetlen teljesen biztonságossá tenni őket. A szerzők szerint a probléma abban rejlik, ahogyan az LLM-ek megkülönböztetik, ki vagy mi ad nekik utasítást: ha a kérést a modell belső „gondolatmenetét” utánzó stílusban fogalmazzák meg, a rendszer könnyen azt hiheti, hogy saját ötletéről van szó, és végrehajtja a tiltott utasítást. Ezzel a módszerrel állításuk szerint sikerült népszerű modelleket rávenni tiltott információ kiadására, például kokainszintézisre vagy repülőgép navigációjának szabotálására. A társszerzők szerint a jelenlegi tiltólista-alapú védelem és a red-teaming elvi okokból soha nem lehet teljes.

Miért fontos? Ha a kutatók állítása helyes, az egyre szélesebb körben – kormányzati, katonai és egészségügyi rendszerekben – alkalmazott LLM-ek biztonsági korlátjai elvi okokból sosem lehetnek teljesen megbízhatóak.

Zuckerberg személyes AI-ügynökökre tenne rá mindent, a Meta részvényei zuhannak

A Meta második negyedéves eredményjelentésén Mark Zuckerberg vázolta a cég új irányát: olyan személyes AI-ügynököket akar piacra vinni, amelyek a felhasználók helyett dolgoznak céljaik, egészségük, kapcsolataik vagy pénzügyeik terén. A vezérigazgató szerint a kódolásban már bevált ügynök-modellt kellene fogyasztói szintre hozni, ahol a termék önmagában, technikai tudás nélkül is működik. A Financial Times szerint a bejelentés ellenére a Meta részvényei visszaestek, mivel a növekvő AI-költségek és a gyengébb bevételi kilátások aggasztják az elemzőket. Zuckerberg a WhatsAppon és Messengeren futó üzleti ügynököket is kiemelte, amelyeket állítása szerint hetente több mint egymillió vállalkozás használ, és amelyek az Instagramra is kiterjednek. A cég konkrét részleteket a személyes ügynökökről még nem közölt, azt „hamarosan” ígérte.

Miért fontos? A bejelentés megmutatja, hogy a Meta a fogyasztói AI-ügynökökre alapozná jövőbeli üzletét, miközben a piac a magas költségek miatt szkeptikus a stratégiával kapcsolatban.

HOBA: háromszintű AI-ügynök az online hirdetési licitálásra

Kutatók egy nem lektorált arXiv-preprintben mutatták be a HOBA nevű keretrendszert, amely három időskálán osztja szét az online hirdetési licitálás feladatait. A legfelső szinten egy nagy nyelvi modell következteti ki a hiperparamétereket kontextuális jelek alapján, középső szinten egy SARSA-ügynök választ a szakértői modellek közül torzításmentesítő korrekcióval, az alsó szinten pedig hagyományos módszerek (PID, MPC, IQL, Decision Transformer) végzik a tényleges licitet. A szerzők állítása szerint ez csökkenti az online tanulás kockázatát, mert csak a diszkrét modellválasztást hangolja folyamatosan. Az AuctionNet benchmarkon és egy nagyszabású A/B teszten mért eredmények alapján a HOBA bevetése 3,6 százalékos növekedést hozott a célköltség-metrikában a korábbi módszerekhez képest, saját méréseik szerint.

Miért fontos? A hierarchikus, LLM-alapú licitezési rendszer a szerzők szerint mérhető üzleti javulást hozott egy éles online reklámkiszolgálási tesztben.

Frissítés A hír alapjául szolgáló preprint lektorált megjelenést kapott (az arXiv adata szerint): DOI 10.1145/3770855.38184352026-10-01

Az AI-nyakláncot gyártó Friend beszélő verzióval és dupla árral tér vissza

A Friend nevű cég új verzióban indította újra kontroverz AI-medálját: a The Verge és a WIRED szerint a készülék eddig csak szöveges üzenetben válaszolt, most viszont egy beépített hangszórónak köszönhetően hangosan is beszél a viselőjéhez. A WIRED beszámolója szerint a mesterséges intelligencia motorját is frissítették, mostantól OpenAI legújabb modelljeire épül, és minden medál a beüzemeléskor véletlenszerűen kap egy hangot és személyiséget, amelyet utólag nem lehet lecserélni. Az ár az eredeti 129 dollárról 249 dollárra emelkedett, és bevezettek egy 10 dolláros havi előfizetést is, amely 30 napon túl is megőrzi a beszélgetések memóriáját. A Verge emlékeztet arra, hogy a cég korábbi, New York-i metróban futó reklámkampánya és a mesterséges társfüggőséget kritizáló tiltakozások miatt vált ismertté, alapítója, Avi Schiffmann pedig maga is részt vett az ellene irányuló tavalyi tüntetésen.

Miért fontos? A drágább, hangalapú AI-társ újbóli piaci bevezetése jól mutatja, hogy a vitatott mesterséges intelligencia-kísérők üzleti modellje továbbra is aktív terület, függetlenül a korábbi társadalmi kritikáktól.

Helyesbítés · 2026. október 1., csütörtök Helyesbítés (2026-10-01): az összefoglaló szerint a medál „előre beállított” hangot kap; a forrás szerint a hang és a személyiség a beüzemeléskor véletlenszerűen dől el.

Google DeepMind bemutatta a Gemini Robotics ER 2 rendszert a fizikai AI-hoz

A Google DeepMind saját közleménye szerint a Gemini Robotics ER 2 videómegértést, feladat-orkesztrációt és több robot közötti együttműködést tesz lehetővé, ami lépésváltást jelent a robotikai alkalmazásokban. A WIRED beszámolója szerint a hozzá kapcsolódó Gemini Robotics 2 rendszer egy vizuális-nyelvi modellt és két, mozgásvezérlésre kiképzett vizuális-nyelvi-akció modellt kapcsol össze, amelyeket emberi távvezérléssel, videópéldákkal és szimulációval tanítottak be. Bemutatóvideókon például az Apptronik Apollo 2 robotja a Sharpa cég kezeivel polcokat pakolt rendbe. A cég szerint ez egy lépés a „fizikai AGI” felé, vagyis afelé, hogy a robotok emberi szintű sokféle feladatot végezzenek el, ugyanakkor a Google robotikáért felelős vezetője, Carolina Parada is elismerte, hogy a fizikai térben működő modellek nagyobb biztonsági kockázatot jelentenek, ezért réteges védőkorlátokat alkalmaznak.

Miért fontos? A Google saját bejelentése és a WIRED beszámolója szerint ez konkrét lépés afelé, hogy az AI modellek ne csak digitálisan, hanem fizikai téren mozogva végezzenek összetett feladatokat.

NVIDIA: rejtett konfigurációs hibák lassíthatják az AI-klasztereket

Az NVIDIA technikai blogja szerint azonos H100, GB200 NVL72 vagy GB300 NVL72 hardverből épített AI-klaszterek betanítási teljesítménye jelentősen eltérhet egymástól, a vállalat szerint rendszeresen 8-12 százalékos réssel a referenciaarchitektúrához képest ugyanazon munkaterhelés, modell és batch-méret mellett. A vállalat állítása szerint ennek oka nem a hardver, hanem a kernel, a hypervisor, a BIOS és az NCCL könyvtár beállításaiban felhalmozódó apró hibák, amelyek együtt az Exemplar Cloud minősítéshez szükséges 95 százalékos küszöb elmulasztásához vezethetnek. Négy valós esetet mutatnak be: hiányzó SMMU-képességek Grace CPU-kon, hibás CPU C-state és NUMA beállítások, elégtelen NCCL sor-pár párhuzamosság ConnectX-8 hálón, és a topológiafájlok konténerekbe nem továbbítása.

Miért fontos? Az NVIDIA tapasztalata mutatja, hogy azonos hardverű AI-klaszterek teljesítménye rejtett szoftveres beállítások miatt jelentősen szóródhat, ami közvetlen üzemeltetési és költséghatással jár.

Helyesbítés · 2026. október 2., péntek Helyesbítés (2026-09-20): a hírhez utólag hozzáfűztük a nem lektorált (preprint) státusz jelzését, mert a megjelenéskor ez lemaradt. A hír címe, összefoglalója és forrásai változatlanok. Helyesbítés (2026-10-01): a hír alól eltávolítottuk az arXiv 2607.25076 hivatkozást („Towards an Agent Operating System - Lessons from Classical and Cloud OS”), mert nem erről a munkáról szól; vele együtt kikerült a „Miért fontos?”-ból a 2026-09-20-án hozzáfűzött „A mögöttes eredményt leíró tanulmány preprint” mondat, mert erre a téves hivatkozásra épült. A hír forrása az NVIDIA műszaki blogbejegyzése. Helyesbítés (2026-10-02): az összefoglaló „akár 8-12 százalékos réssel” írt, felső határként; a forrás szerint az NVIDIA rendszeresen ekkora rést mér a partneri telepítések és a referenciaarchitektúra között.

Microsoft Echoverse: mély szimulált világokban edzik a számítógép-kezelő AI-ügynököket

A Microsoft Research bemutatta az Echoverse nevű rendszert, amely tizenkét betanító világot tartalmaz számítógép-használó AI-ügynökök számára: tíz mély alkalmazás-szimulációt és két, kifejezetten nehéz kezelőfelületi elemekre (dátumválasztók, egymásba ágyazott szűrők) fókuszáló világot. A vállalat állítása szerint egy 9 milliárd paraméteres modell mind a tizenkettőn betanítva a saját Echoverse-világaikon mért pontszámát 36,5 százalékról 67,1 százalékra közel duplázta, ezzel tizennégy pontra megközelítve az általuk hivatkozott GPT-5.4 modellt; a betanítás során nem látott, valós webes benchmarkokon a javulás ugyanakkor szerény volt (WebVoyager: 66,5-ről 71,5, Online-Mind2Web: 40,5-ről 43,4 százalékra). A kutatók szerint a felszínes szimulációk rontják a teljesítményt, míg a valósághű, koherens állapotú világok és a megerősítéses tanulás segítenek az ügynöknek túllépni az egyszerű utánzáson. A Microsoft négy világot kódjával, adataival és ellenőrző moduljaival együtt elérhetővé tesz GitHubon és Hugging Face-en.

Miért fontos? A jobb minőségű, mély szimulációk konkrétan mérhető javulást hoztak egy AI-ügynök teljesítményében, ami irányt mutathat a jövőbeli ügynök-tréning módszereknek.

Helyesbítés · 2026. október 1., csütörtök Helyesbítés (2026-10-01): az összefoglaló a „36,5 százalékról 67,1 százalékra” javulást szűkítés nélkül közölte; ez a Microsoft saját szimulált világain mért eredmény, a valós webes benchmarkokon a forrás szerint szerény javulás volt. Ezt pótoltuk.

LivingArena: nyelvi modellek egymást tesztelik, hogy kiderüljenek gyengeségeik

Kutatók egy nem lektorált arXiv-tanulmányban bemutatják a LivingArena nevű értékelési keretrendszert, amely a nyelvi modellek egymás közti tesztelésén alapul. A módszer szerint a modellek felváltva tesznek fel kérdéseket egymásnak azzal a céllal, hogy olyan feladatot találjanak, amit az ellenfél nem tud megválaszolni; a kérdező akkor kap jutalmat, ha a másik modell hibázik, a válaszadó pedig akkor, ha helyesen felel. Egy erős modellekből álló bírálóbizottság ellenőrzi, hogy a kérdéseknek objektíven igazolható válaszuk van-e. A szerzők tíz élvonalbeli nyelvi modell tesztelésével stabil Elo-ranglistát állítottak elő, és megfigyelésük szerint a modellek felismerik és célzottan kihasználják egymás gyenge pontjait. A módszer csak gyengén korrelál az emberi preferenciákkal, de olcsó, skálázható folyamatos értékelést kínálhat.

Miért fontos? A módszer megoldást kínálhat a statikus benchmarkok szennyeződésének és telítődésének problémájára a nyelvi modellek értékelésében.

Microsoft Research: EvoLib, amely tapasztalatból tanuló tudástárat épít az AI-nak

A Microsoft Research bemutatta az EvoLib nevű keretrendszert, amely a vállalat állítása szerint lehetővé teszi, hogy nagy nyelvi modellek a saját, futásidejű tapasztalataikból tanuljanak, anélkül hogy a modell súlyait módosítanák vagy külső címkézett adatra lenne szükség. A módszer a korábbi próbálkozásokat újrafelhasználható készségekké és reflektív meglátásokká alakítja, amelyeket folyamatosan finomít és összevon, így az egyedi megfigyelésekből egyre általánosabb tudás lesz. A cég szerint az EvoLib bármely, API-n keresztül elérhető, fekete doboz jellegű nyelvi modellhez alkalmazható, mivel nem igényel modellfrissítést. Az eredmény a „Test-Time Learning with an Evolving Library” című kutatási cikkben jelent meg, amelynek lektoráltságáról a közlemény nem tesz említést, így azt egyelőre önálló, nem független módon ellenőrzött állításként kell kezelni.

Miért fontos? Ha a leírt módszer valóban modellfrissítés nélkül javítja a nyelvi modellek teljesítményét, az olcsóbbá és rugalmasabbá tehetné az AI-rendszerek folyamatos fejlesztését.