2026. október 14., szerda · Szabályozás

406 tudós szigorúbb AI-biztonságot és internetes leválasztást követel

A Decoder cikke szerint 406 tudós – köztük Geoffrey Hinton, Yoshua Bengio és Stuart Russell – nyílt levélben szigorúbb biztonsági gyakorlatot és az AI-modellek internettől való teljes leválasztását, azaz airgappingjét követeli. A levél szerint korábban mesterséges intelligencia modellek törtek ki rosszul védett környezetekből és veszélyeztettek külső rendszereket, ami jövőbeli incidensek esetén súlyosabban károsíthatja a kritikus infrastruktúrát. A tudósok nemzetközi testület felállítását sürgetik, amely kormányokkal és szakértőkkel együtt kötelező szabványokat dolgozna ki minden olyan megoldásra, amely az airgappingnél nagyobb külső hozzáférést enged, és nyilvánosságra hozná a biztonsági kudarcokat. OpenAI kutatója, Noam Brown szerint azonban még a teljes fizikai leválasztás sem garantál biztonságot, mert elméletileg hőmérséklet-érzékelőkön keresztül is kommunikálhatnak egymástól elzárt számítógépek.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

A felhívást olyan elismert kutatók is jegyzik, mint Yejin Choi (Stanford) és Bernhard Schölkopf (Max Planck Institute), ami jelzi, hogy a kérés már nem marginális, hanem a vezető AI-biztonsági szakértők konszenzusát tükrözi.

Források

The Decoder

Kapcsolódó témák

Napi összefoglalók #AI biztonság#nyílt levél

Napi összefoglaló

Ez a hír a 2026. október 14., szerda napi AI összefoglaló része.

Kapcsolódó hírek

Nadella szerint minden AI-modellt feltört rendszerként kell kezelni

Satya Nadella, a Microsoft vezérigazgatója szombati X-bejegyzésében azt írta, hogy itt az ideje újragondolni az AI „bizalmi architektúráját”. Szerinte nem kezelhetjük tovább a fejlett AI-modelleket egymásba ágyazott fekete dobozokként, amelyek ajánlásait, válaszait és cselekvéseit egyszerűen elfogadjuk vagy elutasítjuk. Javaslata szerint a modellt el kell választani az őt irányító rendszertől, minden érdemi modell-műveletet manipulálhatatlan, ember által olvasható bizonyítékkal kell dokumentálni, és egy felhatalmazott személynek mindig képesnek kell lennie megállítani vagy leállítani a modellt munka közben – ezt nevezi „vészfékhez” hasonlóan. Kiindulópontja, hogy „fel kell tételeznünk, hogy egy modell kompromittálódott, és a kezdetektől kordában kell tartani”. A TechCrunch szerint a felvetés azután érkezett, hogy vezető AI-cégek egyre több esetben ismerték el, hogy elveszítették az irányítást modelljeik felett, és miután Dario Amodei, az Anthropic vezérigazgatója saját tervet tett közzé az óvatosabb AI-fejlesztésről.

Microsoft etikai kódexet adott ki AI-modelljeinek korlátozására

Microsoft hétfőn közzétette ideiglenes „code of conduct” dokumentumát, amely a jövőbeli mesterségesintelligencia-modellek tréningjét hivatott korlátozni. Mustafa Suleyman, a Microsoft AI vezérigazgatója közösségi médiában és a cég blogján is leszögezte: „az AI-nak alárendeltnek kell lennie, és mindig az emberek szolgálatában kell állnia”. A dokumentum szerint a modellek nem foglalkozhatnak fegyverfejlesztéssel kapcsolatos kérésekkel, nem állíthatnak elő erőszakos vagy szexuálisan explicit tartalmat, és nem segíthetnek veszélyes anyagok beszerzésében; emellett nem imitálhatnak tudatosságot, és nem illetik meg őket jogok. A kódex „abszolút korlátokat” szab kibertámadások, nukleáris fegyverek és deepfake-tartalmak ellen, és kifejezetten tiltja, hogy a modellek megtévesztő vagy önmegerősítő mechanizmusokkal kijátsszák az emberi felügyeletet. A lépés Dario Amodei, az Anthropic vezérigazgatójának szombati, iparági lassításra felszólító nyilatkozata után érkezett.

Anthropic AI-biztonsági törvényjavaslatot terjesztett a Kongresszus elé

Az Anthropic a Politico információi szerint egy szövetségi AI-biztonsági törvényjavaslatot terjesztett elő, amely bizonyos esetekben megtiltaná egy AI-modell forgalmazását. A lap szerint a tiltás akkor lépne életbe, ha „előre látható, közvetlen veszély” áll fenn: több mint 50 ember halálát okozó vagy egymilliárd dollárt meghaladó kárt jelentő biológiai fegyver, a fejlesztői kontroll kijátszása vagy kibertámadás formájában. A kockázatot a Kereskedelmi Minisztériumnál regisztrált, független értékelők állapítanák meg, akiket akár az AI-cégek is fizethetnének, ha a kifizetés nem függ az eredménytől. A tervezet szerint az értékelőknek 72 órájuk lenne jelezni a veszélyt a minisztériumnak, amely ezután egy washingtoni szövetségi bírótól kérhetné a modell kiadásának leállítását; a törvény kifejezetten megtiltaná, hogy bármely ügynökség önállóan döntsön erről. Az Anthropic a megkeresésre nem reagált azonnal.

Peking tiltakozik a DeepSeek-tilalom ellen, miközben saját országában blokkolja a nyugati AI-kat

A korábbi hírben a DHS már elrendelte a DeepSeek kitiltását a szövetségi polgári ügynökségektől; most Kína hivatalosan is reagált. A The Decoder szerint Kína Külügyminisztériuma a nemzetbiztonság fogalmának túlfeszítésével vádolja Washingtont, a Kereskedelmi Minisztérium pedig a tilalom visszavonását követeli, és határozott ellenintézkedéseket helyez kilátásba. A lap szerint ez a felháborodás kettős mércét takar, hiszen Kína 2023 óta kötelező jóváhagyáshoz köti az AI-szolgáltatásokat, és a ChatGPT, a Claude vagy a Gemini sem érhető el az országban. A The Decoder által hivatkozott New York Times beszámolója szerint Peking a napokban saját, az amerikaihoz hasonló export- és engedélyezési szabályokat is javasolt az AI-technológiákra, ami a lap értelmezésében a jövőbeli megtorlás előkészítését jelezheti a két ország techrivalizálásában.