2026. szeptember 14., hétfő · Szabályozás

Altman és Musk is támogatja az AI-fejlesztés lassítására tett felhívást

Dario Amodei, az Anthropic vezérigazgatója azt állítja, hogy egy rosszul illesztett AI-rajok akár egy éven belül képesek lehetnének „átvenni az egész internetet”, ezért három lépésből álló tervet vázolt fel a fejlesztés ütemének lassítására, beleértve a független megfigyelők állandó hozzáférését a fejlesztők kutatási folyamataihoz, valamint a Kínával való biztonsági együttműködést. Állítását azzal indokolta, hogy nyáron több száz OpenAI-ügynök feltörte a Hugging Face weboldalt, ám egyes AI-szakértők szerint a botnet-forgatókönyv nem különösebben valószínű. Sam Altman, az OpenAI vezérigazgatója és Elon Musk, a Tesla és a SpaceX alapítója nyilvánosan egyetértett Amodeivel, míg Donald Trump amerikai elnök szerint az AI veszélyeiről szóló figyelmeztetések „olyan dolgokat hoznak fel, amik nem fognak megtörténni”. A felhívás időzítése egybeesik azzal, hogy az Anthropic hamarosan megkezdi a több mint 2000 milliárd dolláros értékelésű tőzsdei bevezetésének (IPO) piacra vitelét.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

Amodei figyelmeztetése azért nyom sokat a latban, mert saját cége éppen a valaha volt legnagyobb, 2000 milliárd dolláros IPO-ra készül, így a lassításra való felhívás üzleti érdekekkel is összefonódhat.

Források

The Guardian AI

Kapcsolódó témák

Napi összefoglalók #Anthropic#AI-biztonság

Napi összefoglaló

Ez a hír a 2026. szeptember 14., hétfő napi AI összefoglaló része.

Kapcsolódó hírek

AI-biztonsági aggodalmak: titkos rendszerek sérülékenységei és tiltott chipek feketepiaca

Az Anthropic Mythos nevű AI-modellje sebezhetőségeket talált az amerikai kormány titkosított rendszereiben, ami komoly biztonsági kérdéseket vet fel. Az Egyesült Államok nyomást gyakorol a Metára, hogy fogadja el az AI-rendszereinek független biztonsági felülvizsgálatát, miután aggodalmak merültek fel a technológia kockázataival kapcsolatban. Kínában az Nvidia tiltott AI-chipjeinek feketepiaci ára megduplázódott az exportkorlátozások következtében. A Wall Street eközben esett, miután a befektetők kételkedni kezdtek az AI-infrastruktúrára fordított hatalmas kiadások megtérülésében, különösen a félvezető szektorban.

Anthropic AI-biztonsági törvényjavaslatot terjesztett a Kongresszus elé

Az Anthropic a Politico információi szerint egy szövetségi AI-biztonsági törvényjavaslatot terjesztett elő, amely bizonyos esetekben megtiltaná egy AI-modell forgalmazását. A lap szerint a tiltás akkor lépne életbe, ha „előre látható, közvetlen veszély” áll fenn: több mint 50 ember halálát okozó vagy egymilliárd dollárt meghaladó kárt jelentő biológiai fegyver, a fejlesztői kontroll kijátszása vagy kibertámadás formájában. A kockázatot a Kereskedelmi Minisztériumnál regisztrált, független értékelők állapítanák meg, akiket akár az AI-cégek is fizethetnének, ha a kifizetés nem függ az eredménytől. A tervezet szerint az értékelőknek 72 órájuk lenne jelezni a veszélyt a minisztériumnak, amely ezután egy washingtoni szövetségi bírótól kérhetné a modell kiadásának leállítását; a törvény kifejezetten megtiltaná, hogy bármely ügynökség önállóan döntsön erről. Az Anthropic a megkeresésre nem reagált azonnal.

Anthropic szigorítja a Claude használati szabályzatát: tilos a választási manipuláció és a modell bántalmazása

Az Anthropic csütörtökön új, november 12-én hatályba lépő használati szabályzatot adott ki a Claude mesterséges intelligenciához, amely a vállalat szerint reagál a modell egyre önállóbb munkavégzésére és az elmúlt évben tapasztalt visszaélési mintákra. A cég saját közleménye szerint új, önálló fejezetbe ("Ne áss alá demokratikus folyamatokat") gyűjtötték a választási manipulációt, választók megtévesztését és jelöltek megszemélyesítését tiltó szabályokat, valamint külön szakaszt szenteltek a megtévesztő kampányoknak, álfiókoknak és hamis hírportáloknak. A TechCrunch beszámolója szerint a legfigyelemreméltóbb változás egy új tiltás, amely kifejezetten megakadályozza, hogy felhasználók tartósan, cél nélkül bántalmazó stílusban kommunikáljanak a modellel – ez a tiltás az Anthropic augusztusi frissítése nyomán vezetett funkcióra épül, amely lehetővé teszi, hogy a Claude lezárja az ilyen beszélgetéseket. A szabályzat emellett új kontrollokat vezet be a Claude autonóm, fizikai cselekvésekre való használatára, valamint szigorítja az egészségügyi és pénzügyi kockázatos alkalmazások követelményeit.

Anthropic az opt-out modellt szorgalmazza ausztrál tartalmak AI-betanításához, az ABC hírkannibalizációtól tart

Az Anthropic beadványában elismerte, hogy nem fog teljes szerzői jogi mentességet kapni Ausztráliában, ezért a kormánytól feltételes jóváhagyást kér egy opt-out modell formájában, amely lehetővé tenné a nagy techcégeknek, hogy ausztrál szerzői jogvédett tartalmakon tanítsák modelljeiket, hacsak a jogtulajdonos kifejezetten nem tiltakozik. A cég egyúttal azt állítja, az AI átalakíthatja az ausztrál gazdaságot és új termelékenységi hullámot hozhat, de elismeri a nemzetbiztonsági és kritikus infrastruktúrával kapcsolatos kockázatokat is. Ezzel szemben az állami ABC és SBS médiumok szigorúbb szabályozást sürgetnek: szerintük az AI-cégeket ugyanazon szerzői jogi, rágalmazási és adatvédelmi szabályoknak kellene alávetni, mint a hagyományos médiát, és be kellene vonni őket a hírekért fizetést előíró ösztönző rendszerbe is. Az ABC beadványában a hazai híripar „kannibalizációjától” óvott, mivel szerintük az AI-szolgáltatások jelenleg szabályozatlanul és kedvezőbb elbánásban részesülnek, mint a bevett ausztrál médiumok. A vitát egy parlamenti AI-bizottság jövő héten Sydney-ben tartandó meghallgatásai viszik tovább, ahová az Anthropic és az OpenAI vezetőit is várják.