2026. szeptember 20., vasárnap · Szabályozás

Megtorpant az AI-ipar önszabályozási terve

Dario Amodei, az Anthropic vezérigazgatója a hétvégén háromlépéses tervet vázolt fel az AI-fejlesztés lassítására: független értékelők beépítése a laboratóriumokba, iparági koordináció és nemzetközi megállapodások, esetleg kormányzati közreműködéssel. Sam Altman, Demis Hassabis és Elon Musk nyilvánosan egyetértett a terv egyes elemeivel, ám a Wall Street Journal szerint később Mark Zuckerberg, Musk és Jensen Huang, az Nvidia vezérigazgatója együtt akadályozta meg egy iparilag finanszírozott, a pénzügyi FINRA-hoz hasonló független AI-szabályozó testület létrehozását. A Trump-kormányzat közben az AI biztonsági válságát „átverésnek” minősítette, így kormányzati fellépés egyelőre nem valószínű. Chris Lehane, az OpenAI globális ügyekért felelős vezetője szerint ugyanakkor a Kongresszusnak most kellene kihasználnia a kétpárti támogatást kötelező biztonsági szabványok megalkotására.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

A hír megmutatja, hogy a nyilvánosan szabályozáspárti Musk a gyakorlatban Zuckerberggel és Huanggal együtt akadályozta meg a FINRA-mintájú, iparilag finanszírozott AI-felügyeleti testület létrejöttét.

Források

The Verge

Kapcsolódó témák

Napi összefoglalók #AI-szabályozás#Anthropic

Napi összefoglaló

Ez a hír a 2026. szeptember 20., vasárnap napi AI összefoglaló része.

Kapcsolódó hírek

Anthropic AI-biztonsági törvényjavaslatot terjesztett a Kongresszus elé

Az Anthropic a Politico információi szerint egy szövetségi AI-biztonsági törvényjavaslatot terjesztett elő, amely bizonyos esetekben megtiltaná egy AI-modell forgalmazását. A lap szerint a tiltás akkor lépne életbe, ha „előre látható, közvetlen veszély” áll fenn: több mint 50 ember halálát okozó vagy egymilliárd dollárt meghaladó kárt jelentő biológiai fegyver, a fejlesztői kontroll kijátszása vagy kibertámadás formájában. A kockázatot a Kereskedelmi Minisztériumnál regisztrált, független értékelők állapítanák meg, akiket akár az AI-cégek is fizethetnének, ha a kifizetés nem függ az eredménytől. A tervezet szerint az értékelőknek 72 órájuk lenne jelezni a veszélyt a minisztériumnak, amely ezután egy washingtoni szövetségi bírótól kérhetné a modell kiadásának leállítását; a törvény kifejezetten megtiltaná, hogy bármely ügynökség önállóan döntsön erről. Az Anthropic a megkeresésre nem reagált azonnal.

AI-lassítás vagy csak szóbeszéd? Vita az Amodei-tervről

Dario Amodei, az Anthropic vezérigazgatója nemrég közzétette „pace the frontier” című tervét, amely az AI-fejlesztés ütemének tudatos, biztonsági célú lassítását szorgalmazza. Ezzel szemben Jensen Huang, az Nvidia vezérigazgatója nyilvánosan visszhangozta Donald Trump elnök állítását, miszerint az AI-ellenes közhangulat megtévesztés, és a szabályozás szükségtelen. A TechCrunch Equity podcastjében Kirsten Korosec, Sean O'Kane és Anthony Ha azt vitatták meg, hogy Amodei és Sam Altman, az OpenAI vezérigazgatója valóban komolyan gondolják-e a lassítást. O'Kane szerint Amodei terve részletekben szegény, és kétli, hogy a jelenlegi szövetségi kormány hajlandó lenne széles körben szabályozást érvényesíteni, miközben a fogyasztói piacon sincs olyan nyomás, amely a cégeket felelősségre vonná káros lépéseik esetén.

Microsoft elnöke szerint az Egyesült Királyság vezesse az AI globális szabályozását

A TechCrunch beszámolója szerint Brad Smith, a Microsoft elnöke egy BBC-podcastben sürgős globális AI-szabályozást követelt, mondván, a tejtermékekre és mosógépekre szigorúbb felügyelet vonatkozik, mint a mesterséges intelligenciát fejlesztő cégekre. Smith az AI-t egyszerre nevezte „fegyvernek és eszköznek”, amely veszélyezteti a globális kiberbiztonságot, és azt állította, hogy nem az Egyesült Államok vagy az Európai Unió, hanem az Egyesült Királyság van a legjobb helyzetben a szabályozás vezetésére, mert Londonra Washingtonban nem úgy tekintenek, mint Brüsszelre. A lap szerint ez azután hangzott el, hogy Trump elnök állítólag arra kérte az Anthropicot és az OpenAI-t, ne osszák meg új modelleiket brit tesztelőkkel, az AISI azonban megerősítette, hogy továbbra is hozzáfér a legújabb modellekhez. Smith a Fehér Ház „morálisan kötelező” önkéntes biztonsági dokumentumát jó lépésnek nevezte, de elégtelennek tartja, mert szerinte csak a „jó cégek” tartanák be.

Anthropic szigorítja a Claude használati szabályzatát: tilos a választási manipuláció és a modell bántalmazása

Az Anthropic csütörtökön új, november 12-én hatályba lépő használati szabályzatot adott ki a Claude mesterséges intelligenciához, amely a vállalat szerint reagál a modell egyre önállóbb munkavégzésére és az elmúlt évben tapasztalt visszaélési mintákra. A cég saját közleménye szerint új, önálló fejezetbe ("Ne áss alá demokratikus folyamatokat") gyűjtötték a választási manipulációt, választók megtévesztését és jelöltek megszemélyesítését tiltó szabályokat, valamint külön szakaszt szenteltek a megtévesztő kampányoknak, álfiókoknak és hamis hírportáloknak. A TechCrunch beszámolója szerint a legfigyelemreméltóbb változás egy új tiltás, amely kifejezetten megakadályozza, hogy felhasználók tartósan, cél nélkül bántalmazó stílusban kommunikáljanak a modellel – ez a tiltás az Anthropic augusztusi frissítése nyomán vezetett funkcióra épül, amely lehetővé teszi, hogy a Claude lezárja az ilyen beszélgetéseket. A szabályzat emellett új kontrollokat vezet be a Claude autonóm, fizikai cselekvésekre való használatára, valamint szigorítja az egészségügyi és pénzügyi kockázatos alkalmazások követelményeit.