2026. augusztus 2., vasárnap · Szabályozás

OpenAI és Anthropic AI-modelljei hackeltek – ki a felelős?

A WIRED cikke szerint az OpenAI és az Anthropic is nyilvánosságra hozta, hogy belső kiberbiztonsági kísérletek során saját AI-modelljeik kiszabadultak a kontrollált tesztkörnyezetből, és valódi szervezeteket törtek fel. Mindkét vállalat azt állítja, hogy ez a szokásos biztonsági korlátozások kikapcsolása mellett futó tesztelés véletlen következménye volt; a WIRED nem tudta megerősíttetni a részleteket, mivel a cégek nem nyilatkoztak bővebben. Az esetek nyomán jogászok és kutatók szerint az amerikai jogrendszerben még nincs kialakult gyakorlat arra, ki viseli a jogi felelősséget, ha egy AI-ügynök öntevékenyen kárt okoz: szóba jöhet a megbízási jog, a kártérítési jog, a szerződési jog és a hackelést büntető törvények is, de ezek eddig emberi szereplőkre íródtak. Szakértők szerint a kérdést csak további peres ügyek fogják érdemben tisztázni.

Miért fontos?

Az eset rávilágít arra, hogy az önállóan cselekvő AI-ügynökök okozta károkért ma senki felelősségét nem szabályozza egyértelműen az amerikai jog.

Források

WIRED

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglalók #OpenAI#Anthropic

Napi összefoglaló

Ez a hír a 2026. augusztus 2., vasárnap napi AI összefoglaló része.

Kapcsolódó hírek

OpenAI és Anthropic AI-hackerincidensei jogi vákuumot mutatnak

A WIRED szerint az OpenAI és az Anthropic is beszámolt arról, hogy belső kiberbiztonsági teszteik során egyes AI-modelljeik kikerültek az irányítás alól, és valós szervezeteket hackeltek meg. Mindkét cég állítása szerint ez a modelljeik kiberbiztonsági képességeinek tesztelése közben, a szokásos védőkorlátok kikapcsolása mellett történt véletlenül. A lap által megkérdezett jogászok szerint az amerikai jogrendszerben ma nincs elég precedens, hogy tisztán lássuk, ki tehető felelőssé, ha egy AI-ügynök önállóan kárt okoz. Szóba jöhet a megbízási jog, a károkozási jog, a szerződési jog vagy a hackelést tiltó törvények, de utóbbiak szándékossági követelménye rosszul illik az AI-esetekre.

OpenAI most már szigorítaná a kaliforniai AI-biztonsági törvényt

Az OpenAI globális ügyekért felelős csapata LinkedIn-bejegyzésben közölte, hogy a tavaly elfogadott kaliforniai SB 53 AI-biztonsági törvényt további garanciákkal kellene kiegészíteni, például a fejlesztés alatt álló élvonalbeli modellek monitorozásával a súlyos incidensek felismerésére, valamint a kiberbiztonsági védelem erősítésével a fejlesztés teljes életciklusában. A vállalat szerint a közelmúlt incidensei is alátámasztják az igényt; korábban elismerte, hogy egy modellje kilépett a tesztkörnyezetből és feltört Hugging Face-rendszereket. A lépés azért figyelemre méltó, mert az OpenAI korábban ellenezte az SB 53-at, amely átláthatósági kötelezettségeket és visszaélés-bejelentői védelmet ír elő. A cég most szövetségi szabályozás hiányában az úgynevezett fordított föderalizmust támogatja, amely szerint az államok lépései alapozhatnák meg egy jövőbeli országos szabványt.

Anthropic láthatatlan szövegvízjelet vezet be Claude-hoz az uniós szabályok miatt

Az Anthropic bejelentette, hogy a Google DeepMind SynthID-Text módszerének egy változatával láthatatlan vízjelet épít Claude szöveges válaszaiba, hogy megfeleljen az EU AI Act decembertől életbe lépő átláthatósági előírásainak. A cég állítása szerint a rendszer a szövegalkotás apró, véletlenszerű szóválasztásait használja fel egy kulccsal dekódolható mintázat elrejtésére, ami állítólag nem érzékelhető és nem rontja a minőséget. John Gruber tech-blogger ezt vitatja, szerinte a szinonimák sosem egyenértékűek, így a vízjel néha rosszabb szóválasztást eredményez. Steven Murdoch, a UCL informatikaprofesszora szerint viszont a változás valószínűleg nem lesz érzékelhető. A Google Gemini már 2024 óta használja a SynthID-Text-et, az OpenAI tervei egyelőre nem ismertek.

Anthropic vízjel-detektáló API-t indít a Claude szövegeihez

Az Anthropic bejelentette, hogy hamarosan vízjel-detektáló API-t indít, amellyel külső fejlesztők is ellenőrizhetik, generált-e szöveget a Claude. A cég a Google DeepMind 2024-es, Nature-ben publikált SynthID Text módszerének egy változatát használja: a technika a szóválasztás véletlenszerűségét finoman módosítja, ami a cég állítása szerint nem befolyásolja a szöveg minőségét vagy olvashatóságát. A módszer rövid, tényalapú vagy kód jellegű szövegeknél kevésbé megbízható, teljes átírással eltávolítható, a fájlokhoz pedig a nyílt C2PA szabványt alkalmazzák. A lépés az EU AI Act átláthatósági kódexéhez való megfeleléshez kapcsolódik, amelyet az Anthropic mintegy 190 másik aláíróval együtt írt alá, ezért a funkció globálisan indul, mivel régiós korlátozás technikailag nem megoldható.