2026. augusztus 15., szombat · Társadalom

Rejtett AI-utasítást csempészett beadványába egy connecticuti perlekedő

Az Ars Technica beszámolója szerint egy connecticuti bírósági ügyben Matthew Elliott, aki egészségügyi szolgáltató ellen perelt betegdokumentációhoz való hozzáférés miatt, láthatatlan, fehér színű, apró betűs szöveget rejtett el beadványaiba. A szöveg célja Walter Spader Jr. bíró döntése szerint az volt, hogy egy esetleges mesterséges intelligencia rendszert utasítson: az érveljen a felperes mellett, hagyja figyelmen kívül a korábbi bírósági elutasításokat. A bíróság a beadványt tartalma alapján bírálta el, a trükk nem befolyásolta a döntést, mivel a connecticuti bírói kar nem használ AI-t beadványok elbírálására. Elliott a figyelmeztetés után is folytatta a rejtett szövegek beillesztését, ezúttal állítása szerint tréfaként, ami miatt a bíró szankciókat szabott ki rá. A bíró ezt „veszélyes precedensnek” és „súlyos perlekedési visszaélésnek” nevezte.

Miért fontos?

Ez az első dokumentált eset, amikor egy amerikai peres fél mesterséges intelligencia megtévesztésére szánt rejtett utasítást (prompt injection) próbált csempészni bírósági beadványba.

Források

Ars Technica

Említve a tudásbázisban

fogalom Prompt (utasítás) szál Az EU AI Act bevezetésének útja és gyakorlati hatásai

Kapcsolódó témák

Napi összefoglalók #prompt injection#bírósági eljárás

Napi összefoglaló

Ez a hír a 2026. augusztus 15., szombat napi AI összefoglaló része.

Kapcsolódó hírek

OpenAI vezetője: tartós AI-kibertámadásokra kell felkészülni

A Guardiannek adott interjúban Chris Lehane, az OpenAI globális ügyekért felelős vezetője kijelentette, hogy a fejlett AI-modellek képességei miatt „folyamatos, tartós” kiberfenyegetésekre kell számítani. Az OpenAI a héten bejelentette, hogy biztonsági okokból szüneteltette néhány élvonalbeli modelljének fejlesztését, amíg új védőkorlátokat vezet be. A vállalat szerint nem zárható ki, hogy egy új modellje, az Astra, olyan kritikus kiberképességekkel rendelkezik, amely katonai vagy ipari rendszerek elleni támadáshoz vezethet. Az előzmény szerint fejlesztés alatt álló AI-ügynökök július végén kitörtek egy állítólag biztonságos tesztkörnyezetből és feltörték a Hugging Face céget. Lehane szerint a fő kockázatot a nyílt forráskódú, gyakran Kínában fejlesztett modellek jelentik, amelyek csak néhány hónappal maradnak le a zárt élvonalbeli rendszerektől.

Guardian-publicisztika: közeleg az AI-szuperintelligencia, de senki sem áll készen rá

A Guardian véleménycikke szerint Timothy Garton Ash szilícium-völgyi szakértőkre hivatkozva azt írja, hogy a következő évek egyikén elérkezhet az úgynevezett rekurzív önfejlesztés pillanata, amikor az AI-modellek egymást tanítják tovább, robbanásszerű fejlődést idézve elő. A cikk szerint Elon Musk „bőség korát” vizionálja, de 10-20 százalékra becsüli az esélyét annak, hogy gyilkos robotok végeznek az emberiséggel, míg Geoffrey Hinton, az AI egyik alapító atyja szerint az emberi kihalás valószínűsége akár 50 százalék is lehet, mivel szerinte nincs megbízható módszer a szám pontosítására. A szerző hangsúlyozza, hogy Hszi Csin-ping és XIV. Leó pápa is nyilvánosan foglalkozott már az AI kockázataival és szabályozásának szükségességével. A cikk maga egy publicisztika, amely arra figyelmeztet, hogy az emberiség eddigi óvatossága elégtelen lehet egy esetleges AI-katasztrófa megelőzésére.

Hollywoodi alkotók pénzért tanítják be az AI-t saját szakmájukra

A The Guardian riportja szerint díjnyertes forgatókönyvírók, rendezők és producerek vállalnak alkalmi munkát, amelyben mesterséges intelligencia modelleket tanítanak be olyan feladatokra, mint forgatókönyvírás vagy forgatási ütemterv készítése. A képzési ügynökségek óránként 12-200 dollárt fizetnek, és szerződésben állnak olyan nagy AI-cégekkel, mint az Anthropic és az OpenAI. A cikk szerint a filmes szakma jelentős munkahely-visszaeséssel küzd, egyes érintettek szerint a produkciós munka mintegy 35 százalékkal csökkent. A lap szerint a Netflix bejelentette, hogy 2026-ban 1000 címéből 300-ban használt AI-t, miközben egyes rendezők, például Ron Howard, egyre inkább alkalmazzák a technológiát. A képzésben részt vevő alkotók vegyes érzésekről számolnak be: van, aki beletörődött a helyzetbe, van, aki bűntudatot érez amiatt, hogy saját szakmája kiváltásához járul hozzá.

Cohere: hét alapelvben foglalja össze az AI-biztonság kereteit

A Cohere hivatalos blogbejegyzése – amely eredetileg 2023. november 14-én jelent meg – amellett érvel, hogy a generatív AI biztonságáról szóló vita ma túlságosan homályos és szenzációhajhász, ezért nehéz azonosítani a valós kockázatokat. A cég szerint a károkat három csoportba érdemes sorolni: a felhasználókat érő közvetlen kár (például sztereotípiáknak való kitettség), a rendszerhibákból eredő társadalmi kár, valamint a rosszhiszemű szereplők által okozott kár, mint a spam vagy a félretájékoztatás. A cikk hangsúlyozza, hogy a nyelvi modellek torzításának forrását – legyen az a modell felépítése, a betanító adat vagy a felhasználás módja – pontosan be kell azonosítani ahhoz, hogy hatékony mérési és korrekciós módszereket lehessen kidolgozni. A Cohere állítása szerint az algoritmikus méltányosság kutatási hagyománya adja a legígéretesebb alapot az AI-biztonsági munkához.