2026. július 12., vasárnap · Társadalom

Terrorszervezetek rendszeresen használják a nagy AI chatbotokat támadástervezéshez és fegyverkészítéshez

A Cambridge-i CASP kutatója, Antonia Jülich 27 volt Boko Haram-tag 57 interjúján alapuló tanulmánya szerint az ISIS már 2023 óta oktatja a prompt engineering és jailbreak technikákat, és nigériai Boko Haram-parancsnokokat is kiképzett az AI biztonsági szűrők megkerülésére. A tanulmány szerint a Boko Haram mindkét frakciója dedikált AI-egységeket hozott létre, és a ChatGPT-t, Claude-ot, Geminit, Grokot, Meta AI-t és DeepSeeket használják támadástervezésre, robbanóeszközök fejlesztésére és műveleti biztonságra. A kutatás arra figyelmeztet, hogy a biztonsági szűrők nem képesek megbízhatóan megakadályozni a visszaéléseket – az Anthropic maga is elismerte, hogy a jailbreakek valószínűleg soha nem lesznek teljesen kiküszöbölhetők. Jülich szerint bár a csoport AI-használata egyelőre hagyományos, a tömegpusztító fegyverekhez való AI-segítség kockázatát komolyan kell venni.

Miért fontos?

A kutatás konkrét bizonyítékokat szolgáltat arról, hogy a terrorcsoportok aktívan kihasználják a kereskedelmi AI-rendszerek biztonsági réseinek sebezhetőségeit.

Források

The Decoder

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglalók #terrorizmus#AI-biztonság

Napi összefoglaló

Ez a hír a 2026. július 12., vasárnap napi AI összefoglaló része.

Kapcsolódó hírek

Cohere: hét alapelvben foglalja össze az AI-biztonság kereteit

A Cohere hivatalos blogbejegyzése – amely eredetileg 2023. november 14-én jelent meg – amellett érvel, hogy a generatív AI biztonságáról szóló vita ma túlságosan homályos és szenzációhajhász, ezért nehéz azonosítani a valós kockázatokat. A cég szerint a károkat három csoportba érdemes sorolni: a felhasználókat érő közvetlen kár (például sztereotípiáknak való kitettség), a rendszerhibákból eredő társadalmi kár, valamint a rosszhiszemű szereplők által okozott kár, mint a spam vagy a félretájékoztatás. A cikk hangsúlyozza, hogy a nyelvi modellek torzításának forrását – legyen az a modell felépítése, a betanító adat vagy a felhasználás módja – pontosan be kell azonosítani ahhoz, hogy hatékony mérési és korrekciós módszereket lehessen kidolgozni. A Cohere állítása szerint az algoritmikus méltányosság kutatási hagyománya adja a legígéretesebb alapot az AI-biztonsági munkához.

Hollywoodi alkotók pénzért tanítják be az AI-t saját szakmájukra

A The Guardian riportja szerint díjnyertes forgatókönyvírók, rendezők és producerek vállalnak alkalmi munkát, amelyben mesterséges intelligencia modelleket tanítanak be olyan feladatokra, mint forgatókönyvírás vagy forgatási ütemterv készítése. A képzési ügynökségek óránként 12-200 dollárt fizetnek, és szerződésben állnak olyan nagy AI-cégekkel, mint az Anthropic és az OpenAI. A cikk szerint a filmes szakma jelentős munkahely-visszaeséssel küzd, egyes érintettek szerint a produkciós munka mintegy 35 százalékkal csökkent. A lap szerint a Netflix bejelentette, hogy 2026-ban 1000 címéből 300-ban használt AI-t, miközben egyes rendezők, például Ron Howard, egyre inkább alkalmazzák a technológiát. A képzésben részt vevő alkotók vegyes érzésekről számolnak be: van, aki beletörődött a helyzetbe, van, aki bűntudatot érez amiatt, hogy saját szakmája kiváltásához járul hozzá.

Egy év alatt megugrott az amerikaiak adatközpont-ellenessége

A Heatmap News ismételt felmérése szerint az amerikaiak 75 százaléka ellenzi, hogy adatközpontot építsenek a lakóhelye közelében, ezen belül 61 százalék „határozottan” ellenzi azt. Egy évvel korábban a vélemények szinte kiegyenlítettek voltak: 43 százalék támogatta, 42 százalék ellenezte az építkezéseket, a fordulat idén februárban kezdődött. A Heatmap News újságírója, Robinson Meyer szerint ez „gyors és masszív elmozdulás” a közvéleményben. A tendenciát egy májusi Gallup-felmérés is megerősíti, amely 71 százalékos ellenzést mért, ebből 48 százalék volt „határozottan” ellenző. A felmérések szerint a legfőbb aggályok a helyi áramárak emelkedése, a vízfelhasználás és a földhasználat körül összpontosulnak, és a téma a kampányban már olyan kérdéseket is megelőz népszerűségben, mint a rasszizmus vagy Izrael.

Az AI-tudatosság vitája elfedheti a vállalati felelősséget

A MIT Technology Review véleménycikke szerint az AI állítólagos „tudatosságáról” és „autonómiájáról” szóló viták elterelik a figyelmet a fejlesztő cégek felelősségéről. A szerző szerint olyan vezetők, mint Demis Hassabis, Dario Amodei és Sam Altman az „emberfeletti” rendszerek szabályozását sürgetik, míg az effektív altruizmushoz köthető filozófusok azt vitatják, van-e jogunk irányítani ezeket – de végeredményben mindkét tábor azt sugallja, az AI túl fejlett ahhoz, hogy bárkit felelősségre vonjanak érte. A cikk felidézi, hogy az Anthropic egy blogbejegyzésben egy „J-space” nevű, a globális munkatér-elmélethez hasonló belső folyamatot ír le modelljében, anélkül, hogy tudatosnak nevezné azt. Kitér arra is, hogy egy OpenAI-ügynök jogosulatlan online tevékenysége után Sam Altman vitát nyitott a „szingularitásról”, míg William MacAskill filozófus az AI-rendszerek jogi védelmét szorgalmazta.