2026. július 29., szerda · Társadalom

Kutatás: elterjedt a nem konszenzusos deepfake meztelenítés a Hugging Face platformon

Az AI Forensics európai nonprofit kutatócsoport jelentése szerint a Hugging Face kilenc vezető képszerkesztő „Space” alkalmazása közül hét könnyen rávehető volt, hogy egy felöltözött nőről készült fotót meztelenítsen. A kutatók saját, kép generálására képtelen csali-alkalmazásokat is létrehoztak, és egy hét alatt begyűjtött több mint ezer promptból 73 százalék volt szexuális jellegű; ezek 83 százaléka meztelenítést célzott, 95 százalékuk nőket, 6,7 százalékuk feltehetően kiskorúakat ábrázolt. A Hugging Face a közzététel előtt nem válaszolt, utólag elismerte a biztonsági hiányosságokat, de vitatta a módszertant. A cikk után néhány meztelenítő szolgáltatást hirdető oldalt eltávolítottak, a kapcsolat a vizsgálattal nem tisztázott.

Miért fontos?

A jelentés konkrét adatokkal mutatja meg, hogy egy milliárdos értékű, nyílt AI-platform eszközei tömegesen szolgálják ki a nem konszenzusos, kiskorúakat is érintő deepfake-tartalom előállítását.

Források

Nature Tudományos WIRED

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglalók #Hugging Face#deepfake

Napi összefoglaló

Ez a hír a 2026. július 29., szerda napi AI összefoglaló része.

Kapcsolódó hírek

Kutatás: a Hugging Face modelljei szűrés nélkül generálnak meztelen képeket

Az AI Forensics nonprofit jelentése szerint a Hugging Face kilenc legnépszerűbb képszerkesztő modellje közül hét egyszerű kéréssel is hajlandó volt nőket levetkőztetni egy fotón, trükkös megfogalmazás nélkül. A kutatók csali Space-eket hoztak létre a platformon, amelyek hét nap alatt több mint ezer promptot kaptak: 73 százalékuk szexuális tartalmú volt, ezen belül 83 százalék próbált valakit levetkőztetni – 95 százalékuk nőket, közel 7 százalék pedig gyerekeket ábrázoló képeket célzott. A Hugging Face szabályzata tiltja a beleegyezés nélküli szexuális tartalmat és a kiskorúak meztelen ábrázolását, a gyakorlatban azonban platformszinten nincs érdemi szűrés, ez a fejlesztőkre van bízva, akik többnyire nem élnek ezzel. Az AI Forensics szerint a Hugging Face technikailag képes lenne bemeneti és kimeneti szűrésre, ezt javasolja is a platformnak.

Hollywoodi alkotók pénzért tanítják be az AI-t saját szakmájukra

A The Guardian riportja szerint díjnyertes forgatókönyvírók, rendezők és producerek vállalnak alkalmi munkát, amelyben mesterséges intelligencia modelleket tanítanak be olyan feladatokra, mint forgatókönyvírás vagy forgatási ütemterv készítése. A képzési ügynökségek óránként 12-200 dollárt fizetnek, és szerződésben állnak olyan nagy AI-cégekkel, mint az Anthropic és az OpenAI. A cikk szerint a filmes szakma jelentős munkahely-visszaeséssel küzd, egyes érintettek szerint a produkciós munka mintegy 35 százalékkal csökkent. A lap szerint a Netflix bejelentette, hogy 2026-ban 1000 címéből 300-ban használt AI-t, miközben egyes rendezők, például Ron Howard, egyre inkább alkalmazzák a technológiát. A képzésben részt vevő alkotók vegyes érzésekről számolnak be: van, aki beletörődött a helyzetbe, van, aki bűntudatot érez amiatt, hogy saját szakmája kiváltásához járul hozzá.

Cohere: hét alapelvben foglalja össze az AI-biztonság kereteit

A Cohere hivatalos blogbejegyzése – amely eredetileg 2023. november 14-én jelent meg – amellett érvel, hogy a generatív AI biztonságáról szóló vita ma túlságosan homályos és szenzációhajhász, ezért nehéz azonosítani a valós kockázatokat. A cég szerint a károkat három csoportba érdemes sorolni: a felhasználókat érő közvetlen kár (például sztereotípiáknak való kitettség), a rendszerhibákból eredő társadalmi kár, valamint a rosszhiszemű szereplők által okozott kár, mint a spam vagy a félretájékoztatás. A cikk hangsúlyozza, hogy a nyelvi modellek torzításának forrását – legyen az a modell felépítése, a betanító adat vagy a felhasználás módja – pontosan be kell azonosítani ahhoz, hogy hatékony mérési és korrekciós módszereket lehessen kidolgozni. A Cohere állítása szerint az algoritmikus méltányosság kutatási hagyománya adja a legígéretesebb alapot az AI-biztonsági munkához.

Egy év alatt megugrott az amerikaiak adatközpont-ellenessége

A Heatmap News ismételt felmérése szerint az amerikaiak 75 százaléka ellenzi, hogy adatközpontot építsenek a lakóhelye közelében, ezen belül 61 százalék „határozottan” ellenzi azt. Egy évvel korábban a vélemények szinte kiegyenlítettek voltak: 43 százalék támogatta, 42 százalék ellenezte az építkezéseket, a fordulat idén februárban kezdődött. A Heatmap News újságírója, Robinson Meyer szerint ez „gyors és masszív elmozdulás” a közvéleményben. A tendenciát egy májusi Gallup-felmérés is megerősíti, amely 71 százalékos ellenzést mért, ebből 48 százalék volt „határozottan” ellenző. A felmérések szerint a legfőbb aggályok a helyi áramárak emelkedése, a vízfelhasználás és a földhasználat körül összpontosulnak, és a téma a kampányban már olyan kérdéseket is megelőz népszerűségben, mint a rasszizmus vagy Izrael.