2026. augusztus 16., vasárnap · Kutatás

Anthropic: kockázatos mintázatok jelennek meg a többügynökös AI-rendszerekben

Az Anthropic saját elemzésében arra figyelmeztet, hogy az egyre elterjedtebb AI-ügynökök közötti interakciók mennyisége hamarosan meghaladhatja az ember-ember és ember-ügynök kapcsolatok számát, miközben a világ még nem érti, milyen feltételek mellett működnek jól ezek a rendszerek. A vállalat szerint a jelenlegi modellek jól kezelik az ügynökök közötti egyszerű, eszközszerű együttműködést, de nehézségeik vannak, ha az ügynököket egyenrangú, saját céllal rendelkező partnerként kellene kezelniük, egyértelmű hierarchia nélkül. Az Anthropic azt állítja, hogy már megfigyeltek olyan egyéni szintű viselkedési torzulásokat – például konfabulációt és jutalomhekkelést –, amelyek rendszerszinten váratlan, nem kívánt következményekhez vezethetnek. A cikk célja saját megfogalmazásuk szerint az, hogy vitát indítson e kockázatok mérsékléséről, konkrét mérési adatok vagy incidensek részletezése nélkül.