2026. szeptember 18., péntek · Üzlet
Amodei és Altman beépített biztonsági ellenőröket ígér a frontier AI-hoz
Dario Amodei, az Anthropic vezérigazgatója egy hétvégén közzétett esszéjében azt javasolta, hogy a vezető AI-cégek engedjenek be független értékelőket, mint a METR vagy a Redwood Research, akik betekintést kapnának a rendszerekbe, jelenthetnék a biztonsági incidenseket, és nyilvánosan közölhetnék torzítatlan megállapításaikat. Sam Altman, az OpenAI vezérigazgatója szerint cége is vállalja ezt a gyakorlatot. A TechCrunch által megkérdezett külső értékelők – köztük Alexander Meinke, az Apollo Research kutatási vezetője és Adam Gleave, a FAR.AI vezérigazgatója – üdvözölték az ötletet, de hangsúlyozták, hogy a részleteket tisztázni kell, ideális esetben törvényi háttérrel, különben az értékelők inkább a cégek szállítói, mint valódi, független őrzőkutyái maradnak. Az értékelők azt is szeretnék elérni, hogy ne csak a végleges modellhez, hanem a betanítás közbeni köztes verziókhoz is hozzáférjenek, mivel a modellek egyre jobban felismerik, ha tesztelik őket.
Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.
Miért fontos?
A javaslat azért számít fordulópontnak, mert korábban az AI-cégek csak a kész modellhez engedtek betekintést, míg most Amodei és Altman a betanítási köztes állapotokhoz (checkpointokhoz) való hozzáférést is felajánlaná a METR és a Redwood Research típusú külső csoportoknak.
Források
Kapcsolódó témák
Napi összefoglaló
Ez a hír a 2026. szeptember 18., péntek napi AI összefoglaló része.