SG.hu·
Aggodalmat kelt az MI önfejlesztésének felgyorsulása
Az Anthropic modelljei nagyjából kétszer olyan gyorsan fejlődnek, mint egy évvel ezelőtt, és a gyorsulás jelentős része már magának a mesterséges intelligenciának köszönhető. Eközben a vállalat a mesterséges intelligencia fejlesztésének lassítását sürgeti.
Az Anthropic mesterséges intelligenciát használ arra, hogy még fejlettebb mesterséges intelligenciát hozzon létre. A jelek szerint ez rendkívül jól működik: a vállalat modelljei nagyjából kétszer olyan gyorsan fejlődnek, mint egy évvel ezelőtt, és alig látható jele annak, hogy ez a folyamat lassulna. Erre a következtetésre jutott a METR nevű, MI-biztonsággal foglalkozó kutatószervezet az új jelentésében, amely egy 11 héten át tartó, a vállalaton belül végzett vizsgálat eredményeire épül. A vizsgálat egy, a vállalat MI-kutatási és -fejlesztési tevékenységét értékelő jelentés része volt. A vizsgálat elkülönült attól a programtól, amelynek keretében a biztonsági kutatók a nyár folyamán történt, nagy visszhangot kiváltó hackertámadások után „alkalmazotti jellegű” hozzáférést kaptak a rendszerekhez.
Az eredmények az eddigi legegyértelműbb bizonyítékok közé tartoznak arra, hogy a mesterséges intelligencia felgyorsítja saját fejlődését. Ez kérdéseket vet fel azzal kapcsolatban, milyen gyorsan fejlődhet tovább a technológia egy olyan jövő felé, amelyben az MI-rendszerek már kevés vagy akár semmilyen emberi közreműködés nélkül is képesek lesznek továbbfejleszteni önmagukat. A megállapítások az Anthropic számára is meghatározó időszakban láttak napvilágot: a vállalat tőzsdei bevezetésére készül, miközben vezérigazgatója, Dario Amodei nyilvánosan arra szólította fel a fejlesztőlaboratóriumokat, hogy fékezzék le az MI fejlesztését.
A jelentés ugyan ritka betekintést enged a világ vezető MI-fejlesztő laboratóriumainak belső működésébe, legalább ennyire beszédes az is, amit nem tartalmaz. Az Anthropic a METR-rel kötött megállapodás részeként engedélyt kapott arra, hogy kitakarja a végleges jelentés egyes részeit, és úgy tűnik, széles körben élt is ezzel a lehetőséggel. Ez kérdéseket vet fel azzal kapcsolatban, hogy a nyilvánosság valójában mennyit tud az élvonalbeli MI fejlesztésének üteméről és kockázatairól.
A METR kutatói „biztosak abban”, hogy a gyorsulás nem egyszerűen annak tudható be, hogy növelték a modellek betanításához használt számítási kapacitást, amely történelmileg az MI fejlődésének egyik legfontosabb mozgatórugója volt. A kutatók ehelyett azt állították, hogy az októberi állapot szerint a gyorsulás nagyobb része „az MI-nek köszönhető”, és ennek hozzájárulása idővel egyre nő. Ezt a megállapítást az Anthropic alkalmazottai körében végzett informális Slack-felmérések és interjúk is alátámasztották, amelyek jelentős termelékenységnövekedésre utaltak. A METR azt írta, hogy azok az alkalmazottak, akik a vállalat legfejlettebb belső modelljét használták, saját bevallásuk szerint átlagosan körülbelül 12-szer olyan produktívak voltak a munkájukban, mint MI-támogatás nélkül lettek volna. Ez nagyjából a kétszerese annak, amiről az alkalmazottak mindössze néhány hónappal korábban, a Mythos 5 használata közben beszámoltak.
Egyelőre úgy tűnik, hogy a gyorsulás jelentős része abból ered, hogy az MI segíti az emberi kutatókat, nem pedig abból, hogy önállóan dolgozik. A METR ugyanakkor arra figyelmeztetett, hogy „vannak jelei annak, hogy a teljesen autonóm hozzájárulások hamarosan nagyobb szerepet játszanak majd”. A kutatók külön kiemelték, hogy nem találtak egyértelmű jeleket sem a hozadék csökkenésére, sem olyan megfigyelhető szűk keresztmetszetekre, amelyek megakadályozhatnák a „még gyorsabb felgyorsulást”.
Az Anthropic kutatói a többiekénél fejlettebb MI-modelleket használnak, és a METR által leírt gyorsulás, illetve termelékenységnövekedés jelentős része még nem nyilvánosságra hozott belső modelleknek tulajdonítható. A METR szerint az elmúlt hat hónapban az Anthropic három olyan modell betanítását fejezte be, amelyeket még nem tett közzé. A fejlesztés üteme gyors: a Model 2, Model 3 és Model 4 kódnevű modellek betanítása rendre júliusban, augusztus-szeptemberben, illetve szeptember-októberben fejeződött be. A METR egy 2022-ből származó, szintén nem nyilvánosságra hozott modellt is azonosított, amely az Unreleased 2022 nevet kapta. „Ezek azok a kódnevek, amelyeket megosztottak velünk; úgy tudjuk, hogy a vállalaton belül más kódneveket használnak” - írták a kutatók.
Az Anthropic a kutatási folyamat részeként számos nem nyilvános információhoz biztosított hozzáférést a METR számára, többek között bizalmas kutatási anyagokhoz, a modellek teljesítményére vonatkozó adatokhoz és az alkalmazottakkal készített interjúkhoz. Erre semmilyen kötelezettsége nem volt, és a METR saját bevallása szerint az MI-laboratórium „a projekt eredetileg meghatározott kereteinél jóval több információt osztott meg velünk, felülmúlva várakozásainkat”. Ez dicséretes, ugyanakkor érdemes megjegyezni, hogy az Anthropic nem biztosított korlátlan hozzáférést a kutatók számára, és nem adott nekik olyan „alkalmazotti jellegű” hozzáférést sem, amilyet egy másik, a múlt hónapban bejelentett program keretében ígért a METR más biztonsági kutatóinak. Ez fontos különbség, tekintettel arra, hogy a vállalatok milyen hírnévbeli előnyökhöz juthatnak a független értékelések révén, még akkor is, ha azok jelentős korlátozások mellett zajlanak.
„Körülbelül 100 oldalas, teljes értékelő jelentést nyújtottunk be az Anthropicnak. A nyilvánosság számára készített változatban az Anthropic kitakarta az általunk leginformatívabbnak tartott bizonyítékok többségét” - írta a METR az X-en. A METR a jelentés egészében többször is hangsúlyozta ezeket az aggályokat, és a hozzáférését érintő egyéb korlátozásokra is felhívta a figyelmet. „Az információkhoz való hozzáférésünk viszonylag szűk körű volt, és néhány adatkérésünket elutasították.”
A METR ismételten hangsúlyozta, hogy az Anthropic kitakarási döntései milyen hatással voltak arra, mennyire tudta közölni megállapításait, illetve mennyire képesek mások felmérni, mi történik a vállalatnál. Megjegyezte, hogy a kitakart bizonyítékok közül sokat „többféleképpen is értelmezni lehetett volna”, ami megnehezíti a nyilvánosság számára a megállapítások értékelését, a velük kapcsolatos bizonytalanságok megértését és a bizonyítékok önálló megítélését. „A kitakarások következtében a nyilvánosságnak a kelleténél sokkal inkább a METR ítéletére kell hagyatkoznia, tekintettel az itt megválaszolt kérdések súlyára” - áll a jelentésben.
A jelentés szerint az Anthropic azzal indokolta a kitakarásokat, hogy az információk nyilvánosságra hozatala előnyhöz juttathatná a versenytársait. A METR ugyanakkor azt mondta, hogy „a kitakart információk többsége nagyon magas szintű volt”, miközben hozzátette, hogy nincs abban a helyzetben, hogy megítélje, üzleti szempontból indokoltak voltak-e a kitakarások.
„Sok mindent kitakartunk, és elismerem, hogy ez megnehezíti mások számára a METR munkájának ellenőrzését” - ismerte el Sam McCandlish, az Anthropic társalapítója az X-en közzétett, terjedelmes bejegyzésében, amelyben a METR megállapításaira reagált. „Arra jutottunk azonban, hogy nem helyes pontosan megosztani, mi okozza a gyorsulást, egyrészt azért, mert ez üzleti szempontból érzékeny információ, másrészt azért, mert fennáll a veszélye, hogy ezzel útmutatót adunk mások kezébe ahhoz, hogyan gyorsíthatják fel még inkább a fejlesztést” - mondta. Hozzátette, hogy ez súlyosbítaná azokat a kockázatokat, amelyekre a METR figyelmeztet. McCandlish szerint ez kompromisszumokkal járó döntés, de fenntartotta, hogy a vállalat „helyesen döntött”, amikor az információk kitakarása mellett határozott. Elmondta, hogy a vállalat a következő hetekben saját jelentést tesz közzé az MI fejlődésének üteméről, valamint ismerteti azokat az új intézkedéseket is, amelyekkel a biztonságot kívánja erősíteni.
A METR jelentésének közzététele heves ellenreakciókat váltott ki az MI-biztonsági kutatók és a témával foglalkozó kommentátorok körében. A bírálatok középpontjában nagyrészt az Anthropic MI-hez való hozzáállásának egyik nyilvánvaló ellentmondása áll: a vállalat a biztonság és a felelős fejlesztés egyik leghangosabb szószólója volt, a jelentés mégis arra utal, hogy maga is hozzájárul a technológia olyan küszöb felé történő felgyorsításához, amelyet sokan veszélyesnek tartanak. Mindeközben úgy tűnik, nem tartja be maradéktalanul saját átláthatósági és elszámoltathatósági vállalásait.
Egyesek szerint az eredmények arra utalnak, hogy még a terület legmerészebb előrejelzései is túlságosan óvatosak lehetnek az MI fejlődésének ütemét illetően. A megállapítások azt jelzik, hogy a rekurzív önfejlesztés - vagyis az a folyamat, amelynek során az MI-rendszerek emberi beavatkozás nélkül képesek egyre fejlettebb utódrendszereket létrehozni, és ezzel potenciálisan drámai mértékben felgyorsítani a fejlődést - közelebb lehet, mint korábban gondolták. Ez aggodalmakat vet fel azzal kapcsolatban, hogy a jelenlegi biztonsági intézkedések képesek lesznek-e lépést tartani a fejlődéssel. Bár a METR jelentése kizárólag az Anthropicra terjed ki, az OpenAI szeptemberben azt közölte, hogy „jelentős előrelépést tesz” egy olyan MI-kutató létrehozása felé, amely 2028 márciusáig képes lesz „továbbvinni a mélytanulás és az összehangolás területén folyó kutatásokat”.
Marius Hobbhahn, az Apollo Research vezérigazgatója és alapítója, amely több vezető MI-fejlesztő laboratórium számára végez MI-biztonsági teszteket, azt mondta, hogy a jelentés az MI által támogatott kutatás és fejlesztés olyan ütemére utal, amely még az AI 2027 című, nagy hatású forgatókönyvben előre jelzettnél is gyorsabb. Ez a forgatókönyv 2027 elejére teszi az önfejlesztés felé vezető egyik kulcsfontosságú áttörést. Hobbhahn szerint azért kapott ekkora figyelmet a jelentés, mert bizonyítékot szolgáltat egy olyan kérdésben, amelyet eddig nagyon nehéz volt pontosan megválaszolni: milyen gyorsan gyorsítja fel az MI a saját fejlődését.
Hobbhahn szerint a megállapítások nagyjából összhangban vannak azzal, amire a terület számos szakértője számított, talán valamivel gyorsabb ütemet mutatnak. Alan Chan, a technológiai szakpolitikai kutatóközpont, a GovAI vezető kutatója azt mondta, hogy az eredményeknek arra kellene késztetniük az MI fejlődésének önmagát gyorsító hatását megkérdőjelező szkeptikusokat, hogy gondolják újra álláspontjukat, és esetleg rövidítsék le az arra vonatkozó becsléseiket, mikor jelenhetnek meg olyan rendszerek, amelyek képesek lesznek teljesen automatizálni olyan feladatokat, mint például a szoftverfejlesztés.
Az X-en más kutatók is kommentálták a gyorsulás ütemét és annak az MI fejlődésére gyakorolt következményeit. Sydney Von Arx, a The Nightingale Collective nevű MI-biztonsági szervezet alapítója és vezérigazgatója, aki korábban a METR kutatója volt, szintén az AI 2027 idővonalával vetette össze az eredményeket. Ryan Greenblatt, a METR kutatója, aki korábban a Redwood Research nevű MI-biztonsági szervezetnél dolgozott, és egyike volt annak a három külső kutatónak, akik engedélyt kaptak az OpenAI Hugging Face elleni hackertámadásának kivizsgálására, azt mondta, hogy „komolyan tévedett az RSI felgyorsulásával kapcsolatban; korábban sokkal kisebb gyorsulásra számítottam 2026-ban”.
A jelentés nemcsak az MI fejlődésének gyorsaságára világít rá, hanem tovább erősíti az Anthropic szerepével kapcsolatos növekvő elégedetlenséget is. A vállalat a felelős MI-fejlesztés egyik leghangosabb támogatója volt, és nem egyszer szólított fel másokat a fejlesztés lassítására, most mégis úgy tűnik, hogy maga is versenyt fut az idővel. A jelentés tovább fokozza azokat a már korábban is jelentős feszültségeket, amelyeket a vállalat múlt hónapban közzétett tőzsdei bevezetési tájékoztatója és jövőbeli tervei váltottak ki.
Az Anthropic döntése, hogy jelentős részeket kitakar a jelentésből arra hivatkozva, hogy a további információk nyilvánosságra hozatala segíthetné versenytársait saját fejlesztéseik felgyorsításában, képmutatással kapcsolatos vádakat váltott ki. Daniel Kokotajlo, az OpenAI egykori kutatója, aki jelenleg az AI 2027 című forgatókönyvet közzétevő AI Futures Projectet vezeti, azzal vádolta az Anthropicot, hogy „felelőtlenül hazardírozik az életünkkel”. Hozzátette, hogy „meglehetősen visszás”, hogy a vállalat mások gyorsabb fejlesztésére hivatkozva indokolja az információk kitakarását, miközben „egyáltalán nem úgy tűnik, hogy maga jelentősen lassítaná a fejlesztést”.
A kitakarások ismét felerősítették azokat a felhívásokat is, amelyek az élvonalbeli MI-fejlesztő laboratóriumok nagyobb átláthatóságát és független felügyeletét követelik. Ezek az igények az év elején új szintre emelkedtek, miután több incidens is történt önállósodó MI-ügynökökkel kapcsolatban. Brianna Rosen, az Institute for AI Policy and Strategy élvonalbeli biztonsággal foglalkozó kutatási igazgatója azt mondta, aggasztó, hogy az MI-kutatás automatizálásáról gyakorlatilag nem a kormányok, hanem a vállalatok hozzák meg a döntéseket. „Ahhoz, hogy a demokratikus felügyelet működjön, a független értékelőknek szabadon el kell magyarázhatniuk, miért jutottak az adott következtetésekre, a kormányoknak maguknak kell értékelniük a bizonyítékokat, a nyilvánosságnak pedig bíznia kell ebben a folyamatban” - mondta Rosen. „A jelentés nem volt kellően átlátható a bizonyítékokat illetően.”
Hobbhahn osztotta Rosen aggodalmait, és azt mondta, hogy a jelentésre adott reakciók jelentős része az Anthropic nyilvánosan képviselt biztonsági álláspontja és tényleges cselekedetei közötti nyilvánvaló különbségből ered. Felhívta a figyelmet arra is, hogy a vállalat úgy döntött, megszünteti az értékelés egy részét, amely azt vizsgálta volna, mennyi számítási kapacitást fordít a biztonsági munkára, és mennyit a modellek képességeinek fejlesztésére. A METR szerint a vállalat azzal indokolta ezt a döntést, hogy „egyelőre a kockázatértékelésre kívánja összpontosítani az együttműködést, a számítási kapacitás elosztásának ellenőrzésére pedig később térne vissza”.
Hobbhahn szerint az eset rámutat arra, hogy a független biztonsági kutatóknak mélyebben be kell épülniük az MI-fejlesztő laboratóriumok működésébe, és jelentős hozzáférést kell kapniuk a belső rendszerekhez és bizonyítékokhoz. Bár saját szervezete is profitálhat az ilyen megállapodásokból - az Apollo lépéseket tesz annak érdekében, hogy az élvonalbeli laboratóriumok beépített értékelőjévé váljon -, egyáltalán nincs egyedül azzal a véleményével, hogy erősebb felügyeletre van szükség az MI fejlesztése felett.
Mások közvetlenebb fellépést sürgettek. A jelentésre adott közvetlen reakcióként Alex Bores, New York állam közgyűlésének képviselője, aki a demokraták MI-vel kapcsolatos programjának egyik meghatározó alakja, arra szólította fel a Kongresszust, hogy „tiltsa be a rekurzív önfejlesztést, lehetőleg még ebben az évben”. Mivel hamarosan hivatalba lépnek a demokraták által elért választási áttörés nyomán megválasztott politikusok, akik közül sokan az MI-vállalatokkal szemben kampányoltak, a szigorúbb korlátozások bevezetésének lehetősége nagyon is valós. Mivel az MI-kutatás alig mutatja a lassulás jeleit, a nyomás várhatóan tovább fokozódik. Hobbhahn szerint a jelentésből egy másik tanulságot is le lehet vonni: „Készüljenek fel az őrületre” - mondta. „Nagyon gyorsan fognak történni a dolgok”, valószínűleg sokkal gyorsabban annál, mint ahogyan a társadalom vagy a politika képes lenne lépést tartani velük.
Az Anthropic mesterséges intelligenciát használ arra, hogy még fejlettebb mesterséges intelligenciát hozzon létre. A jelek szerint ez rendkívül jól működik: a vállalat modelljei nagyjából kétszer olyan gyorsan fejlődnek, mint egy évvel ezelőtt, és alig látható jele annak, hogy ez a folyamat lassulna. Erre a következtetésre jutott a METR nevű, MI-biztonsággal foglalkozó kutatószervezet az új jelentésében, amely egy 11 héten át tartó, a vállalaton belül végzett vizsgálat eredményeire épül. A vizsgálat egy, a vállalat MI-kutatási és -fejlesztési tevékenységét értékelő jelentés része volt. A vizsgálat elkülönült attól a programtól, amelynek keretében a biztonsági kutatók a nyár folyamán történt, nagy visszhangot kiváltó hackertámadások után „alkalmazotti jellegű” hozzáférést kaptak a rendszerekhez.
Az eredmények az eddigi legegyértelműbb bizonyítékok közé tartoznak arra, hogy a mesterséges intelligencia felgyorsítja saját fejlődését. Ez kérdéseket vet fel azzal kapcsolatban, milyen gyorsan fejlődhet tovább a technológia egy olyan jövő felé, amelyben az MI-rendszerek már kevés vagy akár semmilyen emberi közreműködés nélkül is képesek lesznek továbbfejleszteni önmagukat. A megállapítások az Anthropic számára is meghatározó időszakban láttak napvilágot: a vállalat tőzsdei bevezetésére készül, miközben vezérigazgatója, Dario Amodei nyilvánosan arra szólította fel a fejlesztőlaboratóriumokat, hogy fékezzék le az MI fejlesztését.
A jelentés ugyan ritka betekintést enged a világ vezető MI-fejlesztő laboratóriumainak belső működésébe, legalább ennyire beszédes az is, amit nem tartalmaz. Az Anthropic a METR-rel kötött megállapodás részeként engedélyt kapott arra, hogy kitakarja a végleges jelentés egyes részeit, és úgy tűnik, széles körben élt is ezzel a lehetőséggel. Ez kérdéseket vet fel azzal kapcsolatban, hogy a nyilvánosság valójában mennyit tud az élvonalbeli MI fejlesztésének üteméről és kockázatairól.
A METR kutatói „biztosak abban”, hogy a gyorsulás nem egyszerűen annak tudható be, hogy növelték a modellek betanításához használt számítási kapacitást, amely történelmileg az MI fejlődésének egyik legfontosabb mozgatórugója volt. A kutatók ehelyett azt állították, hogy az októberi állapot szerint a gyorsulás nagyobb része „az MI-nek köszönhető”, és ennek hozzájárulása idővel egyre nő. Ezt a megállapítást az Anthropic alkalmazottai körében végzett informális Slack-felmérések és interjúk is alátámasztották, amelyek jelentős termelékenységnövekedésre utaltak. A METR azt írta, hogy azok az alkalmazottak, akik a vállalat legfejlettebb belső modelljét használták, saját bevallásuk szerint átlagosan körülbelül 12-szer olyan produktívak voltak a munkájukban, mint MI-támogatás nélkül lettek volna. Ez nagyjából a kétszerese annak, amiről az alkalmazottak mindössze néhány hónappal korábban, a Mythos 5 használata közben beszámoltak.
Egyelőre úgy tűnik, hogy a gyorsulás jelentős része abból ered, hogy az MI segíti az emberi kutatókat, nem pedig abból, hogy önállóan dolgozik. A METR ugyanakkor arra figyelmeztetett, hogy „vannak jelei annak, hogy a teljesen autonóm hozzájárulások hamarosan nagyobb szerepet játszanak majd”. A kutatók külön kiemelték, hogy nem találtak egyértelmű jeleket sem a hozadék csökkenésére, sem olyan megfigyelhető szűk keresztmetszetekre, amelyek megakadályozhatnák a „még gyorsabb felgyorsulást”.
Az Anthropic kutatói a többiekénél fejlettebb MI-modelleket használnak, és a METR által leírt gyorsulás, illetve termelékenységnövekedés jelentős része még nem nyilvánosságra hozott belső modelleknek tulajdonítható. A METR szerint az elmúlt hat hónapban az Anthropic három olyan modell betanítását fejezte be, amelyeket még nem tett közzé. A fejlesztés üteme gyors: a Model 2, Model 3 és Model 4 kódnevű modellek betanítása rendre júliusban, augusztus-szeptemberben, illetve szeptember-októberben fejeződött be. A METR egy 2022-ből származó, szintén nem nyilvánosságra hozott modellt is azonosított, amely az Unreleased 2022 nevet kapta. „Ezek azok a kódnevek, amelyeket megosztottak velünk; úgy tudjuk, hogy a vállalaton belül más kódneveket használnak” - írták a kutatók.
Az Anthropic a kutatási folyamat részeként számos nem nyilvános információhoz biztosított hozzáférést a METR számára, többek között bizalmas kutatási anyagokhoz, a modellek teljesítményére vonatkozó adatokhoz és az alkalmazottakkal készített interjúkhoz. Erre semmilyen kötelezettsége nem volt, és a METR saját bevallása szerint az MI-laboratórium „a projekt eredetileg meghatározott kereteinél jóval több információt osztott meg velünk, felülmúlva várakozásainkat”. Ez dicséretes, ugyanakkor érdemes megjegyezni, hogy az Anthropic nem biztosított korlátlan hozzáférést a kutatók számára, és nem adott nekik olyan „alkalmazotti jellegű” hozzáférést sem, amilyet egy másik, a múlt hónapban bejelentett program keretében ígért a METR más biztonsági kutatóinak. Ez fontos különbség, tekintettel arra, hogy a vállalatok milyen hírnévbeli előnyökhöz juthatnak a független értékelések révén, még akkor is, ha azok jelentős korlátozások mellett zajlanak.
„Körülbelül 100 oldalas, teljes értékelő jelentést nyújtottunk be az Anthropicnak. A nyilvánosság számára készített változatban az Anthropic kitakarta az általunk leginformatívabbnak tartott bizonyítékok többségét” - írta a METR az X-en. A METR a jelentés egészében többször is hangsúlyozta ezeket az aggályokat, és a hozzáférését érintő egyéb korlátozásokra is felhívta a figyelmet. „Az információkhoz való hozzáférésünk viszonylag szűk körű volt, és néhány adatkérésünket elutasították.”
A METR ismételten hangsúlyozta, hogy az Anthropic kitakarási döntései milyen hatással voltak arra, mennyire tudta közölni megállapításait, illetve mennyire képesek mások felmérni, mi történik a vállalatnál. Megjegyezte, hogy a kitakart bizonyítékok közül sokat „többféleképpen is értelmezni lehetett volna”, ami megnehezíti a nyilvánosság számára a megállapítások értékelését, a velük kapcsolatos bizonytalanságok megértését és a bizonyítékok önálló megítélését. „A kitakarások következtében a nyilvánosságnak a kelleténél sokkal inkább a METR ítéletére kell hagyatkoznia, tekintettel az itt megválaszolt kérdések súlyára” - áll a jelentésben.
We submitted a ~100-page full report on our assessment to Anthropic. For the public version, Anthropic redacted a majority of the evidence we found most informative. As a consequence, the public must rely on our judgment more than we consider ideal. https://t.co/fM8d0tN5cD
— METR (@METR_Evals) November 5, 2026
A jelentés szerint az Anthropic azzal indokolta a kitakarásokat, hogy az információk nyilvánosságra hozatala előnyhöz juttathatná a versenytársait. A METR ugyanakkor azt mondta, hogy „a kitakart információk többsége nagyon magas szintű volt”, miközben hozzátette, hogy nincs abban a helyzetben, hogy megítélje, üzleti szempontból indokoltak voltak-e a kitakarások.
„Sok mindent kitakartunk, és elismerem, hogy ez megnehezíti mások számára a METR munkájának ellenőrzését” - ismerte el Sam McCandlish, az Anthropic társalapítója az X-en közzétett, terjedelmes bejegyzésében, amelyben a METR megállapításaira reagált. „Arra jutottunk azonban, hogy nem helyes pontosan megosztani, mi okozza a gyorsulást, egyrészt azért, mert ez üzleti szempontból érzékeny információ, másrészt azért, mert fennáll a veszélye, hogy ezzel útmutatót adunk mások kezébe ahhoz, hogyan gyorsíthatják fel még inkább a fejlesztést” - mondta. Hozzátette, hogy ez súlyosbítaná azokat a kockázatokat, amelyekre a METR figyelmeztet. McCandlish szerint ez kompromisszumokkal járó döntés, de fenntartotta, hogy a vállalat „helyesen döntött”, amikor az információk kitakarása mellett határozott. Elmondta, hogy a vállalat a következő hetekben saját jelentést tesz közzé az MI fejlődésének üteméről, valamint ismerteti azokat az új intézkedéseket is, amelyekkel a biztonságot kívánja erősíteni.
I'm Sam, one of Anthropic's co-founders, and I lead much of our safety work. I'm going to have more to share on that work over the coming months. I thought I'd start by sharing a few thoughts on the latest report from @METR_Evals. The speed of progress in model capabilities is one of the most important questions in AI safety, and METR’s work here provides the public with an independent, external view into how this is happening inside Anthropic. I’ll talk more about some of the details below, but first some context for those new to this work. How quickly AI progress is accelerating has many important safety implications, since it determines how quickly the risks from advanced models increase. But, because most research happens within the frontier labs, it’s difficult for external observers and policy makers to get a strong sense of what that rate is. We kicked off the process with METR that led to this report earlier in the year, in anticipation of progress continuing to accelerate. For this report, we gave METR access to a range of sensitive internal data, including benchmark scores for unreleased models, estimates of how models are progressing, and interviews with our researchers. They had complete independence to form their own conclusions. Many of their conclusions match my own. AI is speeding up our research, but it’s hard to say exactly how much. While they conclude AI can't yet make the most important contributions to model training on its own, they think the pace of development could, by default, accelerate further. This work began well before and is separate from the embedded third-party evaluators that are part of our commitment to pacing the frontier, but it’s a good illustration of why we think evaluators are a good idea. The more access reviewers have, the clearer a picture they can form of the situation and the better-positioned they are to highlight situations like this one. We redacted a lot, and I accept that this makes it harder for others to check METR’s work. But we determined that sharing exactly what is driving the speedup isn’t the right thing to do, both because it’s commercially sensitive and because it risks handing out a roadmap for others to go faster. That would make the risks METR is worried about worse. That’s a tradeoff. I think we made the right call, though we’re continuing to assess the pros and cons here. In the coming weeks, we plan to share a report with our own analysis of the speed of AI progress within Anthropic, including where we stand against our Responsible Scaling Policy, plus new steps we’re taking to strengthen our safety and security practices as AI keeps improving quickly.
— Sam McCandlish (@Sam_McCandlish) November 5, 2026
A METR jelentésének közzététele heves ellenreakciókat váltott ki az MI-biztonsági kutatók és a témával foglalkozó kommentátorok körében. A bírálatok középpontjában nagyrészt az Anthropic MI-hez való hozzáállásának egyik nyilvánvaló ellentmondása áll: a vállalat a biztonság és a felelős fejlesztés egyik leghangosabb szószólója volt, a jelentés mégis arra utal, hogy maga is hozzájárul a technológia olyan küszöb felé történő felgyorsításához, amelyet sokan veszélyesnek tartanak. Mindeközben úgy tűnik, nem tartja be maradéktalanul saját átláthatósági és elszámoltathatósági vállalásait.
Egyesek szerint az eredmények arra utalnak, hogy még a terület legmerészebb előrejelzései is túlságosan óvatosak lehetnek az MI fejlődésének ütemét illetően. A megállapítások azt jelzik, hogy a rekurzív önfejlesztés - vagyis az a folyamat, amelynek során az MI-rendszerek emberi beavatkozás nélkül képesek egyre fejlettebb utódrendszereket létrehozni, és ezzel potenciálisan drámai mértékben felgyorsítani a fejlődést - közelebb lehet, mint korábban gondolták. Ez aggodalmakat vet fel azzal kapcsolatban, hogy a jelenlegi biztonsági intézkedések képesek lesznek-e lépést tartani a fejlődéssel. Bár a METR jelentése kizárólag az Anthropicra terjed ki, az OpenAI szeptemberben azt közölte, hogy „jelentős előrelépést tesz” egy olyan MI-kutató létrehozása felé, amely 2028 márciusáig képes lesz „továbbvinni a mélytanulás és az összehangolás területén folyó kutatásokat”.
Marius Hobbhahn, az Apollo Research vezérigazgatója és alapítója, amely több vezető MI-fejlesztő laboratórium számára végez MI-biztonsági teszteket, azt mondta, hogy a jelentés az MI által támogatott kutatás és fejlesztés olyan ütemére utal, amely még az AI 2027 című, nagy hatású forgatókönyvben előre jelzettnél is gyorsabb. Ez a forgatókönyv 2027 elejére teszi az önfejlesztés felé vezető egyik kulcsfontosságú áttörést. Hobbhahn szerint azért kapott ekkora figyelmet a jelentés, mert bizonyítékot szolgáltat egy olyan kérdésben, amelyet eddig nagyon nehéz volt pontosan megválaszolni: milyen gyorsan gyorsítja fel az MI a saját fejlődését.
Hobbhahn szerint a megállapítások nagyjából összhangban vannak azzal, amire a terület számos szakértője számított, talán valamivel gyorsabb ütemet mutatnak. Alan Chan, a technológiai szakpolitikai kutatóközpont, a GovAI vezető kutatója azt mondta, hogy az eredményeknek arra kellene késztetniük az MI fejlődésének önmagát gyorsító hatását megkérdőjelező szkeptikusokat, hogy gondolják újra álláspontjukat, és esetleg rövidítsék le az arra vonatkozó becsléseiket, mikor jelenhetnek meg olyan rendszerek, amelyek képesek lesznek teljesen automatizálni olyan feladatokat, mint például a szoftverfejlesztés.
Az X-en más kutatók is kommentálták a gyorsulás ütemét és annak az MI fejlődésére gyakorolt következményeit. Sydney Von Arx, a The Nightingale Collective nevű MI-biztonsági szervezet alapítója és vezérigazgatója, aki korábban a METR kutatója volt, szintén az AI 2027 idővonalával vetette össze az eredményeket. Ryan Greenblatt, a METR kutatója, aki korábban a Redwood Research nevű MI-biztonsági szervezetnél dolgozott, és egyike volt annak a három külső kutatónak, akik engedélyt kaptak az OpenAI Hugging Face elleni hackertámadásának kivizsgálására, azt mondta, hogy „komolyan tévedett az RSI felgyorsulásával kapcsolatban; korábban sokkal kisebb gyorsulásra számítottam 2026-ban”.
A jelentés nemcsak az MI fejlődésének gyorsaságára világít rá, hanem tovább erősíti az Anthropic szerepével kapcsolatos növekvő elégedetlenséget is. A vállalat a felelős MI-fejlesztés egyik leghangosabb támogatója volt, és nem egyszer szólított fel másokat a fejlesztés lassítására, most mégis úgy tűnik, hogy maga is versenyt fut az idővel. A jelentés tovább fokozza azokat a már korábban is jelentős feszültségeket, amelyeket a vállalat múlt hónapban közzétett tőzsdei bevezetési tájékoztatója és jövőbeli tervei váltottak ki.
Az Anthropic döntése, hogy jelentős részeket kitakar a jelentésből arra hivatkozva, hogy a további információk nyilvánosságra hozatala segíthetné versenytársait saját fejlesztéseik felgyorsításában, képmutatással kapcsolatos vádakat váltott ki. Daniel Kokotajlo, az OpenAI egykori kutatója, aki jelenleg az AI 2027 című forgatókönyvet közzétevő AI Futures Projectet vezeti, azzal vádolta az Anthropicot, hogy „felelőtlenül hazardírozik az életünkkel”. Hozzátette, hogy „meglehetősen visszás”, hogy a vállalat mások gyorsabb fejlesztésére hivatkozva indokolja az információk kitakarását, miközben „egyáltalán nem úgy tűnik, hogy maga jelentősen lassítaná a fejlesztést”.
It is pretty rich of you to cite "others could go faster" as a reason to redact so much important information when you yourself do not appear to be slowing down much at all. Nor are you throwing yourself behind efforts to pace the frontier with nearly the gusto that you would if it was your top priority. Not to mention "commercial sensitivity" you yourself have said human extinction is a plausible outcome why are you even talking about commercial factors (well, I guess honesty is good, and since it IS apparently a factor in your decision...) To all my friends at Anthropic: Your company appears to be recklessly gambling with our lives. You fancy yourselves the more responsible alternative to OpenAI (as they fancied themselves compared to Google) but judging by actions rather than words the similarities between the three of you seem stronger than the differences.
— Daniel Kokotajlo (@DKokotajlo) November 5, 2026
A kitakarások ismét felerősítették azokat a felhívásokat is, amelyek az élvonalbeli MI-fejlesztő laboratóriumok nagyobb átláthatóságát és független felügyeletét követelik. Ezek az igények az év elején új szintre emelkedtek, miután több incidens is történt önállósodó MI-ügynökökkel kapcsolatban. Brianna Rosen, az Institute for AI Policy and Strategy élvonalbeli biztonsággal foglalkozó kutatási igazgatója azt mondta, aggasztó, hogy az MI-kutatás automatizálásáról gyakorlatilag nem a kormányok, hanem a vállalatok hozzák meg a döntéseket. „Ahhoz, hogy a demokratikus felügyelet működjön, a független értékelőknek szabadon el kell magyarázhatniuk, miért jutottak az adott következtetésekre, a kormányoknak maguknak kell értékelniük a bizonyítékokat, a nyilvánosságnak pedig bíznia kell ebben a folyamatban” - mondta Rosen. „A jelentés nem volt kellően átlátható a bizonyítékokat illetően.”
Hobbhahn osztotta Rosen aggodalmait, és azt mondta, hogy a jelentésre adott reakciók jelentős része az Anthropic nyilvánosan képviselt biztonsági álláspontja és tényleges cselekedetei közötti nyilvánvaló különbségből ered. Felhívta a figyelmet arra is, hogy a vállalat úgy döntött, megszünteti az értékelés egy részét, amely azt vizsgálta volna, mennyi számítási kapacitást fordít a biztonsági munkára, és mennyit a modellek képességeinek fejlesztésére. A METR szerint a vállalat azzal indokolta ezt a döntést, hogy „egyelőre a kockázatértékelésre kívánja összpontosítani az együttműködést, a számítási kapacitás elosztásának ellenőrzésére pedig később térne vissza”.
Hobbhahn szerint az eset rámutat arra, hogy a független biztonsági kutatóknak mélyebben be kell épülniük az MI-fejlesztő laboratóriumok működésébe, és jelentős hozzáférést kell kapniuk a belső rendszerekhez és bizonyítékokhoz. Bár saját szervezete is profitálhat az ilyen megállapodásokból - az Apollo lépéseket tesz annak érdekében, hogy az élvonalbeli laboratóriumok beépített értékelőjévé váljon -, egyáltalán nincs egyedül azzal a véleményével, hogy erősebb felügyeletre van szükség az MI fejlesztése felett.
Mások közvetlenebb fellépést sürgettek. A jelentésre adott közvetlen reakcióként Alex Bores, New York állam közgyűlésének képviselője, aki a demokraták MI-vel kapcsolatos programjának egyik meghatározó alakja, arra szólította fel a Kongresszust, hogy „tiltsa be a rekurzív önfejlesztést, lehetőleg még ebben az évben”. Mivel hamarosan hivatalba lépnek a demokraták által elért választási áttörés nyomán megválasztott politikusok, akik közül sokan az MI-vállalatokkal szemben kampányoltak, a szigorúbb korlátozások bevezetésének lehetősége nagyon is valós. Mivel az MI-kutatás alig mutatja a lassulás jeleit, a nyomás várhatóan tovább fokozódik. Hobbhahn szerint a jelentésből egy másik tanulságot is le lehet vonni: „Készüljenek fel az őrületre” - mondta. „Nagyon gyorsan fognak történni a dolgok”, valószínűleg sokkal gyorsabban annál, mint ahogyan a társadalom vagy a politika képes lenne lépést tartani velük.