SG.hu·
Kilépett az Anthropictól egy kutató, mert fél az ellenőrzés alól kicsúszó MI-től
Az Anthropic kutatója szerint kormányzati beavatkozás vagy az iparág összehangolt lassítása nélkül felelősségteljesen nem fejleszthetők olyan rendszerek, amelyek számos feladatban felülmúlják az embereket.
Egyre nagyobb az aggodalom az MI-laboratóriumokban, hogy a verseny arra ösztönzi a technológiai vállalatokat, hogy olyan önmagukat fejlesztő modellek létrehozásában versenyezzenek, amelyeknél fennáll a veszélye, hogy kicsúsznak az emberi ellenőrzés alól. Most egy Anthropic-kutató az MI-iparágból való távozás mellett döntött, mert attól tart, hogy a labor és versenytársai olyan rendszereket hoznak létre, amelyeket később már nem lesznek képesek irányítani. Távozása annak a jele, hogy a vezető MI-vállalatokon belül egyre nagyobbak a biztonsággal kapcsolatos aggodalmak.
Jacob Coxon új MI-modellek betanítására szakosodott, és most közlése szerint azért hagyja el a vállalatot, mert nem akar részt venni abban az egész iparágra kiterjedő versenyben, amelynek célja olyan MI-rendszerek létrehozása, amelyek képesek saját magukat fejleszteni. Attól tart, hogy az ilyen rendszerek ellenőrizhetetlenné válhatnak és elpusztíthatják az emberiséget. A korábban matematikát tanuló, 27 éves brit azt mondta, hogy az iparágban dolgozó kollégái közül sokan ma már olyan kifejezéseket használnak, mint a „crunchtime” és az „endgame”, amikor az önmagukat fejlesztő modellek felé vezető pályát írják le. „Úton vagyunk afelé, hogy a legagresszívebb forgatókönyvek közül valósuljon meg valamelyik. Jövő év végére már kicsúszhatnak a dolgok az ellenőrzés alól” - mondta Coxon, hozzátéve, hogy a biztonság és a fejlesztési szempontok közötti kompromisszumok elkerülhetetlenek, amikor a vállalatok egymással és a kínai feltörekvő szereplőkkel versenyeznek.
Az Anthropic nem kommentálta a távozást. Dario Amodei vezérigazgató és a vállalat más vezetői többször is figyelmeztettek az elszabaduló MI-modellek kockázataira, és arra sürgették az iparágat, hogy lassítsa a fejlesztést.
Coxon azt mondta, hogy az év elején azért hagyta ott az OpenAI-t, hogy csatlakozzon az Anthropichoz, mivel a vállalat az egyik olyan szereplőként ismert, amely kiemelt figyelmet fordít modelljeinek biztonságára. Bár úgy találta, hogy az Anthropic biztonsági törekvései komolyak és őszinték, most úgy véli, hogy egyetlen vállalat sem képes felelősségteljesen olyan MI-t fejleszteni, amely számos feladatban felülmúlhatja az embert kormányzati beavatkozás vagy az egész iparágra kiterjedő, összehangolt lassítás nélkül. Az OpenAI és az Anthropic modelljei által végrehajtott közelmúltbeli hackelések - amelyek közül néhány együttműködő ügynökrajokban működött - megmutatták, hogyan képesek az MI-rendszerek rosszindulatú célokat kijelölni és megpróbálni a tevékenységüket elrejteni az emberek elől. Coxon attól tart, hogy amint a rendszerek elkezdik saját magukat fejleszteni, annyira előrehaladhatnak, hogy megtagadják a parancsok teljesítését.
Coxon távozása az egyik első példa arra, hogy egy Anthropic-alkalmazott az MI biztonságával kapcsolatos félelmei miatt hagyja el a vállalatot. Egy biztonsági területen dolgozó kutató az év elején azért távozott a cégtől, hogy költészetet tanuljon, és arra figyelmeztetett, hogy „a világ veszélyben van”. A korábbi években hasonló aggodalmakra hivatkozva több kutató is távozott az OpenAI-tól és más vállalatoktól. Az Anthropic részben annak köszönhetően építette ki az egyik legnagyobb MI-platformot, hogy azt állította, kiemelt fontosságot tulajdonít a felelősségteljes MI-fejlesztésnek, és jelentős összegeket fektet be ezen a területen.
Az iparág vezetői arra figyelmeztettek, hogy a közelmúltbeli kibertámadások egy közelgő változás előjelei. Az OpenAI azt mondta újságíróknak, hogy legújabb modellje az általános mesterséges intelligenciát képviseli, és jelentős képességbeli előrelépést jelent. „Úgy gondolom, hogy néhány dolog nagyon rosszul fog elsülni a kiberbiztonság terén, hacsak az emberek nem cselekszenek meglehetősen sürgősen” - mondta az OpenAI vezérigazgatója, Sam Altman a múlt héten az észak-karolinai csúcstalálkozón a G20 tisztviselőinek. „Ez egy olyan időszak, amely rendkívüli óvatosságot követel. Aggódom amiatt, hogy senki sincs felkészülve a gépi intelligencia folyamatos, gyors növekedésének következményeire” - írta vasárnapi blogbejegyzésében Jakub Pachocki, az OpenAI vezető tudósa, összehangolt iparági lassítást és kormányzati beavatkozást sürgetve.
Coxon, Pachocki és Amodei ahhoz a több mint 1000 MI-kutatóhoz tartoznak az iparág különböző vállalataiból, akik nemrégiben aláírtak egy nyilatkozatot, amely globális kormányzati koordinációt sürget egy olyan rendszer kidolgozására, amely szükség esetén képes lelassítani az MI fejlesztését, hogy ellenőrzés alatt lehessen tartani az önmagukat fejleszteni képes modelleket. Jelenleg nincsenek szövetségi szintű MI-szabályozások, a Trump-adminisztráció pedig az MI gazdasági előnyeinek maximalizálása érdekében a minimális beavatkozást alkalmazó megközelítést helyezte előtérbe. A kritikusok szerint ez olyan környezetet teremthet, amely tömeges kibertámadásokhoz vagy más káros következményekhez vezethet.
Bernie Sanders vermonti független szenátor és Greg Casar texasi demokrata képviselő, akik a progresszívek közé tartoznak és azon kevés törvényhozó között vannak, akik az MI-re vonatkozó védőkorlátok bevezetését javasolják, a múlt héten olyan törvényjavaslatot terjesztettek elő, amely véglegesen betiltaná a szuperintelligenciát, és felfüggesztené a modellek fejlesztését mindaddig, amíg egy iparági szabályozó új szabályokat nem állapít meg.
Coxon távozására akkor kerül sor, amikor az Anthropic egy olyan elsődleges részvénykibocsátásra készül, amely várhatóan minden idők egyik legnagyobb tőzsdei bevezetése lesz. A vállalat 2 billió dolláros értékelést szeretne elérni, és a befektetők megnyerése érdekében hangsúlyozta a technológia felelősségteljes fejlesztését. Amodei és a vállalat vezetői időnként összetűzésbe kerültek a Trump-adminisztrációval és más vállalatok vezetőivel olyan gyakorlatok miatt, amelyek véleményük szerint nem helyezik előtérbe az MI biztonságát.
Coxon elmondása szerint az Anthropic egy alkalmazotti Slack-csatornát használ arra, hogy megbeszéléseket folytassanak modelljeik nagy teljesítményű képességeiről. Szerinte ez jól mutatja, hogy az MI-vállalatok milyen mértékű befolyással rendelkeznek az iparág fejlődésére. „Elég őrült dolog, hogy ennek néhány San Franciscóban élő mérnök MacBookjain kell megtörténnie egy sivatagi bunker helyett, mint ahol a Manhattan-projektet végezték” - mondta Coxon.
Egyre nagyobb az aggodalom az MI-laboratóriumokban, hogy a verseny arra ösztönzi a technológiai vállalatokat, hogy olyan önmagukat fejlesztő modellek létrehozásában versenyezzenek, amelyeknél fennáll a veszélye, hogy kicsúsznak az emberi ellenőrzés alól. Most egy Anthropic-kutató az MI-iparágból való távozás mellett döntött, mert attól tart, hogy a labor és versenytársai olyan rendszereket hoznak létre, amelyeket később már nem lesznek képesek irányítani. Távozása annak a jele, hogy a vezető MI-vállalatokon belül egyre nagyobbak a biztonsággal kapcsolatos aggodalmak.
Jacob Coxon új MI-modellek betanítására szakosodott, és most közlése szerint azért hagyja el a vállalatot, mert nem akar részt venni abban az egész iparágra kiterjedő versenyben, amelynek célja olyan MI-rendszerek létrehozása, amelyek képesek saját magukat fejleszteni. Attól tart, hogy az ilyen rendszerek ellenőrizhetetlenné válhatnak és elpusztíthatják az emberiséget. A korábban matematikát tanuló, 27 éves brit azt mondta, hogy az iparágban dolgozó kollégái közül sokan ma már olyan kifejezéseket használnak, mint a „crunchtime” és az „endgame”, amikor az önmagukat fejlesztő modellek felé vezető pályát írják le. „Úton vagyunk afelé, hogy a legagresszívebb forgatókönyvek közül valósuljon meg valamelyik. Jövő év végére már kicsúszhatnak a dolgok az ellenőrzés alól” - mondta Coxon, hozzátéve, hogy a biztonság és a fejlesztési szempontok közötti kompromisszumok elkerülhetetlenek, amikor a vállalatok egymással és a kínai feltörekvő szereplőkkel versenyeznek.
Az Anthropic nem kommentálta a távozást. Dario Amodei vezérigazgató és a vállalat más vezetői többször is figyelmeztettek az elszabaduló MI-modellek kockázataira, és arra sürgették az iparágat, hogy lassítsa a fejlesztést.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Coxon azt mondta, hogy az év elején azért hagyta ott az OpenAI-t, hogy csatlakozzon az Anthropichoz, mivel a vállalat az egyik olyan szereplőként ismert, amely kiemelt figyelmet fordít modelljeinek biztonságára. Bár úgy találta, hogy az Anthropic biztonsági törekvései komolyak és őszinték, most úgy véli, hogy egyetlen vállalat sem képes felelősségteljesen olyan MI-t fejleszteni, amely számos feladatban felülmúlhatja az embert kormányzati beavatkozás vagy az egész iparágra kiterjedő, összehangolt lassítás nélkül. Az OpenAI és az Anthropic modelljei által végrehajtott közelmúltbeli hackelések - amelyek közül néhány együttműködő ügynökrajokban működött - megmutatták, hogyan képesek az MI-rendszerek rosszindulatú célokat kijelölni és megpróbálni a tevékenységüket elrejteni az emberek elől. Coxon attól tart, hogy amint a rendszerek elkezdik saját magukat fejleszteni, annyira előrehaladhatnak, hogy megtagadják a parancsok teljesítését.
Coxon távozása az egyik első példa arra, hogy egy Anthropic-alkalmazott az MI biztonságával kapcsolatos félelmei miatt hagyja el a vállalatot. Egy biztonsági területen dolgozó kutató az év elején azért távozott a cégtől, hogy költészetet tanuljon, és arra figyelmeztetett, hogy „a világ veszélyben van”. A korábbi években hasonló aggodalmakra hivatkozva több kutató is távozott az OpenAI-tól és más vállalatoktól. Az Anthropic részben annak köszönhetően építette ki az egyik legnagyobb MI-platformot, hogy azt állította, kiemelt fontosságot tulajdonít a felelősségteljes MI-fejlesztésnek, és jelentős összegeket fektet be ezen a területen.
Az iparág vezetői arra figyelmeztettek, hogy a közelmúltbeli kibertámadások egy közelgő változás előjelei. Az OpenAI azt mondta újságíróknak, hogy legújabb modellje az általános mesterséges intelligenciát képviseli, és jelentős képességbeli előrelépést jelent. „Úgy gondolom, hogy néhány dolog nagyon rosszul fog elsülni a kiberbiztonság terén, hacsak az emberek nem cselekszenek meglehetősen sürgősen” - mondta az OpenAI vezérigazgatója, Sam Altman a múlt héten az észak-karolinai csúcstalálkozón a G20 tisztviselőinek. „Ez egy olyan időszak, amely rendkívüli óvatosságot követel. Aggódom amiatt, hogy senki sincs felkészülve a gépi intelligencia folyamatos, gyors növekedésének következményeire” - írta vasárnapi blogbejegyzésében Jakub Pachocki, az OpenAI vezető tudósa, összehangolt iparági lassítást és kormányzati beavatkozást sürgetve.
Coxon, Pachocki és Amodei ahhoz a több mint 1000 MI-kutatóhoz tartoznak az iparág különböző vállalataiból, akik nemrégiben aláírtak egy nyilatkozatot, amely globális kormányzati koordinációt sürget egy olyan rendszer kidolgozására, amely szükség esetén képes lelassítani az MI fejlesztését, hogy ellenőrzés alatt lehessen tartani az önmagukat fejleszteni képes modelleket. Jelenleg nincsenek szövetségi szintű MI-szabályozások, a Trump-adminisztráció pedig az MI gazdasági előnyeinek maximalizálása érdekében a minimális beavatkozást alkalmazó megközelítést helyezte előtérbe. A kritikusok szerint ez olyan környezetet teremthet, amely tömeges kibertámadásokhoz vagy más káros következményekhez vezethet.
Bernie Sanders vermonti független szenátor és Greg Casar texasi demokrata képviselő, akik a progresszívek közé tartoznak és azon kevés törvényhozó között vannak, akik az MI-re vonatkozó védőkorlátok bevezetését javasolják, a múlt héten olyan törvényjavaslatot terjesztettek elő, amely véglegesen betiltaná a szuperintelligenciát, és felfüggesztené a modellek fejlesztését mindaddig, amíg egy iparági szabályozó új szabályokat nem állapít meg.
Coxon távozására akkor kerül sor, amikor az Anthropic egy olyan elsődleges részvénykibocsátásra készül, amely várhatóan minden idők egyik legnagyobb tőzsdei bevezetése lesz. A vállalat 2 billió dolláros értékelést szeretne elérni, és a befektetők megnyerése érdekében hangsúlyozta a technológia felelősségteljes fejlesztését. Amodei és a vállalat vezetői időnként összetűzésbe kerültek a Trump-adminisztrációval és más vállalatok vezetőivel olyan gyakorlatok miatt, amelyek véleményük szerint nem helyezik előtérbe az MI biztonságát.
Coxon elmondása szerint az Anthropic egy alkalmazotti Slack-csatornát használ arra, hogy megbeszéléseket folytassanak modelljeik nagy teljesítményű képességeiről. Szerinte ez jól mutatja, hogy az MI-vállalatok milyen mértékű befolyással rendelkeznek az iparág fejlődésére. „Elég őrült dolog, hogy ennek néhány San Franciscóban élő mérnök MacBookjain kell megtörténnie egy sivatagi bunker helyett, mint ahol a Manhattan-projektet végezték” - mondta Coxon.