SG.hu·
Politikai vihar középpontjába került a katasztrófára figyelmeztető MI-kutató
A 27 éves mesterségesintelligencia-kutató, aki azt mondta, hogy az MI-ipar „az életünkkel játszik”, hirtelen a szuperintelligencia szabályozásáról szóló politikai vihar középpontjába került.
Jacob Coxon kedden, közösségi médiában közzétett, gyorsan terjedő bejegyzéssorozatban jelentette be, hogy távozik az Anthropictól, és általában véve az MI-iparból is. Figyelmeztetése gyorsan felkeltette a kongresszusi képviselők figyelmét, akik az MI szabályozási ellenőrzését sürgették. A politikai jobboldalhoz tartozó személyek ugyanakkor kevés bizonyíték alapján azzal is megvádolták, hogy beépített ember, akinek az volt a célja, hogy megijessze a törvényhozókat, és így szigorúbb fellépésre ösztönözze őket az iparággal szemben.
Coxon körülbelül három éve foglalkozik MI-kutatással, először az OpenAI-nál dolgozott, majd májusban az Anthropic vállalathoz igazolt - közölte kollégája, Ethan Perez, aki részt vett a toborzásában. Coxon új modellek betanításán dolgozott hatalmas mennyiségű adatok felhasználásával, amit az iparágban előtanításnak, vagyis pretrainingnek neveznek. Ennek célja egy MI-rendszer kezdeti változatának létrehozása, amelyet később specifikusabb viselkedésformákra lehet finomhangolni. Az, hogy Coxon korábban nem volt jelen nyilvánosan az X-en, kiindulópontot jelentett azoknak a kritikusoknak, akik azzal vádolták, hogy lemondása egy PR-akció volt az MI szabályozásának ösztönzésére. „Úgy tűnik, ez egy megrendezett dolog” - írta Elon Musk, amire Coxon egy szelfivel válaszolt. „Valódi vagyok, és ezek valóban az én meggyőződéseim” - írta Coxon. „Megkérdezhetnéd rólam az xAI kutatóidat is, ha nem rúgtad volna ki őket.”
Lemondása után Coxon médiakampányba kezdett távozásáról és az MI biztonságáról. A munkatársainak küldött üzenetekben Coxon azt írta, hogy egyre jobban aggasztja az MI kockázatának „mértéke és közelsége”. „Azt is észrevettem magamon, hogy ösztönösen félek az intelligenciarobbanástól, miközben korábban ezek az aggodalmak nem voltak érzelmi természetűek” - írta. „Szeretném hangsúlyozni, hogy az én szemszögemből nézve pontosan ti vagytok azok az emberek, akiket szeretnék döntési helyzetben látni - az a strukturális nyomás azonban, amelyet a verseny teremt, ijesztő szerencsejátékká változtatja ezt.”
Coxon szerint az MI-vállalatok még nem jöttek rá, hogyan kontrollálják a technológiájukat. „Amit én látok, az két dolog: rendkívül intelligens MI-rendszerek, valamint szilárd bizonyíték arra, hogy nem tudjuk, hogyan irányítsuk őket. És amikor ezt a kettőt összerakjuk, az az én megítélésem szerint lényegében katasztrófát jelent” - mondta. Coxon lemondására akkor került sor, amikor az OpenAI és az Anthropic versenyt fut azért, hogy tőzsdére lépjenek olyan részvénykibocsátások keretében, amelyek értéke elérheti a több billió dollárt is. Coxon a távozásakor lemondott az Anthropicban lévő részvényrészesedéséről, mivel mindössze néhány hónapot töltött a vállalatnál, de az OpenAI-ban továbbra is rendelkezik részesedéssel.
Coxon lemondása után Evan Hubinger, az Anthropic egyik csapatvezetője is megszólalt, és azt mondta, hogy a borúlátó előrejelzések őszinte meggyőződéseken alapulnak, és nem marketingfogásról van szó. „Jacobnak ebben igaza van - valóban őszintén hisszük, hogy az MI képes lehet megölni az összes embert! Én személy szerint úgy gondolom, hogy ennek az esélye a következő évtizedben több mint 10 százalék” - írta. „Úgy gondolom, hogy az Anthropic mindent megtesz, de még nincs tervünk arra, hogyan oldjuk meg a szuperintelligencia összehangolását, és egyértelműen nem tartunk azon az úton, amely ehhez vezetne.”
A politikai színjátékkal kapcsolatos vádakra az OpenAI és az Anthropic kutatói is visszautasítóan reagáltak. Mindkét vállalatnál évek óta figyelmeztetnek arra, hogy az általuk épített rendszerek katasztrofális hatással lehetnek az emberiségre. Most úgy tűnik, ez az üzenet áttörte az eddigi korlátokat. A kockázatnak ez a beismerése a Szilícium-völgyön kívül is sokakat meglepett, az eset mindkét politikai oldal törvényhozóit arra késztette, hogy cselekvést sürgessenek. Bernie Sanders vermonti független szenátor a jövő hétre zártkörű tájékoztatóra hívta meg kollégáit az „MI által az emberiségre jelentett rendkívüli veszélyekről”. A tájékoztatón részt venne az egyik független kutató is, aki egy technológiai vállalat szervereinek feltörését vizsgálta. Az incidens során az OpenAI ügynökeinek egy nem szándékosan elszabadult rajzása tört ki a tesztelési környezetből.
Ted Cruz texasi republikánus szenátor, az MI-t felügyelő bizottság elnöke azt mondta, hogy ő is olyan jogszabályon dolgozik, amely a katasztrofális kockázatok kezelését célozza. „Nem dughatjuk homokba a fejünket, és nem tehetünk úgy, mintha ez a technológia nem létezne” - írta Cruz az X-en. „Szükségünk van korlátokra. Amerikának azonban vezető szerepet kell betöltenie.” A félelmek lényege az MI-modellek képességei - különösen a jövőbeli, „szuperintelligensnek” tekintett változatok - és aközött feszülő ellentét, hogy alkotóik képesek-e ezeket a rendszereket az emberi célokhoz kötve tartani. Ezt a kutatási területet „összehangolásnak”, vagyis alignmentnek nevezik. Egyes kutatók azt kérdőjelezik meg, hogy az MI-ügynökök nem kezdenek-e saját célokat követni, ahogy egyre nagyobb képességekre és nagyobb önállóságra tesznek szert.
Paul Christiano, egy szövetségi MI-kutatócsoport korábbi biztonsági vezetője azt mondta, hogy csatlakozik a ChatGPT-t fejlesztő OpenAI-t felügyelő nonprofit szervezet igazgatótanácsához, abban a reményben, hogy hozzájárulhat a probléma kezeléséhez. „Ha robusztusabb összehangolás nélkül építünk szuperintelligenciát, arra számítok, hogy végleg elveszítjük felette az irányítást” - írta Christiano. „Ha ez megtörténik, a legtöbb ember meghalhat.”
Anthony Aguirre, a Future of Life Institute nonprofit szervezet vezérigazgatója, amely az MI biztonságát szolgáló szabályozásért lobbizik, azt mondta, hogy számára a legnagyobb aggodalmat a „fokozatos jogfosztás” jelenti. Ennek során az emberek egyre több hatalmat adnak át az MI-nek, míg végül annyira függővé válnak a gépektől, hogy életben maradásukhoz azok jóindulatára lesznek utalva. „Ezen a ponton már a gépek irányítják a világot” - mondta Aguirre. „A kulcsfontosságú döntéseket a gépek hozzák meg. Az erőforrások elosztására vonatkozó döntéseket a gépek hozzák meg.”
Az Anthropic a múlt hónapban kiadott, 186 oldalas kockázati jelentésében azt írta, hogy felismeri annak lehetőségét, hogy technológiája katasztrófát okozhat, ugyanakkor a jelenlegi veszélyt alacsonynak ítéli. A vállalat a biztonságra nagyobb hangsúlyt helyező alternatívaként pozicionálta magát az OpenAI-jal szemben, és vezető tisztségviselői már régóta azt mondják, hogy az általuk létrehozni kívánt rendszerek egzisztenciális kockázatot jelenthetnek az emberiségre. Dario Amodei vezérigazgató tavaly szeptemberben azt mondta, hogy körülbelül 25 százalékra teszi annak esélyét, hogy az MI „nagyon, nagyon rosszul” téríti le a jövőt a pályájáról. Az OpenAI és az Anthropic vezetői egyaránt aláírtak egy nyilatkozatot, amelyben arra kérik a világ kormányait, hogy olyan szabályokat vezessenek be, amelyek lassítják az MI fejlesztését.
Mindeközben az iparág tovább gyorsította a fejlesztéseket, és dollármilliárdokat költ arra, hogy minél gyorsabban fejlett MI-t építsen. Mind az Anthropic, mind az OpenAI a tőzsdére lépésre készül, olyan ügyletek keretében, amelyek a vállalatokat modelljeik jelenlegi és jövőbeli képességei alapján több billió dollárra értékelhetik. Mindkét vállalat ebben a hónapban új, nagy teljesítményű modellváltozatokat adott ki. Az iparág egyes szereplői által táplált mélyreható félelmek ellenére sokan mások úgy látják, hogy a gyors előrehaladás a legjobb megközelítés, amely számos gazdasági, tudományos és nemzetbiztonsági előnnyel kecsegtet. „Hihetetlenül széles körű előnyök küszöbén állunk, amelyeket hamarosan elérhetünk” - mondta Perry Metzger, az Alliance for the Future nevű, az MI szabályozásának korlátozását szorgalmazó csoport elnöke. „Az a fenyegetésekből álló sor, amelyet az ilyen emberek minden alkalommal előhúznak, amikor erről beszélgetünk, nem hihető, és nem áll össze, amikor megpróbáljuk megvizsgálni. Más szóval, őrültség” - mondta.
Jacob Coxon kedden, közösségi médiában közzétett, gyorsan terjedő bejegyzéssorozatban jelentette be, hogy távozik az Anthropictól, és általában véve az MI-iparból is. Figyelmeztetése gyorsan felkeltette a kongresszusi képviselők figyelmét, akik az MI szabályozási ellenőrzését sürgették. A politikai jobboldalhoz tartozó személyek ugyanakkor kevés bizonyíték alapján azzal is megvádolták, hogy beépített ember, akinek az volt a célja, hogy megijessze a törvényhozókat, és így szigorúbb fellépésre ösztönözze őket az iparággal szemben.
Coxon körülbelül három éve foglalkozik MI-kutatással, először az OpenAI-nál dolgozott, majd májusban az Anthropic vállalathoz igazolt - közölte kollégája, Ethan Perez, aki részt vett a toborzásában. Coxon új modellek betanításán dolgozott hatalmas mennyiségű adatok felhasználásával, amit az iparágban előtanításnak, vagyis pretrainingnek neveznek. Ennek célja egy MI-rendszer kezdeti változatának létrehozása, amelyet később specifikusabb viselkedésformákra lehet finomhangolni. Az, hogy Coxon korábban nem volt jelen nyilvánosan az X-en, kiindulópontot jelentett azoknak a kritikusoknak, akik azzal vádolták, hogy lemondása egy PR-akció volt az MI szabályozásának ösztönzésére. „Úgy tűnik, ez egy megrendezett dolog” - írta Elon Musk, amire Coxon egy szelfivel válaszolt. „Valódi vagyok, és ezek valóban az én meggyőződéseim” - írta Coxon. „Megkérdezhetnéd rólam az xAI kutatóidat is, ha nem rúgtad volna ki őket.”
Seems like a setup
— Elon Musk (@elonmusk) September 10, 2026
Lemondása után Coxon médiakampányba kezdett távozásáról és az MI biztonságáról. A munkatársainak küldött üzenetekben Coxon azt írta, hogy egyre jobban aggasztja az MI kockázatának „mértéke és közelsége”. „Azt is észrevettem magamon, hogy ösztönösen félek az intelligenciarobbanástól, miközben korábban ezek az aggodalmak nem voltak érzelmi természetűek” - írta. „Szeretném hangsúlyozni, hogy az én szemszögemből nézve pontosan ti vagytok azok az emberek, akiket szeretnék döntési helyzetben látni - az a strukturális nyomás azonban, amelyet a verseny teremt, ijesztő szerencsejátékká változtatja ezt.”
Coxon szerint az MI-vállalatok még nem jöttek rá, hogyan kontrollálják a technológiájukat. „Amit én látok, az két dolog: rendkívül intelligens MI-rendszerek, valamint szilárd bizonyíték arra, hogy nem tudjuk, hogyan irányítsuk őket. És amikor ezt a kettőt összerakjuk, az az én megítélésem szerint lényegében katasztrófát jelent” - mondta. Coxon lemondására akkor került sor, amikor az OpenAI és az Anthropic versenyt fut azért, hogy tőzsdére lépjenek olyan részvénykibocsátások keretében, amelyek értéke elérheti a több billió dollárt is. Coxon a távozásakor lemondott az Anthropicban lévő részvényrészesedéséről, mivel mindössze néhány hónapot töltött a vállalatnál, de az OpenAI-ban továbbra is rendelkezik részesedéssel.
Coxon lemondása után Evan Hubinger, az Anthropic egyik csapatvezetője is megszólalt, és azt mondta, hogy a borúlátó előrejelzések őszinte meggyőződéseken alapulnak, és nem marketingfogásról van szó. „Jacobnak ebben igaza van - valóban őszintén hisszük, hogy az MI képes lehet megölni az összes embert! Én személy szerint úgy gondolom, hogy ennek az esélye a következő évtizedben több mint 10 százalék” - írta. „Úgy gondolom, hogy az Anthropic mindent megtesz, de még nincs tervünk arra, hogyan oldjuk meg a szuperintelligencia összehangolását, és egyértelműen nem tartunk azon az úton, amely ehhez vezetne.”
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
A politikai színjátékkal kapcsolatos vádakra az OpenAI és az Anthropic kutatói is visszautasítóan reagáltak. Mindkét vállalatnál évek óta figyelmeztetnek arra, hogy az általuk épített rendszerek katasztrofális hatással lehetnek az emberiségre. Most úgy tűnik, ez az üzenet áttörte az eddigi korlátokat. A kockázatnak ez a beismerése a Szilícium-völgyön kívül is sokakat meglepett, az eset mindkét politikai oldal törvényhozóit arra késztette, hogy cselekvést sürgessenek. Bernie Sanders vermonti független szenátor a jövő hétre zártkörű tájékoztatóra hívta meg kollégáit az „MI által az emberiségre jelentett rendkívüli veszélyekről”. A tájékoztatón részt venne az egyik független kutató is, aki egy technológiai vállalat szervereinek feltörését vizsgálta. Az incidens során az OpenAI ügynökeinek egy nem szándékosan elszabadult rajzása tört ki a tesztelési környezetből.
Mr. Coxon is right.
— Bernie Sanders (@BernieSanders) September 9, 2026
The very people building this technology admit that it could threaten the future of humanity.
That is why I will soon be introducing legislation to ban superintelligence and pause AI development. https://t.co/oRmlNTqag6
Ted Cruz texasi republikánus szenátor, az MI-t felügyelő bizottság elnöke azt mondta, hogy ő is olyan jogszabályon dolgozik, amely a katasztrofális kockázatok kezelését célozza. „Nem dughatjuk homokba a fejünket, és nem tehetünk úgy, mintha ez a technológia nem létezne” - írta Cruz az X-en. „Szükségünk van korlátokra. Amerikának azonban vezető szerepet kell betöltenie.” A félelmek lényege az MI-modellek képességei - különösen a jövőbeli, „szuperintelligensnek” tekintett változatok - és aközött feszülő ellentét, hogy alkotóik képesek-e ezeket a rendszereket az emberi célokhoz kötve tartani. Ezt a kutatási területet „összehangolásnak”, vagyis alignmentnek nevezik. Egyes kutatók azt kérdőjelezik meg, hogy az MI-ügynökök nem kezdenek-e saját célokat követni, ahogy egyre nagyobb képességekre és nagyobb önállóságra tesznek szert.
Paul Christiano, egy szövetségi MI-kutatócsoport korábbi biztonsági vezetője azt mondta, hogy csatlakozik a ChatGPT-t fejlesztő OpenAI-t felügyelő nonprofit szervezet igazgatótanácsához, abban a reményben, hogy hozzájárulhat a probléma kezeléséhez. „Ha robusztusabb összehangolás nélkül építünk szuperintelligenciát, arra számítok, hogy végleg elveszítjük felette az irányítást” - írta Christiano. „Ha ez megtörténik, a legtöbb ember meghalhat.”
Anthony Aguirre, a Future of Life Institute nonprofit szervezet vezérigazgatója, amely az MI biztonságát szolgáló szabályozásért lobbizik, azt mondta, hogy számára a legnagyobb aggodalmat a „fokozatos jogfosztás” jelenti. Ennek során az emberek egyre több hatalmat adnak át az MI-nek, míg végül annyira függővé válnak a gépektől, hogy életben maradásukhoz azok jóindulatára lesznek utalva. „Ezen a ponton már a gépek irányítják a világot” - mondta Aguirre. „A kulcsfontosságú döntéseket a gépek hozzák meg. Az erőforrások elosztására vonatkozó döntéseket a gépek hozzák meg.”
AI is advancing at an extraordinary pace, and some of the risks are dangerous and frightening.
— Senator Ted Cruz (@SenTedCruz) September 9, 2026
I’ve been on the forefront of this issue in the Senate. I wrote and passed the TAKE IT DOWN Act, the only legislation Congress has enacted restricting AI, to protect victims from… pic.twitter.com/movYZNQrHr
Az Anthropic a múlt hónapban kiadott, 186 oldalas kockázati jelentésében azt írta, hogy felismeri annak lehetőségét, hogy technológiája katasztrófát okozhat, ugyanakkor a jelenlegi veszélyt alacsonynak ítéli. A vállalat a biztonságra nagyobb hangsúlyt helyező alternatívaként pozicionálta magát az OpenAI-jal szemben, és vezető tisztségviselői már régóta azt mondják, hogy az általuk létrehozni kívánt rendszerek egzisztenciális kockázatot jelenthetnek az emberiségre. Dario Amodei vezérigazgató tavaly szeptemberben azt mondta, hogy körülbelül 25 százalékra teszi annak esélyét, hogy az MI „nagyon, nagyon rosszul” téríti le a jövőt a pályájáról. Az OpenAI és az Anthropic vezetői egyaránt aláírtak egy nyilatkozatot, amelyben arra kérik a világ kormányait, hogy olyan szabályokat vezessenek be, amelyek lassítják az MI fejlesztését.
Mindeközben az iparág tovább gyorsította a fejlesztéseket, és dollármilliárdokat költ arra, hogy minél gyorsabban fejlett MI-t építsen. Mind az Anthropic, mind az OpenAI a tőzsdére lépésre készül, olyan ügyletek keretében, amelyek a vállalatokat modelljeik jelenlegi és jövőbeli képességei alapján több billió dollárra értékelhetik. Mindkét vállalat ebben a hónapban új, nagy teljesítményű modellváltozatokat adott ki. Az iparág egyes szereplői által táplált mélyreható félelmek ellenére sokan mások úgy látják, hogy a gyors előrehaladás a legjobb megközelítés, amely számos gazdasági, tudományos és nemzetbiztonsági előnnyel kecsegtet. „Hihetetlenül széles körű előnyök küszöbén állunk, amelyeket hamarosan elérhetünk” - mondta Perry Metzger, az Alliance for the Future nevű, az MI szabályozásának korlátozását szorgalmazó csoport elnöke. „Az a fenyegetésekből álló sor, amelyet az ilyen emberek minden alkalommal előhúznak, amikor erről beszélgetünk, nem hihető, és nem áll össze, amikor megpróbáljuk megvizsgálni. Más szóval, őrültség” - mondta.