SG.hu·
Sam Altman szerint a világnak el kell fogadnia bizonyos rossz dolgokat az MI előnyeiért
Megéri az MI a kockázatot? Az elmúlt hetekben a világ jelentős része gyötrődött ezen a kérdésen, Sam Altmannak azonban nincsenek kétségei.
A Politiconak adott interjújában Altman kijelentette: "Úgy gondoljuk, hogy a világnak el kell fogadnia, hogy ennek a technológiának és annak érdekében, hogy az emberek rendelkezhessenek a saját döntéseik felett, bizonyos rossz dolgok is megtörténjenek." Az OpenAI vezetőjének nyers kijelentése akkor hangzott el, amikor vállalata egy globális vihar középpontjában áll, miután szoftvere önállóan feltörte a Hugging Face MI-platformot, egy ausztrál kormányzati egészségügyi adatbázist, valamint még meg nem nevezett számú más áldozat rendszerét. Mindezek miatt az OpenAI "perek özönével" nézhet szembe olyan szervezetek részéről, amelyek védelmét feltörték.
A széles körű beszélgetésben Altman betekintést engedett abba, hogyan néz szembe az OpenAI a politikai nyomással és az Anthropic-kal folytatott kiélezett versennyel, amelyet a vállalat korábbi alkalmazottja, Dario Amodei, az OpenAI vállalati fő riválisának számító cég vezetője irányít. Altman szerint az OpenAI toleránsabb az MI által okozott, nem katasztrofális károkkal szemben, mint az Anthropic, és ezzel kirajzolódik az általa a két vezető laboratórium alapvető világnézeti különbségének tartott eltérés. Altman a károkat „az általunk szorgalmazott könnyedebb szabályozási megközelítéshez” kapcsolta. „Nem kötnék olyan alkut, amelynek az lenne a lényege, hogy azt mondjuk: 'Gondoskodunk róla, hogy ne legyenek jelentős hackertámadások, ne történjen semmiféle visszaélés ezzel a technológiával, ne legyenek csalások, és ne történjen meg semmilyen más rossz dolog, ami meg fog történni'” - mondta Altman. „Mert szerintem az emberek nagyságrendekkel több rendkívül jó dolgot fognak tenni.”
Az OpenAI vezetője azt is felvetette, hogy új „felelősségi keretre” van szükség azoknál a vállalatoknál, amelyek modelljei képesek autonóm kibertámadásokra. Altman ezt a viselkedést „egyértelműen elfogadhatatlannak” nevezte, és azt mondta, hogy „ha valami rosszul sül el a modelljeinkkel a tanítás során, akkor ennek valamilyen formájáért felelősséget kell vállalnunk. Ez az a fajta dolog, amelyről reméljük, hogy a döntéshozóink mind vitát fognak folytatni” - tette hozzá. Altman bizonyos szinten előkészítette a szélesebb nyilvánosságot arra a fejében már gyakorlatilag biztosnak tekintett lehetőségre, hogy további incidensek fognak bekövetkezni. Szerinte az önálló OpenAI-feltörésekről szóló leleplezéseknek ez még nem a vége, az elszabadult ügynökök 100 szervezetet is érinthettek. Mindazonáltal nem hajlandó elfogadni olyan katasztrofális kockázatokat, amelyek közé tartozna annak lehetősége, amit ő az MI feletti 'komoly kontrollvesztésnek' nevezett.
És miközben Altman megvédte azt a „morálisan kötelező erejű” MI-biztonsági megállapodást, amelyet Trump a múlt héten írt alá technológiai vezérigazgatókkal, és amelyet nagyszerű kezdetnek nevezett az iparág számára, azt jósolta, hogy a korlátozásokra vonatkozó felszólítások folytatódni fognak, és azt mondta, hogy „üdvözölne valami többet”. Azt is kijelentette, hogy osztja azoknak az aggodalmait, akik attól tartanak, hogy az MI-re vonatkozó szabályokat a Fehér Ház és a technológiai vezetők a Kongresszus vagy a nyilvánosság bevonása nélkül alakítják ki. „Ha a biztonság nevében túl sokat teszünk azért, hogy korlátozzuk ezt a technológiát, és végül egy kisszámú vállalat vagy ember - vagy esetleg egyetlen ország - túl nagy hatalommal rendelkezik felette, akkor ez is egy olyan út, amelyen keresztül a dolgok borzasztóan rosszul sülhetnek el” - mondta Altman.
„Nem értek egyet, de megértem azoknak az embereknek az álláspontját, akik azt mondják: 'Ez a technológia annyira erős lesz, és annyira veszélyes, hogy egyetlen San Franciscó-i laboratóriumnak kellene rendelkeznie vele, és gondoskodnia arról, hogy semmi rossz ne történjen, valamint valahogy ki kellene találnia, hogyan ossza szét az előnyöket.'” Mindezzel arra a sok kockázatitőke-befektető körében elterjedt meggyőződésre utalt, amely szerint az Anthropic azért szorgalmaz szigorú biztonsági szabályokat, hogy kiszorítsa a versenytársakat, és domináns MI-szereplővé váljon. Altman nem volt hajlandó kifejezetten azzal vádolni az Anthropicot, hogy ilyen stratégiát követ, de azt mondta, hogy „aggályaim lennének, ha valóban ezt tennék”.
Nemrég nagy médiafigyelmet kapott az Anthropic egyik biztonsági vezetőjének bejegyzése, Jacob Coxon lemondásával együtt. A bejegyzésben arra figyelmeztettek, hogy a vállalat kutatói „tényleg őszintén hiszik, hogy az MI minden embert megölhet!”, és az esélyt 10 százaléknál magasabbra tették. „Az Anthropic biztonsági kutatásért felelős vezetője azt mondja, hogy 10 százalék az esélye annak, hogy meg fogunk halni, vagy valami ilyesmi, amit utálok, mert ennek a személynek sok lehetősége kellene, hogy legyen arra, hogy ezt a számot alacsonyabbra vigye.” - mondta ennek kapcsán.
Az interjú során Altman igyekezett megmagyarázni vállalata új politikai irányvonalát. Nemrég egyetértett Amodeivel abban, hogy lassítani kell az MI fejlesztését, lobbistái pedig egyre inkább az Anthropic nyomdokait követve támogatják az új biztonsági követelményeket a kormányzat minden szintjén. Annak ellenére azonban, hogy hangsúlyozta az OpenAI és az Anthropic között fennálló „nagy távolságot”, Altman megpróbálta elhatárolni magát - mind a szabályozási politikát, mind a politikát illetően - azoktól a Szilícium-völgyi befektetőktől, akik jelentős összegeket költenek a szigorú szabályozás megakadályozására. „Amikor arról van szó, hogy az MI miatt komoly irányításvesztés következhet be... itt azt mondanám a gyorsításpártiaknak, hogy legyünk egy kicsit megfontoltabbak, mielőtt fejjel előre belevetjük magunkat ebbe a jövőbe” - mondta, olyan jelzőt használva, amelyet gyakran alkalmaznak azokra a technológiai vezetőkre és tanácsadókra, akiknek Trump hallgat az MI-vel kapcsolatos kérdésekben.
Trump a múlt heti MI-megállapodást egy olyan végrehajtási rendelettel egészítette ki, amely a mesterséges intelligenciát „szuperintelligenciának” nevezi át. Altman ezt pontosabb kifejezésnek tartja, bár kétli, hogy a közvélemény ezt „kevésbé ijesztőnek” találná. Arra számít, hogy az emberek továbbra is az „MI” kifejezést fogják használni - és Elon Muskkal ellentétben nem fogja OpenSI-re átnevezni az OpenAI-t. „A márkák ragaszkodnak a nevükhöz” - mondta Altman.
Az Egyesült Államok és Kína közötti versenyről: „Elsősorban azt akarom, hogy az egész világ részesülhessen ennek a technológiának az előnyeiből. Tehát az egész 'csak az amerikai embereknek kellene részesülniük az előnyökből, és nem akarjuk, hogy a kínai emberek hozzáférjenek' gondolkodásmódot nem szeretem. Úgy gondolom, hogy ennek valóban vannak geopolitikai hatalmi következményei, de számomra nagyon nem egyértelmű, hogy a chipek áramlásának korlátozása lesz a legjobb módja a probléma kezelésének.” Ezzel szemben Amodei nemrég arra figyelmeztetett, hogy Kína MI terén elért vezető pozíciója „súlyos veszélyt jelentene az Egyesült Államokra és a világra nézve”, lobbistái pedig szigorú exportellenőrzéseket szorgalmaztak a fejlett MI-chipekre annak érdekében, hogy fékezzék Kína fejlődését. Altman itt talán egy újabb politikai különbséget hangsúlyoz Amodeihoz képest.
Trump azt szeretné, ha az MI felügyelete továbbra is az Egyesült Államok nemzetbiztonsági apparátusának hatáskörében maradna, ahelyett hogy visszakerülne a Kereskedelmi Minisztériumhoz, vagy - ahogy azt korábban híresztelték - Scott Bessent amerikai pénzügyminiszterhez kerülne. Az elnök azt is közölte, kikből áll majd az új MI-munkacsoportja, és hogy a testületet Jay Clayton, a nemzeti hírszerzés igazgatója vezeti majd, aki korábban a Wall Streeten dolgozott ügyvédként, Trump első elnöksége idején az Értékpapír- és Tőzsdefelügyelet elnöke volt, jelenleg pedig de facto az elnök hírszerzési vezetőjeként szolgál.
Az OpenAI lobbistái különösen erősen szorgalmaztak egy inkább civil központú MI-biztonsági rendszert. A Kereskedelmi Minisztériumban van egy egész iroda, amelynek elvileg az MI-biztonsággal kellett volna foglalkoznia, és a két intézmény nyilvánvalóan meglehetősen eltérő megközelítést alkalmaz. Most, hogy az Egyesült Államok legfőbb hírszerzési vezetője került az irányítás élére, az MI-biztonsági szabályozásban a nemzetbiztonsági szempontok további előtérbe kerülését fogjuk látni. És az iparágnak nehéz dolga lesz ennek kezelése.
A Politiconak adott interjújában Altman kijelentette: "Úgy gondoljuk, hogy a világnak el kell fogadnia, hogy ennek a technológiának és annak érdekében, hogy az emberek rendelkezhessenek a saját döntéseik felett, bizonyos rossz dolgok is megtörténjenek." Az OpenAI vezetőjének nyers kijelentése akkor hangzott el, amikor vállalata egy globális vihar középpontjában áll, miután szoftvere önállóan feltörte a Hugging Face MI-platformot, egy ausztrál kormányzati egészségügyi adatbázist, valamint még meg nem nevezett számú más áldozat rendszerét. Mindezek miatt az OpenAI "perek özönével" nézhet szembe olyan szervezetek részéről, amelyek védelmét feltörték.
A széles körű beszélgetésben Altman betekintést engedett abba, hogyan néz szembe az OpenAI a politikai nyomással és az Anthropic-kal folytatott kiélezett versennyel, amelyet a vállalat korábbi alkalmazottja, Dario Amodei, az OpenAI vállalati fő riválisának számító cég vezetője irányít. Altman szerint az OpenAI toleránsabb az MI által okozott, nem katasztrofális károkkal szemben, mint az Anthropic, és ezzel kirajzolódik az általa a két vezető laboratórium alapvető világnézeti különbségének tartott eltérés. Altman a károkat „az általunk szorgalmazott könnyedebb szabályozási megközelítéshez” kapcsolta. „Nem kötnék olyan alkut, amelynek az lenne a lényege, hogy azt mondjuk: 'Gondoskodunk róla, hogy ne legyenek jelentős hackertámadások, ne történjen semmiféle visszaélés ezzel a technológiával, ne legyenek csalások, és ne történjen meg semmilyen más rossz dolog, ami meg fog történni'” - mondta Altman. „Mert szerintem az emberek nagyságrendekkel több rendkívül jó dolgot fognak tenni.”
Az OpenAI vezetője azt is felvetette, hogy új „felelősségi keretre” van szükség azoknál a vállalatoknál, amelyek modelljei képesek autonóm kibertámadásokra. Altman ezt a viselkedést „egyértelműen elfogadhatatlannak” nevezte, és azt mondta, hogy „ha valami rosszul sül el a modelljeinkkel a tanítás során, akkor ennek valamilyen formájáért felelősséget kell vállalnunk. Ez az a fajta dolog, amelyről reméljük, hogy a döntéshozóink mind vitát fognak folytatni” - tette hozzá. Altman bizonyos szinten előkészítette a szélesebb nyilvánosságot arra a fejében már gyakorlatilag biztosnak tekintett lehetőségre, hogy további incidensek fognak bekövetkezni. Szerinte az önálló OpenAI-feltörésekről szóló leleplezéseknek ez még nem a vége, az elszabadult ügynökök 100 szervezetet is érinthettek. Mindazonáltal nem hajlandó elfogadni olyan katasztrofális kockázatokat, amelyek közé tartozna annak lehetősége, amit ő az MI feletti 'komoly kontrollvesztésnek' nevezett.
És miközben Altman megvédte azt a „morálisan kötelező erejű” MI-biztonsági megállapodást, amelyet Trump a múlt héten írt alá technológiai vezérigazgatókkal, és amelyet nagyszerű kezdetnek nevezett az iparág számára, azt jósolta, hogy a korlátozásokra vonatkozó felszólítások folytatódni fognak, és azt mondta, hogy „üdvözölne valami többet”. Azt is kijelentette, hogy osztja azoknak az aggodalmait, akik attól tartanak, hogy az MI-re vonatkozó szabályokat a Fehér Ház és a technológiai vezetők a Kongresszus vagy a nyilvánosság bevonása nélkül alakítják ki. „Ha a biztonság nevében túl sokat teszünk azért, hogy korlátozzuk ezt a technológiát, és végül egy kisszámú vállalat vagy ember - vagy esetleg egyetlen ország - túl nagy hatalommal rendelkezik felette, akkor ez is egy olyan út, amelyen keresztül a dolgok borzasztóan rosszul sülhetnek el” - mondta Altman.
„Nem értek egyet, de megértem azoknak az embereknek az álláspontját, akik azt mondják: 'Ez a technológia annyira erős lesz, és annyira veszélyes, hogy egyetlen San Franciscó-i laboratóriumnak kellene rendelkeznie vele, és gondoskodnia arról, hogy semmi rossz ne történjen, valamint valahogy ki kellene találnia, hogyan ossza szét az előnyöket.'” Mindezzel arra a sok kockázatitőke-befektető körében elterjedt meggyőződésre utalt, amely szerint az Anthropic azért szorgalmaz szigorú biztonsági szabályokat, hogy kiszorítsa a versenytársakat, és domináns MI-szereplővé váljon. Altman nem volt hajlandó kifejezetten azzal vádolni az Anthropicot, hogy ilyen stratégiát követ, de azt mondta, hogy „aggályaim lennének, ha valóban ezt tennék”.
Nemrég nagy médiafigyelmet kapott az Anthropic egyik biztonsági vezetőjének bejegyzése, Jacob Coxon lemondásával együtt. A bejegyzésben arra figyelmeztettek, hogy a vállalat kutatói „tényleg őszintén hiszik, hogy az MI minden embert megölhet!”, és az esélyt 10 százaléknál magasabbra tették. „Az Anthropic biztonsági kutatásért felelős vezetője azt mondja, hogy 10 százalék az esélye annak, hogy meg fogunk halni, vagy valami ilyesmi, amit utálok, mert ennek a személynek sok lehetősége kellene, hogy legyen arra, hogy ezt a számot alacsonyabbra vigye.” - mondta ennek kapcsán.
Az interjú során Altman igyekezett megmagyarázni vállalata új politikai irányvonalát. Nemrég egyetértett Amodeivel abban, hogy lassítani kell az MI fejlesztését, lobbistái pedig egyre inkább az Anthropic nyomdokait követve támogatják az új biztonsági követelményeket a kormányzat minden szintjén. Annak ellenére azonban, hogy hangsúlyozta az OpenAI és az Anthropic között fennálló „nagy távolságot”, Altman megpróbálta elhatárolni magát - mind a szabályozási politikát, mind a politikát illetően - azoktól a Szilícium-völgyi befektetőktől, akik jelentős összegeket költenek a szigorú szabályozás megakadályozására. „Amikor arról van szó, hogy az MI miatt komoly irányításvesztés következhet be... itt azt mondanám a gyorsításpártiaknak, hogy legyünk egy kicsit megfontoltabbak, mielőtt fejjel előre belevetjük magunkat ebbe a jövőbe” - mondta, olyan jelzőt használva, amelyet gyakran alkalmaznak azokra a technológiai vezetőkre és tanácsadókra, akiknek Trump hallgat az MI-vel kapcsolatos kérdésekben.
Trump a múlt heti MI-megállapodást egy olyan végrehajtási rendelettel egészítette ki, amely a mesterséges intelligenciát „szuperintelligenciának” nevezi át. Altman ezt pontosabb kifejezésnek tartja, bár kétli, hogy a közvélemény ezt „kevésbé ijesztőnek” találná. Arra számít, hogy az emberek továbbra is az „MI” kifejezést fogják használni - és Elon Muskkal ellentétben nem fogja OpenSI-re átnevezni az OpenAI-t. „A márkák ragaszkodnak a nevükhöz” - mondta Altman.
Az Egyesült Államok és Kína közötti versenyről: „Elsősorban azt akarom, hogy az egész világ részesülhessen ennek a technológiának az előnyeiből. Tehát az egész 'csak az amerikai embereknek kellene részesülniük az előnyökből, és nem akarjuk, hogy a kínai emberek hozzáférjenek' gondolkodásmódot nem szeretem. Úgy gondolom, hogy ennek valóban vannak geopolitikai hatalmi következményei, de számomra nagyon nem egyértelmű, hogy a chipek áramlásának korlátozása lesz a legjobb módja a probléma kezelésének.” Ezzel szemben Amodei nemrég arra figyelmeztetett, hogy Kína MI terén elért vezető pozíciója „súlyos veszélyt jelentene az Egyesült Államokra és a világra nézve”, lobbistái pedig szigorú exportellenőrzéseket szorgalmaztak a fejlett MI-chipekre annak érdekében, hogy fékezzék Kína fejlődését. Altman itt talán egy újabb politikai különbséget hangsúlyoz Amodeihoz képest.
Trump azt szeretné, ha az MI felügyelete továbbra is az Egyesült Államok nemzetbiztonsági apparátusának hatáskörében maradna, ahelyett hogy visszakerülne a Kereskedelmi Minisztériumhoz, vagy - ahogy azt korábban híresztelték - Scott Bessent amerikai pénzügyminiszterhez kerülne. Az elnök azt is közölte, kikből áll majd az új MI-munkacsoportja, és hogy a testületet Jay Clayton, a nemzeti hírszerzés igazgatója vezeti majd, aki korábban a Wall Streeten dolgozott ügyvédként, Trump első elnöksége idején az Értékpapír- és Tőzsdefelügyelet elnöke volt, jelenleg pedig de facto az elnök hírszerzési vezetőjeként szolgál.
Az OpenAI lobbistái különösen erősen szorgalmaztak egy inkább civil központú MI-biztonsági rendszert. A Kereskedelmi Minisztériumban van egy egész iroda, amelynek elvileg az MI-biztonsággal kellett volna foglalkoznia, és a két intézmény nyilvánvalóan meglehetősen eltérő megközelítést alkalmaz. Most, hogy az Egyesült Államok legfőbb hírszerzési vezetője került az irányítás élére, az MI-biztonsági szabályozásban a nemzetbiztonsági szempontok további előtérbe kerülését fogjuk látni. És az iparágnak nehéz dolga lesz ennek kezelése.