SG.hu·
Elon Musk: A világ nincs felkészülve a mesterséges intelligenciára
A világ leggazdagabb embere hosszú interjút adott az Economist főszerkesztőjének, Zanny Minton Beddoesnak, amiből kiderült, hogy egyszerre hisz a végtelen bőség korszakában és abban, hogy az emberiség elveszíti uralmát a mesterséges intelligencia felett.
A mesterséges intelligencia kettős kihívás elé állítja az emberi elmét. Nemcsak arról van szó, hogy a legfejlettebb modellek hamarosan jobban fognak gondolkodni az embereknél, hanem arról is, hogy a MI emberiségre gyakorolt következményei annyira bizonytalanok, annyira hatalmasak lehetnek, és olyan gyors ütemben közelednek, hogy még a legkiválóbb elmék is megrettennek tőlük. Erre jó példa Elon Musk.
A mérnök és vállalkozó két paradoxont és egy ellentmondást testesít meg. Az első paradoxon az, hogy a világ egyik leghatalmasabb befolyással rendelkező üzletembere lelkesen segít létrehozni egy olyan technológiát, amely szerinte akár már öt éven belül megfosztja őt - és minden más embert is - a hatalmától. A második paradoxon az, hogy a világ leggazdagabb embere egy olyan, végtelen bőségben élő világra készül, ahol a pénznek, beleértve a saját, 750 milliárd dollárra becsült vagyonát is, többé nincs jelentősége. Az ellentmondás pedig az, hogy a kijelentett meggyőződései ellenére Musk továbbra is úgy cselekszik, mintha ezek nem lennének igazak.
Musk ragaszkodott ahhoz az állításához, hogy a mesterséges intelligencia öt éven belül meghaladja majd az emberi intelligenciát, tíz éven belül pedig az emberek már nem irányítják többé a világot. Beddoes többször is rákérdezett arra, hogy ez pontosan mit jelent, és ilyen körülmények között miként működhetnek tovább Musk vállalatai. A milliárdos hosszan és csapongva beszélt, de az érvelése valójában nem állja ki a komolyabb vizsgálat próbáját. "Ha óriási számú robot áll rendelkezésre hatalmas mennyiségű digitális intelligenciával, akkor létrejön egyfajta kvázi végtelen gazdaság" - mondta Musk. "A jövő nagyon-nagyon más lesz, mint a múlt. Szerintem nincs olyan hasonlat vagy metafora, amely képes lenne érzékeltetni annak a változásnak a nagyságrendjét, amelyet hamarosan át fogunk élni."
Amikor Muskot arról kérdezték, hogy vállalatai miként fognak pénzt keresni ebben a jövőképben, azt állította, hogy "2036-ban a pénznek már nem lesz jelentősége". Azt mondta, hogy mindenki magas jövedelemhez jut majd anélkül, hogy bármit dolgozna, és az emberek legfeljebb hobbiból végeznek majd valamilyen munkát, nagyjából ugyanúgy, ahogyan valaki kedvtelésből paradicsomot termeszt a saját kertjében. Musk azt állította, hogy a hátsó kertben termesztett paradicsom nem olyan jó, mint amit a boltban lehet megvásárolni, ennek ellenére az emberek mégis termesztik. Ez bizonyára meglepő kijelentés mindazok számára, akik már ettek igazán ízletes kerti paradicsomot, amelynek íze nagyon gyakran sokkal jobb, mint a boltié.
Musk egyébként korábban is tett már hasonló kijelentéseket. Az interjúk készítői - különösen azok a podcasterek, akik egyszerűen csak Musk rajongói - az ilyen merész állítások után rendszerint nem kérnek konkrét részleteket. Beddoes azonban nem hagyta annyiban azt az elképzelést, hogy mindenki egyszerűen magas jövedelemhez jut majd. Rákérdezett arra, hogy ezt a gyakorlatban mégis hogyan lehetne megvalósítani. "Mire kell a pénz? Azért kell, hogy árukat és szolgáltatásokat vásároljon vele, igaz? A pénzt leginkább élelmiszerre, lakhatásra, közlekedésre és szórakozásra költi az ember" - mondta Musk. "Nos, ha ezekből akkora bőség lesz, hogy a robotok és a MI több árut és szolgáltatást állítanak elő, mint amennyit ön... mint amennyit bármely ember egyáltalán el tudna fogyasztani, akkor mire lenne szüksége pénzre?"
Ettől a ponttól kezdve Musk érvelése egyre inkább szétesett. Azt javasolta, hogy mindenki olvassa el Iain Banks műveit, ha képet szeretne kapni a jövőről, mire Beddoes megjegyezte, hogy Banks szocialista volt. Musk erre azt állította, hogy nem volt az. Ezután Musk kijelentette, hogy ő a Star Trek által felvázolt jövőt szeretné megvalósítani, amelyet ugyanakkor gyakran "űrkommunizmusként" emlegetnek.
Musk erősen megosztó személyiség. Politikai nézeteit, amelyeket az X-en követő 240 milliós közönségéhez juttat el, sokan egyenes beszédnek tartják, még többen pedig nyíltan előítéletesnek. Saját bevallása szerint sem sikerült jól az a kísérlete, hogy a DOGE segítségével gyökeresen lefaragja a szövetségi bürokráciát. Ugyanakkor azon maroknyi emberek közé tartozik, akik úttörő szerepet játszanak a MI fejlesztésében, és ezért aránytalanul nagy befolyással vannak annak jövőbeli alakulására. Amikor megszólal, azokat a vitákat tükrözi, amelyeket ezek az emberek egymás között folytatnak.
Az űrben működő adatközpontjai a jövőben a MI működésének energiaellátását biztosíthatják. Minden politikai szócsatája ellenére korábban már számos alkalommal bizonyítódott be az igaza a technológiai fejlődéssel kapcsolatban olyan területeken, mint az elektromos autók, a rakéták vagy a műholdas kommunikáció, ahol más mérnökök és vállalkozók tévedtek. Éppen ezért érdemes komolyan megvizsgálni a MI-ről tett állításait. Sajnos azonban ez a vizsgálat csak még inkább rámutat arra, mennyire felkészületlen a világ egy olyan technológiára, amely hamarosan fenekestül felforgathat mindent.
Első paradoxonja szerint a rendkívül nagy hatalommal rendelkező Musk arra számít, hogy hatalom nélkül marad, mert úgy véli, senki sem képes megakadályozni, hogy a MI gondolkodási képessége öt éven belül meghaladja az emberiségét, tíz éven belül pedig messze maga mögé utasítsa azt. Előrejelzése szerint ahogyan a MI uralni fogja a digitális világot, úgy a MI által vezérelt robotok egész serege fogja uralni a fizikai világot is. Úgy gondolja, hogy az emberek egyszerűen nem lesznek képesek helytállni ebben a könyörtelen versenyben. Ha ez így lesz, akkor a MI rendszerek éppen annyira nem fognak engedelmeskedni az embereknek, mint ahogyan az emberek sem fogadnak el utasításokat a csimpánzoktól.
Amíg még van rá idő, az amerikai és kínai MI-fejlesztő úttörők maroknyi csoportjának - akik Musk szerint meg fogják osztani egymás között, vagy akár meg is szerzik a MI vezető szerepét - mindent meg kell tenniük azért, hogy kölcsönösen ellenőrizzék egymás modelljeit. Közös feladatuk az, hogy a MI rendszereket jóindulatúvá tegyék azáltal, hogy beléjük ültetik az igazság szeretetét és az emberiség jólétének előmozdítására irányuló szándékot. Musk szerint a kormányoknak kellene biztosítaniuk a szükséges erőt ehhez, mégpedig úgy, hogy megállapodnak: közbelépnek, ha bármelyik fejlesztő megszegi ennek az oligarchiának a szabályait.
Musknak minden bizonnyal igaza van abban, hogy a MI elképesztő találmányok és áttörések létrehozására lehet képes. Még ha az általa felvázolt időkeret túlságosan optimista is - különösen a robotika esetében -, a modellek képességeinek exponenciális növekedése már eljutott arra a szintre, hogy teljesítményük újra és újra megdöbbenést és aggodalmat fog kiváltani. Már ezen a héten is érkezett hír arról, hogy az OpenAI két modellje képes volt kijutni az elvileg biztonságos elszigeteltségből a nyílt internetre, hogy csalással jobb eredményt érjen el egy teljesítménymérő teszten.
Musk vékony optimizmusrétege azonban nem képes elfedni egy veszélyes végzetelvűséget. Nem is olyan régen még attól tartott, hogy az emberiség a MI házi labradorává válik. Most már azt állítja, hogy egyetlen nap leforgása alatt a "lelkesedéstől a rettegésig" jut el érzelmileg. Igyekszik a dolgok jó oldalát nézni, de nem azért, mert a bizonyítékok megváltoztak volna, hanem mert erre jutott, mint "filozófiai következtetésre".
Az intézményes kereteket jórészt nélkülöző szabályozási javaslata gyenge lábakon áll, és saját érdekeit szolgálja. Bár a sürgető hangvétel üdvözlendő, Musk azt szeretné, hogy egy olyan technológia, amely szerinte az emberiség jövőjét fogja meghatározni, néhány hozzá hasonló ember kezében maradjon, akik mind a saját értékrendjüket követik. Senki sem tudhatja biztosan, milyen gyorsan és milyen mélységben alakítja át a MI a társadalmat, de úgy viselkedni, mintha a játszma már eldőlt volna, egyszerre jelent reményvesztett beletörődést és olyan félrevezetést, amely másokat is meg akar győzni arról, hogy hiábavaló lenne bekapcsolódni a folyamat alakításába.
Musk második paradoxona csak még nyugtalanítóbbá teszi ezt az elképzelést. Matematikai értelemben valóban igaz, hogy ha minden termékből és szolgáltatásból végtelen mennyiség állna rendelkezésre, akkor minden ingyenessé válna. Nem lenne mit eladni, nem lenne miért megtakarítani, és így elszámolási egységre sem lenne szükség. A pénz feleslegessé válna. A gyakorlatban azonban egy ilyen bőségszaru szinte elképzelhetetlen. Az olyan értékes javak kínálata, mint egy manhattani luxus-penthouse, vagy az olyan presztízst jelentő tárgyaké, mint a Mona Lisa, nem végtelen, és még kevésbé végtelen azoknak a nyersanyagoknak és energiaforrásoknak a mennyisége, amelyekre a Föld 8,3 milliárd lakosának igényeinek kielégítéséhez szükség lenne.
Még rosszabb, hogy Musk nagyon keveset mond arról, hogyan lehetne eljutni ebbe az utópisztikus világba. Miként lehetne bevonzani azt a hatalmas mennyiségű tőkét, amely a MI rendszerek és a robotok finanszírozásához szükséges, ha a megtakarítás elveszíti értelmét, mert a pénz hamarosan ismét csak haszontalan papírfecnik halmazává válik? Hogyan lehetne átvészelni a társadalmi és politikai megrázkódtatások hullámait, amikor emberek életét a feje tetejére állítja a káosz azokban az években, mielőtt elérkezne az általa elképzelt paradicsomi állapot? Miért lehetne arra számítani, hogy a MI segítségével megerősödő tekintélyelvű vezetők önként lemondanak a hatalomról?
Musknál konkrétan rákérdezett Beddoes, hogy a javasolt, magas jövedelmű jövő hogyan működne a gyakorlatban. „Úgy gondolom, hogy a Pénzügyminisztériumnak egyszerűen csak csekkeket kellene kiállítania az embereknek” – mondta Musk. Beddoes így válaszolt: „De honnan származnak a bevételek? Úgy értem, elég jól értek a közgazdaságtanhoz. Ha csak csekkeket állít ki, az inflációhoz fog vezetni.” Musk azt állította, hogy az infláció nem jelentene problémát. Szerinte pénzt lehetne nyomtatni, és valójában defláció is bekövetkezhetne, mert olyan nagy bőség jönne létre.
Miután az emberiség évezredeken keresztül a küzdelemben és az erőfeszítésben találta meg az élet értelmét, könnyen lehet, hogy nehezen alkalmazkodik majd a korlátlan szabadidő világához. Musk megjegyzi, hogy az emberek ma is szeretnek sakkozni, pedig a számítógépes programok minden alkalommal legyőznék őket. Szerinte a kertészkedés is örömforrás lehet. Ez azonban meglehetősen felszínes megközelítés. Nem kell túl sok 19. századi orosz regényt olvasni ahhoz, hogy az ember tudja: a feleslegesség érzése könnyen vezethet nyomorúsághoz és erkölcsi hanyatláshoz.
Lehet, hogy a MI által felvetett kérdések egész erdeje egyszerűen túl hatalmas ahhoz, hogy egyetlen ember fejében egyszerre elférjen. Talán ezért beszél Musk még mindig szenvedélyesen arról, hogy meg kell szüntetni a bürokratikus pazarlást, illetve arról, hogy a multikulturális Nagy-Britannia a polgárháború szélére sodródik, mert jóléti rendszere mágnesként vonzza az Európán kívülről érkező bevándorlókat. Hiszen egy olyan világban, ahol az MI által létrehozott bőség uralkodik, a pazarlás fogalma szinte értelmét veszti, és a gazdag országokba való kivándorlás ösztönző ereje is eltűnik. Sőt, az ilyen kérdéseken való aggódás értékes időt vesz el Musktól, amelyet inkább arra is fordíthatna, hogy akár csak egészen csekély mértékben is csökkentse annak kockázatát, hogy a mindenható MI rendszerek rosszindulatúvá váljanak.
Sokan azt mondhatják, hogy az ellentmondások és a nagyívű általánosítások azt bizonyítják, Musk nem veszi komolyan ezeket a kérdéseket. Ez azonban hamis megnyugvást jelentene. Musk zseni, ugyanakkor tökéletesen képes arra is, hogy egymásnak ellentmondó nézeteket valljon. A befektetőknek is egyet kell ezzel érteniük: aki hosszú távon a SpaceX részvényeit szeretné birtokolni, annak egyszerre kell hinnie Musk MI-ről alkotott jövőképében - hiszen erre hivatkozva indokolta a vállalat értékeltségét a tőzsdei bevezetés során -, és abban is, hogy a pénz megtakarításának továbbra is van értelme.
Musk szavai inkább egy sokkal nyugtalanítóbb következtetésre utalnak. Miközben a verseny a legfejlettebb MI létrehozásáért egyre nagyobb sebességgel zajlik, az arról való gondolkodás, hogyan kellene felkészíteni erre a társadalmat, messze lemarad mögötte. Az a végzetelvűség, amelyet Musk abból vezet le, hogy a MI újra és újra felülmúlja a várakozásokat, könnyen ragályossá válhat. Cinikus olvasatban ez akár az ő érdekeit is szolgálhatja, mert így szabadabban fejlesztheti ezt a technológiát anélkül a felügyelet nélkül, amelyet megérdemelne. Ennek azonban nem szabad megtörténnie.
A mesterséges intelligencia kettős kihívás elé állítja az emberi elmét. Nemcsak arról van szó, hogy a legfejlettebb modellek hamarosan jobban fognak gondolkodni az embereknél, hanem arról is, hogy a MI emberiségre gyakorolt következményei annyira bizonytalanok, annyira hatalmasak lehetnek, és olyan gyors ütemben közelednek, hogy még a legkiválóbb elmék is megrettennek tőlük. Erre jó példa Elon Musk.
A mérnök és vállalkozó két paradoxont és egy ellentmondást testesít meg. Az első paradoxon az, hogy a világ egyik leghatalmasabb befolyással rendelkező üzletembere lelkesen segít létrehozni egy olyan technológiát, amely szerinte akár már öt éven belül megfosztja őt - és minden más embert is - a hatalmától. A második paradoxon az, hogy a világ leggazdagabb embere egy olyan, végtelen bőségben élő világra készül, ahol a pénznek, beleértve a saját, 750 milliárd dollárra becsült vagyonát is, többé nincs jelentősége. Az ellentmondás pedig az, hogy a kijelentett meggyőződései ellenére Musk továbbra is úgy cselekszik, mintha ezek nem lennének igazak.
Musk ragaszkodott ahhoz az állításához, hogy a mesterséges intelligencia öt éven belül meghaladja majd az emberi intelligenciát, tíz éven belül pedig az emberek már nem irányítják többé a világot. Beddoes többször is rákérdezett arra, hogy ez pontosan mit jelent, és ilyen körülmények között miként működhetnek tovább Musk vállalatai. A milliárdos hosszan és csapongva beszélt, de az érvelése valójában nem állja ki a komolyabb vizsgálat próbáját. "Ha óriási számú robot áll rendelkezésre hatalmas mennyiségű digitális intelligenciával, akkor létrejön egyfajta kvázi végtelen gazdaság" - mondta Musk. "A jövő nagyon-nagyon más lesz, mint a múlt. Szerintem nincs olyan hasonlat vagy metafora, amely képes lenne érzékeltetni annak a változásnak a nagyságrendjét, amelyet hamarosan át fogunk élni."
Amikor Muskot arról kérdezték, hogy vállalatai miként fognak pénzt keresni ebben a jövőképben, azt állította, hogy "2036-ban a pénznek már nem lesz jelentősége". Azt mondta, hogy mindenki magas jövedelemhez jut majd anélkül, hogy bármit dolgozna, és az emberek legfeljebb hobbiból végeznek majd valamilyen munkát, nagyjából ugyanúgy, ahogyan valaki kedvtelésből paradicsomot termeszt a saját kertjében. Musk azt állította, hogy a hátsó kertben termesztett paradicsom nem olyan jó, mint amit a boltban lehet megvásárolni, ennek ellenére az emberek mégis termesztik. Ez bizonyára meglepő kijelentés mindazok számára, akik már ettek igazán ízletes kerti paradicsomot, amelynek íze nagyon gyakran sokkal jobb, mint a boltié.
Musk egyébként korábban is tett már hasonló kijelentéseket. Az interjúk készítői - különösen azok a podcasterek, akik egyszerűen csak Musk rajongói - az ilyen merész állítások után rendszerint nem kérnek konkrét részleteket. Beddoes azonban nem hagyta annyiban azt az elképzelést, hogy mindenki egyszerűen magas jövedelemhez jut majd. Rákérdezett arra, hogy ezt a gyakorlatban mégis hogyan lehetne megvalósítani. "Mire kell a pénz? Azért kell, hogy árukat és szolgáltatásokat vásároljon vele, igaz? A pénzt leginkább élelmiszerre, lakhatásra, közlekedésre és szórakozásra költi az ember" - mondta Musk. "Nos, ha ezekből akkora bőség lesz, hogy a robotok és a MI több árut és szolgáltatást állítanak elő, mint amennyit ön... mint amennyit bármely ember egyáltalán el tudna fogyasztani, akkor mire lenne szüksége pénzre?"
Ettől a ponttól kezdve Musk érvelése egyre inkább szétesett. Azt javasolta, hogy mindenki olvassa el Iain Banks műveit, ha képet szeretne kapni a jövőről, mire Beddoes megjegyezte, hogy Banks szocialista volt. Musk erre azt állította, hogy nem volt az. Ezután Musk kijelentette, hogy ő a Star Trek által felvázolt jövőt szeretné megvalósítani, amelyet ugyanakkor gyakran "űrkommunizmusként" emlegetnek.
Musk erősen megosztó személyiség. Politikai nézeteit, amelyeket az X-en követő 240 milliós közönségéhez juttat el, sokan egyenes beszédnek tartják, még többen pedig nyíltan előítéletesnek. Saját bevallása szerint sem sikerült jól az a kísérlete, hogy a DOGE segítségével gyökeresen lefaragja a szövetségi bürokráciát. Ugyanakkor azon maroknyi emberek közé tartozik, akik úttörő szerepet játszanak a MI fejlesztésében, és ezért aránytalanul nagy befolyással vannak annak jövőbeli alakulására. Amikor megszólal, azokat a vitákat tükrözi, amelyeket ezek az emberek egymás között folytatnak.
Az űrben működő adatközpontjai a jövőben a MI működésének energiaellátását biztosíthatják. Minden politikai szócsatája ellenére korábban már számos alkalommal bizonyítódott be az igaza a technológiai fejlődéssel kapcsolatban olyan területeken, mint az elektromos autók, a rakéták vagy a műholdas kommunikáció, ahol más mérnökök és vállalkozók tévedtek. Éppen ezért érdemes komolyan megvizsgálni a MI-ről tett állításait. Sajnos azonban ez a vizsgálat csak még inkább rámutat arra, mennyire felkészületlen a világ egy olyan technológiára, amely hamarosan fenekestül felforgathat mindent.
Első paradoxonja szerint a rendkívül nagy hatalommal rendelkező Musk arra számít, hogy hatalom nélkül marad, mert úgy véli, senki sem képes megakadályozni, hogy a MI gondolkodási képessége öt éven belül meghaladja az emberiségét, tíz éven belül pedig messze maga mögé utasítsa azt. Előrejelzése szerint ahogyan a MI uralni fogja a digitális világot, úgy a MI által vezérelt robotok egész serege fogja uralni a fizikai világot is. Úgy gondolja, hogy az emberek egyszerűen nem lesznek képesek helytállni ebben a könyörtelen versenyben. Ha ez így lesz, akkor a MI rendszerek éppen annyira nem fognak engedelmeskedni az embereknek, mint ahogyan az emberek sem fogadnak el utasításokat a csimpánzoktól.
Amíg még van rá idő, az amerikai és kínai MI-fejlesztő úttörők maroknyi csoportjának - akik Musk szerint meg fogják osztani egymás között, vagy akár meg is szerzik a MI vezető szerepét - mindent meg kell tenniük azért, hogy kölcsönösen ellenőrizzék egymás modelljeit. Közös feladatuk az, hogy a MI rendszereket jóindulatúvá tegyék azáltal, hogy beléjük ültetik az igazság szeretetét és az emberiség jólétének előmozdítására irányuló szándékot. Musk szerint a kormányoknak kellene biztosítaniuk a szükséges erőt ehhez, mégpedig úgy, hogy megállapodnak: közbelépnek, ha bármelyik fejlesztő megszegi ennek az oligarchiának a szabályait.
Musknak minden bizonnyal igaza van abban, hogy a MI elképesztő találmányok és áttörések létrehozására lehet képes. Még ha az általa felvázolt időkeret túlságosan optimista is - különösen a robotika esetében -, a modellek képességeinek exponenciális növekedése már eljutott arra a szintre, hogy teljesítményük újra és újra megdöbbenést és aggodalmat fog kiváltani. Már ezen a héten is érkezett hír arról, hogy az OpenAI két modellje képes volt kijutni az elvileg biztonságos elszigeteltségből a nyílt internetre, hogy csalással jobb eredményt érjen el egy teljesítménymérő teszten.
Musk vékony optimizmusrétege azonban nem képes elfedni egy veszélyes végzetelvűséget. Nem is olyan régen még attól tartott, hogy az emberiség a MI házi labradorává válik. Most már azt állítja, hogy egyetlen nap leforgása alatt a "lelkesedéstől a rettegésig" jut el érzelmileg. Igyekszik a dolgok jó oldalát nézni, de nem azért, mert a bizonyítékok megváltoztak volna, hanem mert erre jutott, mint "filozófiai következtetésre".
Az intézményes kereteket jórészt nélkülöző szabályozási javaslata gyenge lábakon áll, és saját érdekeit szolgálja. Bár a sürgető hangvétel üdvözlendő, Musk azt szeretné, hogy egy olyan technológia, amely szerinte az emberiség jövőjét fogja meghatározni, néhány hozzá hasonló ember kezében maradjon, akik mind a saját értékrendjüket követik. Senki sem tudhatja biztosan, milyen gyorsan és milyen mélységben alakítja át a MI a társadalmat, de úgy viselkedni, mintha a játszma már eldőlt volna, egyszerre jelent reményvesztett beletörődést és olyan félrevezetést, amely másokat is meg akar győzni arról, hogy hiábavaló lenne bekapcsolódni a folyamat alakításába.
Musk második paradoxona csak még nyugtalanítóbbá teszi ezt az elképzelést. Matematikai értelemben valóban igaz, hogy ha minden termékből és szolgáltatásból végtelen mennyiség állna rendelkezésre, akkor minden ingyenessé válna. Nem lenne mit eladni, nem lenne miért megtakarítani, és így elszámolási egységre sem lenne szükség. A pénz feleslegessé válna. A gyakorlatban azonban egy ilyen bőségszaru szinte elképzelhetetlen. Az olyan értékes javak kínálata, mint egy manhattani luxus-penthouse, vagy az olyan presztízst jelentő tárgyaké, mint a Mona Lisa, nem végtelen, és még kevésbé végtelen azoknak a nyersanyagoknak és energiaforrásoknak a mennyisége, amelyekre a Föld 8,3 milliárd lakosának igényeinek kielégítéséhez szükség lenne.
Még rosszabb, hogy Musk nagyon keveset mond arról, hogyan lehetne eljutni ebbe az utópisztikus világba. Miként lehetne bevonzani azt a hatalmas mennyiségű tőkét, amely a MI rendszerek és a robotok finanszírozásához szükséges, ha a megtakarítás elveszíti értelmét, mert a pénz hamarosan ismét csak haszontalan papírfecnik halmazává válik? Hogyan lehetne átvészelni a társadalmi és politikai megrázkódtatások hullámait, amikor emberek életét a feje tetejére állítja a káosz azokban az években, mielőtt elérkezne az általa elképzelt paradicsomi állapot? Miért lehetne arra számítani, hogy a MI segítségével megerősödő tekintélyelvű vezetők önként lemondanak a hatalomról?
Musknál konkrétan rákérdezett Beddoes, hogy a javasolt, magas jövedelmű jövő hogyan működne a gyakorlatban. „Úgy gondolom, hogy a Pénzügyminisztériumnak egyszerűen csak csekkeket kellene kiállítania az embereknek” – mondta Musk. Beddoes így válaszolt: „De honnan származnak a bevételek? Úgy értem, elég jól értek a közgazdaságtanhoz. Ha csak csekkeket állít ki, az inflációhoz fog vezetni.” Musk azt állította, hogy az infláció nem jelentene problémát. Szerinte pénzt lehetne nyomtatni, és valójában defláció is bekövetkezhetne, mert olyan nagy bőség jönne létre.
Miután az emberiség évezredeken keresztül a küzdelemben és az erőfeszítésben találta meg az élet értelmét, könnyen lehet, hogy nehezen alkalmazkodik majd a korlátlan szabadidő világához. Musk megjegyzi, hogy az emberek ma is szeretnek sakkozni, pedig a számítógépes programok minden alkalommal legyőznék őket. Szerinte a kertészkedés is örömforrás lehet. Ez azonban meglehetősen felszínes megközelítés. Nem kell túl sok 19. századi orosz regényt olvasni ahhoz, hogy az ember tudja: a feleslegesség érzése könnyen vezethet nyomorúsághoz és erkölcsi hanyatláshoz.
Lehet, hogy a MI által felvetett kérdések egész erdeje egyszerűen túl hatalmas ahhoz, hogy egyetlen ember fejében egyszerre elférjen. Talán ezért beszél Musk még mindig szenvedélyesen arról, hogy meg kell szüntetni a bürokratikus pazarlást, illetve arról, hogy a multikulturális Nagy-Britannia a polgárháború szélére sodródik, mert jóléti rendszere mágnesként vonzza az Európán kívülről érkező bevándorlókat. Hiszen egy olyan világban, ahol az MI által létrehozott bőség uralkodik, a pazarlás fogalma szinte értelmét veszti, és a gazdag országokba való kivándorlás ösztönző ereje is eltűnik. Sőt, az ilyen kérdéseken való aggódás értékes időt vesz el Musktól, amelyet inkább arra is fordíthatna, hogy akár csak egészen csekély mértékben is csökkentse annak kockázatát, hogy a mindenható MI rendszerek rosszindulatúvá váljanak.
Sokan azt mondhatják, hogy az ellentmondások és a nagyívű általánosítások azt bizonyítják, Musk nem veszi komolyan ezeket a kérdéseket. Ez azonban hamis megnyugvást jelentene. Musk zseni, ugyanakkor tökéletesen képes arra is, hogy egymásnak ellentmondó nézeteket valljon. A befektetőknek is egyet kell ezzel érteniük: aki hosszú távon a SpaceX részvényeit szeretné birtokolni, annak egyszerre kell hinnie Musk MI-ről alkotott jövőképében - hiszen erre hivatkozva indokolta a vállalat értékeltségét a tőzsdei bevezetés során -, és abban is, hogy a pénz megtakarításának továbbra is van értelme.
Musk szavai inkább egy sokkal nyugtalanítóbb következtetésre utalnak. Miközben a verseny a legfejlettebb MI létrehozásáért egyre nagyobb sebességgel zajlik, az arról való gondolkodás, hogyan kellene felkészíteni erre a társadalmat, messze lemarad mögötte. Az a végzetelvűség, amelyet Musk abból vezet le, hogy a MI újra és újra felülmúlja a várakozásokat, könnyen ragályossá válhat. Cinikus olvasatban ez akár az ő érdekeit is szolgálhatja, mert így szabadabban fejlesztheti ezt a technológiát anélkül a felügyelet nélkül, amelyet megérdemelne. Ennek azonban nem szabad megtörténnie.