Ha a polgárokra nincs szüksége az államnak, a képviseleti demokrácia alapja is megkérdőjeleződhet - állítja Raymond Douglas történész és David Duvenaud mesterséges intelligencia-kutató, akik arra figyelmeztetnek, hogy az MI által átalakított gazdasági rendszer alapjaiban rengetheti meg a képviseleti demokráciát.

A modern demokrácia egyik tartós mítosza, hogy az egyenlőség és az igazságosság elvei magától értetődőek, azaz a kellően felvilágosult társadalmak természetes módon az általános választójog felé konvergálnak. De a történelem cinikus áttekintése más képet mutat. A demokratikus jogok leginkább a gazdasági befolyással rendelkező csoportok felé vándoroltak, és a polgárok katonai mozgósításért cserébe, vagy erőszakos forradalmak során szerezték azt meg. Könnyű elfelejteni, mi kellett ahhoz, hogy eljussunk a status quo-hoz.

Jön az MI. A világ alig néhány év alatt a mondatokat épp hogy írni képes csetbotoktól eljutott oda, hogy azok a Google kódjának egynegyedét írják. Dario Amodei, az Anthropic MI laboratórium vezetője nemrég arra figyelmeztetett, hogy néhány éven belül az összes belépő szintű irodai munkahely fele eltűnhet. Természetesen nem ez lenne az első eset, hogy egy új technológia sok munkahelyet szüntet meg. Az ipari forradalom például automatizálta a szövés, a mosás és a mezőgazdaság nagy részét. Ez a hatékonyságnövelés tette lehetővé, hogy az emberek magasabb képzettséget igénylő munkákhoz jussanak, és hogy a növekvő középosztály a liberális demokráciáért kampányoljon.

Az ipari forradalom azonban konkrét feladatok automatizálásával jellemezhető. Az MI ezzel szemben széles körű és általános. Mi lenne, ha egy bizonyos ponton alig vagy egyáltalán nem lenne igény emberi munkaerőre? Lehet, hogy évtizedekbe telik, de nincs fizikai ok, ami miatt a számítógépek és a robotok végül ne válhatnának hatékonyabbá és képzettebbé az embereknél, és az e irányú fejlődés iránti állandó igény miatt egy ilyen fejlemény elkerülhetetlennek tűnik.

Talán ez luxus lenne. Sam Altman, az OpenAI vezetője évek óta ír arról, hogy az MI hogyan teremthetne olyan világot, ahol senkinek nem kell dolgoznia, és hogy az intelligens adók és valamilyen formájú univerzális alapjövedelem (UBI) hogyan segíthetne az MI fejlődésének hatalmas nyereségét mindenki között újraelosztani. De a munkaerő automatizálása nem csak gazdasági probléma, hanem politikai is. Jelenleg a demokratikus kormányok pénzügyileg függnek polgáraiktól. De egy mesterséges intelligenciával működő UBI világában ennek az ellenkezője lenne igaz. Képzeljünk el egy olyan világot, amelyben a polgárok terhet jelentenek egy állam számára, amelynek már nincs szüksége rájuk.

Valójában nem is kell elképzelnünk: nézzük meg például Szaúd-Arábiát, amely hatalmas erőforrás-gazdagságra épült. A polgárok egészségügyi ellátást, oktatást és támogatásokat kapnak, de nincs érdemi politikai hatalmuk. Az állam többé-kevésbé szabadon dönthet arról, mennyire lesz elnyomó. Kiderült, hogy az amerikai forradalom klasszikus logikája - nincs adóztatás képviselet nélkül - fordítva is ugyanúgy működik.

A szavazati jog az emberi befolyás legszembetűnőbb jele az állam felett. De vegyük figyelembe az összes többi befolyásoló eszközt is, amely a gazdasági hatalomból fakad, mint például a lobbizás, a tiltakozás és a sztrájk, amelyek szintén erodálódnának a tömeges automatizálás következtében. A tömeges automatizálás valóban nem korlátozódna a magánszektorra: a hatékony és megbízható mesterséges intelligencia ígérete az állam irányításában is aláásná az emberi döntéshozatalt. És ahogy az államok automatizálják biztonsági apparátusukat, még a forradalom, mint végső megoldás lehetősége is összeomolhat a tömeges megfigyelés és az autonóm drónok miatt. A történelem során a választójog kevésbé volt a politikai hatalom forrása, mint inkább annak tünete.

Még a legrepresszívebb államok is valamiben függnek polgáraiktól. Egy átlagos észak-koreai parasztnak szinte nincs hatalma az állam felett, de mégis hasznos. Az állam nem tud működni, ha nem táplálja polgárait. Az általános automatizálás korszakában még ez a minimális gondoskodási kötelezettség is megszűnik. Ez talán szélsőségesen hangzik, de ostobaság lenne azt gondolni, hogy az általános célú mesterséges intelligencia csak szerény politikai következményekkel járna a gazdaság átalakításában. A demokráciák még meglehetősen fiatalok, és csak azoknak a technológiáknak köszönhetően jöhettek létre, amelyek a liberális, pluralista társadalmakat globálisan versenyképessé tették. Szerencsésnek mondhatjuk magunkat, hogy átélhettük ezt a nagy összefolyást az emberi boldogulás és az állami hatalom között, de nem vehetjük ezt természetesnek.

A jó hír, hogy a demokráciák még mindig jelentős befolyással bírnak. Különösen azért, mert elegendő számú, élvonalbeli mesterséges intelligencia vállalatnak adnak otthont, amelyek összehangoltan fellépve elkerülhetik a rossz kimeneteleket. Norvégia példaként szolgál egy olyan országra, amely hatalmas erőforrás-gazdagságra bukkant, és elég érett demokratikus normákkal rendelkezik ahhoz, hogy ezt a többletet a közjó érdekében használja fel.

De még ha képesek is vagyunk kezelni az MI-ból fakadó kockázatokat, amelyekre maguk a vállalatok is figyelmeztetnek - például a hatalomra törő vagy terrorizmust lehetővé tevő MI-kre -, a technológia társadalomba való integrálása az emberek tárgyalóerejének végleges elvesztését jelenti a leghatalmasabb intézményekkel folytatott tárgyalások során.

Akkor mit kell tenni? Teljesen álljunk le a fejlesztéssel? Vagy csak valahogy átvergődünk a nehezén? A probléma részben az, hogy nem világos, kire kell hallgatni. Azok, akik a legjobb helyzetben vannak az MI fejlesztésének alakításához - a technológiai vezetők és a kormányzati tisztviselők - egyben azok is, akik a legtöbbet profitálhatnak az MI-alapú vagyon és befolyás koncentrációjából.

Az MI-laboratóriumok vezetői gyakran említik, hogy „társadalmi párbeszédre” van szükség arról, hogy milyen gazdasági rendszer lenne értelmes az emberek számára, amikor az általános mesterséges intelligencia meghódítja a világot. De még ha létezik is ilyen gazdasági rendszer, nem világos, hogy a nyugati politikai rendszerek meghallgatnák-e és alkalmaznák-e a párbeszédből származó tanulságokat. Eddig mi, emberek irányítottuk civilizációnkat, mert bárhová mentek az emberek, nélkülözhetetlenek voltak. Most egy ijesztően szűk célt kell elérnünk: olyan civilizációt kell létrehoznunk, amely végtelenül gondoskodik rólunk - még akkor is, ha nincs ránk szüksége.