SG.hu·
A mesterséges intelligencia által előidézett káosz új korszakában élünk

Ha a mesterséges intelligencia üzemzavarokat, kibertámadásokat és egyéb problémákat idéz elő, az összhangban áll a történelem korábbi tapasztalataival. Az új technológiai újítások ugyanis gyakran súlyos katasztrófákat okoznak, mielőtt jobbá tennék az emberek életét.
Az elmúlt napokban több, egymástól független, emberek millióit érintő számítógépes leállás történt. Ilyen volt a Microsoft és az Apple szolgáltatásainak kiesése, vagy az országos légtérzár az Egyesült Államokban, ami miatt egyetlen repülőgép sem szállhatott fel. A technológiai üzemzavarok sorozata és az általuk kiváltott felfordulás sok embert bosszantott és ejtett zavarba. Egyes tisztviselők a leállásokat rutinszerű technológiai fejlesztésekkel hozták összefüggésbe. A problémák egyik lehetséges oka a mesterséges intelligenciát alkalmazó hackerek elleni védekezés globális versenyfutása lehet, bár semmilyen nyilvánosan hozzáférhető bizonyíték nem utal egyelőre arra, hogy a meghibásodások bármelyikét kibertámadás okozta volna.
Az ilyen technológiai balesetek az információs kor sajátos válságainak tűnhetnek, a technológiatörténészek azonban hétköznapinak tartják őket. Érvelésük szerint az összetett rendszerekben bekövetkező katasztrófák az innováció fellendülési és visszaesési ciklusainak elkerülhetetlen velejárói. A korábbi évszázadokban a technológiai fejlődés gyakran több ezer ember életébe került. Ilyenek voltak például az ipari korszak hajnalán bekövetkezett gőzhajórobbanások, a kereskedelmi repülés korai éveiben történt Hindenburg-katasztrófa, valamint az űrkorszak kezdetén bekövetkezett Apollo-1-es tűzeset.
Ebből a nézőpontból a közelmúlt üzemzavarai egyszerűen a tanulási folyamat részét képezik, és szerencsére nem követeltek emberéleteket. Mivel a feltalálók rendszerint a fizika, az anyagtudomány és az emberi ismeretek határait feszegetik, a jelentős meghibásodások és a próbálkozásokkal, tévedésekkel járó kísérletezés jelentik a legfontosabb módszert arra, hogy felfedezzék a látszólag nagyszerű ötleteik mögött rejlő, addig ismeretlen hibákat. A történészek általában egyetértenek abban, hogy a fejlődés és a kudarcok ciklusai szorosan összefonódtak a gőzenergia, az elektromos hálózatok, a repülőgépek, a vegyi anyagok, az orvostudomány, a rakétatechnika és a számítógépek létrejöttével.
A 19. század nagynyomású gőzkazánjai rendszeresen felrobbantak. Az folyókon közlekedő gőzhajókon bekövetkező heves robbanások több ezer ember halálát okozták, mielőtt bevezettek volna az utasok biztonságát szolgáló előírásokat, mint a nyomáscsökkentő szelepek használatát és a szabványosított acélötvözetek alkalmazását. Hasonlóképpen, a korai elektromos vezetékek súlyos tűzeseteket okoztak, az elektromos hálózatokon dolgozó szerelők pedig gyakran szenvedtek halálos áramütést a feszültség alatt álló légvezetékeken. Ezek a tragédiák vezettek a jobb szigetelési megoldások, a megszakítók és a földelés bevezetéséhez, amelyek lehetővé tették a kóbor áramok biztonságos elvezetését.
A korai repülőgépeknél szerkezeti meghibásodások, hajtóműleállások és olyan aerodinamikai problémák jelentkeztek, amelyekkel a pilóták nem tudtak mit kezdeni. A világ első kereskedelmi sugárhajtású utasszállító repülőgépe, a de Havilland Comet 1953-tól kezdődően több halálos balesetet szenvedett, amelyek során a gépek a levegőben szétestek. A mérnökök idővel rájöttek, hogy a repülőgép ablakainak négyszögletessége a hiba okozója, mert az ablak sarkai körül a szerkezeti elemek megrepedtek és elgyengültek, így végül a géptörzs széthasadt. Gyógyszereket és ipari vegyi anyagokat hoztak forgalomba klinikai vizsgálatok vagy toxikológiai ellenőrzések nélkül. Az olyan anyagok, mint a rádium és az ólomtartalmú festékek, valamint a korai szintetikus gyógyszerek súlyos egészségkárosodást okoztak, mielőtt létrejöttek volna a szabályozási keretek és a megfelelő élelmiszer- és gyógyszerfelügyeleti szervek.

Manapság már lekerekítettek a repülőgépek ablakai
A rakétatechnika és az űrrepülés történetét is látványos, katasztrofális kudarcok kísérték. 1957-ben az Atlas, az Egyesült Államok első interkontinentális ballisztikus rakétája, első tesztrepülése során hatalmas robajjal emelkedett el az indítóállásról. Mindössze 24 másodpercig repült, mielőtt a hajtóművei felmondták a szolgálatot. Mindezek a kezdetleges technológiák összességében végül mégis túljutottak a kezdeti nehézségeken, és hozzájárultak ahhoz, hogy a világ jobb hellyé váljon. Olyan hellyé, ahol a biztonság általában elsőbbséget élvez, az emberek pedig nagyobb jólétben élhetnek.
Ehhez évekig, esetenként évtizedekig tartó oknyomozó munka, kísérletezés, társadalmi tiltakozás, pereskedés, építési szabályzatok, biztonsági tartalékok, technológiai szabványok és a biztonságot tanúsító független szervezetek létrehozása kellett. Mindez azon mérnökök és tervezők munkájára épült, akik igyekeztek a lehető legtöbbet tanulni a korábbi kudarcokból. A múltban a katasztrofális meghibásodásokat leggyakrabban az okozta, hogy az emberek ismereteinek korlátai miatt bizonyos dolgokat nem lehetett előre tudni, vagy csak a gyakorlatban, a kipróbálásuk után lehetett megismerni. Egyes esetekben azonban a tragédiák felelőtlenségből fakadtak, amelynek hátterében az a vágy állt, hogy valaki elsőként, gyorsabban vagy olcsóbban valósítson meg valamit.
Ryan Hearty, a Johns Hopkins Egyetem technológiatörténésze szerint ez a fajta felelőtlenség mérsékelhető. Hearty elutasítja azt az elképzelést, hogy a technológiai kudarcok elkerülhetetlenek lennének. „A veszélyek kezelhetők, ha a biztonságot szem előtt tartjuk” - mondta. Hozzátette, hogy a cél az, hogy „lassan haladjunk és fejlesszünk tovább”, ne pedig az, hogy „haladjunk gyorsan, és törjünk össze dolgokat”. Ez utóbbi a technológiai iparág azon jelmondata, amelyet Mark Zuckerberg tett széles körben ismertté a Facebooknál. Politikai tényezők is fokozhatják vagy mérsékelhetik a technológiai vívmányok és kudarcok ciklusait. „Rengeteg pénzt fektettünk olyan nagyméretű, összetett rendszerekbe, amelyeket nem tudunk teljes mértékben átlátni és ellenőrzésünk alatt tartani” - mondta Matthew Hersch, a Princetoni Egyetemhez tartozó Institute for Advanced Study technológiatörténésze.
A helyzetet gyakran tovább rontja, hogy ezeket a rendszereket nem tartják megfelelően karban. A Szövetségi Légügyi Hivatal (FAA) közelmúltbeli üzemzavara esetében a tisztviselők azzal magyarázták a problémát, hogy új szoftvert futtattak régi rézkábeleken. Ezt az infrastruktúrát a költségvetési megszorítások miatt nem korszerűsítették. A kockázatelemzők szerint a mesterséges intelligencia rohamos fejlődési üteme tovább fokozza az aggodalmakat. A modern társadalom már most is olyan eszközöktől függ, amelyek fejlett félvezetőkre épülnek, és egyre gyorsabban válik függővé a mesterséges intelligenciától is. „Nem ismerjük fel, mennyire függünk bizonyos rendszerektől, egészen addig, amíg azok le nem állnak” - mondta Zachary Loeb, a Purdue Egyetem technológiatörténésze. „És könnyű azt feltételezni, hogy a dolgok továbbra is működni fognak, hiszen általában működnek is.”
Ugyanakkor van remény arra, hogy az előrelátó intézkedések segíthetnek megóvni bennünket a katasztrófáktól. Erre jó példa a Y2K, más néven az ezredfordulós számítógépes probléma, amely a naptár 2000-re történő átállásakor jelentett fenyegetést. A memória megtakarítása érdekében a számítógépeket úgy programozták, hogy az évszámokat négy számjegy helyett csak két számjeggyel tárolják és olvassák be. Így például az 1999-es évet „99”-ként kezelték. Sokan attól tartottak, hogy leállnak a bankok, az elektromos hálózatok, a légiforgalmi irányító rendszerek, a liftek és az orvosi berendezések. Egy nagyszabású, nemzetközi erőfeszítésnek köszönhetően azonban több millió sornyi számítógépes programkódot írtak át, így az új évezred beköszöntése nagyrészt eseménytelenül zajlott le. „Rendkívül összpontosított figyelem irányult a problémára” - mondta Loeb. Hozzátette, hogy a tanulság az, hogy soha nem szabad „magától értetődőnek venni az olyan dolgokat, mint a számítógépek és az elektromos áram”.
Az elmúlt napokban több, egymástól független, emberek millióit érintő számítógépes leállás történt. Ilyen volt a Microsoft és az Apple szolgáltatásainak kiesése, vagy az országos légtérzár az Egyesült Államokban, ami miatt egyetlen repülőgép sem szállhatott fel. A technológiai üzemzavarok sorozata és az általuk kiváltott felfordulás sok embert bosszantott és ejtett zavarba. Egyes tisztviselők a leállásokat rutinszerű technológiai fejlesztésekkel hozták összefüggésbe. A problémák egyik lehetséges oka a mesterséges intelligenciát alkalmazó hackerek elleni védekezés globális versenyfutása lehet, bár semmilyen nyilvánosan hozzáférhető bizonyíték nem utal egyelőre arra, hogy a meghibásodások bármelyikét kibertámadás okozta volna.
Az ilyen technológiai balesetek az információs kor sajátos válságainak tűnhetnek, a technológiatörténészek azonban hétköznapinak tartják őket. Érvelésük szerint az összetett rendszerekben bekövetkező katasztrófák az innováció fellendülési és visszaesési ciklusainak elkerülhetetlen velejárói. A korábbi évszázadokban a technológiai fejlődés gyakran több ezer ember életébe került. Ilyenek voltak például az ipari korszak hajnalán bekövetkezett gőzhajórobbanások, a kereskedelmi repülés korai éveiben történt Hindenburg-katasztrófa, valamint az űrkorszak kezdetén bekövetkezett Apollo-1-es tűzeset.
Ebből a nézőpontból a közelmúlt üzemzavarai egyszerűen a tanulási folyamat részét képezik, és szerencsére nem követeltek emberéleteket. Mivel a feltalálók rendszerint a fizika, az anyagtudomány és az emberi ismeretek határait feszegetik, a jelentős meghibásodások és a próbálkozásokkal, tévedésekkel járó kísérletezés jelentik a legfontosabb módszert arra, hogy felfedezzék a látszólag nagyszerű ötleteik mögött rejlő, addig ismeretlen hibákat. A történészek általában egyetértenek abban, hogy a fejlődés és a kudarcok ciklusai szorosan összefonódtak a gőzenergia, az elektromos hálózatok, a repülőgépek, a vegyi anyagok, az orvostudomány, a rakétatechnika és a számítógépek létrejöttével.
A 19. század nagynyomású gőzkazánjai rendszeresen felrobbantak. Az folyókon közlekedő gőzhajókon bekövetkező heves robbanások több ezer ember halálát okozták, mielőtt bevezettek volna az utasok biztonságát szolgáló előírásokat, mint a nyomáscsökkentő szelepek használatát és a szabványosított acélötvözetek alkalmazását. Hasonlóképpen, a korai elektromos vezetékek súlyos tűzeseteket okoztak, az elektromos hálózatokon dolgozó szerelők pedig gyakran szenvedtek halálos áramütést a feszültség alatt álló légvezetékeken. Ezek a tragédiák vezettek a jobb szigetelési megoldások, a megszakítók és a földelés bevezetéséhez, amelyek lehetővé tették a kóbor áramok biztonságos elvezetését.
A korai repülőgépeknél szerkezeti meghibásodások, hajtóműleállások és olyan aerodinamikai problémák jelentkeztek, amelyekkel a pilóták nem tudtak mit kezdeni. A világ első kereskedelmi sugárhajtású utasszállító repülőgépe, a de Havilland Comet 1953-tól kezdődően több halálos balesetet szenvedett, amelyek során a gépek a levegőben szétestek. A mérnökök idővel rájöttek, hogy a repülőgép ablakainak négyszögletessége a hiba okozója, mert az ablak sarkai körül a szerkezeti elemek megrepedtek és elgyengültek, így végül a géptörzs széthasadt. Gyógyszereket és ipari vegyi anyagokat hoztak forgalomba klinikai vizsgálatok vagy toxikológiai ellenőrzések nélkül. Az olyan anyagok, mint a rádium és az ólomtartalmú festékek, valamint a korai szintetikus gyógyszerek súlyos egészségkárosodást okoztak, mielőtt létrejöttek volna a szabályozási keretek és a megfelelő élelmiszer- és gyógyszerfelügyeleti szervek.

Manapság már lekerekítettek a repülőgépek ablakai
A rakétatechnika és az űrrepülés történetét is látványos, katasztrofális kudarcok kísérték. 1957-ben az Atlas, az Egyesült Államok első interkontinentális ballisztikus rakétája, első tesztrepülése során hatalmas robajjal emelkedett el az indítóállásról. Mindössze 24 másodpercig repült, mielőtt a hajtóművei felmondták a szolgálatot. Mindezek a kezdetleges technológiák összességében végül mégis túljutottak a kezdeti nehézségeken, és hozzájárultak ahhoz, hogy a világ jobb hellyé váljon. Olyan hellyé, ahol a biztonság általában elsőbbséget élvez, az emberek pedig nagyobb jólétben élhetnek.
Ehhez évekig, esetenként évtizedekig tartó oknyomozó munka, kísérletezés, társadalmi tiltakozás, pereskedés, építési szabályzatok, biztonsági tartalékok, technológiai szabványok és a biztonságot tanúsító független szervezetek létrehozása kellett. Mindez azon mérnökök és tervezők munkájára épült, akik igyekeztek a lehető legtöbbet tanulni a korábbi kudarcokból. A múltban a katasztrofális meghibásodásokat leggyakrabban az okozta, hogy az emberek ismereteinek korlátai miatt bizonyos dolgokat nem lehetett előre tudni, vagy csak a gyakorlatban, a kipróbálásuk után lehetett megismerni. Egyes esetekben azonban a tragédiák felelőtlenségből fakadtak, amelynek hátterében az a vágy állt, hogy valaki elsőként, gyorsabban vagy olcsóbban valósítson meg valamit.
Ryan Hearty, a Johns Hopkins Egyetem technológiatörténésze szerint ez a fajta felelőtlenség mérsékelhető. Hearty elutasítja azt az elképzelést, hogy a technológiai kudarcok elkerülhetetlenek lennének. „A veszélyek kezelhetők, ha a biztonságot szem előtt tartjuk” - mondta. Hozzátette, hogy a cél az, hogy „lassan haladjunk és fejlesszünk tovább”, ne pedig az, hogy „haladjunk gyorsan, és törjünk össze dolgokat”. Ez utóbbi a technológiai iparág azon jelmondata, amelyet Mark Zuckerberg tett széles körben ismertté a Facebooknál. Politikai tényezők is fokozhatják vagy mérsékelhetik a technológiai vívmányok és kudarcok ciklusait. „Rengeteg pénzt fektettünk olyan nagyméretű, összetett rendszerekbe, amelyeket nem tudunk teljes mértékben átlátni és ellenőrzésünk alatt tartani” - mondta Matthew Hersch, a Princetoni Egyetemhez tartozó Institute for Advanced Study technológiatörténésze.
A helyzetet gyakran tovább rontja, hogy ezeket a rendszereket nem tartják megfelelően karban. A Szövetségi Légügyi Hivatal (FAA) közelmúltbeli üzemzavara esetében a tisztviselők azzal magyarázták a problémát, hogy új szoftvert futtattak régi rézkábeleken. Ezt az infrastruktúrát a költségvetési megszorítások miatt nem korszerűsítették. A kockázatelemzők szerint a mesterséges intelligencia rohamos fejlődési üteme tovább fokozza az aggodalmakat. A modern társadalom már most is olyan eszközöktől függ, amelyek fejlett félvezetőkre épülnek, és egyre gyorsabban válik függővé a mesterséges intelligenciától is. „Nem ismerjük fel, mennyire függünk bizonyos rendszerektől, egészen addig, amíg azok le nem állnak” - mondta Zachary Loeb, a Purdue Egyetem technológiatörténésze. „És könnyű azt feltételezni, hogy a dolgok továbbra is működni fognak, hiszen általában működnek is.”
Ugyanakkor van remény arra, hogy az előrelátó intézkedések segíthetnek megóvni bennünket a katasztrófáktól. Erre jó példa a Y2K, más néven az ezredfordulós számítógépes probléma, amely a naptár 2000-re történő átállásakor jelentett fenyegetést. A memória megtakarítása érdekében a számítógépeket úgy programozták, hogy az évszámokat négy számjegy helyett csak két számjeggyel tárolják és olvassák be. Így például az 1999-es évet „99”-ként kezelték. Sokan attól tartottak, hogy leállnak a bankok, az elektromos hálózatok, a légiforgalmi irányító rendszerek, a liftek és az orvosi berendezések. Egy nagyszabású, nemzetközi erőfeszítésnek köszönhetően azonban több millió sornyi számítógépes programkódot írtak át, így az új évezred beköszöntése nagyrészt eseménytelenül zajlott le. „Rendkívül összpontosított figyelem irányult a problémára” - mondta Loeb. Hozzátette, hogy a tanulság az, hogy soha nem szabad „magától értetődőnek venni az olyan dolgokat, mint a számítógépek és az elektromos áram”.