SG.hu·
Az MI fejlődésének újabb akadálya a megfelelő biztosítás hiánya
A mesterséges intelligenciával kapcsolatos biztonsági incidensek sorozata rávilágít egy gyorsan növekvő iparág súlyos hiányosságára: a rendelkezésre álló biztosítási fedezetek hiányára.
Elszabadult MI-ügynökök törtek fel weboldalakat. MI-chatbotokat vádoltak azzal, hogy öngyilkosságra és gyilkosságra ösztönöztek embereket. Az ilyen esetek tovább gyarapítják azokat a már folyamatban lévő pereket, amelyekben az MI-cégeket chatbotok által okozott károkkal, illetve a modellek betanítása során elkövetett szerzői jogi jogsértésekkel vádolják. Az MI világot átalakító lehetőségei látszólag korlátlanok, ám ezekhez a károkozás rendkívül széles körű lehetősége is társul, ami jogi szempontból kiszolgáltatottá teheti az MI-t előállító vagy használó vállalatokat. Az MI-kockázatokra szakosodott biztosítók szerint a gazdaság egyre szélesebb körű MI-alkalmazásával a legnagyobb MI-vállalatok potenciális jogi felelőssége több tízmilliárd, sőt akár több százmilliárd dollárra is rúghat. Az iparág egyes képviselői még azt is felvetették, hogy az Egyesült Államok kormányának kellene végső pénzügyi védőhálót biztosítania a felelősségi kockázatokra.
A biztosítási alkuszok szerint az MI-cégek a szokásos vállalati biztosítási csomaggal rendelkeznek, amely olyan hagyományos biztosításokat foglal magában, mint az általános felelősségbiztosítás és a kiberbiztosítás. Az MI- és a biztosítási ágazat bennfentesei szerint azonban az iparág rendkívüli növekedési üteme miatt az MI-vel kapcsolatos kárigények összege meghaladhatja e biztosítások fedezeti korlátait. „Az MI-beáramlás által teremtett kockázatok minden egyes területén túl kevés biztosítási kapacitás áll rendelkezésre” - mondta Nick Studer, a Marsh szakmai szolgáltató vállalat biztosításközvetítő részlegének, a Marsh Risknek a vezérigazgatója. „Ez azonban változik.”
Néhány biztosító kifejezetten az MI-vel kapcsolatos kockázatokra, többek között az MI-ügynökök működéséből eredő kockázatokra is kínál biztosítást. A biztosítási összeghatárok azonban csekélyek az MI-óriásvállalatok lehetséges kitettségéhez képest. A Munich Re viszontbiztosító szóvivője szerint a vállalat olyan biztosítást kínál, amely az MI-modellek hibáiból eredő károkat fedezi, legfeljebb 50 millió dolláros biztosítási összegig. Startupvállalatok igyekeznek betölteni ezt a piaci rést, a biztosítótársaságok pedig szélesebb körben is új lehetőséget látnak abban, hogy a jövőben speciális biztosítási termékeket kínáljanak az MI-hez kapcsolódó kockázatokra.
Rune Kvist, az Anthropic korábbi munkatársa az Artificial Intelligence Underwriting Company egyik társalapítója. A vállalkozást a Lloyd's of London biztosítási piaca is támogatja. Kvist szerint az Anthropic és az OpenAI tervezett tőzsdei bevezetése még inkább ráirányítja a figyelmet „a kockázatokra vonatkozó biztosítási és egyéb biztonsági hálók hiányosságaira”. George Lewin-Smith, a Lloyd'shoz szintén kötődő, brit székhelyű MI-biztosító, a Testudo vezérigazgatója szerint a legnagyobb MI-vállalatok hajlandók lennének több milliárd dollár értékű biztosítási fedezetet vásárolni, és rendelkeznek a szükséges pénzügyi háttérrel, illetve készpénzzel ahhoz, hogy megfizessék azt. Hozzátette azonban, hogy az ilyen jellegű felelősségi kockázatokra ekkora összegű biztosítási fedezet nem érhető el. „A valóság az, hogy ilyen egyszerűen nem létezik sehol a bolygón” - mondta.
Az MI-startupok olyan felelősségi kockázatoknak lehetnek kitéve, amelyek a technológiai vállalatok korábbi generációit még nem fenyegették. A webes portálokat és a közösségimédia-vállalatokat nagyrészt megóvta a platformjaikon közzétett tartalmakért viselt felelősségre vonástól egy törvény. A Moody's Analytics egyik jelentése szerint ez a jogi védelem az MI-vállalatok számára kevésbé lehet hasznos, mivel ezek a cégek érdemben maguk is hozzájárulnak az általuk előállított tartalmak létrehozásához. A legnagyobb MI-fejlesztők elegendően nagy pénzügyi tartalékokkal rendelkeznek ahhoz, hogy számos felelősségi követelést fedezzenek. Egy olyan súlyos incidens azonban, amely széles körű gazdasági vagy emberi károkat okoz, felemésztheti a vállalatok pénzügyi védőtartalékait.
A biztosítótársaságok speciális biztosítási konstrukciókat kínálnak a legnagyobb MI-vállalatoknak, hogy megnyugtassák az aggódó szabályozó hatóságokat és befektetőket. Még egy lehetséges veszteséghez képest jóval kisebb összegű biztosítási kötvény is azt bizonyítja, hogy egy külső fél felmérte a kockázatot, és hajlandó fedezetet vállalni rá. Az MI-kockázatokra szóló biztosítások esetében gyakran szimulációs tesztekkel vizsgálják a hibák valószínűségét, így a biztosítás megkötése egyfajta tényleges ellenőrzést is jelent az alapul szolgáló technológia felett.
A biztosítás, illetve az, ha egy vállalat nem tud megfizethető áron biztosítást kötni, segíthet az MI szabályozásában is, állítják az alkuszok és a biztosítók. A biztosítási fedezet feltételeként ugyanis korlátokat lehet szabni mind a fejlesztők, mind a felhasználók tevékenységének. David Sacks kockázatitőke-befektető - aki tagja a Fehér Ház új, MI-vel foglalkozó munkacsoportjának - felvetette, hogy a biztosítás érdemi kényszerítő erőt adhatna az iparág önkéntes ellenőrzési megállapodásához. Egy közösségimédia-bejegyzésben azt írta, hogy a megállapodás keretében belsőleg jelentett biztonsági problémák bizonyos körülmények között arra késztethetik a biztosítót, hogy megtagadja a vezető tisztségviselők felelősségbiztosítását. Ez a biztosítás arra szolgál, hogy megvédje a vezetőket a személyes felelősségre vonástól.
A biztosítók között nincs egyetértés abban, hogyan kellene a legjobban reagálni az MI által előidézett, egyre súlyosbodó kockázatokra és az ezekből fakadó lehetőségekre. Az ágazat eközben versenyt fut azért, hogy profitáljon az MI-adatközpontok építéséből. Az Aon biztosítási alkusz ezeket „a biztosítási piac történetének eddigi legnagyobb lehetőségének” nevezte. Ugyanakkor a biztosítási ágazat egyre jobban aggódik az úgynevezett rejtett kockázatok miatt. Ezek olyan helyzetek, amelyekben az MI-t használó vállalatok hagyományos biztosítási kötvényei sem kifejezetten nem fedezik, sem kifejezetten nem zárják ki az adott technológia által okozott veszteségeket. Az Aon szerint a biztosítással fedezett MI-kockázatok több mint 90 százaléka ebbe a bizonytalan kategóriába tartozik.
A Rand kutatóintézet idei jelentése szerint az MI által okozott veszteségek nem illeszkednek egyértelműen a meglévő biztosítási kategóriákba, ami vitákhoz vezethet arról, hogy pontosan mire terjed ki a fedezet, és mire nem. A jelentés felhívta a figyelmet arra, hogy „egyre nagyobb eltérés alakul ki a vállalatok MI-használatának gyors terjedése és az MI alkalmazására biztosítást kínáló, illetve azt nem kínáló, széttagolt piac között”. Az MI által előidézett veszteségek különböző típusai a személyi sérülésektől és az anyagi károktól, például egy hibázásra hajlamos gyári robot által okozott károktól kezdve a szerzői jogok megsértésén, az adatok jogosulatlan nyilvánosságra hozatalán és a hallucinációkból eredő hibákon át egészen a szabályozói szankciókig terjednek.
Az iparágban egyre elterjedtebbé válik annak lehetősége, hogy az általános felelősségbiztosításokból és más vállalati biztosításokból kizárják az MI-vel kapcsolatos kockázatokat. A Verisk Insurance Services Office, amely széles körben használt, szabványosított biztosítási kötvénymintákat biztosít, idén választható kizárásokat vezetett be a generatív MI-re vonatkozóan. A Verisk szóvivője szerint a vállalat további, más MI-vel kapcsolatos kockázatokra, köztük az MI-ügynökök működéséből eredő kitettségekre vonatkozó választható kizárásokat is mérlegel. Az American International Group és a Chubb azon biztosítók egyre bővülő csoportjába tartozik, amelyeknek lehetőségük van a Verisk meglévő kizárási rendelkezéseinek alkalmazására, ha a jövőben úgy döntenek. Az AIG szóvivője elmondta, hogy a biztosító automatikusan átveszi a szabványosított feltételeket, ami „az egész ágazatban bevett gyakorlat”.
A világ legnagyobb biztosítási alkusza, a Marsh, amely a biztosítókkal tárgyaló vállalatok érdekeit képviseli, ebben a hónapban figyelmeztetést adott ki a kizárásokkal kapcsolatban. Studer, a biztosításközvetítő üzletág vezetője a legnagyobb biztosítóknak küldött levelében azt írta, hogy az MI-kockázatok kizárása „visszalépést jelentene” az ágazat számára. „Ez növelni fogja a biztosítási fedezettel kapcsolatos bizonytalanságot, és több vitához vezet” - írta Studer. A levél szerint a Marsh azt fogja javasolni ügyfeleinek, hogy keressenek máshol biztosítási fedezetet, ha egy biztosító kizárja az MI-vel kapcsolatos kockázatokat. A dokumentum ugyanakkor hozzáteszi, hogy az alkuszoknak, a biztosítóknak és az ügyfeleknek együtt kell működniük a „valóban új típusú kitettségek, például az MI-ügynökök működésével és az autonóm döntéshozatallal kapcsolatos kockázatok” kezelésében.
Elszabadult MI-ügynökök törtek fel weboldalakat. MI-chatbotokat vádoltak azzal, hogy öngyilkosságra és gyilkosságra ösztönöztek embereket. Az ilyen esetek tovább gyarapítják azokat a már folyamatban lévő pereket, amelyekben az MI-cégeket chatbotok által okozott károkkal, illetve a modellek betanítása során elkövetett szerzői jogi jogsértésekkel vádolják. Az MI világot átalakító lehetőségei látszólag korlátlanok, ám ezekhez a károkozás rendkívül széles körű lehetősége is társul, ami jogi szempontból kiszolgáltatottá teheti az MI-t előállító vagy használó vállalatokat. Az MI-kockázatokra szakosodott biztosítók szerint a gazdaság egyre szélesebb körű MI-alkalmazásával a legnagyobb MI-vállalatok potenciális jogi felelőssége több tízmilliárd, sőt akár több százmilliárd dollárra is rúghat. Az iparág egyes képviselői még azt is felvetették, hogy az Egyesült Államok kormányának kellene végső pénzügyi védőhálót biztosítania a felelősségi kockázatokra.
A biztosítási alkuszok szerint az MI-cégek a szokásos vállalati biztosítási csomaggal rendelkeznek, amely olyan hagyományos biztosításokat foglal magában, mint az általános felelősségbiztosítás és a kiberbiztosítás. Az MI- és a biztosítási ágazat bennfentesei szerint azonban az iparág rendkívüli növekedési üteme miatt az MI-vel kapcsolatos kárigények összege meghaladhatja e biztosítások fedezeti korlátait. „Az MI-beáramlás által teremtett kockázatok minden egyes területén túl kevés biztosítási kapacitás áll rendelkezésre” - mondta Nick Studer, a Marsh szakmai szolgáltató vállalat biztosításközvetítő részlegének, a Marsh Risknek a vezérigazgatója. „Ez azonban változik.”
Néhány biztosító kifejezetten az MI-vel kapcsolatos kockázatokra, többek között az MI-ügynökök működéséből eredő kockázatokra is kínál biztosítást. A biztosítási összeghatárok azonban csekélyek az MI-óriásvállalatok lehetséges kitettségéhez képest. A Munich Re viszontbiztosító szóvivője szerint a vállalat olyan biztosítást kínál, amely az MI-modellek hibáiból eredő károkat fedezi, legfeljebb 50 millió dolláros biztosítási összegig. Startupvállalatok igyekeznek betölteni ezt a piaci rést, a biztosítótársaságok pedig szélesebb körben is új lehetőséget látnak abban, hogy a jövőben speciális biztosítási termékeket kínáljanak az MI-hez kapcsolódó kockázatokra.
Rune Kvist, az Anthropic korábbi munkatársa az Artificial Intelligence Underwriting Company egyik társalapítója. A vállalkozást a Lloyd's of London biztosítási piaca is támogatja. Kvist szerint az Anthropic és az OpenAI tervezett tőzsdei bevezetése még inkább ráirányítja a figyelmet „a kockázatokra vonatkozó biztosítási és egyéb biztonsági hálók hiányosságaira”. George Lewin-Smith, a Lloyd'shoz szintén kötődő, brit székhelyű MI-biztosító, a Testudo vezérigazgatója szerint a legnagyobb MI-vállalatok hajlandók lennének több milliárd dollár értékű biztosítási fedezetet vásárolni, és rendelkeznek a szükséges pénzügyi háttérrel, illetve készpénzzel ahhoz, hogy megfizessék azt. Hozzátette azonban, hogy az ilyen jellegű felelősségi kockázatokra ekkora összegű biztosítási fedezet nem érhető el. „A valóság az, hogy ilyen egyszerűen nem létezik sehol a bolygón” - mondta.
Az MI-startupok olyan felelősségi kockázatoknak lehetnek kitéve, amelyek a technológiai vállalatok korábbi generációit még nem fenyegették. A webes portálokat és a közösségimédia-vállalatokat nagyrészt megóvta a platformjaikon közzétett tartalmakért viselt felelősségre vonástól egy törvény. A Moody's Analytics egyik jelentése szerint ez a jogi védelem az MI-vállalatok számára kevésbé lehet hasznos, mivel ezek a cégek érdemben maguk is hozzájárulnak az általuk előállított tartalmak létrehozásához. A legnagyobb MI-fejlesztők elegendően nagy pénzügyi tartalékokkal rendelkeznek ahhoz, hogy számos felelősségi követelést fedezzenek. Egy olyan súlyos incidens azonban, amely széles körű gazdasági vagy emberi károkat okoz, felemésztheti a vállalatok pénzügyi védőtartalékait.
A biztosítótársaságok speciális biztosítási konstrukciókat kínálnak a legnagyobb MI-vállalatoknak, hogy megnyugtassák az aggódó szabályozó hatóságokat és befektetőket. Még egy lehetséges veszteséghez képest jóval kisebb összegű biztosítási kötvény is azt bizonyítja, hogy egy külső fél felmérte a kockázatot, és hajlandó fedezetet vállalni rá. Az MI-kockázatokra szóló biztosítások esetében gyakran szimulációs tesztekkel vizsgálják a hibák valószínűségét, így a biztosítás megkötése egyfajta tényleges ellenőrzést is jelent az alapul szolgáló technológia felett.
A biztosítás, illetve az, ha egy vállalat nem tud megfizethető áron biztosítást kötni, segíthet az MI szabályozásában is, állítják az alkuszok és a biztosítók. A biztosítási fedezet feltételeként ugyanis korlátokat lehet szabni mind a fejlesztők, mind a felhasználók tevékenységének. David Sacks kockázatitőke-befektető - aki tagja a Fehér Ház új, MI-vel foglalkozó munkacsoportjának - felvetette, hogy a biztosítás érdemi kényszerítő erőt adhatna az iparág önkéntes ellenőrzési megállapodásához. Egy közösségimédia-bejegyzésben azt írta, hogy a megállapodás keretében belsőleg jelentett biztonsági problémák bizonyos körülmények között arra késztethetik a biztosítót, hogy megtagadja a vezető tisztségviselők felelősségbiztosítását. Ez a biztosítás arra szolgál, hogy megvédje a vezetőket a személyes felelősségre vonástól.
A biztosítók között nincs egyetértés abban, hogyan kellene a legjobban reagálni az MI által előidézett, egyre súlyosbodó kockázatokra és az ezekből fakadó lehetőségekre. Az ágazat eközben versenyt fut azért, hogy profitáljon az MI-adatközpontok építéséből. Az Aon biztosítási alkusz ezeket „a biztosítási piac történetének eddigi legnagyobb lehetőségének” nevezte. Ugyanakkor a biztosítási ágazat egyre jobban aggódik az úgynevezett rejtett kockázatok miatt. Ezek olyan helyzetek, amelyekben az MI-t használó vállalatok hagyományos biztosítási kötvényei sem kifejezetten nem fedezik, sem kifejezetten nem zárják ki az adott technológia által okozott veszteségeket. Az Aon szerint a biztosítással fedezett MI-kockázatok több mint 90 százaléka ebbe a bizonytalan kategóriába tartozik.
A Rand kutatóintézet idei jelentése szerint az MI által okozott veszteségek nem illeszkednek egyértelműen a meglévő biztosítási kategóriákba, ami vitákhoz vezethet arról, hogy pontosan mire terjed ki a fedezet, és mire nem. A jelentés felhívta a figyelmet arra, hogy „egyre nagyobb eltérés alakul ki a vállalatok MI-használatának gyors terjedése és az MI alkalmazására biztosítást kínáló, illetve azt nem kínáló, széttagolt piac között”. Az MI által előidézett veszteségek különböző típusai a személyi sérülésektől és az anyagi károktól, például egy hibázásra hajlamos gyári robot által okozott károktól kezdve a szerzői jogok megsértésén, az adatok jogosulatlan nyilvánosságra hozatalán és a hallucinációkból eredő hibákon át egészen a szabályozói szankciókig terjednek.
Az iparágban egyre elterjedtebbé válik annak lehetősége, hogy az általános felelősségbiztosításokból és más vállalati biztosításokból kizárják az MI-vel kapcsolatos kockázatokat. A Verisk Insurance Services Office, amely széles körben használt, szabványosított biztosítási kötvénymintákat biztosít, idén választható kizárásokat vezetett be a generatív MI-re vonatkozóan. A Verisk szóvivője szerint a vállalat további, más MI-vel kapcsolatos kockázatokra, köztük az MI-ügynökök működéséből eredő kitettségekre vonatkozó választható kizárásokat is mérlegel. Az American International Group és a Chubb azon biztosítók egyre bővülő csoportjába tartozik, amelyeknek lehetőségük van a Verisk meglévő kizárási rendelkezéseinek alkalmazására, ha a jövőben úgy döntenek. Az AIG szóvivője elmondta, hogy a biztosító automatikusan átveszi a szabványosított feltételeket, ami „az egész ágazatban bevett gyakorlat”.
A világ legnagyobb biztosítási alkusza, a Marsh, amely a biztosítókkal tárgyaló vállalatok érdekeit képviseli, ebben a hónapban figyelmeztetést adott ki a kizárásokkal kapcsolatban. Studer, a biztosításközvetítő üzletág vezetője a legnagyobb biztosítóknak küldött levelében azt írta, hogy az MI-kockázatok kizárása „visszalépést jelentene” az ágazat számára. „Ez növelni fogja a biztosítási fedezettel kapcsolatos bizonytalanságot, és több vitához vezet” - írta Studer. A levél szerint a Marsh azt fogja javasolni ügyfeleinek, hogy keressenek máshol biztosítási fedezetet, ha egy biztosító kizárja az MI-vel kapcsolatos kockázatokat. A dokumentum ugyanakkor hozzáteszi, hogy az alkuszoknak, a biztosítóknak és az ügyfeleknek együtt kell működniük a „valóban új típusú kitettségek, például az MI-ügynökök működésével és az autonóm döntéshozatallal kapcsolatos kockázatok” kezelésében.