SG.hu
Hogyan lett Ferenc pápa a tech titánok és a világ vezetőinek MI etikusa?
Ferenc pápa részt vett a G7 országok mesterséges intelligenciának szentelt csúcstalálkozóján.
2019 egyik februári délutánján Brad Smith, a Microsoft elnöke bebocsátást kért a pápai rezidenciára, hogy útmutatást kérjen egy érlelődő technológia etikájáról: a mesterséges intelligenciáról. Ferenc pápa egy nyolcvanéves ember, aki azt állítja, hogy nem tud számítógépet használni, de Smith szerint felfogta a technológia gyors fejlődésének kockázatait. Távozáskor figyelmeztetett: "Őrizd meg emberségedet" - intette Smith-et, miközben a csuklóját fogta. A találkozó óta eltelt öt év alatt a mesterséges intelligencia megkerülhetetlenné vált, ahogy azt maga a pápa is megtapasztalhatta, amikor a róla készült, Balenciaga pufferdzsekiben készült fotók a mélyhamisítások új korszakát hirdették. És ahogy a technológia terjedt, a Vatikán a Microsofthoz hasonló vállalatok lelkiismereteként pozícionálta magát, és meglepően befolyásos hangként jelenik meg a mesterséges intelligencia globális irányításáról szóló vitában.
Ferenc volt az első pápa, aki felszólalt a világ legfejlettebb államait tömörítő G7 csoport fórumán, és csatlakozott a dél-olaszországi csúcstalálkozón a mesterséges intelligenciának szentelt ülésszakhoz. "Őszentsége jelenléte döntő mértékben hozzájárul majd a mesterséges intelligencia szabályozási, etikai és kulturális keretének meghatározásához" - mondta Giorgia Meloni olasz miniszterelnök a meghívást bejelentő nyilatkozatában. Ahogyan a pápa igyekezett az éghajlatváltozás sürgősségére rámutatni, Ferenc most az MI-t veszi nagyító alá - egy olyan technológiát, amelyről azt mondta, hogy "veszélyt jelent a túlélésünkre", és "veszélyeztetheti közös otthonunkat".
Aggodalmai kevésbé a sci-fi filmek rosszindulatú gépekről szóló előrejelzéseire összpontosítanak, vagy arra, hogy az érző mesterséges intelligencia lehetősége hogyan kérdőjelezheti meg az élet alapvető meghatározását. Inkább a fegyveres mesterséges intelligencia apokaliptikus lehetőségei aggasztják, és attól tart, hogy az emberi empátia megszűnik, amint algoritmusok kezdenek dönteni a menedékkérelmektől kezdve a banki hitelekig mindenről. Hirdeti a technológia "izgalmas lehetőségeit", de aggódik amiatt is, hogy a technológia hatalma elmélyíti az egyenlőtlenségeket a nemzeteken belül és a nemzetek között. Kitart amellett, hogy ezeket a kockázatokat egy globális szerződéssel kell kezelni, amely szabályozza a mesterséges intelligenciát.
"Az erkölcsi ítélőképesség és az etikus döntéshozatal egyedülálló emberi képessége több, mint algoritmusok összetett gyűjteménye, és ezt a képességet nem lehet egy gép programozására redukálni, amely bármennyire is intelligens, gép marad" - mondta a pápa. "Ezért elengedhetetlenül szükséges a fegyverrendszerek megfelelő, értelmes és következetes emberi felügyeletének biztosítása". A világ vezetői - a Vatikán támogatásával - egyfajta becsületjelvényt mutattak be, egy új címkét azoknak a vállalatoknak, amelyek vállalják, hogy biztonságosan és etikusan fejlesztenek mesterséges intelligencia eszközöket. A címke önkéntes kötelezettségvállalást jelent, amelyet egy felügyeleti és jelentéstételi rendszer támogat.
A madárinfluenza kérdése lehetőséget adott az egyházi szexuális visszaélések kezelése miatt meggyengült egyháznak, hogy újra megerősítse erkölcsi tekintélyét. A Microsoft és néhány más technológiai vállalat nagyon várja a katolikus egyház jóváhagyását, mivel az iparág küzd egy olyan technológia közkapcsolati kihívásaival, amely automatizálhatja a munkahelyeket, felerősítheti a félretájékoztatást és új kiberbiztonsági kockázatokat hoz létre. A Római felhívás a mesterséges intelligencia etikájáról - egy olyan dokumentum, amelynek eredeti aláírói között 2020-ban a Vatikán, a Microsoft és az IBM is szerepelt - a legjobb mesterséges intelligencia-gyakorlatok aranyszabályaként tűnik fel. A judaizmus és az iszlám képviselői tavaly írták alá. A jövő hónapban több keleti vallás is csatlakozik, és ezzel bővül a lista, amelyen már több száz vállalat, egyetem és egy ENSZ-ügynökség is szerepel a globális irányelvek kidolgozására törekedve.
A Vatikán helyet kapott a Big Tech asztalánál. Egy ősi intézmény, amelynek vegyes a tudományos múltja - lásd a Galilei elleni per -, és most képviselőket küld a nagy technológiai eseményekre. A Vatikán vezető mesterséges intelligencia szakértője Paolo Benanti tiszteletes, ferences pap és képzett mérnök, aki megalkotta az "algoretikus" kifejezést. Tavaly helyet kapott az ENSZ mesterséges intelligenciával foglalkozó tanácsadó testületében, és fontos szereplője lett a G7-országok közé tartozó Olaszország nemzeti mesterséges intelligencia-politikájának kidolgozásában. A Vatikán kérésére az IBM a Notre Dame egyetemen globális csúcstalálkozót rendezett, hogy a mesterséges intelligencia etikája a tantervek előterébe kerüljön.
A Vatikán nézetei konkrét üzleti döntéseket is befolyásolnak. "Kifejlesztettük a saját technológiánkat, amely lehetővé teszi, hogy bárki bárki hangját néhány másodperc alatt lemásolhassa. És úgy döntöttünk, hogy ezt nem adjuk ki" - mondta Brad Smith. Hozzátette, hogy a Római felhívás "mindenképpen része annak, ami segített minket a Microsoftnál abban, hogy széles látókörűen igyekezzünk megközelíteni az MI fejlesztését, beleértve a saját cégünkön belül is. Szerintem ez egy széles humanista és intellektuális keretet biztosított".
A befogadás hangsúlyozása befolyásolta a vállalat döntését egy olyan ösztöndíj elindításáról is, amely főként a globális délről származó kutatókat és civil társadalmi vezetőket hoz össze a technológia hatásának értékelésére - mondta Natasha Crampton, a Microsoft "felelős MI" programját irányító vezető. Az ösztöndíjasok segítettek a vállalatnak az MI-modellek többnyelvű értékelésének kidolgozásában, és biztosították, hogy a vállalat megértse a helyi kontextust és a kulturális normákat, amikor új termékeket fejleszt. De nem minden vállalat támogatja a római alapelveket. Néhányan már kiadtak mesterséges intelligenciával manipulált hanganyagokat, amelyekkel a kutatók szerint felhasználhatnak a választók megtévesztésére a választások előtt. És nem mindenki csatlakozhatott a római klubhoz. "A Huawei kérte" - mondta Vincenzo Paglia érsek, az Életért Pápai Akadémia elnöke. "Mi pedig nemet mondtunk, mert nem igazán tudjuk, hogy mit gondolnak a kínai illetékesek".
Mindeközben a Vatikán továbbra is aggódik a nyílt forráskódú mesterséges intelligenciával való visszaélés miatt. Benanti szerint a technológia jelentős előnyökkel járhat az egészségügyben és az oktatásban. "De sok rossz elemet is megsokszorozhat a társadalomban, és nem terjeszthetjük az MI-t mindenhol politikai döntéshozatal nélkül, mert holnap az egyenlőtlenségek, a biofegyverek megsokszorozójára ébredhetünk" - mondta. A Vatikán tisztviselői már riadót fújtak az általuk potenciálisan etikátlannak tartott felhasználások miatt, beleértve a 2019-2020-as hongkongi tüntetők elleni fellépés során alkalmazott arcfelismerő rendszereket, valamint a menekültek feldolgozására szolgáló algoritmusokat, például Németországban, ahol mesterséges intelligenciával működő nyelvi teszteket használtak annak megállapítására, hogy a menedékkérők hazudnak-e a származási helyükről.
A Vatikán és az MI-innovátorok közötti kapcsolat egy 2018-as beszédtől eredeztethető, amelyet Benanti az MI etikájáról tartott. A Microsoft egyik magas rangú olaszországi képviselője is ott volt a hallgatóság soraiban, és a két fél rendszeresen találkozni kezdett. Bevonták Pagliát, aki érdekelt volt abban, hogy akadémiája hatáskörét kiterjessze az olyan alapvető kérdéseken túl, mint az őssejtkutatás etikája. Smith pápai látogatását megelőzően Paglia végigkísérte őt Michelangelo "Utolsó ítélet"-én a Sixtus-kápolnában, és megmutatta neki Galilei ábrázolásait a Föld Nap körüli keringéséről - az elméletet, amely miatt egy egyházi per után életfogytiglani házi őrizetbe került.
A Vatikán viszonya a tudományhoz azonban nem mindig volt luddita. A középkorban katolikus tudósok alapítottak meg több, a későbbiekben naggyá vált európai egyetemet. És bár egyes klerikusok célkeresztjébe került, Darwin evolúciós elméletét a Vatikán hivatalosan soha nem támadta meg. Az egyház hivatalosan kijelentette, hogy "a hit és az ész" nem áll ellentétben egymással. "A Biblia nem azt mondja meg, hogyan működik a mennyország, hanem azt, hogyan juthatunk oda" - idézte Paglia Galileit. Az érsek hivatalos utakat tett a Microsoft Seattle melletti központjába és az IBM New York-i irodáiba.
A Microsoft agresszív mesterséges intelligencia befektetései révén a világ legértékesebb vállalatává vált, értéke meghaladja a 3 billió dollárt. További sikere azonban a mesterséges intelligenciával kapcsolatos negatív vélekedések megfékezésén múlik. Az aggodalmak, hogy a technológia munkahelyeket szoríthat ki, súlyosbíthatja az egyenlőtlenségeket, felerősítheti a megfigyelést és újfajta háborúkhoz vezethet, arra késztetik a kormányokat világszerte, hogy szigorú szabályozást fontolgassanak, amely tompíthatja a vállalat ambícióit. Az Európai Unió olyan mérföldkőnek számító törvényen dolgozik, amely korlátozhatja a fejlettebb generatív mesterséges intelligencia modelleket. Az amerikai törvényhozók pedig nagyobb vizsgálat elé állítják a vállalatot, hogy miként gyakorolja hatalmát a mesterséges intelligencia uralása érdekében, beleértve a ChatGPT gyártó OpenAI-ba történő több milliárd dolláros befektetését. Ez a kapcsolat új reputációs kockázatoknak is kitette a Microsoftot, mivel az OpenAI vezérigazgatója, Sam Altman gyakran tesz nagyívű kijelentéseket.
Smith vezetése alatt a Microsoft az egyik legkifinomultabb globális lobbiszervezetet építette ki, hogy eloszlassa a szabályozási kihívásokat, és megpróbálja meggyőzni az embereket arról, hogy ő az a technológiai titán, akiben a világ megbízhat a mesterséges intelligencia kifejlesztésében. Smith rendszeresen találkozik államfőkkel, a múlt hónapban például Biden elnök mellett jelent meg egy gyármegnyitón. Ahhoz, hogy hatékony vállalkozás legyen, a Microsoftnak meg kell találnia a módját annak, hogyan működjön együtt a kormányokkal, és hogyan biztosítsa, hogy technológiája képes legyen túllépni rajtuk - ismerte el Smith. A "világ legrégebbi globális szervezete" egyedülálló tanár és partner lehet ebben az erőfeszítésben - mondta. A katolicizmust és más vallásokat nem kötik országhatárok - akárcsak a Microsoft által világszerte forgalmazott alkalmazásokat. "Egy bizonyos szinten, ha ránk néznek, azt gondolhatják, hogy mi ketten furcsa hálótársak vagyunk" - mondta Smith. "De másrészt ez egy tökéletes kombináció."
2019 egyik februári délutánján Brad Smith, a Microsoft elnöke bebocsátást kért a pápai rezidenciára, hogy útmutatást kérjen egy érlelődő technológia etikájáról: a mesterséges intelligenciáról. Ferenc pápa egy nyolcvanéves ember, aki azt állítja, hogy nem tud számítógépet használni, de Smith szerint felfogta a technológia gyors fejlődésének kockázatait. Távozáskor figyelmeztetett: "Őrizd meg emberségedet" - intette Smith-et, miközben a csuklóját fogta. A találkozó óta eltelt öt év alatt a mesterséges intelligencia megkerülhetetlenné vált, ahogy azt maga a pápa is megtapasztalhatta, amikor a róla készült, Balenciaga pufferdzsekiben készült fotók a mélyhamisítások új korszakát hirdették. És ahogy a technológia terjedt, a Vatikán a Microsofthoz hasonló vállalatok lelkiismereteként pozícionálta magát, és meglepően befolyásos hangként jelenik meg a mesterséges intelligencia globális irányításáról szóló vitában.
Ferenc volt az első pápa, aki felszólalt a világ legfejlettebb államait tömörítő G7 csoport fórumán, és csatlakozott a dél-olaszországi csúcstalálkozón a mesterséges intelligenciának szentelt ülésszakhoz. "Őszentsége jelenléte döntő mértékben hozzájárul majd a mesterséges intelligencia szabályozási, etikai és kulturális keretének meghatározásához" - mondta Giorgia Meloni olasz miniszterelnök a meghívást bejelentő nyilatkozatában. Ahogyan a pápa igyekezett az éghajlatváltozás sürgősségére rámutatni, Ferenc most az MI-t veszi nagyító alá - egy olyan technológiát, amelyről azt mondta, hogy "veszélyt jelent a túlélésünkre", és "veszélyeztetheti közös otthonunkat".
Aggodalmai kevésbé a sci-fi filmek rosszindulatú gépekről szóló előrejelzéseire összpontosítanak, vagy arra, hogy az érző mesterséges intelligencia lehetősége hogyan kérdőjelezheti meg az élet alapvető meghatározását. Inkább a fegyveres mesterséges intelligencia apokaliptikus lehetőségei aggasztják, és attól tart, hogy az emberi empátia megszűnik, amint algoritmusok kezdenek dönteni a menedékkérelmektől kezdve a banki hitelekig mindenről. Hirdeti a technológia "izgalmas lehetőségeit", de aggódik amiatt is, hogy a technológia hatalma elmélyíti az egyenlőtlenségeket a nemzeteken belül és a nemzetek között. Kitart amellett, hogy ezeket a kockázatokat egy globális szerződéssel kell kezelni, amely szabályozza a mesterséges intelligenciát.
"Az erkölcsi ítélőképesség és az etikus döntéshozatal egyedülálló emberi képessége több, mint algoritmusok összetett gyűjteménye, és ezt a képességet nem lehet egy gép programozására redukálni, amely bármennyire is intelligens, gép marad" - mondta a pápa. "Ezért elengedhetetlenül szükséges a fegyverrendszerek megfelelő, értelmes és következetes emberi felügyeletének biztosítása". A világ vezetői - a Vatikán támogatásával - egyfajta becsületjelvényt mutattak be, egy új címkét azoknak a vállalatoknak, amelyek vállalják, hogy biztonságosan és etikusan fejlesztenek mesterséges intelligencia eszközöket. A címke önkéntes kötelezettségvállalást jelent, amelyet egy felügyeleti és jelentéstételi rendszer támogat.
A madárinfluenza kérdése lehetőséget adott az egyházi szexuális visszaélések kezelése miatt meggyengült egyháznak, hogy újra megerősítse erkölcsi tekintélyét. A Microsoft és néhány más technológiai vállalat nagyon várja a katolikus egyház jóváhagyását, mivel az iparág küzd egy olyan technológia közkapcsolati kihívásaival, amely automatizálhatja a munkahelyeket, felerősítheti a félretájékoztatást és új kiberbiztonsági kockázatokat hoz létre. A Római felhívás a mesterséges intelligencia etikájáról - egy olyan dokumentum, amelynek eredeti aláírói között 2020-ban a Vatikán, a Microsoft és az IBM is szerepelt - a legjobb mesterséges intelligencia-gyakorlatok aranyszabályaként tűnik fel. A judaizmus és az iszlám képviselői tavaly írták alá. A jövő hónapban több keleti vallás is csatlakozik, és ezzel bővül a lista, amelyen már több száz vállalat, egyetem és egy ENSZ-ügynökség is szerepel a globális irányelvek kidolgozására törekedve.
A Vatikán helyet kapott a Big Tech asztalánál. Egy ősi intézmény, amelynek vegyes a tudományos múltja - lásd a Galilei elleni per -, és most képviselőket küld a nagy technológiai eseményekre. A Vatikán vezető mesterséges intelligencia szakértője Paolo Benanti tiszteletes, ferences pap és képzett mérnök, aki megalkotta az "algoretikus" kifejezést. Tavaly helyet kapott az ENSZ mesterséges intelligenciával foglalkozó tanácsadó testületében, és fontos szereplője lett a G7-országok közé tartozó Olaszország nemzeti mesterséges intelligencia-politikájának kidolgozásában. A Vatikán kérésére az IBM a Notre Dame egyetemen globális csúcstalálkozót rendezett, hogy a mesterséges intelligencia etikája a tantervek előterébe kerüljön.
A Vatikán nézetei konkrét üzleti döntéseket is befolyásolnak. "Kifejlesztettük a saját technológiánkat, amely lehetővé teszi, hogy bárki bárki hangját néhány másodperc alatt lemásolhassa. És úgy döntöttünk, hogy ezt nem adjuk ki" - mondta Brad Smith. Hozzátette, hogy a Római felhívás "mindenképpen része annak, ami segített minket a Microsoftnál abban, hogy széles látókörűen igyekezzünk megközelíteni az MI fejlesztését, beleértve a saját cégünkön belül is. Szerintem ez egy széles humanista és intellektuális keretet biztosított".
A befogadás hangsúlyozása befolyásolta a vállalat döntését egy olyan ösztöndíj elindításáról is, amely főként a globális délről származó kutatókat és civil társadalmi vezetőket hoz össze a technológia hatásának értékelésére - mondta Natasha Crampton, a Microsoft "felelős MI" programját irányító vezető. Az ösztöndíjasok segítettek a vállalatnak az MI-modellek többnyelvű értékelésének kidolgozásában, és biztosították, hogy a vállalat megértse a helyi kontextust és a kulturális normákat, amikor új termékeket fejleszt. De nem minden vállalat támogatja a római alapelveket. Néhányan már kiadtak mesterséges intelligenciával manipulált hanganyagokat, amelyekkel a kutatók szerint felhasználhatnak a választók megtévesztésére a választások előtt. És nem mindenki csatlakozhatott a római klubhoz. "A Huawei kérte" - mondta Vincenzo Paglia érsek, az Életért Pápai Akadémia elnöke. "Mi pedig nemet mondtunk, mert nem igazán tudjuk, hogy mit gondolnak a kínai illetékesek".
Mindeközben a Vatikán továbbra is aggódik a nyílt forráskódú mesterséges intelligenciával való visszaélés miatt. Benanti szerint a technológia jelentős előnyökkel járhat az egészségügyben és az oktatásban. "De sok rossz elemet is megsokszorozhat a társadalomban, és nem terjeszthetjük az MI-t mindenhol politikai döntéshozatal nélkül, mert holnap az egyenlőtlenségek, a biofegyverek megsokszorozójára ébredhetünk" - mondta. A Vatikán tisztviselői már riadót fújtak az általuk potenciálisan etikátlannak tartott felhasználások miatt, beleértve a 2019-2020-as hongkongi tüntetők elleni fellépés során alkalmazott arcfelismerő rendszereket, valamint a menekültek feldolgozására szolgáló algoritmusokat, például Németországban, ahol mesterséges intelligenciával működő nyelvi teszteket használtak annak megállapítására, hogy a menedékkérők hazudnak-e a származási helyükről.
A Vatikán és az MI-innovátorok közötti kapcsolat egy 2018-as beszédtől eredeztethető, amelyet Benanti az MI etikájáról tartott. A Microsoft egyik magas rangú olaszországi képviselője is ott volt a hallgatóság soraiban, és a két fél rendszeresen találkozni kezdett. Bevonták Pagliát, aki érdekelt volt abban, hogy akadémiája hatáskörét kiterjessze az olyan alapvető kérdéseken túl, mint az őssejtkutatás etikája. Smith pápai látogatását megelőzően Paglia végigkísérte őt Michelangelo "Utolsó ítélet"-én a Sixtus-kápolnában, és megmutatta neki Galilei ábrázolásait a Föld Nap körüli keringéséről - az elméletet, amely miatt egy egyházi per után életfogytiglani házi őrizetbe került.
A Vatikán viszonya a tudományhoz azonban nem mindig volt luddita. A középkorban katolikus tudósok alapítottak meg több, a későbbiekben naggyá vált európai egyetemet. És bár egyes klerikusok célkeresztjébe került, Darwin evolúciós elméletét a Vatikán hivatalosan soha nem támadta meg. Az egyház hivatalosan kijelentette, hogy "a hit és az ész" nem áll ellentétben egymással. "A Biblia nem azt mondja meg, hogyan működik a mennyország, hanem azt, hogyan juthatunk oda" - idézte Paglia Galileit. Az érsek hivatalos utakat tett a Microsoft Seattle melletti központjába és az IBM New York-i irodáiba.
A Microsoft agresszív mesterséges intelligencia befektetései révén a világ legértékesebb vállalatává vált, értéke meghaladja a 3 billió dollárt. További sikere azonban a mesterséges intelligenciával kapcsolatos negatív vélekedések megfékezésén múlik. Az aggodalmak, hogy a technológia munkahelyeket szoríthat ki, súlyosbíthatja az egyenlőtlenségeket, felerősítheti a megfigyelést és újfajta háborúkhoz vezethet, arra késztetik a kormányokat világszerte, hogy szigorú szabályozást fontolgassanak, amely tompíthatja a vállalat ambícióit. Az Európai Unió olyan mérföldkőnek számító törvényen dolgozik, amely korlátozhatja a fejlettebb generatív mesterséges intelligencia modelleket. Az amerikai törvényhozók pedig nagyobb vizsgálat elé állítják a vállalatot, hogy miként gyakorolja hatalmát a mesterséges intelligencia uralása érdekében, beleértve a ChatGPT gyártó OpenAI-ba történő több milliárd dolláros befektetését. Ez a kapcsolat új reputációs kockázatoknak is kitette a Microsoftot, mivel az OpenAI vezérigazgatója, Sam Altman gyakran tesz nagyívű kijelentéseket.
Smith vezetése alatt a Microsoft az egyik legkifinomultabb globális lobbiszervezetet építette ki, hogy eloszlassa a szabályozási kihívásokat, és megpróbálja meggyőzni az embereket arról, hogy ő az a technológiai titán, akiben a világ megbízhat a mesterséges intelligencia kifejlesztésében. Smith rendszeresen találkozik államfőkkel, a múlt hónapban például Biden elnök mellett jelent meg egy gyármegnyitón. Ahhoz, hogy hatékony vállalkozás legyen, a Microsoftnak meg kell találnia a módját annak, hogyan működjön együtt a kormányokkal, és hogyan biztosítsa, hogy technológiája képes legyen túllépni rajtuk - ismerte el Smith. A "világ legrégebbi globális szervezete" egyedülálló tanár és partner lehet ebben az erőfeszítésben - mondta. A katolicizmust és más vallásokat nem kötik országhatárok - akárcsak a Microsoft által világszerte forgalmazott alkalmazásokat. "Egy bizonyos szinten, ha ránk néznek, azt gondolhatják, hogy mi ketten furcsa hálótársak vagyunk" - mondta Smith. "De másrészt ez egy tökéletes kombináció."