SG.hu
Európai körutat tart az OpenAI vezérigazgatója, Sam Altman
Alig pár napja történt, hogy az amerikai törvényhozók meghallgatást tartottak a mesterséges intelligencia témájában, és ezen a ChatGPT-t létrehozó cég, az OpenAI vezérigazgatója Sam Altman kifejtette, hogy ő a szabályozás híve és törvényekre van szükség a technológia körüli kockázatok mérséklésére. Sőt, egy nemzetközi szabályozó testületet is szorgalmazott a mesterséges intelligencia korlátozására! Ezután ezen a héten európai körútra indult, hogy az európai kormányfőknek elmondja, mennyire nincs szükség a mesterséges intelligencia szabályozására. Ellentmondásnak hangzik, de mégis van logika a szavai mögött.
A nagy technológiai cégek vezérigazgatói szeretik azt állítani, hogy támogatják a szabályozást, de persze csak azt, amiket ők maguk javasolnak. Az OpenAI vezérigazgatója számos fővárost meglátogatott kontinensünkön, közös fotó készült róla a spanyol, a lengyel, a francia és a brit kormányfőkkel. De hogy miért pont velük? A spanyol miniszterelnök, Pedro Sanchez volt az első, mert a dél-európai ország veszi át idén nyáron hat hónapra az Európai Tanács soros elnökségét. Sam Altman turnéját egy csomó újság főoldalra rakta, és a szalagcímek arra figyelmeztetnek, hogy az európai szabályozás miatt az OpenAI ellehetetlenülhet a régióban. (Emlékezzünk csak az olasz betiltásra!)
Az IT-híreket olvasók emlékezhetnek az elmúlt évek hasonló nagy csinnadrattával zajló körútjaira, például Mark Zuckerberg Budapesten is járt. Az OpenAI tehát az IT-óriások jól ismert forgatókönyve szerint lobbizik - a jelek szerint - viszonylag kis költségvetéssel, szemben a Google és a Meta által évente rendszeresen Brüsszel meggyőzésére fordított több millió dollárral. Altman más megközelítést választott: amellett, hogy olyan kormányfőkkel beszélgetett, akik befolyással bírnak az EU mesterséges intelligenciára vonatkozó szabályainak végső formájára, a nyilvánosság előtt is megszólalt. A University College Londonban tartott vitarendezvényen kifejtette, hogy olyan szabályozást részesítene előnyben, amely "a hagyományos európai és az amerikai megközelítés között helyezkedik el".
A sajtó jelenlévő tagjainak elmondta, hogy a cége akár felhagyna az európai működéssel, ha nem tudna megfelelni a mesterséges intelligenciára vonatkozó új szabályoknak. "Megpróbálunk megfelelni" - mondta, majd kifejtette, hogy "sok" kritikája van az uniós MI-törvény szövegezésével kapcsolatban. E hónap elején az Európai Parlament két bizottságának képviselői olyan módosításokat fogadtak el a mesterséges intelligencia szabályozásának kockázatalapú keretrendszerére vonatkozóan, amelyek célja, hogy az általános célú mesterséges intelligencia, azaz az alapmodellek és a generatív mesterséges intelligencia ne essen ki a szabályok alól. A képviselők támogatták a nyelvi modellek szolgáltatóinak kötelezettségét, hogy biztonsági ellenőrzéseket, adatkezelési intézkedéseket és kockázatcsökkentő intézkedéseket alkalmazzanak a modelljeik piacra dobása előtt. Kötelezni fogják őket arra, hogy vegyék figyelembe "az egészségre, a biztonságra, az alapvető jogokra, a környezetre, a demokráciára és a jogállamiságra vonatkozó előre látható kockázatokat".
A módosítások emellett köteleznék a nagy nyelvi modellek (Large language model, LLM) készítőit arra, hogy minimalizálják rendszereik energiafogyasztását és erőforrás-felhasználását, és regisztrálják azokat egy, a rendelet által létrehozandó uniós adatbázisban. A generatív mesterséges intelligencia technológiák (mint például a ChatGPT) szolgáltatói átláthatósági kötelezettséget kapnak majd a nyakukba, ami azt jelenti, hogy biztosítaniuk kell, hogy a felhasználók értesüljenek arról, hogy a tartalom gépi úton generált. Biztosítékokat kell alkalmazniuk a rendszereik által generált tartalmakkal kapcsolatban és összefoglalással kell szolgálniuk a mesterséges intelligenciájuk képzéséhez felhasznált szerzői jogvédelem alatt álló anyagokról.
Altman ezzel nyilván nem ért egyet. "Az EU-s MI-törvény jelenlegi tervezete túlszabályozná a területet, de úgy hallottuk, hogy ezt vissza fogják vonni" - mondta a Reutersnek. Ez úgy hangzik, mint egy kísérlet arra, hogy lobbizzon a Tanácsnál - az uniós tagállamok kormányainak képviselőiből álló testületnél -, hogy az európai parlamenti képviselőkkel folytatott tárgyalásokra nyomást gyakoroljon annak érdekében, hogy a módosításokat visszavonják. Biztosra vehető, hogy Altman Pedro Sanchez spanyol miniszterelnöknek, Mateusz Jakub Morawieck lengyel miniszterelnöknek és Emmanuel Macron francia elnöknek is megismételte az uniós "túlszabályozással" kapcsolatos aggodalmait. A lengyel kormány a látogatás alkalmából kiadott tweetje megerősíti, hogy "a mesterséges intelligencia felhasználásával kapcsolatos jogi szabályozással kapcsolatos kérdések" szerepeltek a varsói megbeszélések napirendjén - amellett, hogy a lengyel vállalatoknak a mesterséges intelligencia fejlesztésében való részvételének lehetőségeiről is szó esett... (Lengyelek, akarjátok azokat az OpenAI MI-mérnöki állásokat vagy sem?!)
Altman a jövő hónap elején várható parlamenti szavazásra is figyelhet, amely megerősíti az európai parlamenti képviselők tárgyalási mandátumát a Tanáccsal a mesterséges intelligenciáról szóló törvényről. Remélheti, hogy a kormányfőknél folytatott lobbizása nyomást gyakorol majd a parlament bizonyos politikai frakcióira, hogy azok a két bizottság által támogatott módosítások ellen szavazzanak. Ezek után, valószínűleg a jövő héten pedig Thierry Breton, az EU belső piaci biztosa fog találkozni Altmannal.
A listából egyedül Rishi Sunak brit miniszterelnök lóg ki, hiszen az ország már nem EU-tag, ráadásul azon a találkozón rivális MI-cégek vezetőivel (Demis Hassabis, a Google-DeepMind és Dario Amodei, az Anthropic vezetője) együtt került sor. Az Egyesült Királyság természetesen továbbra is Európa egyik legjelentősebb gazdasága, és egyes pletykák szerint az OpenAI fontolgatja egy helyi központ felállítását az országban. (Az Anthropic nemrég jelentette be saját londoni irodáját.) A brit kormány nem tervez új hazai jogszabályokat a mesterséges intelligencia szabályozására, hanem inkább a meglévő szabályozó testületekre támaszkodnak, hogy azok iránymutatást adjanak a mesterséges intelligencia biztonságos fejlesztéséhez.
A hónap elején az amerikai szenátusi bizottság arra kérte Altmant, hogy próbálja meg meghatározni, hogyan kellene szabályozni a mesterséges intelligenciát. A törvényhozók a számítási teljesítményt vagy a modell képességeit vetették fel, mint lehetséges határt. Ezzel szemben az EU már messze jár az MI szabályozásának útján, méghozzá olyan módon, hogy a meglévő technológiákra sokkal konkrétabb szabályokat fog bevezetni, mint amilyenekkel a IT-ágazat elégedett lenne. Altman inkább olyan általános engedélyt szeretne, mint amilyen a közösségi médiavállalatoknak volt, amikor platformóriásokká nőtték ki magukat anélkül, hogy törvények gátolták volna őket közben. Ráadásul ha Brüsszel elsőként létrehoz egy kockázatalapú keretrendszert, akkor az egész világ számára meghatározhatja a mesterséges intelligenciára vonatkozó defacto szabálykönyvet. Altman legalábbis nagyon szeretné elkerülni, hogy ez határozza meg az alaphangot. (A GDPR-nál ez történt, az EU szabályozását mintának tekinti az országok többsége.)
Sunakkal való találkozója során tehát az OpenAI vezérigazgatója valószínűleg arra törekedett, hogy éket verjen az Egyesült Királyság és az EU közé az MI-szabályozás terén azáltal, hogy az előbbit arra ösztönzi, hogy kevésbé konkrét, homályosabb nemzetközi szabványokat támogassanak, olyat, amelyeket maguk az MI-vállalatok is meghoznának. Ez szintén nyomásgyakorlás az uniós jogalkotókra, ha ugyanis az egyik nagy európai gazdaság (az Egyesült Királyság) más irányt vesz, és lazább nemzetközi "szabványokat" támogat a konkrét szabályokkal szemben, az arra késztetheti az uniós törvényhozókat, hogy meggondolják magukat, és még az ügy lezárása előtt módosítsák az eddigi megközelítést.
Persze az uniós törvényhozók sem hülyék, e a hét elején bejelentették, hogy a Google is csatlakozott egy "MI Paktum" létrehozására irányuló kezdeményezéshez, amely a teljes körű szabályok bevezetése előtt átmeneti megoldásként szolgál. Az EU digitális stratégiáért felelős vezetője, Margrethe Vestager szintén sürgette a G7-országokat, hogy nemzetközileg elfogadott korlátokat vezessenek be, úgy tűnik, némi sikerrel. A G7-vezetők a múlt hétvégén megállapodtak a "hirosimai mesterséges intelligencia folyamat" elindításáról és mesterséges intelligencia-védőkorlátok kidolgozásáról, többek között a generatív mesterséges intelligenciára vonatkozóan. Emellett olyan műszaki szabványok kidolgozását és elfogadását sürgették, amelyek célja, hogy a mesterséges intelligencia "megbízható" maradjon. (Ez a szóhasználat kifejezetten az EU mesterséges intelligencia szabályozására vonatkozó nyelvezetet idézi.)
Altman körútját Thierry Breton belső piaci biztosa sem hagyta szó nélkül: "Nincs értelme a zsarolási kísérleteknek" - írta a a Twitteren, és nekiment az OpenAI azon felvetésének, hogy "Európa egy világos keretrendszer kidolgozásával hátráltatja a generatív mesterséges intelligencia elterjedését". "Éppen ellenkezőleg! Az általam javasolt paktummal az a célunk, hogy segítsük a vállalatokat az uniós MI-törvényre való felkészülésben". Altman és az Európai Bizottság jövőbeli találkozói során szinte biztosan arra fogja kérni az OpenAI vezérigazgatóját, hogy kötelezze el a vállalatot a nemzetközi szabványok mellett, amelyek kialakításában az EU már most is aktív szerepet vállal.
A nagy technológiai cégek vezérigazgatói szeretik azt állítani, hogy támogatják a szabályozást, de persze csak azt, amiket ők maguk javasolnak. Az OpenAI vezérigazgatója számos fővárost meglátogatott kontinensünkön, közös fotó készült róla a spanyol, a lengyel, a francia és a brit kormányfőkkel. De hogy miért pont velük? A spanyol miniszterelnök, Pedro Sanchez volt az első, mert a dél-európai ország veszi át idén nyáron hat hónapra az Európai Tanács soros elnökségét. Sam Altman turnéját egy csomó újság főoldalra rakta, és a szalagcímek arra figyelmeztetnek, hogy az európai szabályozás miatt az OpenAI ellehetetlenülhet a régióban. (Emlékezzünk csak az olasz betiltásra!)
Me he reunido con Sam Altman @sama, cofundador de @OpenAI, con quien he compartido que la Inteligencia Artificial es una enorme oportunidad para modernizar nuestras sociedades.
— Pedro Sánchez (@sanchezcastejon) May 22, 2023
Pero es imprescindible que su desarrollo respete los derechos y los valores democráticos. pic.twitter.com/o2jBlNMYRt
Az IT-híreket olvasók emlékezhetnek az elmúlt évek hasonló nagy csinnadrattával zajló körútjaira, például Mark Zuckerberg Budapesten is járt. Az OpenAI tehát az IT-óriások jól ismert forgatókönyve szerint lobbizik - a jelek szerint - viszonylag kis költségvetéssel, szemben a Google és a Meta által évente rendszeresen Brüsszel meggyőzésére fordított több millió dollárral. Altman más megközelítést választott: amellett, hogy olyan kormányfőkkel beszélgetett, akik befolyással bírnak az EU mesterséges intelligenciára vonatkozó szabályainak végső formájára, a nyilvánosság előtt is megszólalt. A University College Londonban tartott vitarendezvényen kifejtette, hogy olyan szabályozást részesítene előnyben, amely "a hagyományos európai és az amerikai megközelítés között helyezkedik el".
A sajtó jelenlévő tagjainak elmondta, hogy a cége akár felhagyna az európai működéssel, ha nem tudna megfelelni a mesterséges intelligenciára vonatkozó új szabályoknak. "Megpróbálunk megfelelni" - mondta, majd kifejtette, hogy "sok" kritikája van az uniós MI-törvény szövegezésével kapcsolatban. E hónap elején az Európai Parlament két bizottságának képviselői olyan módosításokat fogadtak el a mesterséges intelligencia szabályozásának kockázatalapú keretrendszerére vonatkozóan, amelyek célja, hogy az általános célú mesterséges intelligencia, azaz az alapmodellek és a generatív mesterséges intelligencia ne essen ki a szabályok alól. A képviselők támogatták a nyelvi modellek szolgáltatóinak kötelezettségét, hogy biztonsági ellenőrzéseket, adatkezelési intézkedéseket és kockázatcsökkentő intézkedéseket alkalmazzanak a modelljeik piacra dobása előtt. Kötelezni fogják őket arra, hogy vegyék figyelembe "az egészségre, a biztonságra, az alapvető jogokra, a környezetre, a demokráciára és a jogállamiságra vonatkozó előre látható kockázatokat".
A módosítások emellett köteleznék a nagy nyelvi modellek (Large language model, LLM) készítőit arra, hogy minimalizálják rendszereik energiafogyasztását és erőforrás-felhasználását, és regisztrálják azokat egy, a rendelet által létrehozandó uniós adatbázisban. A generatív mesterséges intelligencia technológiák (mint például a ChatGPT) szolgáltatói átláthatósági kötelezettséget kapnak majd a nyakukba, ami azt jelenti, hogy biztosítaniuk kell, hogy a felhasználók értesüljenek arról, hogy a tartalom gépi úton generált. Biztosítékokat kell alkalmazniuk a rendszereik által generált tartalmakkal kapcsolatban és összefoglalással kell szolgálniuk a mesterséges intelligenciájuk képzéséhez felhasznált szerzői jogvédelem alatt álló anyagokról.
Altman ezzel nyilván nem ért egyet. "Az EU-s MI-törvény jelenlegi tervezete túlszabályozná a területet, de úgy hallottuk, hogy ezt vissza fogják vonni" - mondta a Reutersnek. Ez úgy hangzik, mint egy kísérlet arra, hogy lobbizzon a Tanácsnál - az uniós tagállamok kormányainak képviselőiből álló testületnél -, hogy az európai parlamenti képviselőkkel folytatott tárgyalásokra nyomást gyakoroljon annak érdekében, hogy a módosításokat visszavonják. Biztosra vehető, hogy Altman Pedro Sanchez spanyol miniszterelnöknek, Mateusz Jakub Morawieck lengyel miniszterelnöknek és Emmanuel Macron francia elnöknek is megismételte az uniós "túlszabályozással" kapcsolatos aggodalmait. A lengyel kormány a látogatás alkalmából kiadott tweetje megerősíti, hogy "a mesterséges intelligencia felhasználásával kapcsolatos jogi szabályozással kapcsolatos kérdések" szerepeltek a varsói megbeszélések napirendjén - amellett, hogy a lengyel vállalatoknak a mesterséges intelligencia fejlesztésében való részvételének lehetőségeiről is szó esett... (Lengyelek, akarjátok azokat az OpenAI MI-mérnöki állásokat vagy sem?!)
Developing talents and technologies in France, acting for regulation at the French, European and global levels, these are our priorities in terms of artificial intelligence. We discussed this with Sam Altman, the creator of ChatGPT. pic.twitter.com/GES0hWv9SY
— Emmanuel Macron (@EmmanuelMacron) May 23, 2023
Altman a jövő hónap elején várható parlamenti szavazásra is figyelhet, amely megerősíti az európai parlamenti képviselők tárgyalási mandátumát a Tanáccsal a mesterséges intelligenciáról szóló törvényről. Remélheti, hogy a kormányfőknél folytatott lobbizása nyomást gyakorol majd a parlament bizonyos politikai frakcióira, hogy azok a két bizottság által támogatott módosítások ellen szavazzanak. Ezek után, valószínűleg a jövő héten pedig Thierry Breton, az EU belső piaci biztosa fog találkozni Altmannal.
A listából egyedül Rishi Sunak brit miniszterelnök lóg ki, hiszen az ország már nem EU-tag, ráadásul azon a találkozón rivális MI-cégek vezetőivel (Demis Hassabis, a Google-DeepMind és Dario Amodei, az Anthropic vezetője) együtt került sor. Az Egyesült Királyság természetesen továbbra is Európa egyik legjelentősebb gazdasága, és egyes pletykák szerint az OpenAI fontolgatja egy helyi központ felállítását az országban. (Az Anthropic nemrég jelentette be saját londoni irodáját.) A brit kormány nem tervez új hazai jogszabályokat a mesterséges intelligencia szabályozására, hanem inkább a meglévő szabályozó testületekre támaszkodnak, hogy azok iránymutatást adjanak a mesterséges intelligencia biztonságos fejlesztéséhez.
Done safely and securely, AI has the potential to be transformational and grow the economy.
— Rishi Sunak (@RishiSunak) May 24, 2023
This evening I met with @sama, @demishassabis and @AnthropicAI's Dario Amodei to discuss how the UK can provide international leadership on AI. pic.twitter.com/8x8NfCbCbG
A hónap elején az amerikai szenátusi bizottság arra kérte Altmant, hogy próbálja meg meghatározni, hogyan kellene szabályozni a mesterséges intelligenciát. A törvényhozók a számítási teljesítményt vagy a modell képességeit vetették fel, mint lehetséges határt. Ezzel szemben az EU már messze jár az MI szabályozásának útján, méghozzá olyan módon, hogy a meglévő technológiákra sokkal konkrétabb szabályokat fog bevezetni, mint amilyenekkel a IT-ágazat elégedett lenne. Altman inkább olyan általános engedélyt szeretne, mint amilyen a közösségi médiavállalatoknak volt, amikor platformóriásokká nőtték ki magukat anélkül, hogy törvények gátolták volna őket közben. Ráadásul ha Brüsszel elsőként létrehoz egy kockázatalapú keretrendszert, akkor az egész világ számára meghatározhatja a mesterséges intelligenciára vonatkozó defacto szabálykönyvet. Altman legalábbis nagyon szeretné elkerülni, hogy ez határozza meg az alaphangot. (A GDPR-nál ez történt, az EU szabályozását mintának tekinti az országok többsége.)
Sunakkal való találkozója során tehát az OpenAI vezérigazgatója valószínűleg arra törekedett, hogy éket verjen az Egyesült Királyság és az EU közé az MI-szabályozás terén azáltal, hogy az előbbit arra ösztönzi, hogy kevésbé konkrét, homályosabb nemzetközi szabványokat támogassanak, olyat, amelyeket maguk az MI-vállalatok is meghoznának. Ez szintén nyomásgyakorlás az uniós jogalkotókra, ha ugyanis az egyik nagy európai gazdaság (az Egyesült Királyság) más irányt vesz, és lazább nemzetközi "szabványokat" támogat a konkrét szabályokkal szemben, az arra késztetheti az uniós törvényhozókat, hogy meggondolják magukat, és még az ügy lezárása előtt módosítsák az eddigi megközelítést.
Persze az uniós törvényhozók sem hülyék, e a hét elején bejelentették, hogy a Google is csatlakozott egy "MI Paktum" létrehozására irányuló kezdeményezéshez, amely a teljes körű szabályok bevezetése előtt átmeneti megoldásként szolgál. Az EU digitális stratégiáért felelős vezetője, Margrethe Vestager szintén sürgette a G7-országokat, hogy nemzetközileg elfogadott korlátokat vezessenek be, úgy tűnik, némi sikerrel. A G7-vezetők a múlt hétvégén megállapodtak a "hirosimai mesterséges intelligencia folyamat" elindításáról és mesterséges intelligencia-védőkorlátok kidolgozásáról, többek között a generatív mesterséges intelligenciára vonatkozóan. Emellett olyan műszaki szabványok kidolgozását és elfogadását sürgették, amelyek célja, hogy a mesterséges intelligencia "megbízható" maradjon. (Ez a szóhasználat kifejezetten az EU mesterséges intelligencia szabályozására vonatkozó nyelvezetet idézi.)
There is no point in attempting blackmail — claiming that by crafting a clear framework, Europe is holding up the rollout of generative #AI.
— Thierry Breton (@ThierryBreton) May 25, 2023
To the contrary!
With the “AI Pact” I proposed, we aim to assist companies in their preparation to EU AI Act ????https://t.co/gHsV69L81S pic.twitter.com/N5r83yWtIe
Altman körútját Thierry Breton belső piaci biztosa sem hagyta szó nélkül: "Nincs értelme a zsarolási kísérleteknek" - írta a a Twitteren, és nekiment az OpenAI azon felvetésének, hogy "Európa egy világos keretrendszer kidolgozásával hátráltatja a generatív mesterséges intelligencia elterjedését". "Éppen ellenkezőleg! Az általam javasolt paktummal az a célunk, hogy segítsük a vállalatokat az uniós MI-törvényre való felkészülésben". Altman és az Európai Bizottság jövőbeli találkozói során szinte biztosan arra fogja kérni az OpenAI vezérigazgatóját, hogy kötelezze el a vállalatot a nemzetközi szabványok mellett, amelyek kialakításában az EU már most is aktív szerepet vállal.