SG.hu
A spanyol önkormányzatoknál a ChatGPT-t ellenőrizetlenül, korlátlanul használják
A polgárok adatainak betáplálása a nagy nyelvi modellekbe súlyos kockázatokkal jár, például a szuverenitás feladásával, valamint a döntéshozatal során a faji és nemi diszkriminációval.
"Az MI segítségével 20%-kal csökkentettük a jelentések írásával töltött időt” - állítja Marcos Gallart, a valenciai Bétera város önkormányzata városrendezési osztályának helyettes titkára. "Meglepő, hogy mennyi olyan napi teendő van, amely nem teremt értéket, de sok időt vesz igénybe a munkánkban” - teszi hozzá a tisztviselő, hogy képet adjon arról, milyen hatással volt a helyi önkormányzatra egy mesterséges intelligencia rendszer bevezetése, amelynek célja bizonyos dokumentumok feldolgozásának gyorsítása volt.
Gallart munkája magában foglalja a magánvállalkozásokkal kötött szerződésekkel kapcsolatos jelentések elkészítését. Az információk megértése és feldolgozása, általában ismétlődő módon, a mindennapi munkájának része volt. Most azt látja, hogy bizonyos folyamatok olyan gyorsan indulnak el és fejeződnek be, ami az ő tapasztalatai szerint szokatlan. De nincs kolbászból a kerítés, a köztisztviselő szerint a közigazgatás nem áll készen az MI-rendszerek beépítésére a folyamataiba: hiányzik a képzés, a támogatás és a technológia jelenlegi lehetőségeinek megértése, amelyek átalakíthatják a szolgáltatásnyújtást.
A spanyol Közszolgálati Minisztérium a hét elején bejelentette egy „szuverén mesterséges intelligencia platform” integrálását, amely többek között a kis- és középvállalkozásoknak nyújtott támogatások gyorsítására, valamint más közigazgatási eljárások, például űrlapok kitöltése vagy jövedelembevallás egyszerűsítésére fog szolgálni. „Ez lesz a közigazgatás legnagyobb forradalma az internet megjelenése óta” - nyilatkozta Óscar López miniszter a bejelentés során.
Gallart szerint a „nagy változásokhoz kevéssé alkalmazkodó” szektorban meglepetés és aggodalom egyaránt tapasztalható. Pablo Sáez, a digitális jogok szakértő ügyvédje egyetért ezzel: „Egyes közigazgatási szerveknél az MI-alapú chatbotokat ellenőrizetlenül, korlátlanul használják” - jegyzi meg, miután figyelemmel kísérte az MI megjelenését az állami szférában. Sáez hangsúlyozza, hogy az információk és adatok közalkalmazottak általi helyes kezeléséről szóló nemzeti szabályozás hiánya miatt több ezer köztisztviselő nem tudja, hogyan kell felelősségteljesen használni a ChatGPT vagy a Gemini nyelvi modelleket. A tanárok, az egészségügyi személyzet és a bírák is ebbe a csoportba tartoznak, amely Spanyolországban összesen 1,6 millió munkavállalót számlál.
„Ismerünk néhány helyi hivatalt, ahol az alkalmazottak feltöltik a ChatGPT-be a polgárok személyes adatait anélkül, hogy anonimizálnák az információkat” - mondja Gabriele Vestri, az Observatorio Sector Público e Inteligencia Artificial (Közszféra és Mesterséges Intelligencia Figyelő Központ) elnöke, amely szervezet száz szakértőt tömörít világszerte, akik figyelemmel kísérik ezeknek a rendszereknek az állami szférában való bevezetését. Vestri arra ösztönzi a helyi kormányokat, hogy gondosan tervezzék meg, hogyan akarják kihasználni az MI potenciálját. „Ellenkező esetben ez a technológia olyan döntéseket hozhat, amelyek hátterét a fejlesztők vagy a tisztviselők nem ismerik pontosan.”
Concepción Campos jogász, és szakértő a technológia közszférában való alkalmazásában. Egyértelműen fogalmaz: „A legtöbb közalkalmazott a szervezetük által irányított stratégiától függetlenül használja a mesterséges intelligenciát.” A ChatGPT titkos használata egy olyan jelenség, amelyet a magánszektorban is meg lehet figyelni. A vállalatok erre belső képzésekkel reagáltak az MI megfelelő használatáról. A szakértők egyetértenek abban, hogy a közszférában a képzés még sürgetőbb, de csak csekély mértékben valósul meg. Az európai mesterséges intelligencia rendelet arra ösztönzi a közigazgatási szerveket, hogy siettessék az "MI-ismeretek elsajátítását”, hogy elkerülhessék a használatával járó veszélyeket, de ezt a szempontot nem kezelik a szükséges sürgősséggel, hangsúlyozza Vestri. „Sajnos a rendelet a piacra és a versenyre összpontosít, és más, a polgárok jogait is érintő kérdésekben hiányosságokat hagy” - véli Sáez.
Ez az egész átalakulási folyamat a nagy technológiai vállalatok, mint az Open AI vagy a Google közötti verseny közepette zajlik, amelyek több adatot akarnak gyűjteni nyelvi modelleik kiképzéséhez - magyarázza Santiago Martín Caravaca technológiai szakértő. „A vállalatoknak továbbra is valós adatokat kell találniuk, mert a szintetikus adatok csökkentik a végső eredmény megbízhatóságát. A polgárok adatai pedig lehetőséget kínálnak a nagy nyelvi modellek továbbfejlesztésére” - hangsúlyozza az ügyvéd.
De a közszférában helytelenül alkalmazott mesterséges intelligencia jelentette fenyegetések ennél tovább mennek. Sáez figyelmeztet arra, hogy Spanyolország egyes településein elkezdtek olyan mesterséges intelligenciával támogatott virtuális asszisztenseket telepíteni, amelyeket helyben fejlesztett modelleknek hirdetnek, és amelyek állítólag megakadályozzák az információk kiszivárgását, de „potenciálisan egy nyitott mesterséges intelligencia modellt rejtenek, mint például a kínai DeepSeek, a Meta mesterséges intelligenciája, a Llama, vagy az OpenAI modelljei”. Sáez szerint az alapvető probléma az, hogy a tisztviselők, akik ezeknek a rendszereknek a beszerzésére vonatkozó dokumentumokat készítik, nem ismerik alaposan a technológiát.
Caravacát aggasztja, hogy a közigazgatás milyen könnyen átadja a magánvállalatoknak azt, amit ő "a 21. század olajának” nevez. A közszférában az adatok - legyenek azok személyesek vagy sem - ugyanolyan fontosak, mint a közúthálózat; azok átadása a szuverenitás feladását jelenti.
Elméletileg - magyarázza Moisés Barrio, a digitális jog szakértője - a közigazgatás nem használhat olyan nyelvi modellt, amely nem rendelkezik tanúsítvánnyal és nem felel meg a közszféra elektronikus eszközökkel történő működéséről és működéséről szóló rendeletben előírt követelményeknek. Vestri azonban úgy véli, hogy - ahogy az energiautalványok odaítélése esetében is történt - az ellenőrző szervek megakadályozhatják, hogy az MI-modelleket szállító cégeknek közölniük kelljen, honnan származnak az adataik. Az ilyen rendszerek ellenőrzés nélküli működése kockázatot jelent az adatok védelme és a döntéshozatal átláthatósága szempontjából.
Ez potenciális elfogultsághoz - és faji vagy nemi diszkriminációhoz - vezethet a közszolgáltatások nyújtása során, figyelmeztet Campos, aki reméli, hogy az európai rendelet frissítése után megerősödik az ellenőrzés e technológia állami szférában való kezelése felett. "Divatosnak tűnik, ha a bürokráciában van egy MI-alapú chatbot, de ha nincs világos stratégia és belső képzés, akkor sok kockázatot vállalunk” - összegzi Campos. Nem minden közösség halad azonban ugyanolyan ütemben: Vestri a katalán, andalúz és galíciai adminisztrációkat említi, amelyek már megkezdték a szabályozási keret kidolgozását az MI helyes használatáról.
Egy stratégia keretében az adminisztrációnak lehetősége van újjáalakítani magát, véli Campos, aki szerint itt az ideje, hogy a „merev, bürokratikus és reaktív modellt proaktív modellé alakítsák, amely időt takarít meg a tisztviselőknek és az állampolgároknak”. Gallart, Bétera városi önkormányzati képviselője bízik abban, hogy eljött az idő, amikor a tisztviselőknek nem kell többé „adatokat begépelniük”, vagyis időt fordítaniuk olyan ismétlődő feladatokra, amelyek alig járulnak hozzá a polgárok kiszolgálásához: "A megspórolt órákat innovációra fordíthatjuk, ami egy olyan szempont, amelyet a legtöbb helyi közigazgatás úgy tűnik, elfelejtett”.
"Az MI segítségével 20%-kal csökkentettük a jelentések írásával töltött időt” - állítja Marcos Gallart, a valenciai Bétera város önkormányzata városrendezési osztályának helyettes titkára. "Meglepő, hogy mennyi olyan napi teendő van, amely nem teremt értéket, de sok időt vesz igénybe a munkánkban” - teszi hozzá a tisztviselő, hogy képet adjon arról, milyen hatással volt a helyi önkormányzatra egy mesterséges intelligencia rendszer bevezetése, amelynek célja bizonyos dokumentumok feldolgozásának gyorsítása volt.
Gallart munkája magában foglalja a magánvállalkozásokkal kötött szerződésekkel kapcsolatos jelentések elkészítését. Az információk megértése és feldolgozása, általában ismétlődő módon, a mindennapi munkájának része volt. Most azt látja, hogy bizonyos folyamatok olyan gyorsan indulnak el és fejeződnek be, ami az ő tapasztalatai szerint szokatlan. De nincs kolbászból a kerítés, a köztisztviselő szerint a közigazgatás nem áll készen az MI-rendszerek beépítésére a folyamataiba: hiányzik a képzés, a támogatás és a technológia jelenlegi lehetőségeinek megértése, amelyek átalakíthatják a szolgáltatásnyújtást.
A spanyol Közszolgálati Minisztérium a hét elején bejelentette egy „szuverén mesterséges intelligencia platform” integrálását, amely többek között a kis- és középvállalkozásoknak nyújtott támogatások gyorsítására, valamint más közigazgatási eljárások, például űrlapok kitöltése vagy jövedelembevallás egyszerűsítésére fog szolgálni. „Ez lesz a közigazgatás legnagyobb forradalma az internet megjelenése óta” - nyilatkozta Óscar López miniszter a bejelentés során.
Gallart szerint a „nagy változásokhoz kevéssé alkalmazkodó” szektorban meglepetés és aggodalom egyaránt tapasztalható. Pablo Sáez, a digitális jogok szakértő ügyvédje egyetért ezzel: „Egyes közigazgatási szerveknél az MI-alapú chatbotokat ellenőrizetlenül, korlátlanul használják” - jegyzi meg, miután figyelemmel kísérte az MI megjelenését az állami szférában. Sáez hangsúlyozza, hogy az információk és adatok közalkalmazottak általi helyes kezeléséről szóló nemzeti szabályozás hiánya miatt több ezer köztisztviselő nem tudja, hogyan kell felelősségteljesen használni a ChatGPT vagy a Gemini nyelvi modelleket. A tanárok, az egészségügyi személyzet és a bírák is ebbe a csoportba tartoznak, amely Spanyolországban összesen 1,6 millió munkavállalót számlál.
„Ismerünk néhány helyi hivatalt, ahol az alkalmazottak feltöltik a ChatGPT-be a polgárok személyes adatait anélkül, hogy anonimizálnák az információkat” - mondja Gabriele Vestri, az Observatorio Sector Público e Inteligencia Artificial (Közszféra és Mesterséges Intelligencia Figyelő Központ) elnöke, amely szervezet száz szakértőt tömörít világszerte, akik figyelemmel kísérik ezeknek a rendszereknek az állami szférában való bevezetését. Vestri arra ösztönzi a helyi kormányokat, hogy gondosan tervezzék meg, hogyan akarják kihasználni az MI potenciálját. „Ellenkező esetben ez a technológia olyan döntéseket hozhat, amelyek hátterét a fejlesztők vagy a tisztviselők nem ismerik pontosan.”
Concepción Campos jogász, és szakértő a technológia közszférában való alkalmazásában. Egyértelműen fogalmaz: „A legtöbb közalkalmazott a szervezetük által irányított stratégiától függetlenül használja a mesterséges intelligenciát.” A ChatGPT titkos használata egy olyan jelenség, amelyet a magánszektorban is meg lehet figyelni. A vállalatok erre belső képzésekkel reagáltak az MI megfelelő használatáról. A szakértők egyetértenek abban, hogy a közszférában a képzés még sürgetőbb, de csak csekély mértékben valósul meg. Az európai mesterséges intelligencia rendelet arra ösztönzi a közigazgatási szerveket, hogy siettessék az "MI-ismeretek elsajátítását”, hogy elkerülhessék a használatával járó veszélyeket, de ezt a szempontot nem kezelik a szükséges sürgősséggel, hangsúlyozza Vestri. „Sajnos a rendelet a piacra és a versenyre összpontosít, és más, a polgárok jogait is érintő kérdésekben hiányosságokat hagy” - véli Sáez.
Ez az egész átalakulási folyamat a nagy technológiai vállalatok, mint az Open AI vagy a Google közötti verseny közepette zajlik, amelyek több adatot akarnak gyűjteni nyelvi modelleik kiképzéséhez - magyarázza Santiago Martín Caravaca technológiai szakértő. „A vállalatoknak továbbra is valós adatokat kell találniuk, mert a szintetikus adatok csökkentik a végső eredmény megbízhatóságát. A polgárok adatai pedig lehetőséget kínálnak a nagy nyelvi modellek továbbfejlesztésére” - hangsúlyozza az ügyvéd.
De a közszférában helytelenül alkalmazott mesterséges intelligencia jelentette fenyegetések ennél tovább mennek. Sáez figyelmeztet arra, hogy Spanyolország egyes településein elkezdtek olyan mesterséges intelligenciával támogatott virtuális asszisztenseket telepíteni, amelyeket helyben fejlesztett modelleknek hirdetnek, és amelyek állítólag megakadályozzák az információk kiszivárgását, de „potenciálisan egy nyitott mesterséges intelligencia modellt rejtenek, mint például a kínai DeepSeek, a Meta mesterséges intelligenciája, a Llama, vagy az OpenAI modelljei”. Sáez szerint az alapvető probléma az, hogy a tisztviselők, akik ezeknek a rendszereknek a beszerzésére vonatkozó dokumentumokat készítik, nem ismerik alaposan a technológiát.
Caravacát aggasztja, hogy a közigazgatás milyen könnyen átadja a magánvállalatoknak azt, amit ő "a 21. század olajának” nevez. A közszférában az adatok - legyenek azok személyesek vagy sem - ugyanolyan fontosak, mint a közúthálózat; azok átadása a szuverenitás feladását jelenti.
Elméletileg - magyarázza Moisés Barrio, a digitális jog szakértője - a közigazgatás nem használhat olyan nyelvi modellt, amely nem rendelkezik tanúsítvánnyal és nem felel meg a közszféra elektronikus eszközökkel történő működéséről és működéséről szóló rendeletben előírt követelményeknek. Vestri azonban úgy véli, hogy - ahogy az energiautalványok odaítélése esetében is történt - az ellenőrző szervek megakadályozhatják, hogy az MI-modelleket szállító cégeknek közölniük kelljen, honnan származnak az adataik. Az ilyen rendszerek ellenőrzés nélküli működése kockázatot jelent az adatok védelme és a döntéshozatal átláthatósága szempontjából.
Ez potenciális elfogultsághoz - és faji vagy nemi diszkriminációhoz - vezethet a közszolgáltatások nyújtása során, figyelmeztet Campos, aki reméli, hogy az európai rendelet frissítése után megerősödik az ellenőrzés e technológia állami szférában való kezelése felett. "Divatosnak tűnik, ha a bürokráciában van egy MI-alapú chatbot, de ha nincs világos stratégia és belső képzés, akkor sok kockázatot vállalunk” - összegzi Campos. Nem minden közösség halad azonban ugyanolyan ütemben: Vestri a katalán, andalúz és galíciai adminisztrációkat említi, amelyek már megkezdték a szabályozási keret kidolgozását az MI helyes használatáról.
Egy stratégia keretében az adminisztrációnak lehetősége van újjáalakítani magát, véli Campos, aki szerint itt az ideje, hogy a „merev, bürokratikus és reaktív modellt proaktív modellé alakítsák, amely időt takarít meg a tisztviselőknek és az állampolgároknak”. Gallart, Bétera városi önkormányzati képviselője bízik abban, hogy eljött az idő, amikor a tisztviselőknek nem kell többé „adatokat begépelniük”, vagyis időt fordítaniuk olyan ismétlődő feladatokra, amelyek alig járulnak hozzá a polgárok kiszolgálásához: "A megspórolt órákat innovációra fordíthatjuk, ami egy olyan szempont, amelyet a legtöbb helyi közigazgatás úgy tűnik, elfelejtett”.