SG.hu
Adatszivárgásra figyelmeztette az Európai Bizottság az MI-t használó irodistáit
A Bizottság kiemeli, hogy ezek az eszközök potenciálisan növelhetik a hatékonyságot és javíthatják a hivatalok termelékenységét, mivel segíthetnek az eligazítások megírásában és a számítógépes kódok fejlesztésében, de a használat közben nem árt az elővigyázatosság, mert amit valaki bemásol a ChatGPT-be, azt a későbbiekben más megkaphatja válaszként.
Az Európai Bizottság belső iránymutatást adott ki a személyzet számára az online generatív mesterséges intelligenciamodellek használatáról és interakciójáról, különös tekintettel azok korlátaira és kockázataira. "Az iránymutatások a nyilvánosan online elérhető, harmadik féltől származó eszközökre, például a ChatGPT-re vonatkoznak. Céljuk, hogy segítsék az Európai Bizottság munkatársait abban, hogy megértsék az online elérhető eszközökkel járó kockázatokat és korlátokat, és támogassák ezen eszközök megfelelő használatát" - olvasható a kísérő feljegyzésben. A dokumentum célja, hogy a munkatársak számára útmutatást nyújtson a felhasználói utasítások alapján tartalmat generáló generatív mesterséges intelligencia, például a ChatGPT, a Bard és a Stable Diffusion kockázatainak és korlátainak kezelésében.
Az első felvázolt kockázat az érzékeny információk vagy személyes adatok nyilvánosságra kerülése, mivel az iránymutatások rámutatnak, hogy az online generatív mesterséges intelligenciamodellhez adott bármilyen input továbbításra kerül a mesterséges intelligencia szolgáltatójának, ami azt jelenti, hogy a későbbiekben a generált kimenetekbe is beépülhet. Így az uniós személyzetnek tilos "bármilyen olyan információt, amely nem tartozik a nyilvánosságra, vagy személyes adatot megosztani egy online elérhető generatív mesterséges intelligenciamodellel".
A második pont az MI-modell lehetséges hiányosságaira vonatkozik, amelyek a hiányos adathalmaz vagy az algoritmus kialakítása miatt téves vagy elfogult válaszokhoz vezethetnek, amivel kapcsolatban az MI fejlesztői nem mindig átláthatóak. A szabály tehát az, hogy az uniós tisztviselőknek "mindig kritikusan kell értékelniük az online elérhető generatív mesterséges intelligenciamodell által előállított válaszokat a lehetséges torzítások és a tényszerűen pontatlan információk szempontjából". A dokumentum hozzáteszi, hogy az átláthatóság hiánya a szellemi tulajdonjogok, különösen a szerzői jogok megsértésének kockázatát is magában hordozza, mivel a mesterséges intelligenciamodell kiképzéséhez védett tartalmakat használhatnak fel. Mivel az előállított kimeneteken nem szerepel a felhasznált anyag, a felhasználók számára szinte lehetetlen a szükséges engedélyt beszerezni a jogtulajdonosoktól.
Ennek eredményeképpen a munkatársakat mindig kritikusan kérik, hogy értékeljék, hogy az MI által generált kimenet sérti-e a szellemi tulajdonjogokat, különösen a szerzői jogokat, és "soha ne másolják közvetlenül egy generatív MI-modell kimenetét nyilvános dokumentumokba, például a Bizottság szövegeinek - különösen a jogilag kötelező erejű szövegeknek - a létrehozásánál". Végül a dokumentum hangsúlyozza, hogy a generatív mesterséges intelligenciamodelleknek hosszú a válaszidejük, vagy nem mindig állnak rendelkezésre. Ezért a Bizottság munkatársainak megtiltják, hogy kritikus és időérzékeny feladatokban ezekre az eszközökre támaszkodjanak.
Az iránymutatások megjegyzik, hogy "a tárgyalt kockázatok és korlátozások nem feltétlenül vonatkoznak a Bizottság belső fejlesztésű generatív mesterséges intelligencia eszközeire. A Bizottság által kifejlesztett és/vagy ellenőrzött belső eszközöket eseti alapon, az informatikai rendszerekre vonatkozó meglévő vállalatirányítási szabályok szerint fogják értékelni". Emellett hangsúlyozza, hogy az iránymutatást "élő dokumentumnak" kell tekinteni, amelyet a technológiai fejlődés és a beérkező szabályozási beavatkozások, nevezetesen az uniós MI-jogszabály alapján naprakészen kell tartani.
Az "Iránymutatás a személyzet számára az online elérhető generatív mesterséges intelligencia eszközök használatáról" című dokumentumot és az azt kísérő feljegyzést a Bizottság belső információs rendszerében tették elérhetővé. A Bizottság információkezelési bizottsága április 27-én fogadta el az iránymutatásokat.
Az Európai Bizottság belső iránymutatást adott ki a személyzet számára az online generatív mesterséges intelligenciamodellek használatáról és interakciójáról, különös tekintettel azok korlátaira és kockázataira. "Az iránymutatások a nyilvánosan online elérhető, harmadik féltől származó eszközökre, például a ChatGPT-re vonatkoznak. Céljuk, hogy segítsék az Európai Bizottság munkatársait abban, hogy megértsék az online elérhető eszközökkel járó kockázatokat és korlátokat, és támogassák ezen eszközök megfelelő használatát" - olvasható a kísérő feljegyzésben. A dokumentum célja, hogy a munkatársak számára útmutatást nyújtson a felhasználói utasítások alapján tartalmat generáló generatív mesterséges intelligencia, például a ChatGPT, a Bard és a Stable Diffusion kockázatainak és korlátainak kezelésében.
Az első felvázolt kockázat az érzékeny információk vagy személyes adatok nyilvánosságra kerülése, mivel az iránymutatások rámutatnak, hogy az online generatív mesterséges intelligenciamodellhez adott bármilyen input továbbításra kerül a mesterséges intelligencia szolgáltatójának, ami azt jelenti, hogy a későbbiekben a generált kimenetekbe is beépülhet. Így az uniós személyzetnek tilos "bármilyen olyan információt, amely nem tartozik a nyilvánosságra, vagy személyes adatot megosztani egy online elérhető generatív mesterséges intelligenciamodellel".
A második pont az MI-modell lehetséges hiányosságaira vonatkozik, amelyek a hiányos adathalmaz vagy az algoritmus kialakítása miatt téves vagy elfogult válaszokhoz vezethetnek, amivel kapcsolatban az MI fejlesztői nem mindig átláthatóak. A szabály tehát az, hogy az uniós tisztviselőknek "mindig kritikusan kell értékelniük az online elérhető generatív mesterséges intelligenciamodell által előállított válaszokat a lehetséges torzítások és a tényszerűen pontatlan információk szempontjából". A dokumentum hozzáteszi, hogy az átláthatóság hiánya a szellemi tulajdonjogok, különösen a szerzői jogok megsértésének kockázatát is magában hordozza, mivel a mesterséges intelligenciamodell kiképzéséhez védett tartalmakat használhatnak fel. Mivel az előállított kimeneteken nem szerepel a felhasznált anyag, a felhasználók számára szinte lehetetlen a szükséges engedélyt beszerezni a jogtulajdonosoktól.
Ennek eredményeképpen a munkatársakat mindig kritikusan kérik, hogy értékeljék, hogy az MI által generált kimenet sérti-e a szellemi tulajdonjogokat, különösen a szerzői jogokat, és "soha ne másolják közvetlenül egy generatív MI-modell kimenetét nyilvános dokumentumokba, például a Bizottság szövegeinek - különösen a jogilag kötelező erejű szövegeknek - a létrehozásánál". Végül a dokumentum hangsúlyozza, hogy a generatív mesterséges intelligenciamodelleknek hosszú a válaszidejük, vagy nem mindig állnak rendelkezésre. Ezért a Bizottság munkatársainak megtiltják, hogy kritikus és időérzékeny feladatokban ezekre az eszközökre támaszkodjanak.
Az iránymutatások megjegyzik, hogy "a tárgyalt kockázatok és korlátozások nem feltétlenül vonatkoznak a Bizottság belső fejlesztésű generatív mesterséges intelligencia eszközeire. A Bizottság által kifejlesztett és/vagy ellenőrzött belső eszközöket eseti alapon, az informatikai rendszerekre vonatkozó meglévő vállalatirányítási szabályok szerint fogják értékelni". Emellett hangsúlyozza, hogy az iránymutatást "élő dokumentumnak" kell tekinteni, amelyet a technológiai fejlődés és a beérkező szabályozási beavatkozások, nevezetesen az uniós MI-jogszabály alapján naprakészen kell tartani.
Az "Iránymutatás a személyzet számára az online elérhető generatív mesterséges intelligencia eszközök használatáról" című dokumentumot és az azt kísérő feljegyzést a Bizottság belső információs rendszerében tették elérhetővé. A Bizottság információkezelési bizottsága április 27-én fogadta el az iránymutatásokat.