SG.hu
Max Schrems beperelte az OpenAI-t
Az osztrák aktivista arról híres, hogy még az EU-t is meghátrálásra késztette, a jogi egyetemeken tananyag amit véghezvitt.
A Max Schrems aktivista által alapított osztrák nonprofit szervezet, a Noyb (None of Your Business) panaszt nyújtott be a helyi adatvédelmi hatósághoz, azt állítva, hogy az OpenAI megsértette az EU általános adatvédelmi rendeletét (GDPR), és nem hajtotta végre a ChatGPT által közölt pontatlan személyes adatok helyesbítését. Schrems eddig a legkövetkezetesebb adatvédelmi panaszokat nyújtotta be az EU-ban. A panaszt az osztrák bíróság befogadta, a civil szervezet vizsgálatot, bírságot, korrekciós intézkedéseket és megállapító határozatot kér. "Az OpenAI tisztában van a problémával, de úgy tűnik, nem törődik vele" -írja a Noyb a panaszt bejelentő sajtóközleményben.
A nagy nyelvi modellek - mint például a ChatGPT mögött álló GPT modell - úgy működnek, hogy megjósolják a legvalószínűbb szavakat, amelyeket a parancsokra válaszul közölnek. Előfordul, hogy a modell rossz szavakra következtet egy mondat kitöltéséhez, így helytelen választ ad, vagyis az iparági szakzsargonban „hallucinál”. "Ez elfogadható házi feladatok esetében, de nem egyéneknél" - közölte a Noyb. Az uniós jog 1995 óta előírja, hogy a személyes adatoknak pontosnak kell lenniük, és ezt az elvet a GDPR, az EU adatvédelmi törvénye is rögzíti - írja a nonprofit szervezet. Noyb egy olyan közszereplő példáját említette, akinek a születési dátuma nem érhető el az interneten. A ChatGPT ennek ellenére közölt egy születési dátumot, amely téves volt.
Az OpenAI nem adott kielégítő választ egy 2023. decemberi, az adatokhoz való hozzáférésre és azok törlésére irányuló kérelemre sem. Az adatkezelők a GDPR értelmében kötelesek az érintetteknek hozzáférést biztosítani a személyes adataik feldolgozására vonatkozó információkhoz, és - bizonyos korlátozásokkal - kérésre törölni azokat. Az OpenAI azt közölte, hogy csak azt tudták megakadályozni, hogy a modell bármilyen választ adjon a születési dátumra vonatkozó kérdésre, de a megadott választ nem tudták korrigálni - olvasható a panaszban. Ez azt eredményezte, hogy a ChatGPT zárolta az információkat az érintettről, ami akadályozza a nyilvánosságnak az információhoz való jogát, aki egy ismert személyiség - közölte az OpenAI a panasz szerint.
Az általános adatvédelmi rendelet (GDPR) eléggé egyértelmű a kérdésben: a személyes adatoknak pontosnak kell lenniük, és az egyéneknek joguk van arra, hogy megváltoztassák azokat, ha pontatlanok. Maartje de Graaf, a noyb adatvédelmi jogásza elmondta: "A hamis információk kitalálása önmagában is elég problémás, de ha magánszemélyekről szóló hamis információkról van szó, annak komoly következményei lehetnek. Egyértelmű, hogy a vállalatok jelenleg nem tudják elérni, hogy a ChatGPT-hez hasonló chatbotok megfeleljenek az uniós jognak, amikor magánszemélyekre vonatkozó adatokat dolgoznak fel. Ha egy rendszer nem képes pontos és átlátható eredményeket produkálni, akkor nem használható egyénekre vonatkozó adatok előállítására. A technológiának kell követnie a jogi követelményeket, nem pedig fordítva."
"A ChatGPT nem tudja kijavítani az információkat, nem tudja szelektíven blokkolni az információkat, és bármely érintettnek egyszerűen együtt kell élnie ezzel a helyzettel” - áll a panaszban. Az OpenAI írországi irodája csak leányvállalat, az összes döntést az Egyesült Államokban hozzák meg, ezért a Noyb a panaszt a cég egyik amerikai for-profit vállalkozása, az OpenAI OpCo LLC ellen nyújtotta be.
A Max Schrems aktivista által alapított osztrák nonprofit szervezet, a Noyb (None of Your Business) panaszt nyújtott be a helyi adatvédelmi hatósághoz, azt állítva, hogy az OpenAI megsértette az EU általános adatvédelmi rendeletét (GDPR), és nem hajtotta végre a ChatGPT által közölt pontatlan személyes adatok helyesbítését. Schrems eddig a legkövetkezetesebb adatvédelmi panaszokat nyújtotta be az EU-ban. A panaszt az osztrák bíróság befogadta, a civil szervezet vizsgálatot, bírságot, korrekciós intézkedéseket és megállapító határozatot kér. "Az OpenAI tisztában van a problémával, de úgy tűnik, nem törődik vele" -írja a Noyb a panaszt bejelentő sajtóközleményben.
A nagy nyelvi modellek - mint például a ChatGPT mögött álló GPT modell - úgy működnek, hogy megjósolják a legvalószínűbb szavakat, amelyeket a parancsokra válaszul közölnek. Előfordul, hogy a modell rossz szavakra következtet egy mondat kitöltéséhez, így helytelen választ ad, vagyis az iparági szakzsargonban „hallucinál”. "Ez elfogadható házi feladatok esetében, de nem egyéneknél" - közölte a Noyb. Az uniós jog 1995 óta előírja, hogy a személyes adatoknak pontosnak kell lenniük, és ezt az elvet a GDPR, az EU adatvédelmi törvénye is rögzíti - írja a nonprofit szervezet. Noyb egy olyan közszereplő példáját említette, akinek a születési dátuma nem érhető el az interneten. A ChatGPT ennek ellenére közölt egy születési dátumot, amely téves volt.
Az OpenAI nem adott kielégítő választ egy 2023. decemberi, az adatokhoz való hozzáférésre és azok törlésére irányuló kérelemre sem. Az adatkezelők a GDPR értelmében kötelesek az érintetteknek hozzáférést biztosítani a személyes adataik feldolgozására vonatkozó információkhoz, és - bizonyos korlátozásokkal - kérésre törölni azokat. Az OpenAI azt közölte, hogy csak azt tudták megakadályozni, hogy a modell bármilyen választ adjon a születési dátumra vonatkozó kérdésre, de a megadott választ nem tudták korrigálni - olvasható a panaszban. Ez azt eredményezte, hogy a ChatGPT zárolta az információkat az érintettről, ami akadályozza a nyilvánosságnak az információhoz való jogát, aki egy ismert személyiség - közölte az OpenAI a panasz szerint.
Az általános adatvédelmi rendelet (GDPR) eléggé egyértelmű a kérdésben: a személyes adatoknak pontosnak kell lenniük, és az egyéneknek joguk van arra, hogy megváltoztassák azokat, ha pontatlanok. Maartje de Graaf, a noyb adatvédelmi jogásza elmondta: "A hamis információk kitalálása önmagában is elég problémás, de ha magánszemélyekről szóló hamis információkról van szó, annak komoly következményei lehetnek. Egyértelmű, hogy a vállalatok jelenleg nem tudják elérni, hogy a ChatGPT-hez hasonló chatbotok megfeleljenek az uniós jognak, amikor magánszemélyekre vonatkozó adatokat dolgoznak fel. Ha egy rendszer nem képes pontos és átlátható eredményeket produkálni, akkor nem használható egyénekre vonatkozó adatok előállítására. A technológiának kell követnie a jogi követelményeket, nem pedig fordítva."
"A ChatGPT nem tudja kijavítani az információkat, nem tudja szelektíven blokkolni az információkat, és bármely érintettnek egyszerűen együtt kell élnie ezzel a helyzettel” - áll a panaszban. Az OpenAI írországi irodája csak leányvállalat, az összes döntést az Egyesült Államokban hozzák meg, ezért a Noyb a panaszt a cég egyik amerikai for-profit vállalkozása, az OpenAI OpCo LLC ellen nyújtotta be.