SG.hu·
Mark Zuckerberg alkalmazottai egérkattintásaival tanítja be MI-jét, hogy kirúghassa őket
A Meta Platforms azon terve, hogy részletes adatokat gyűjtsön alkalmazottai számítógép-használatáról MI modelljeinek betanításához, jóval kiterjedtebb annál, mint amit eredetileg ismertetett. A folyamat során nem amerikai adatok is bekerülhetnek a rendszerbe. Kikerült dokumentumok újabb bonyodalmakat vetnek fel a projekt körül, amely Mark Zuckerberg vezérigazgató szélesebb körű tervének egyik kulcseleme arra, hogy a vállalat működését MI ügynökök köré szervezze át. Emberi jogi szervezetek szerint ez ráadásul újabb európai adatvédelmi konfliktusba sodorhatja a Metát.
A Facebook és az Instagram tulajdonosa múlt hónapban közölte munkatársaival, hogy elindít egy olyan eszközt, amely rögzíti, hogyan használják az emberek a számítógépeiket, beleértve az egérmozgásokat, kattintásokat és a legördülő menük közötti navigációt is, annak érdekében, hogy olyan MI ügynököket fejlesszenek, amelyek önállóan képesek hétköznapi szoftveres feladatokat elvégezni. A Model Capability Initiative, vagyis MCI nevű eszköz több mint 200 alkalmazásból és weboldalról gyűjt adatokat egy, az alkalmazottakkal megosztott lista szerint. A vállalat azt közölte, hogy a rendszer kizárólag az amerikai alkalmazottakat érinti, és biztosítékokat építettek be az érzékeny információk védelmére.
Az indulás óta eltelt hetekben azonban a Meta alkalmazottai arra panaszkodtak, hogy az MCI akkora mennyiségű adatot használ fel, hogy az megugrasztja otthoni internetforgalmukat, és bizonyos esetekben néhány nap alatt feléli a teljes havi adatkeretet. A Meta egy alkalmazottaknak kiosztott kérdezz-felelek dokumentumban elismerte, hogy az eszköz rögzíteni fogja minden olyan e-mail vagy közvetlen üzenet tartalmát, amelyet amerikai dolgozóknak küldenek, függetlenül attól, hogy a feladó hol tartózkodik.
A Meta szóvivője, Dave Arnold közleményében azt mondta, hogy az MCI kizárólag amerikai alkalmazottak eszközein van telepítve, és a rendszer középpontjában az áll, hogyan lépnek kapcsolatba az emberek a számítógépeikkel, nem pedig az, hogy mi látható a képernyőjükön. "Az átláthatóság érdekében tájékoztattuk a nem amerikai alkalmazottakat arról, hogy az eszközt amerikai kollégáik számítógépein telepítettük, akikkel a mindennapi munka során e-mailezhetnek vagy cseveghetnek" - mondta Arnold. Megerősítette az eszköz által figyelt alkalmazások és weboldalak hozzávetőleges számát, de nem válaszolt részletes kérdésekre arról, hogy pontosan mennyi adatot gyűjt a rendszer és mennyire jogszerű annak működése. "Gondosan mérlegeltük és enyhítettük a lehetséges adatvédelmi kockázatokat az eszköz fejlesztése és bevezetése során, és elkötelezettek vagyunk az alkalmazandó törvények és szabályozások betartása mellett" - mondta.
Az új információk tovább mélyíthetik a Meta szabályozási problémáit az Európai Unióban, ahol az informatikai vállalatok egyre hevesebb jogi vitákkal szembesülnek az adatgyűjtés és adatfelhasználás módjai miatt. Míg az amerikai munkavállalók kevés védelemmel rendelkeznek a munkahelyi megfigyeléssel szemben, az EU általános adatvédelmi rendelete, a GDPR hatálya alatt működő vállalatoknak jogalappal kell rendelkezniük a személyes adatok kezeléséhez, nyilvánosságra kell hozniuk, milyen adatokat gyűjtenek, és szigorú feltételeknek kell megfelelniük különösen érzékeny adatok - például egészségügyi információk - kezelése esetén.
A Meta MCI-ről szóló kérdezz-felelek dokumentumában az egyik bejegyzés a rendszer működését egy nem amerikai alkalmazott szemszögéből tárgyalta: "Az Egyesült Államokon kívül dolgozom. Rögzíthetik a beszélgetéseimet vagy adataimat, ha egy olyan amerikai kollégával kommunikálok, akinél az eszköz engedélyezve van?" A vállalat válasza így szól: "Ha egy amerikai kollégánál engedélyezve van az eszköz, miközben valakivel cseveg vagy e-mailezik az Egyesült Államokon kívülről, akkor ez a tevékenység rögzítésre kerül." A Meta azt is közölte a dokumentumban, hogy az MCI által gyűjtött adatokat "leválasztják" az alkalmazottakat azonosító információkról, ezért azokat nem lehet majd egyes személyekhez visszakeresni vagy törölni, ami Európában követelmény.
Kleanthi Sardeli, a NOYB ("none of your business") adatvédelmi jogvédő szervezet jogi szakértője szerint még az uniós alkalmazottak adatainak korlátozott vagy közvetett rögzítése is a GDPR szabályainak megsértéséhez vezethet a Meta részéről. A legfontosabb vitapontok közé tartozhat annak megítélése, hogy az európai adatok gyűjtése "járulékosnak" minősül-e, vagy már a GDPR szerinti megfigyelés kategóriájába tartozik, illetve hogy a kezdeményezés megfelel-e a "célhoz kötöttség" elvének - tette hozzá. "Ezeket az adatokat eredetileg munkavégzési kommunikáció és munkaszerződés teljesítése céljából gyűjtötték. Egy alkalmazott chatüzeneteinek beemelése egy MI modellbe összeegyeztethetetlen ezzel az eredeti céllal" - mondta Sardeli.
Az ír Adatvédelmi Bizottság, amely a Meta vezető európai adatvédelmi felügyeleti szerve a GDPR alapján, azt közölte, hogy a Meta arról tájékoztatta őket: sem az uniós alkalmazottak adatai, sem a képernyőtartalom rögzítése "nem tartozik az eszköz elsődleges céljai közé".
Az MCI projekt a Metán belül zajló átfogó átszervezés része, amelynek célja, hogy a munka jelentős részét MI ügynököknek adja át. Ez heves ellenállást váltott ki az alkalmazottakból, akik a Metát egy "alkalmazotti adatkinyerő gyárhoz" hasonlították. Egy belső bejegyzésben egy alkalmazott megosztotta az MCI naplófájljain végzett részletes elemzés eredményeit, amelyet az Anthropic Claude nevű eszközének segítségével készített el - pontosan olyan típusú MI rendszerrel, amelynek használatát a Meta maga is ösztönzi dolgozói körében.
Az elemzés szerint - amelyet mások is megismételtek - az MCI-t a vállalat meglévő adatbiztonsági szoftveréhez kapcsolták hozzá, így az további részletekhez is hozzáférhetett, beleértve az alkalmazottak kódmódosításait, a számítógépek alvó és felébresztési ciklusait, a meglátogatott URL-eket és minden vágólaptartalmat, amelyet a dolgozók másoltak és beillesztettek. Ezeket az adatokat aztán kevésbé biztonságos, titkosítatlan formában tárolta. Az alkalmazott szerint ekkora mennyiségű adat összegyűjtése lehetővé tenné "egy teljes viselkedési modell felépítését arról, hogyan végzi munkáját egy tudásmunkás. Nem egy olyan MI-ről van szó, amely helyetted kattint egy legördülő menüre, hanem egy olyan MI-ről, amely tudja, melyik menüre kell kattintani, mit kell kiválasztani, melyik dokumentumba kell beilleszteni, és utána mit kell tenni" - írta. Két másik alkalmazott szerint a bejegyzés később eltűnt.
Arnold, a Meta szóvivője az állításokat "alapvetően pontatlannak" nevezte, de nem reagált a bennük szereplő konkrét állításokra, és arra sem válaszolt, hogy a vállalat törölte-e a bejegyzést. Johnny Ryan, az Ír Polgári Szabadságjogok Tanácsa igazgatója azt mondta, hogy a Metán belüli eszmecserék csak tovább erősítik benne azt a meggyőződést, hogy "elengedhetetlen", hogy az ír adatvédelmi hatóság kivizsgálja a kezdeményezést. "Ez a helyzet, ez az ügy nem korlátozódik a Meta alkalmazottaira. Minden egyes ágazat minden dolgozóját érinti, ahol őket helyettesíthetik. Mindenkit érdekel ez az ügy, ha megértik, miről van szó" - mondta.
A Facebook és az Instagram tulajdonosa múlt hónapban közölte munkatársaival, hogy elindít egy olyan eszközt, amely rögzíti, hogyan használják az emberek a számítógépeiket, beleértve az egérmozgásokat, kattintásokat és a legördülő menük közötti navigációt is, annak érdekében, hogy olyan MI ügynököket fejlesszenek, amelyek önállóan képesek hétköznapi szoftveres feladatokat elvégezni. A Model Capability Initiative, vagyis MCI nevű eszköz több mint 200 alkalmazásból és weboldalról gyűjt adatokat egy, az alkalmazottakkal megosztott lista szerint. A vállalat azt közölte, hogy a rendszer kizárólag az amerikai alkalmazottakat érinti, és biztosítékokat építettek be az érzékeny információk védelmére.
Az indulás óta eltelt hetekben azonban a Meta alkalmazottai arra panaszkodtak, hogy az MCI akkora mennyiségű adatot használ fel, hogy az megugrasztja otthoni internetforgalmukat, és bizonyos esetekben néhány nap alatt feléli a teljes havi adatkeretet. A Meta egy alkalmazottaknak kiosztott kérdezz-felelek dokumentumban elismerte, hogy az eszköz rögzíteni fogja minden olyan e-mail vagy közvetlen üzenet tartalmát, amelyet amerikai dolgozóknak küldenek, függetlenül attól, hogy a feladó hol tartózkodik.
A Meta szóvivője, Dave Arnold közleményében azt mondta, hogy az MCI kizárólag amerikai alkalmazottak eszközein van telepítve, és a rendszer középpontjában az áll, hogyan lépnek kapcsolatba az emberek a számítógépeikkel, nem pedig az, hogy mi látható a képernyőjükön. "Az átláthatóság érdekében tájékoztattuk a nem amerikai alkalmazottakat arról, hogy az eszközt amerikai kollégáik számítógépein telepítettük, akikkel a mindennapi munka során e-mailezhetnek vagy cseveghetnek" - mondta Arnold. Megerősítette az eszköz által figyelt alkalmazások és weboldalak hozzávetőleges számát, de nem válaszolt részletes kérdésekre arról, hogy pontosan mennyi adatot gyűjt a rendszer és mennyire jogszerű annak működése. "Gondosan mérlegeltük és enyhítettük a lehetséges adatvédelmi kockázatokat az eszköz fejlesztése és bevezetése során, és elkötelezettek vagyunk az alkalmazandó törvények és szabályozások betartása mellett" - mondta.
Az új információk tovább mélyíthetik a Meta szabályozási problémáit az Európai Unióban, ahol az informatikai vállalatok egyre hevesebb jogi vitákkal szembesülnek az adatgyűjtés és adatfelhasználás módjai miatt. Míg az amerikai munkavállalók kevés védelemmel rendelkeznek a munkahelyi megfigyeléssel szemben, az EU általános adatvédelmi rendelete, a GDPR hatálya alatt működő vállalatoknak jogalappal kell rendelkezniük a személyes adatok kezeléséhez, nyilvánosságra kell hozniuk, milyen adatokat gyűjtenek, és szigorú feltételeknek kell megfelelniük különösen érzékeny adatok - például egészségügyi információk - kezelése esetén.
A Meta MCI-ről szóló kérdezz-felelek dokumentumában az egyik bejegyzés a rendszer működését egy nem amerikai alkalmazott szemszögéből tárgyalta: "Az Egyesült Államokon kívül dolgozom. Rögzíthetik a beszélgetéseimet vagy adataimat, ha egy olyan amerikai kollégával kommunikálok, akinél az eszköz engedélyezve van?" A vállalat válasza így szól: "Ha egy amerikai kollégánál engedélyezve van az eszköz, miközben valakivel cseveg vagy e-mailezik az Egyesült Államokon kívülről, akkor ez a tevékenység rögzítésre kerül." A Meta azt is közölte a dokumentumban, hogy az MCI által gyűjtött adatokat "leválasztják" az alkalmazottakat azonosító információkról, ezért azokat nem lehet majd egyes személyekhez visszakeresni vagy törölni, ami Európában követelmény.
Kleanthi Sardeli, a NOYB ("none of your business") adatvédelmi jogvédő szervezet jogi szakértője szerint még az uniós alkalmazottak adatainak korlátozott vagy közvetett rögzítése is a GDPR szabályainak megsértéséhez vezethet a Meta részéről. A legfontosabb vitapontok közé tartozhat annak megítélése, hogy az európai adatok gyűjtése "járulékosnak" minősül-e, vagy már a GDPR szerinti megfigyelés kategóriájába tartozik, illetve hogy a kezdeményezés megfelel-e a "célhoz kötöttség" elvének - tette hozzá. "Ezeket az adatokat eredetileg munkavégzési kommunikáció és munkaszerződés teljesítése céljából gyűjtötték. Egy alkalmazott chatüzeneteinek beemelése egy MI modellbe összeegyeztethetetlen ezzel az eredeti céllal" - mondta Sardeli.
Az ír Adatvédelmi Bizottság, amely a Meta vezető európai adatvédelmi felügyeleti szerve a GDPR alapján, azt közölte, hogy a Meta arról tájékoztatta őket: sem az uniós alkalmazottak adatai, sem a képernyőtartalom rögzítése "nem tartozik az eszköz elsődleges céljai közé".
Az MCI projekt a Metán belül zajló átfogó átszervezés része, amelynek célja, hogy a munka jelentős részét MI ügynököknek adja át. Ez heves ellenállást váltott ki az alkalmazottakból, akik a Metát egy "alkalmazotti adatkinyerő gyárhoz" hasonlították. Egy belső bejegyzésben egy alkalmazott megosztotta az MCI naplófájljain végzett részletes elemzés eredményeit, amelyet az Anthropic Claude nevű eszközének segítségével készített el - pontosan olyan típusú MI rendszerrel, amelynek használatát a Meta maga is ösztönzi dolgozói körében.
Az elemzés szerint - amelyet mások is megismételtek - az MCI-t a vállalat meglévő adatbiztonsági szoftveréhez kapcsolták hozzá, így az további részletekhez is hozzáférhetett, beleértve az alkalmazottak kódmódosításait, a számítógépek alvó és felébresztési ciklusait, a meglátogatott URL-eket és minden vágólaptartalmat, amelyet a dolgozók másoltak és beillesztettek. Ezeket az adatokat aztán kevésbé biztonságos, titkosítatlan formában tárolta. Az alkalmazott szerint ekkora mennyiségű adat összegyűjtése lehetővé tenné "egy teljes viselkedési modell felépítését arról, hogyan végzi munkáját egy tudásmunkás. Nem egy olyan MI-ről van szó, amely helyetted kattint egy legördülő menüre, hanem egy olyan MI-ről, amely tudja, melyik menüre kell kattintani, mit kell kiválasztani, melyik dokumentumba kell beilleszteni, és utána mit kell tenni" - írta. Két másik alkalmazott szerint a bejegyzés később eltűnt.
Arnold, a Meta szóvivője az állításokat "alapvetően pontatlannak" nevezte, de nem reagált a bennük szereplő konkrét állításokra, és arra sem válaszolt, hogy a vállalat törölte-e a bejegyzést. Johnny Ryan, az Ír Polgári Szabadságjogok Tanácsa igazgatója azt mondta, hogy a Metán belüli eszmecserék csak tovább erősítik benne azt a meggyőződést, hogy "elengedhetetlen", hogy az ír adatvédelmi hatóság kivizsgálja a kezdeményezést. "Ez a helyzet, ez az ügy nem korlátozódik a Meta alkalmazottaira. Minden egyes ágazat minden dolgozóját érinti, ahol őket helyettesíthetik. Mindenkit érdekel ez az ügy, ha megértik, miről van szó" - mondta.