Berta Sándor
A kínai IT-cégek nyilvánosságra hozták az algoritmusaikat
Ezek határozzák meg hogy ki mit lát, milyen sorrendben az online piactereken és a közösségi alkalmazásokban. A lépést a helyi hatóságok kényszerítették ki.
A kínai szabályozó hatóság, a Kínai Kibertér Adminisztráció (Cyberspace Administration of China, CAC) feladata az e-kereskedelmi szabályok betartatása, többek között tiltják a hamis fiókokat, a forgalmi adatok manipulálását és az addiktív tartalmak népszerűsítését. Most megjelentették az ország legnépszerűbb 30 alkalmazásainak algoritmusát tartalmazó listát. Az érintett szoftverek és platformok között van az Alibaba online piactere, a Taobao, a Wechat üzenetküldő szolgáltatás és a ByteDance Douyin, amely a TikTok kínai megfelelője - minderről a Reuters számolt be.
A közzétett dokumentumban az algoritmusok megnevezései és feladatleírásai szerepelnek. Az összeállítás alapján a Taobao olyan ajánló algoritmust tartalmaz, amely bizonyos pontokon (pl. kezdőlap, vásárlás, vásárlás befejezése) aktívvá válik és a felhasználók látogatási és keresési előzményeit értékeli, hogy bizonyos termékeket ajánljon nekik. A Wechat is hasonló megközelítést alkalmaz, képeket és videókat javasol a felhasználóknak a megtekintési szokásaik, a böngészési előzmények és a felhasználó által követett nyilvános fiókok alapján. A Baidu keresőmotor kiszűri azokat az információkat, amelyek biztonsági kockázatot jelenthetnek, személyes adatokat fedhetnek fel vagy illegálisak lehetnek.
Az érintett társaságok betartják az új adatvédelmi törvényt, amely szerint az algoritmusokat átláthatóbbá kell tenni és a felhasználóknak lehetőséget kell adni arra, hogy védekezzenek a kattintási vagy vásárlási magatartásuk esetleges elemzése ellen. Nyilvánosságra kell hozniuk, hogy milyen algoritmusokat alkalmaznak a felhasználói viselkedés figyelésére, a felhasználói adatok gyűjtésére és felhasználására, és milyen mértékben szereznek ehhez felhasználói hozzájárulást. A programok ugyanakkor továbbra is gyűjthetnek adatokat Kínában, de rendelkezniük kell egy "opt-out opcióval", amellyel megakadályozható a személyes adatok gyűjtése.
A kormányzatra a profilozási korlátozások természetesen nem vonatkoznak
A kínai közvélemény nagymértékben támogatja azokat az intézkedéseket, amelyek célja a nagy technológiai platformok erejének visszaszorítása. A helyzet az országban hasonló, mint a nyugati országokban a Facebookkal vagy a Google-lal, amelyek kényelmet kínálnak a felhasználó személyes adatainak árán. Az elmúlt két év pedig azt mutatta, hogy a kínai szabályozók nem félnek megbüntetni a kiemelkedő cégeket. A Didi utazásszervező alkalmazást nem sokkal az amerikai tőzsdei bevezetése után kivonták a kínai alkalmazásboltokból, mert a kormányzat aggodalmát fejezte ki adatkezelési gyakorlatával kapcsolatban. Az Alibaba e- kereskedelmi óriáscég pedig milliós bírságot volt kénytelen fizetni a trösztellenes szabályok megsértése miatt.
Az új szabályozás további rendelkezéseket tartalmaz: a cégek a profilokat felhasználva nem adhatnak eltérő árat különböző vásárlóknak ugyanarra a termékre. A kritikák szerint azonban az új szabályozás azt is megköveteli az internetes cégektől, hogy tartalmi kiigazításokat végezzenek, sőt cenzúrázzanak is. A szabályok nem vonatkoznak az algoritmusok vagy adatok kormány általi használatára, és néhány új szabály - például a bizonyos értékeket hirdetők - a kormányzati ellenőrzés fenntartásáról szól. Tehát a Kínai Kommunista Párt (CP) ezzel megnyirbálta az internetes cégek hatalmát, ugyanakkor kibővítette saját lehetőségeit polgárai megfigyelésére és elnyomására.
Nem csak a kínaiak igyekeznek szabályozni a területet. Az Európai Unió olyan szabályozást terjesztett elő, amely korlátozza az arcfelismerés használatát, tiltja az algoritmikus manipulációt, és szabályozza a mesterséges intelligencián alapuló termékeket, például a chatbotokat. A 2021 áprilisában megszövegezett uniós szabályok azonban csak több éves vitafolyamat után kerülnek majd elfogadásra. Sok a párhuzam a kínai szabályozás és a javasolt uniós jogszabály között, különösen a felhasználók tájékoztatásában és a célzási kimaradásban, de míg Európában a piac és az egyén jogai az elsők, addig Kínában ezzel szemben a társadalmi jóléten van a hangsúly. A hatóságok ezeket a kérdéseket kollektív problémáknak tekintik, az erkölcsre és értékekre hivatkoznak.
A kínai szabályozás sokkal ambiciózusabb, mint ami az Egyesült Államokban csak felmerült, ott a mesterséges intelligencia kérdésével nem is foglalkoznak, például az arcfelismerés rendőrségi használata csak bizonyos városokban korlátozott. Más van fókuszban: a szenátusban előterjesztett Algorithmic Accountability Act célja a nemi vagy faji hovatartozás szerinti megkülönböztetést alkalmazó algoritmusok ellenőrzése, de az a törvényalkotási meghallgatásokon megakadt. Minnesota és Wyoming szenátorai megkövetelnék a platformoktól, hogy olyan eszközöket alkalmazzanak, amelyek „csökkentik a függőséget és a káros tartalmak terjedését”, de még ha elfogadnának is ilyen törvényjavaslatokat, valószínűleg a technológiai vállalatok megtámadnák azokat a bíróság előtt.
A kínai szabályozó hatóság, a Kínai Kibertér Adminisztráció (Cyberspace Administration of China, CAC) feladata az e-kereskedelmi szabályok betartatása, többek között tiltják a hamis fiókokat, a forgalmi adatok manipulálását és az addiktív tartalmak népszerűsítését. Most megjelentették az ország legnépszerűbb 30 alkalmazásainak algoritmusát tartalmazó listát. Az érintett szoftverek és platformok között van az Alibaba online piactere, a Taobao, a Wechat üzenetküldő szolgáltatás és a ByteDance Douyin, amely a TikTok kínai megfelelője - minderről a Reuters számolt be.
A közzétett dokumentumban az algoritmusok megnevezései és feladatleírásai szerepelnek. Az összeállítás alapján a Taobao olyan ajánló algoritmust tartalmaz, amely bizonyos pontokon (pl. kezdőlap, vásárlás, vásárlás befejezése) aktívvá válik és a felhasználók látogatási és keresési előzményeit értékeli, hogy bizonyos termékeket ajánljon nekik. A Wechat is hasonló megközelítést alkalmaz, képeket és videókat javasol a felhasználóknak a megtekintési szokásaik, a böngészési előzmények és a felhasználó által követett nyilvános fiókok alapján. A Baidu keresőmotor kiszűri azokat az információkat, amelyek biztonsági kockázatot jelenthetnek, személyes adatokat fedhetnek fel vagy illegálisak lehetnek.
Az érintett társaságok betartják az új adatvédelmi törvényt, amely szerint az algoritmusokat átláthatóbbá kell tenni és a felhasználóknak lehetőséget kell adni arra, hogy védekezzenek a kattintási vagy vásárlási magatartásuk esetleges elemzése ellen. Nyilvánosságra kell hozniuk, hogy milyen algoritmusokat alkalmaznak a felhasználói viselkedés figyelésére, a felhasználói adatok gyűjtésére és felhasználására, és milyen mértékben szereznek ehhez felhasználói hozzájárulást. A programok ugyanakkor továbbra is gyűjthetnek adatokat Kínában, de rendelkezniük kell egy "opt-out opcióval", amellyel megakadályozható a személyes adatok gyűjtése.
A kormányzatra a profilozási korlátozások természetesen nem vonatkoznak
A kínai közvélemény nagymértékben támogatja azokat az intézkedéseket, amelyek célja a nagy technológiai platformok erejének visszaszorítása. A helyzet az országban hasonló, mint a nyugati országokban a Facebookkal vagy a Google-lal, amelyek kényelmet kínálnak a felhasználó személyes adatainak árán. Az elmúlt két év pedig azt mutatta, hogy a kínai szabályozók nem félnek megbüntetni a kiemelkedő cégeket. A Didi utazásszervező alkalmazást nem sokkal az amerikai tőzsdei bevezetése után kivonták a kínai alkalmazásboltokból, mert a kormányzat aggodalmát fejezte ki adatkezelési gyakorlatával kapcsolatban. Az Alibaba e- kereskedelmi óriáscég pedig milliós bírságot volt kénytelen fizetni a trösztellenes szabályok megsértése miatt.
Az új szabályozás további rendelkezéseket tartalmaz: a cégek a profilokat felhasználva nem adhatnak eltérő árat különböző vásárlóknak ugyanarra a termékre. A kritikák szerint azonban az új szabályozás azt is megköveteli az internetes cégektől, hogy tartalmi kiigazításokat végezzenek, sőt cenzúrázzanak is. A szabályok nem vonatkoznak az algoritmusok vagy adatok kormány általi használatára, és néhány új szabály - például a bizonyos értékeket hirdetők - a kormányzati ellenőrzés fenntartásáról szól. Tehát a Kínai Kommunista Párt (CP) ezzel megnyirbálta az internetes cégek hatalmát, ugyanakkor kibővítette saját lehetőségeit polgárai megfigyelésére és elnyomására.
Nem csak a kínaiak igyekeznek szabályozni a területet. Az Európai Unió olyan szabályozást terjesztett elő, amely korlátozza az arcfelismerés használatát, tiltja az algoritmikus manipulációt, és szabályozza a mesterséges intelligencián alapuló termékeket, például a chatbotokat. A 2021 áprilisában megszövegezett uniós szabályok azonban csak több éves vitafolyamat után kerülnek majd elfogadásra. Sok a párhuzam a kínai szabályozás és a javasolt uniós jogszabály között, különösen a felhasználók tájékoztatásában és a célzási kimaradásban, de míg Európában a piac és az egyén jogai az elsők, addig Kínában ezzel szemben a társadalmi jóléten van a hangsúly. A hatóságok ezeket a kérdéseket kollektív problémáknak tekintik, az erkölcsre és értékekre hivatkoznak.
A kínai szabályozás sokkal ambiciózusabb, mint ami az Egyesült Államokban csak felmerült, ott a mesterséges intelligencia kérdésével nem is foglalkoznak, például az arcfelismerés rendőrségi használata csak bizonyos városokban korlátozott. Más van fókuszban: a szenátusban előterjesztett Algorithmic Accountability Act célja a nemi vagy faji hovatartozás szerinti megkülönböztetést alkalmazó algoritmusok ellenőrzése, de az a törvényalkotási meghallgatásokon megakadt. Minnesota és Wyoming szenátorai megkövetelnék a platformoktól, hogy olyan eszközöket alkalmazzanak, amelyek „csökkentik a függőséget és a káros tartalmak terjedését”, de még ha elfogadnának is ilyen törvényjavaslatokat, valószínűleg a technológiai vállalatok megtámadnák azokat a bíróság előtt.