SG.hu
Az e-kereskedelem új ellensége az MI által generált bizonyíték
Az online kereskedelem egyik alapvető pillére évtizedek óta a bizalom. A vásárló megrendeli az árut, a csomag megérkezik, és ha probléma adódik, néhány fotó elegendő ahhoz, hogy az ügyfélszolgálat eldöntse, jogos-e a reklamáció. Ez a rendszer azonban egyre komolyabb kihívásokkal szembesül, mivel Kínában és világszerte megjelentek azok a csalók, akik mesterséges intelligenciával generált képeket és videókat használnak visszatérítések indoklására.
Az e-kereskedelmi platformok hosszú ideje a vásárlók által beküldött fényképekre támaszkodnak annak igazolására, hogy egy termék sérülten érkezett meg, hibás volt, vagy nem felelt meg a leírásnak. Egy törött bögre, egy elszakadt ágynemű vagy egy megsérült fotóalbum lefotózása eddig többnyire elegendő bizonyítéknak számított. A generatív MI elterjedésével azonban ez a viszonylag egyszerű ellenőrzési mechanizmus megbomlott, mivel egyre könnyebb valósághű, de teljesen hamis képeket és videókat előállítani.
A kínai RedNote közösségi oldalon több tucat bejegyzés jelent meg az elmúlt időszakban olyan kereskedőktől és ügyfélszolgálati dolgozóktól, akik gyanús visszatérítési igényekről számolnak be. Egyes esetekben a vásárlók olyan fotókat küldtek, amelyeken az állítólagosan tönkrement termékek sérülései első pillantásra hitelesnek tűntek, közelebbről megvizsgálva azonban furcsa részletek buktatták le őket. Előfordult például, hogy egy teljesen cafatokra szakadt lepedőt ábrázoló képhez olyan szállítási címke tartozott, amelyen a kínai írásjelek értelmetlenek voltak. Máskor egy megrepedt kávéscsészéről érkezett fotó, amelyen a repedések inkább papírszakadásra emlékeztettek, mint törött kerámiára. Az egyik eladó ironikusan meg is jegyezte, hogy ez egy porceláncsésze, nem karton, és elképzelhetetlen, hogy rétegekre lehessen tépni.
A kereskedők beszámolói szerint különösen három termékkategória érintett az MI-alapú visszatérítési csalásokban. Az egyik a friss élelmiszer, például a gyümölcs, a hús vagy a tengeri élőlények. A másik az alacsony árú kozmetikumok és szépségápolási termékek, a harmadik pedig a törékeny áruk, például a kerámiacsészék vagy tálak. Ezeknél a termékeknél az eladók gyakran nem kérik vissza az árut a visszatérítés előtt, mert a visszaküldés költséges vagy higiéniai okokból értelmetlen lenne. Ez a gyakorlat ideális célponttá teszi ezeket a kategóriákat a csalók számára.
Az egyik legnagyobb visszhangot kiváltó eset novemberben történt, amikor egy élő rákokat árusító kereskedő a Douyinon - a TikTok kínai megfelelőjén - különösen gyanús reklamációval szembesült. A vásárló fotókat és videókat küldött, amelyek alapján úgy tűnt, hogy a megrendelt rákok többsége már elpusztulva érkezett meg, miközben kettő állítólag megszökött a csomagból. A videókon még az is látszott, ahogy egy emberi ujj megpiszkálja a halott rákokat, mintha ezzel akarná bizonyítani azok élettelenségét. Az eladó, Gao Jing azonban azonnal gyanút fogott. Elmondása szerint családja több mint harminc éve foglalkozik ráktenyésztéssel, és még soha nem látott olyan elpusztult rákot, amelynek a lábai felfelé álltak volna.
A végső bizonyítékot azonban nem ez jelentette, hanem az állatok neme és anatómiai eltérései. Az egyik videóban két hím és négy nőstény szerepelt, míg a másik felvételen három hím és három nőstény volt látható, ráadásul az egyik példánynak kilenc lába volt a megszokott nyolc helyett. Ezek az ellentmondások egyértelműen arra utaltak, hogy a felvételek nem valós eseményeket rögzítettek. Gao Jing feljelentést tett a rendőrségen. A hatóságok kivizsgálták az ügyet, és megállapították, hogy a képek és videók valóban hamisítványok voltak. A vásárlót nyolc napra őrizetbe vették, erről egy hivatalos rendőrségi értesítést is közzétettek. Az ügy különösen nagy figyelmet kapott a kínai közösségi médiában, mivel ez volt az első ismert eset, amikor egy MI-alapú visszatérítési csalás konkrét hatósági fellépést és büntetést eredményezett.
A jelenség ugyanakkor messze nem csak Kínára korlátozódik. A New York-i székhelyű Forter nevű csalásmegelőzéssel foglalkozó cég becslése szerint az MI-manipulált képekkel alátámasztott visszatérítési igények száma világszerte több mint 15 százalékkal nőtt az év eleje óta, és a tendencia tovább erősödik. A vállalat vezetője, Michael Reitblat szerint a folyamat már 2024 közepén elindult, de igazán az elmúlt évben gyorsult fel, amikor a képalkotó eszközök széles körben elérhetővé és rendkívül egyszerűen használhatóvá váltak. Reitblat arra is rámutat, hogy a mesterséges intelligenciának nem kell tökéletes munkát végeznie ahhoz, hogy sikeres legyen a csalás. Az ügyfélszolgálati dolgozók és a visszatérítéseket ellenőrző csapatok gyakran időhiánnyal küzdenek, és nincs lehetőségük minden egyes képet aprólékosan megvizsgálni. Ha egy fotó első ránézésre hihető, sok esetben automatikusan elfogadják.
A szakember szerint nemcsak magányos csalók élnek ezekkel az eszközökkel, hanem szervezett bűnözői csoportok is. Egy dokumentált esetben több mint egymillió dollár értékben nyújtottak be visszatérítési kérelmeket MI által módosított képekkel, amelyek különféle háztartási cikkeken látható repedéseket és horpadásokat ábrázoltak. A kérelmeket rövid időn belül adták le, láthatóan azzal a céllal, hogy túlterheljék az ellenőrzési rendszereket, miközben váltakozó IP-címeket használtak személyazonosságuk elfedésére.
A védekezés sem marad el, és egyes eladók már szintén mesterséges intelligenciát vetnek be a csalások kiszűrésére. Egy kínai játékkereskedő például azt mutatta be, hogyan elemeznek visszatérítési kérelmekhez csatolt fotókat egy MI-chatbot segítségével, amely megpróbálja eldönteni, manipulálták-e a képeket. Ezek az eszközök azonban jelenleg még messze nem tökéletesek. Ráadásul az sem garantált, hogy az e-kereskedelmi platformok egy MI által adott gyanús minősítés ellenére az eladó oldalára állnak. Michael Reitblat arra figyelmeztet, hogy a kereskedők végső reakciója akár a visszaküldési és visszatérítési szabályok szigorítása is lehet. Ez azonban óhatatlanul rontaná azoknak a vásárlóknak az élményét, akik jóhiszeműen járnak el, és valóban jogos panaszt nyújtanak be. A helyzet így egyensúlyozást igényel a csalás elleni védelem és a felhasználóbarát szolgáltatás között.
A mostani problémák egy korábbi, hasonló vitát idéznek fel a kínai online piacterekről. Akkoriban a vásárlók arra panaszkodtak, hogy az eladók MI által generált termékfotókat használnak, amelyeknek kevés közük volt a valósághoz. Sokak szerint az online vásárlás szerencsejátékká vált, ahol sosem lehetett biztosan tudni, hogy a megérkező termék valóban úgy néz-e ki, mint a képeken. A jelenlegi helyzet ennek a jelenségnek a tükörképe, ahol most a vásárlók egy része él vissza ugyanazzal a technológiával.
A két tendencia valójában ugyanarra a mélyebb problémára világít rá. Az e-kereskedelem működése nagymértékben a bizalomra épül, és a mesterséges intelligencia széles körű elérhetősége egyre nehezebbé teszi azt a feltételezést, hogy a résztvevők többsége őszintén jár el. A jelenlegi védelmi megoldások - például az MI-vízjelek - gyakran könnyen eltávolíthatók vagy megkerülhetők. Az online vásárlási rendszereknek új megoldásokat kell találni, legyen szó szigorúbb ellenőrzési szabályokról, átalakított visszatérítési politikákról vagy hatékonyabb elszámoltathatósági mechanizmusokról az MI-alapú visszaélésekkel szemben.
Az e-kereskedelmi platformok hosszú ideje a vásárlók által beküldött fényképekre támaszkodnak annak igazolására, hogy egy termék sérülten érkezett meg, hibás volt, vagy nem felelt meg a leírásnak. Egy törött bögre, egy elszakadt ágynemű vagy egy megsérült fotóalbum lefotózása eddig többnyire elegendő bizonyítéknak számított. A generatív MI elterjedésével azonban ez a viszonylag egyszerű ellenőrzési mechanizmus megbomlott, mivel egyre könnyebb valósághű, de teljesen hamis képeket és videókat előállítani.
A kínai RedNote közösségi oldalon több tucat bejegyzés jelent meg az elmúlt időszakban olyan kereskedőktől és ügyfélszolgálati dolgozóktól, akik gyanús visszatérítési igényekről számolnak be. Egyes esetekben a vásárlók olyan fotókat küldtek, amelyeken az állítólagosan tönkrement termékek sérülései első pillantásra hitelesnek tűntek, közelebbről megvizsgálva azonban furcsa részletek buktatták le őket. Előfordult például, hogy egy teljesen cafatokra szakadt lepedőt ábrázoló képhez olyan szállítási címke tartozott, amelyen a kínai írásjelek értelmetlenek voltak. Máskor egy megrepedt kávéscsészéről érkezett fotó, amelyen a repedések inkább papírszakadásra emlékeztettek, mint törött kerámiára. Az egyik eladó ironikusan meg is jegyezte, hogy ez egy porceláncsésze, nem karton, és elképzelhetetlen, hogy rétegekre lehessen tépni.
A kereskedők beszámolói szerint különösen három termékkategória érintett az MI-alapú visszatérítési csalásokban. Az egyik a friss élelmiszer, például a gyümölcs, a hús vagy a tengeri élőlények. A másik az alacsony árú kozmetikumok és szépségápolási termékek, a harmadik pedig a törékeny áruk, például a kerámiacsészék vagy tálak. Ezeknél a termékeknél az eladók gyakran nem kérik vissza az árut a visszatérítés előtt, mert a visszaküldés költséges vagy higiéniai okokból értelmetlen lenne. Ez a gyakorlat ideális célponttá teszi ezeket a kategóriákat a csalók számára.
Az egyik legnagyobb visszhangot kiváltó eset novemberben történt, amikor egy élő rákokat árusító kereskedő a Douyinon - a TikTok kínai megfelelőjén - különösen gyanús reklamációval szembesült. A vásárló fotókat és videókat küldött, amelyek alapján úgy tűnt, hogy a megrendelt rákok többsége már elpusztulva érkezett meg, miközben kettő állítólag megszökött a csomagból. A videókon még az is látszott, ahogy egy emberi ujj megpiszkálja a halott rákokat, mintha ezzel akarná bizonyítani azok élettelenségét. Az eladó, Gao Jing azonban azonnal gyanút fogott. Elmondása szerint családja több mint harminc éve foglalkozik ráktenyésztéssel, és még soha nem látott olyan elpusztult rákot, amelynek a lábai felfelé álltak volna.
A végső bizonyítékot azonban nem ez jelentette, hanem az állatok neme és anatómiai eltérései. Az egyik videóban két hím és négy nőstény szerepelt, míg a másik felvételen három hím és három nőstény volt látható, ráadásul az egyik példánynak kilenc lába volt a megszokott nyolc helyett. Ezek az ellentmondások egyértelműen arra utaltak, hogy a felvételek nem valós eseményeket rögzítettek. Gao Jing feljelentést tett a rendőrségen. A hatóságok kivizsgálták az ügyet, és megállapították, hogy a képek és videók valóban hamisítványok voltak. A vásárlót nyolc napra őrizetbe vették, erről egy hivatalos rendőrségi értesítést is közzétettek. Az ügy különösen nagy figyelmet kapott a kínai közösségi médiában, mivel ez volt az első ismert eset, amikor egy MI-alapú visszatérítési csalás konkrét hatósági fellépést és büntetést eredményezett.
A jelenség ugyanakkor messze nem csak Kínára korlátozódik. A New York-i székhelyű Forter nevű csalásmegelőzéssel foglalkozó cég becslése szerint az MI-manipulált képekkel alátámasztott visszatérítési igények száma világszerte több mint 15 százalékkal nőtt az év eleje óta, és a tendencia tovább erősödik. A vállalat vezetője, Michael Reitblat szerint a folyamat már 2024 közepén elindult, de igazán az elmúlt évben gyorsult fel, amikor a képalkotó eszközök széles körben elérhetővé és rendkívül egyszerűen használhatóvá váltak. Reitblat arra is rámutat, hogy a mesterséges intelligenciának nem kell tökéletes munkát végeznie ahhoz, hogy sikeres legyen a csalás. Az ügyfélszolgálati dolgozók és a visszatérítéseket ellenőrző csapatok gyakran időhiánnyal küzdenek, és nincs lehetőségük minden egyes képet aprólékosan megvizsgálni. Ha egy fotó első ránézésre hihető, sok esetben automatikusan elfogadják.
A szakember szerint nemcsak magányos csalók élnek ezekkel az eszközökkel, hanem szervezett bűnözői csoportok is. Egy dokumentált esetben több mint egymillió dollár értékben nyújtottak be visszatérítési kérelmeket MI által módosított képekkel, amelyek különféle háztartási cikkeken látható repedéseket és horpadásokat ábrázoltak. A kérelmeket rövid időn belül adták le, láthatóan azzal a céllal, hogy túlterheljék az ellenőrzési rendszereket, miközben váltakozó IP-címeket használtak személyazonosságuk elfedésére.
A védekezés sem marad el, és egyes eladók már szintén mesterséges intelligenciát vetnek be a csalások kiszűrésére. Egy kínai játékkereskedő például azt mutatta be, hogyan elemeznek visszatérítési kérelmekhez csatolt fotókat egy MI-chatbot segítségével, amely megpróbálja eldönteni, manipulálták-e a képeket. Ezek az eszközök azonban jelenleg még messze nem tökéletesek. Ráadásul az sem garantált, hogy az e-kereskedelmi platformok egy MI által adott gyanús minősítés ellenére az eladó oldalára állnak. Michael Reitblat arra figyelmeztet, hogy a kereskedők végső reakciója akár a visszaküldési és visszatérítési szabályok szigorítása is lehet. Ez azonban óhatatlanul rontaná azoknak a vásárlóknak az élményét, akik jóhiszeműen járnak el, és valóban jogos panaszt nyújtanak be. A helyzet így egyensúlyozást igényel a csalás elleni védelem és a felhasználóbarát szolgáltatás között.
A mostani problémák egy korábbi, hasonló vitát idéznek fel a kínai online piacterekről. Akkoriban a vásárlók arra panaszkodtak, hogy az eladók MI által generált termékfotókat használnak, amelyeknek kevés közük volt a valósághoz. Sokak szerint az online vásárlás szerencsejátékká vált, ahol sosem lehetett biztosan tudni, hogy a megérkező termék valóban úgy néz-e ki, mint a képeken. A jelenlegi helyzet ennek a jelenségnek a tükörképe, ahol most a vásárlók egy része él vissza ugyanazzal a technológiával.
A két tendencia valójában ugyanarra a mélyebb problémára világít rá. Az e-kereskedelem működése nagymértékben a bizalomra épül, és a mesterséges intelligencia széles körű elérhetősége egyre nehezebbé teszi azt a feltételezést, hogy a résztvevők többsége őszintén jár el. A jelenlegi védelmi megoldások - például az MI-vízjelek - gyakran könnyen eltávolíthatók vagy megkerülhetők. Az online vásárlási rendszereknek új megoldásokat kell találni, legyen szó szigorúbb ellenőrzési szabályokról, átalakított visszatérítési politikákról vagy hatékonyabb elszámoltathatósági mechanizmusokról az MI-alapú visszaélésekkel szemben.