SG.hu
A Roblox vezetője ideges lett, hogy a gyermekek biztonságával kapcsolatban kérdezgetik
Dave Baszucki, a Roblox vezérigazgatója részt vett a The New York Times Hard Fork podcastjában, hogy megvitassák a játékplatform új életkor-ellenőrző funkcióját, de úgy tűnt, hogy frusztrálta a gyermekek biztonságával kapcsolatos kérdések száma.
A világ egyik legnagyobb online játékplatformja ma mintegy 150 millió napi aktív felhasználót szolgál ki, és ezek jelentős része 13 év alatti gyerek. Az elmúlt hónapokban több amerikai állam, köztük Louisiana, Kentucky és Texas is pert indított a Roblox ellen, miközben több tucat feljelentés érkezett, amelyek szerint a platform elősegíti a gyerekek szexuális kizsákmányolását. A vádak szerint a Robloxon évekig akadálytalanul kommunikálhattak egymással felnőttek és gyerekek, voltak esetek, amikor a platform virtuális valutájával, a Robuxszal próbáltak manipulálni kiskorú felhasználókat, és több esetben a platform csupán találkozási pontként szolgált, miközben a pedofilok más üzenetküldő alkalmazásokra terelték át az áldozatokat.
A vállalat a kritikák hatására több új biztonsági funkciót vezet be, ezek közül a leglátványosabb az életkor-ellenőrzés arcfotó alapján. Aki a jövőben csevegni szeretne, annak szelfit kell készítenie, a rendszer pedig mesterséges intelligenciával becsli meg az életkorát, majd automatikusan korcsoportos szobákba sorolja a felhasználót. Baszucki szerint ez csak egy újabb elem a már létező biztonsági rétegek között, amelyek közé eddig is beletartoztak viselkedéselemző algoritmusok, ID-feltöltés és kiterjedt chat-szűrési rendszerek. A műsorvezetők azonban felvetették, hogy ha a jelenlegi rendszer valóban hatékony lett volna, nem érkezett volna ilyen mennyiségű súlyos panasz.
A beszélgetés egyik legkritikusabb pontja az volt, amikor rákérdeztek, miért engedte a Roblox éveken át, hogy gyerekek és felnőttek bárminemű korlátozás nélkül kommunikáljanak egymással. Baszucki részben azzal védekezett, hogy a platform történetileg a nyílt interakcióra épült, és már a korai időkben is működtek szűrők és automatikus moderációs rendszerek. Szerinte a vállalat mindig a technológiai fejlődéssel párhuzamosan fejlesztette a védelmi mechanizmusait, és mostanra sokkal hatékonyabb eszközökkel rendelkeznek. A műsorvezetők ezzel szemben arra figyelmeztettek, hogy a panaszok éppen azt mutatják, az eddigi rendszerek messze nem voltak elegendők.
A műsorban felmerült az is, hogy a Roblox csökkentette-e a trust & safety (bizalom és biztonság) területen dolgozó csapatok költségvetését. A vezérigazgató szerint erről szó sincs: elmondása alapján nem visszavettek a biztonsági erőforrásokból, hanem átszervezték őket, és a manuális moderáció helyett egyre nagyobb arányban támaszkodnak automatizált, mesterséges intelligencián alapuló megoldásokra. Szerinte így hatékonyabban lehet kiszűrni a veszélyes tartalmakat és viselkedéseket, noha kritikusok szerint az automatizálás sokszor új típusú hibákat és vakfoltokat eredményez.
Baszucki a beszélgetés során többször hangsúlyozta, hogy a gyerekek biztonságát nem teherként, hanem lehetőségként látják. Véleménye szerint a Roblox olyan ökoszisztémát építhet, amely példát mutathat a 6-12 éves korosztálynak szánt online terek biztonságos működtetésében. A műsor azonban több ponton feszülté vált, különösen akkor, amikor a vezérigazgató megkérdőjelezte a riporterek megállapításait, miközben a platform ellen szóló jogi és társadalmi nyomás tovább nő.
A beszélgetés összességében azt mutatta: a vállalatra egyre nagyobb figyelem hárul, és a jövője jelentős részben azon múlik, mennyire sikerül hitelesen és hatékonyan kezelnie a gyermekvédelmi kihívásokat, amelyek ma már nemcsak technológiai, hanem jogi és társadalmi következményekkel is járnak.
A világ egyik legnagyobb online játékplatformja ma mintegy 150 millió napi aktív felhasználót szolgál ki, és ezek jelentős része 13 év alatti gyerek. Az elmúlt hónapokban több amerikai állam, köztük Louisiana, Kentucky és Texas is pert indított a Roblox ellen, miközben több tucat feljelentés érkezett, amelyek szerint a platform elősegíti a gyerekek szexuális kizsákmányolását. A vádak szerint a Robloxon évekig akadálytalanul kommunikálhattak egymással felnőttek és gyerekek, voltak esetek, amikor a platform virtuális valutájával, a Robuxszal próbáltak manipulálni kiskorú felhasználókat, és több esetben a platform csupán találkozási pontként szolgált, miközben a pedofilok más üzenetküldő alkalmazásokra terelték át az áldozatokat.
A vállalat a kritikák hatására több új biztonsági funkciót vezet be, ezek közül a leglátványosabb az életkor-ellenőrzés arcfotó alapján. Aki a jövőben csevegni szeretne, annak szelfit kell készítenie, a rendszer pedig mesterséges intelligenciával becsli meg az életkorát, majd automatikusan korcsoportos szobákba sorolja a felhasználót. Baszucki szerint ez csak egy újabb elem a már létező biztonsági rétegek között, amelyek közé eddig is beletartoztak viselkedéselemző algoritmusok, ID-feltöltés és kiterjedt chat-szűrési rendszerek. A műsorvezetők azonban felvetették, hogy ha a jelenlegi rendszer valóban hatékony lett volna, nem érkezett volna ilyen mennyiségű súlyos panasz.
A beszélgetés egyik legkritikusabb pontja az volt, amikor rákérdeztek, miért engedte a Roblox éveken át, hogy gyerekek és felnőttek bárminemű korlátozás nélkül kommunikáljanak egymással. Baszucki részben azzal védekezett, hogy a platform történetileg a nyílt interakcióra épült, és már a korai időkben is működtek szűrők és automatikus moderációs rendszerek. Szerinte a vállalat mindig a technológiai fejlődéssel párhuzamosan fejlesztette a védelmi mechanizmusait, és mostanra sokkal hatékonyabb eszközökkel rendelkeznek. A műsorvezetők ezzel szemben arra figyelmeztettek, hogy a panaszok éppen azt mutatják, az eddigi rendszerek messze nem voltak elegendők.
A műsorban felmerült az is, hogy a Roblox csökkentette-e a trust & safety (bizalom és biztonság) területen dolgozó csapatok költségvetését. A vezérigazgató szerint erről szó sincs: elmondása alapján nem visszavettek a biztonsági erőforrásokból, hanem átszervezték őket, és a manuális moderáció helyett egyre nagyobb arányban támaszkodnak automatizált, mesterséges intelligencián alapuló megoldásokra. Szerinte így hatékonyabban lehet kiszűrni a veszélyes tartalmakat és viselkedéseket, noha kritikusok szerint az automatizálás sokszor új típusú hibákat és vakfoltokat eredményez.
Baszucki a beszélgetés során többször hangsúlyozta, hogy a gyerekek biztonságát nem teherként, hanem lehetőségként látják. Véleménye szerint a Roblox olyan ökoszisztémát építhet, amely példát mutathat a 6-12 éves korosztálynak szánt online terek biztonságos működtetésében. A műsor azonban több ponton feszülté vált, különösen akkor, amikor a vezérigazgató megkérdőjelezte a riporterek megállapításait, miközben a platform ellen szóló jogi és társadalmi nyomás tovább nő.
A beszélgetés összességében azt mutatta: a vállalatra egyre nagyobb figyelem hárul, és a jövője jelentős részben azon múlik, mennyire sikerül hitelesen és hatékonyan kezelnie a gyermekvédelmi kihívásokat, amelyek ma már nemcsak technológiai, hanem jogi és társadalmi következményekkel is járnak.