Ahogy közeleg a karácsonyi szezon, egyre nagyobb aggodalmat kelt az emberek ajándéklistáin szereplő egyik kategória: a mesterséges intelligenciával működő termékek. A szakértők az évi 16,7 milliárd dolláros globális okosjáték-piac ellen küzdenek, bírálva a megfigyelést és a szabályozás hiányát.

Fogyasztóvédelmi szervezetek szerint az MI-vel kiegészített játékok árthatnak a gyerekek biztonságának és fejlődésének. „Ha megnézzük, hogyan reklámozzák ezeket a játékokat, hogyan működnek, és azt a tényt, hogy gyakorlatilag nincs kutatás arról, hogy valóban hasznosak-e a gyerekek számára - és nincs szabályozás az MI-játékok terén -, akkor ez nagyon komoly intő jel” - mondta Rachel Franz, a Fairplay szervezet Young Children Thrive Offline programjának igazgatója, amely a nagy technológiai cégektől igyekszik megvédeni a gyermekeket.

A múlt héten ezek az aggodalmak brutális igazolást kaptak, amikor egy MI-vel felszerelt plüssmackó szexuális témákról kezdett beszélni. A FoloToy Kumma nevű játéka egy OpenAI-modellre épül, és fétisekkel kapcsolatos kérdésekre válaszolt. Kötözést és szerepjátékot javasolt a párkapcsolat „feldobására” - áll a Public Interest Research Group (Pirg) fogyasztóvédelmi szervezet jelentésében, amely a vizsgálatot készítette. „Nagyon kevés erőfeszítésbe került, hogy elkezdjen beszélni mindenféle szexuálisan érzékeny témáról, és olyan dolgokat mondjon, amelyeket a szülők valószínűleg nem szeretnének, hogy a gyerekeik halljanak” - mondta Teresa Murray, a Pirg fogyasztóvédelmi felügyeleti programjának igazgatója.

Az ilyen termékek a 2023-ban 16,7 milliárd dollárra értékelt globális okosjáték-piac részét képezik - derül ki az Allied Market Research adataiból. Az iparág különösen nagy Kínában, ahol több mint 1500 MI-játékokat gyártó cég működik, és ezek a vállalatok igyekeznek a nemzetközi piacokra is terjeszkedni - írta az MIT Technology Review. A sanghaji székhelyű FoloToyal együtt a kaliforniai Curio is OpenAI-val dolgozik: utóbbi a Grok nevű plüssfigurát gyártja - igen, Elon Musk chatbotjának nevét viseli -, amelyet Grimes zenész szinkronizál. Júniusban a Mattel, amely a Barbie és Hot Wheels márkákat birtokolja, szintén bejelentette partnerségét az OpenAI-val, hogy „támogassa az MI-alapú termékeket és élményeket”.


Grimesnek három gyereke van Elon Musktól
Már a Pirg „hátborzongató plüssmackós” jelentése előtt számos szülő, technológiai kutató és törvényhozó fejezte ki aggodalmát amiatt, hogy a chatbotok milyen hatással lehetnek a kiskorúak mentális egészségére. Murray szerint az MI-játékok különösen azért veszélyesek, mert míg korábbi okos játékok előre megírt, gyerekeknek szóló válaszokat adtak, addig egy bot „szabad folyású beszélgetést folytathat egy gyerekkel, és nincsenek határok, ahogy ezt tapasztaltuk is”.

Ez nemcsak szexuálisan explicit beszélgetésekhez vezethet, hanem ahhoz is, hogy a gyerekek egy bothoz kötődnek egy ember vagy képzeletbeli barát helyett, ami árthat a fejlődésüknek - mondta Jacqueline Woolley, a Texasi Egyetem (Austin) Gyermekkutató Központjának igazgatója. Egy gyerek például sokat tanulhat abból, ha összeveszik egy barátjával, majd megtanulják rendezni a konfliktust. Ez a botokkal kevésbé valószínű, mivel ők gyakran hízelgők és mindenben egyetértenek - mondta Woolley, aki tanácsadóként részt vett a Pirg vizsgálatában. „Aggódom a nem megfelelő érzelmi kötődés miatt” - mondta Woolley.

A cégek ezenkívül adatokat is gyűjtenek a gyerekektől az MI-játékokon keresztül, és nem voltak átláthatók azzal kapcsolatban, hogy mit kezdenek ezekkel az információkkal - mondta Franz a Fairplaytől. Ez azért is veszélyezteti a felhasználókat, mert ezeknél az adatoknál hiányos lehet a biztonság - mondta. Hackerek már átvették az irányítást MI-alapú eszközök felett. „Mivel ezek a játékok bizalmat keltenek, azt mondanám, hogy a gyerekek sokkal nagyobb eséllyel osztják meg velük a legmélyebb gondolataikat” - mondta Franz. „A megfigyelés szükségtelen és nem megfelelő.”

A Pirg azonban mindezek ellenére sem az MI-játékok betiltását sürgeti, mivel ezeknek lehet oktatási értékük is, például segíthetnek a gyerekeknek második nyelvet tanulni vagy megtanulni az országok fővárosait - mondta Murray. „Nincs semmi baj azzal, ha van valamilyen oktatóeszköz, de ez nem lehet ugyanaz az oktatóeszköz, amit azt mondja magáról, hogy ő a legjobb barátod, és bármit elmondhatsz neki” - mondta Murray. A szervezet azt szorgalmazza, hogy 13 év alatti gyerekek számára vezessenek be további szabályozásokat az ilyen játékokra, de egyelőre nem tettek konkrét javaslatokat.

Több független kutatásra is szükség van annak biztosítására, hogy ezek a termékek valóban biztonságosak a gyerekek számára, és amíg ez nem történik meg, a játékokat le kellene venni a polcokról - mondta Franz. „Szükségünk van rövid és hosszú távú, független kutatásokra arról, hogy milyen hatással van a gyerekekre az MI-játékokkal való interakció, beleértve a szociális-érzelmi és kognitív fejlődésüket is” - mondta Franz.

A Pirg jelentése után az OpenAI bejelentette, hogy felfüggeszti a FoloToy működését. A játékcég vezérigazgatója a CNN-nek azt mondta, hogy kivonták a plüsst a piacról, és „belső biztonsági auditot” végeznek. A múlt héten azonban újra bevezették a terméket, és a cég péntek reggeli közleményében azt írta, hogy „átfogó, vállalati szintű belső biztonsági auditot indítottunk; megerősítettük és fejlesztettük a tartalommoderálási és gyermekbiztonsági védelmeinket; valamint továbbfejlesztett biztonsági szabályokat és védelmeket vezettünk be felhőalapú rendszerünkön keresztül”.

„Ahogy világszerte nő az MI-játékok biztonságával kapcsolatos figyelem, úgy hisszük, hogy az átláthatóság, a felelősségvállalás és a folyamatos fejlődés elengedhetetlen” - írták. „A FoloToy továbbra is elkötelezett amellett, hogy biztonságos, korosztálynak megfelelő MI-társakat készítsen gyerekeknek és családoknak szerte a világon.” A közlemény azonban nem erősítette meg, hogy konzultáltak-e független szakértőkkel, mielőtt visszatették volna a plüsst a piacra, pedig amikor levették a terméket, azt állították, hogy ezt meg fogják tenni.


RJ Cross, a Pirg fogyasztói adatvédelmi programjának igazgatója azt mondta, a FoloToy gyors fordulata „talán kissé túl gyorsnak tűnik egy átfogó biztonsági audithoz, de a lényeg az, hogy a legsürgetőbb problémákat kijavították-e”. Arra sürgette a céget, hogy engedjen hozzáférést külső szakértőknek, és hozzátette: ennek ellenére továbbra is kérdés, hogy bármilyen MI-„barát” jót tehet-e a gyerekeknek. „Nem tudjuk, hogy egy MI-társjáték milyen hatással lehet egy gyerek hosszú távú társas fejlődésére” - mondta. „Ez egy olyan kérdés, amelyre jelenleg egyetlen vállalati biztonsági audit sem tud választ adni.”

Az eset kapcsán 80 szervezet - köztük a Fairplay - közös figyelmeztetést adott ki, amelyben arra kérték a családokat, hogy idén ne vásároljanak MI-játékokat. „Az MI-játékokat biztonságosnak és a tanulást támogató eszközként reklámozzák a családok számára, még mielőtt független kutatások értékelték volna azok hatásait” - áll a közleményben. „Ezzel szemben az offline plüssmackók és hagyományos játékok bizonyítottan támogatják a gyerekek fejlődését, az MI-játékok kockázatai nélkül.” A Grok játékot gyártó Curio azt írta a Pirg jelentésének áttekintése után, hogy „aktívan együtt dolgozunk csapatunkkal a felmerült aggályok kezelésén, miközben folyamatosan felügyeljük a tartalmakat és az interakciókat annak érdekében, hogy biztonságos és élvezetes élményt nyújtsunk a gyerekeknek”.

A Mattel azt közölte, hogy OpenAI-val közös első termékei „a családokra és az idősebb vásárlókra összpontosítanak”, és hogy „az OpenAI API-k használata nem 13 év alattiak számára készült”. „Az MI kiegészíti - nem helyettesíti - a hagyományos játékot, és a biztonságra, a magánszférára, a kreativitásra és a felelős innovációra helyezzük a hangsúlyt” - írta a vállalat. Franz felidézte a Mattel korábbi adatvédelmi botrányait okos termékeivel kapcsolatban, majd hozzátette: „Jó, hogy a Mattel azt állítja, hogy MI-termékei nem kisgyerekek számára készülnek, de ha megnézzük, kik játszanak a játékokkal és kiknek reklámozzák őket, azok a kisgyerekek.” Majd így zárta: „Nagyon érdekel bennünket, hogy a Mattel pontosan milyen lépéseket tesz majd annak érdekében, hogy OpenAI-termékeiket valóban ne használják olyan gyerekek, akik biztosan felismerik és vonzónak találják ezeket a márkákat.”