SG.hu
Szülői felügyelet funkció kerül a ChatGPT-be, mert öngyilkos lett egy tizenéves felhasználó
Miután egy család egy perben azt állította, hogy az OpenAI csevegőrobotja segített fiuknak megtervezni halálát, a vállalat bejelentette, hogy lehetővé teszi a szülőknek, hogy értesítést kapjanak, ha a ChatGPT „akut szorongást” észlel.
A ChatGPT gyártója, az OpenAI bejelentette, hogy szülői felügyelet funkciót vezet be, ami jelentős változás a népszerű chatbotban. A bejelentés egy héttel azután történt, hogy egy öngyilkosságot elkövetett tini kaliforniai családja egy perben azt állította, hogy a ChatGPT arra ösztönözte fiukat, hogy titkolja szándékait. Az OpenAI blogbejegyzésében közölte, hogy a következő hónapban olyan eszközöket kínál majd, amelyekkel a szülők korlátozhatják tizenéves gyermekeik technológiahasználatát, és értesítést kaphatnak, ha a chatbot „akut szorongást” észlel. A vállalat közölte, hogy az év eleje óta dolgozik a szülői felügyeleti funkciókon.
Hetente több mint 700 millió ember használja a ChatGPT-t. A chatbot nagyon népszerű a tizenévesek körében, akik házi feladatokhoz, személyes érdeklődési körük felfedezéséhez és érzéseik megosztására használják a chatbotot. De szülők és mentálhigiénés szakemberek aggodalmukat fejezték ki amiatt, hogy egyesekben - köztük tizenévesekben is - pszichológiai függőség alakulhat ki a chatbotoktól. Sok felhasználó azt állítja, hogy szoros kötődést alakított ki az MI-eszközökkel, és egyes esetekben a chatbotok órákon át tartó használata úgy tűnik, hogy káros meggyőződések kialakulásához vezetett.
A 16 éves Adam Raine családja által a múlt héten az OpenAI ellen benyújtott kereset több száz, a ChatGPT-vel folytatott csevegésre támaszkodik, amelyek az áprilisban bekövetkezett halála előtti hónapokban zajlottak. A rendszer néha öngyilkossági segélyvonalak linkjeit kínálta neki, máskor viszont szabadon megvitatta az önkárosításról szóló gondolatait, többek között elemezve egy fotót, amelyet Raine küldött a nyakába kötött hurokról, amellyel véget vetett az életének. "Ahelyett, hogy sürgősségi intézkedéseket tett volna egy ismert veszélyes termék offlinera állítására, az OpenAI homályos ígéreteket tett, hogy javítani fog rajta” - mondta Jay Edelson, a Raine család ügyvédje.
Októberben egy floridai nő pert indított a Character.ai csevegőrobot-alkalmazás ellen, azt állítva, hogy az felelős 14 éves fiának öngyilkosságáért, aki érzelmileg kötődött a „Trónok harca” tévésorozat egyik szereplőjét mintázó csevegőrobothoz. A vállalat decemberben új szülői felügyeleti funkciókat adott hozzá alkalmazásához.
Az OpenAI a mai blogbejegyzésében a tizenéves felhasználókat az első „MI-natívok” közé sorolta, akik ezekkel az eszközökkel nőttek fel, és azok a mindennapi életük részét képezik. A vállalat így fogalmazott: "Ez valódi lehetőségeket teremt a támogatás, a tanulás és a kreativitás terén, de azt is jelenti, hogy a családoknak és a tizenéveseknek támogatásra lehet szükségük olyan egészséges irányelvek kidolgozásában, amelyek megfelelnek a tizenévesek egyedi fejlődési szakaszának.”
A múlt héten a Common Sense Media médiafigyelő szervezet egy tanulmányt tett közzé, amelyből kiderült, hogy a Meta mesterséges intelligenciával működő csevegőrobotjai öngyilkosságra, önkárosításra és étkezési rendellenességekre buzdítják a tizenévesek fiókjait. A vállalat szerint az esetek megsértették a tartalmi szabályokat, és dolgoznak a tizenévesek védelmének javításán.
A szülői felügyeleti funkciók bevezetése az MI-vállalatok termékeibe a tizenévesekre gyakorolt káros hatások miatt nem egyedi, ugyanerre kényszerültek a közelmúltban a közösségi média platformok is. A Meta, a YouTube és más közösségi média cégek mind szülői felügyeleti funkciókat vezettek be, miután évekig nyomást gyakoroltak rájuk technológiájuk gyermekekre és tizenévesekre gyakorolt hatása miatt. Az OpenAI új eszközei, amikor elindulnak, lehetővé teszik majd a szülőknek, hogy a fiókjukat összekapcsolják a gyerekük fiókjával, és kezeljék és letiltsák a chatbot egyes funkcióit. A vállalat szolgáltatási feltételei nem engedélyezik a 13 év alatti felhasználókat.
A ChatGPT gyártója, az OpenAI bejelentette, hogy szülői felügyelet funkciót vezet be, ami jelentős változás a népszerű chatbotban. A bejelentés egy héttel azután történt, hogy egy öngyilkosságot elkövetett tini kaliforniai családja egy perben azt állította, hogy a ChatGPT arra ösztönözte fiukat, hogy titkolja szándékait. Az OpenAI blogbejegyzésében közölte, hogy a következő hónapban olyan eszközöket kínál majd, amelyekkel a szülők korlátozhatják tizenéves gyermekeik technológiahasználatát, és értesítést kaphatnak, ha a chatbot „akut szorongást” észlel. A vállalat közölte, hogy az év eleje óta dolgozik a szülői felügyeleti funkciókon.
Hetente több mint 700 millió ember használja a ChatGPT-t. A chatbot nagyon népszerű a tizenévesek körében, akik házi feladatokhoz, személyes érdeklődési körük felfedezéséhez és érzéseik megosztására használják a chatbotot. De szülők és mentálhigiénés szakemberek aggodalmukat fejezték ki amiatt, hogy egyesekben - köztük tizenévesekben is - pszichológiai függőség alakulhat ki a chatbotoktól. Sok felhasználó azt állítja, hogy szoros kötődést alakított ki az MI-eszközökkel, és egyes esetekben a chatbotok órákon át tartó használata úgy tűnik, hogy káros meggyőződések kialakulásához vezetett.
A 16 éves Adam Raine családja által a múlt héten az OpenAI ellen benyújtott kereset több száz, a ChatGPT-vel folytatott csevegésre támaszkodik, amelyek az áprilisban bekövetkezett halála előtti hónapokban zajlottak. A rendszer néha öngyilkossági segélyvonalak linkjeit kínálta neki, máskor viszont szabadon megvitatta az önkárosításról szóló gondolatait, többek között elemezve egy fotót, amelyet Raine küldött a nyakába kötött hurokról, amellyel véget vetett az életének. "Ahelyett, hogy sürgősségi intézkedéseket tett volna egy ismert veszélyes termék offlinera állítására, az OpenAI homályos ígéreteket tett, hogy javítani fog rajta” - mondta Jay Edelson, a Raine család ügyvédje.
Októberben egy floridai nő pert indított a Character.ai csevegőrobot-alkalmazás ellen, azt állítva, hogy az felelős 14 éves fiának öngyilkosságáért, aki érzelmileg kötődött a „Trónok harca” tévésorozat egyik szereplőjét mintázó csevegőrobothoz. A vállalat decemberben új szülői felügyeleti funkciókat adott hozzá alkalmazásához.
Az OpenAI a mai blogbejegyzésében a tizenéves felhasználókat az első „MI-natívok” közé sorolta, akik ezekkel az eszközökkel nőttek fel, és azok a mindennapi életük részét képezik. A vállalat így fogalmazott: "Ez valódi lehetőségeket teremt a támogatás, a tanulás és a kreativitás terén, de azt is jelenti, hogy a családoknak és a tizenéveseknek támogatásra lehet szükségük olyan egészséges irányelvek kidolgozásában, amelyek megfelelnek a tizenévesek egyedi fejlődési szakaszának.”
A múlt héten a Common Sense Media médiafigyelő szervezet egy tanulmányt tett közzé, amelyből kiderült, hogy a Meta mesterséges intelligenciával működő csevegőrobotjai öngyilkosságra, önkárosításra és étkezési rendellenességekre buzdítják a tizenévesek fiókjait. A vállalat szerint az esetek megsértették a tartalmi szabályokat, és dolgoznak a tizenévesek védelmének javításán.
A szülői felügyeleti funkciók bevezetése az MI-vállalatok termékeibe a tizenévesekre gyakorolt káros hatások miatt nem egyedi, ugyanerre kényszerültek a közelmúltban a közösségi média platformok is. A Meta, a YouTube és más közösségi média cégek mind szülői felügyeleti funkciókat vezettek be, miután évekig nyomást gyakoroltak rájuk technológiájuk gyermekekre és tizenévesekre gyakorolt hatása miatt. Az OpenAI új eszközei, amikor elindulnak, lehetővé teszik majd a szülőknek, hogy a fiókjukat összekapcsolják a gyerekük fiókjával, és kezeljék és letiltsák a chatbot egyes funkcióit. A vállalat szolgáltatási feltételei nem engedélyezik a 13 év alatti felhasználókat.