SG.hu·
Hamis idézetek és téves hírek az MI asszisztensek válaszaiban
Az Európai Műsorszolgáltatók Uniója (EBU) és a BBC ma közzétett új kutatása szerint a vezető MI-asszisztensek válaszainak közel fele téves információkat tartalmaz a hírekkel kapcsolatban.
A nemzetközi kutatás 3000 választ vizsgált meg a hírekkel kapcsolatos kérdésekre a vezető mesterséges intelligencia asszisztensektől - olyan szoftveralkalmazásoktól, amelyek MI-t használnak a természetes nyelvű parancsok megértéséhez, hogy elvégezzék a felhasználó feladatait. A kutatás 14 nyelven értékelte az MI-asszisztensek pontosságát, forrásait és vélemény és tény megkülönböztetésére való képességét, beleértve a ChatGPT, Copilot, Gemini és Perplexity alkalmazásokat. A tanulmányban 18 ország 22 közszolgálati média szervezete vett részt, köztük Franciaország, Németország, Spanyolország, Ukrajna, Nagy-Britannia és az Egyesült Államok.
A kutatás eredményei szerint a vizsgált MI-válaszok 45%-a tartalmazott legalább egy jelentős problémát, 81%-uk pedig valamilyen formában problémás volt. A Google mesterséges intelligencia asszisztense, a Gemini korábban a weboldalán kijelentette, hogy örömmel fogadja a visszajelzéseket, hogy tovább tudja fejleszteni a platformot és még hasznosabbá tudja tenni a felhasználók számára. Az OpenAI és a Microsoft korábban kijelentette, hogy a hallucinációk – amikor egy mesterséges intelligencia modell helytelen vagy félrevezető információkat generál, gyakran olyan tényezők miatt, mint az elégtelen adatok – olyan probléma, amelyet megpróbálnak megoldani. A Perplexity weboldalán azt állítja, hogy egyik „mélyreható kutatási” módja 93,9%-os pontossággal rendelkezik a tények tekintetében.
A tanulmány szerint az MI-asszisztensek válaszainak harmada súlyos forráshibákat tartalmazott, például hiányzó, félrevezető vagy helytelen hivatkozásokat. A Google MI-asszisztense, a Gemini válaszainak mintegy 72%-a tartalmazott jelentős forráshibákat, míg az összes többi asszisztens esetében ez az arány 25% alatt volt. A pontosság problémái a vizsgált MI-asszisztensek válaszaiban 20%-ban fordultak elő, ideértve az elavult információkat is. A tanulmányban idézett példák között szerepelt, hogy a Gemini helytelenül állította az eldobható e-cigarettákra vonatkozó törvény változásait, a ChatGPT pedig Ferenc pápát jelentette be jelenlegi pápaként, több hónappal halála után.
Az EBU szerint az MI-asszisztensek egyre inkább felváltják a hagyományos hírmotorokat, ami alááshatja a közbizalmat. "Amikor az emberek nem tudják, miben bízzanak, végül semmiben sem bíznak, és ez visszatarthatja őket a demokratikus részvételtől” - mondta Jean Philip De Tender, az EBU médiaigazgatója egy nyilatkozatában. A Reuters Intézet 2025-ös digitális híradási jelentése szerint az összes online hírek fogyasztójának körülbelül 7%-a, a 25 év alattiak 15%-a használ mesterséges intelligencia asszisztenseket a hírek megszerzéséhez. Az új jelentés sürgette a mesterséges intelligencia vállalatokat, hogy vállaljanak felelősséget és javítsák mesterséges intelligencia asszisztenseik hírekkel kapcsolatos kérdésekre adott válaszait.
A nemzetközi kutatás 3000 választ vizsgált meg a hírekkel kapcsolatos kérdésekre a vezető mesterséges intelligencia asszisztensektől - olyan szoftveralkalmazásoktól, amelyek MI-t használnak a természetes nyelvű parancsok megértéséhez, hogy elvégezzék a felhasználó feladatait. A kutatás 14 nyelven értékelte az MI-asszisztensek pontosságát, forrásait és vélemény és tény megkülönböztetésére való képességét, beleértve a ChatGPT, Copilot, Gemini és Perplexity alkalmazásokat. A tanulmányban 18 ország 22 közszolgálati média szervezete vett részt, köztük Franciaország, Németország, Spanyolország, Ukrajna, Nagy-Britannia és az Egyesült Államok.
A kutatás eredményei szerint a vizsgált MI-válaszok 45%-a tartalmazott legalább egy jelentős problémát, 81%-uk pedig valamilyen formában problémás volt. A Google mesterséges intelligencia asszisztense, a Gemini korábban a weboldalán kijelentette, hogy örömmel fogadja a visszajelzéseket, hogy tovább tudja fejleszteni a platformot és még hasznosabbá tudja tenni a felhasználók számára. Az OpenAI és a Microsoft korábban kijelentette, hogy a hallucinációk – amikor egy mesterséges intelligencia modell helytelen vagy félrevezető információkat generál, gyakran olyan tényezők miatt, mint az elégtelen adatok – olyan probléma, amelyet megpróbálnak megoldani. A Perplexity weboldalán azt állítja, hogy egyik „mélyreható kutatási” módja 93,9%-os pontossággal rendelkezik a tények tekintetében.
A tanulmány szerint az MI-asszisztensek válaszainak harmada súlyos forráshibákat tartalmazott, például hiányzó, félrevezető vagy helytelen hivatkozásokat. A Google MI-asszisztense, a Gemini válaszainak mintegy 72%-a tartalmazott jelentős forráshibákat, míg az összes többi asszisztens esetében ez az arány 25% alatt volt. A pontosság problémái a vizsgált MI-asszisztensek válaszaiban 20%-ban fordultak elő, ideértve az elavult információkat is. A tanulmányban idézett példák között szerepelt, hogy a Gemini helytelenül állította az eldobható e-cigarettákra vonatkozó törvény változásait, a ChatGPT pedig Ferenc pápát jelentette be jelenlegi pápaként, több hónappal halála után.
Az EBU szerint az MI-asszisztensek egyre inkább felváltják a hagyományos hírmotorokat, ami alááshatja a közbizalmat. "Amikor az emberek nem tudják, miben bízzanak, végül semmiben sem bíznak, és ez visszatarthatja őket a demokratikus részvételtől” - mondta Jean Philip De Tender, az EBU médiaigazgatója egy nyilatkozatában. A Reuters Intézet 2025-ös digitális híradási jelentése szerint az összes online hírek fogyasztójának körülbelül 7%-a, a 25 év alattiak 15%-a használ mesterséges intelligencia asszisztenseket a hírek megszerzéséhez. Az új jelentés sürgette a mesterséges intelligencia vállalatokat, hogy vállaljanak felelősséget és javítsák mesterséges intelligencia asszisztenseik hírekkel kapcsolatos kérdésekre adott válaszait.