Berta Sándor
Mesterséges intelligenciával a kiberzaklatások ellen
Az új rendszer automatikusan felismeri majd az internetes sértéseket. Még több év, mire használható lesz.
A megoldást a Siri készítésében is szerepet vállaló SRI International kutatóintézet munkatársai fejlesztik, reményeik szerint megkönnyítheti a moderátorok jövőbeli munkáját. Az új számítógépes algoritmus képes lesz nem csupán magától felismerni az online fenyegetéseket, hanem reagálni is azokra. A cég szerint komoly piaci rés alakult ki a kiberzaklatások globális térhódítása, és a számtalan online bejegyzés gyakorlati áttekinthetetlensége miatt. Ekkor merült fel bennük, hogy a helyzeten segíthetne egy szoftver.
A sértéseket azért nehéz kiszűrni, mert a szavakat mindig összefüggéseikben kell szemlélni. Nem elegendő tehát egy adott szövegben kizárólag a káromkodásokat felkutatni, sokkal inkább fel kell ismerni az akár burkolt fenyegetéseket és a negatív véleményeket, jelzőket is. Az emberek számára ez könnyű feladat (bár az ironiával sokak hadilábon állnak), de a gépek jelenleg még nem rendelkeznek ezzel a képességgel. A munka során a kutatók számára segítséget jelentettek a Siri és a hozzá hasonló rendszerek fejlesztésében szerzett tapasztalatok, ugyanis a szövegek megértése jelenti az alapokat a sértő internetes bejegyzések felismeréséhez és kiszűréséhez.
Az új rendszer első változatai már 6-12 hónapon belül elérhetővé válhatnak, ugyanakkor sokkal több időbe telik majd, mire a megoldások kiforrottak és hibamentesek lesznek. A követelmények szigorúak: a mesterséges intelligenciának először a szavak jelentését kell megértenie, majd a nyelvtant és a mondatok felépítését kell tanulmányoznia, s csak ezután jöhet annak vizsgálata, hogy az adott szöveg tartalmaz-e sértő részeket. A rendszer olyan hatalmas adatmennyiségeket fog átnézni, amelyeket előtte részben már megvizsgáltak a moderátorok. Mindez segíthet az algoritmusnak a tanulásban és abban, hogy a jövőben önállóan is végezhesse a munkáját. A hosszú távú cél a moderátorok kiváltása. Ugyan a rendszer nem lesz képes megakadályozni a kiberzaklatásokat, de nagy mértékben csökkentheti azok hatásait.
A megoldást a Siri készítésében is szerepet vállaló SRI International kutatóintézet munkatársai fejlesztik, reményeik szerint megkönnyítheti a moderátorok jövőbeli munkáját. Az új számítógépes algoritmus képes lesz nem csupán magától felismerni az online fenyegetéseket, hanem reagálni is azokra. A cég szerint komoly piaci rés alakult ki a kiberzaklatások globális térhódítása, és a számtalan online bejegyzés gyakorlati áttekinthetetlensége miatt. Ekkor merült fel bennük, hogy a helyzeten segíthetne egy szoftver.
A sértéseket azért nehéz kiszűrni, mert a szavakat mindig összefüggéseikben kell szemlélni. Nem elegendő tehát egy adott szövegben kizárólag a káromkodásokat felkutatni, sokkal inkább fel kell ismerni az akár burkolt fenyegetéseket és a negatív véleményeket, jelzőket is. Az emberek számára ez könnyű feladat (bár az ironiával sokak hadilábon állnak), de a gépek jelenleg még nem rendelkeznek ezzel a képességgel. A munka során a kutatók számára segítséget jelentettek a Siri és a hozzá hasonló rendszerek fejlesztésében szerzett tapasztalatok, ugyanis a szövegek megértése jelenti az alapokat a sértő internetes bejegyzések felismeréséhez és kiszűréséhez.
Az új rendszer első változatai már 6-12 hónapon belül elérhetővé válhatnak, ugyanakkor sokkal több időbe telik majd, mire a megoldások kiforrottak és hibamentesek lesznek. A követelmények szigorúak: a mesterséges intelligenciának először a szavak jelentését kell megértenie, majd a nyelvtant és a mondatok felépítését kell tanulmányoznia, s csak ezután jöhet annak vizsgálata, hogy az adott szöveg tartalmaz-e sértő részeket. A rendszer olyan hatalmas adatmennyiségeket fog átnézni, amelyeket előtte részben már megvizsgáltak a moderátorok. Mindez segíthet az algoritmusnak a tanulásban és abban, hogy a jövőben önállóan is végezhesse a munkáját. A hosszú távú cél a moderátorok kiváltása. Ugyan a rendszer nem lesz képes megakadályozni a kiberzaklatásokat, de nagy mértékben csökkentheti azok hatásait.