Berta Sándor
Szoftverekkel is befolyásolhatók lesznek az emberek
A kutatók már olyan rendszereken dolgoznak, amelyekkel megváltoztatható lesz akár a teljes lakosság véleménye is.
Oliviero Stock, a Center for Information and Communication Technology munkatársa és kollégái olyan szoftvereket fejlesztenek, amelyek az érzelmekre való ráhatással képesek befolyásolni az embereket. Jelenleg ez úgy működik, hogy a meglévő szövegeket úgy módosítják, hogy azok bizonyos üzenetet hordozzanak. A jövőben az intelligens algoritmusok képesek lesznek arra, hogy a humor és a kreativitás segítségével önállóan is működjenek. A reklámipar és a politika megpróbálja majd a szoftverekkel célzottan manipulálni az embereket. Az automatizált befolyás elleni védelem szintén intelligens programokkal valósul majd meg.
"A világ legjobb sakkjátékosa egy gép. Úgy hiszem, hogy a sakkhoz nem csupán erő kell, hanem bizonyos fokú intelligencia is. A nyelv területén hosszútávon a gépek ugyanúgy viselkedhetnek majd, mint az emberek, de azt nem tudom megmondani, hogy valaha öntudatra fognak-e ébredni. 20 évvel ezelőttig az volt a cél, hogy a gépek megértsék a beszédet és a kutatók eközben bepillantást nyerhessenek az emberi agynak a beszéddel összefüggő folyamataiba. Az internetnek köszönhetően azonban minden valaha leírt információ elérhetővé vált a gépi elemzéshez. Az aktuális rendszerek az adatelemzések segítségével tanulnak. Ez egy paradigmaváltás volt. Bizonyos, korlátolt nyelvtani területeken a gépek már majdnem olyan ügyesek, mint mi, míg más területeken le vannak maradva mögöttünk. Vannak olyan dolgok, amelyeket a tanulási algoritmusokkal nehezen lehet elérni" - jelentette ki a szakértő.
Oliviero Stock biztos abban, hogy ha öntudatuk nem is, de személyiségük - idővel - lesz a gépeknek, azonban ez az időszak még nem érkezett el. Nyilván, mint minden esetben, ezen a területen is fennáll a visszaélések veszélye. Tény, hogy az ilyen megoldásokat arra is fel lehet majd használni, hogy valaki befolyásolja a lakosság véleményét, álláspontját a külföldiekkel szemben vagy vonzóvá tegye az egészséges életstílust. Ez etikailag nehéz dolog, s ezért foglalkoznak ő és a kollégái a munkájuk kezdete óta az etikai kérdésekkel is.
Nem csak arról van szó, hogy valami jó vagy rossz a társadalom számára, hanem arról is, hogy a rendszerek a döntéseiket a morális szempontokhoz igazítsák. Egy okos rendszer a jövőben megérti majd, hogy mit tehet és mit nem. Néhány helyzetben például elfogadható, hogy a gép hazudjon, például, ha ég egy ház és a lakók nem akarják elhagyni az otthonaikat. Ilyenkor a megmentésük érdekében megengedhető lenne egy hazugság a gép részéről. De még az ilyen, jó célért bekövetkező manipulációk is megkérdőjelezhetők és kérdés marad, hogy ki irányítja a rendszert.
Az egyes megoldások képességei folyamatosan javulni fognak és hosszútávon a rendszerek önállóan oldják majd meg a feladataikat. Ehhez viszont elengedhetetlen, hogy meg tudják különböztetni egymástól a jó és a rossz dolgokat. Szerinte ez meg fog történni, ha szeretnénk, ha nem. Nyilván fennáll a veszélye annak, hogy a gépek átveszik az irányítást, de egyrészt ennek az esélye nagyon kicsi, másrészt, ha ilyesmi be is következik, attól még nagyon messze vagyunk. Sokkal inkább tarthatunk az emberektől, ugyanis gyakorlatilag nincs olyan dolog, amit az emberek ne tennének meg egymás ellen. Mindenesetre a gépek segíthetnek nekünk abban, hogy kordában tarthassuk ezeket a dolgokat.
"A felméréseink alapján az emberek nagyon érzékenyek arra, hogy a gépek megpróbálják őket befolyásolni. Amennyiben általánosságban kérdezzük meg őket erről és nem nevezzük meg a befolyásolás konkrét módját, akkor majdnem mindig azt mondják, hogy ez elfogadhatatlan. De ha egy konkrét célt nevezünk meg, akkor a befolyásolást elfogadhatónak tartják. Figyelemre méltó, hogy az embereknek ritkán van problémájuk a más emberek által készített reklámokkal. Dolgozunk egy olyan szoftveren, amely megvédi az embereket a befolyásolástól. Így felismerhetők például az újságcikkekben lévő befolyásolási kísérletek és egyúttal figyelmeztethetők a felhasználók is. Elvileg még a szövegek új, befolyásolási részektől mentes változata is elérhetővé válhat."
"A reklámipar mindenesetre egyike lesz azon ágazatoknak, amelyek az ilyen rendszereket elsőként fogják alkalmazni. Az általunk kifejlesztett technológiák hamarosan megjelennek majd a piacon. A segítségükkel a különböző üzeneteket célzottan az egyes személyekhez vagy helyzetekhez lehet igazítani. ez pedig vonzó a reklámipar számára" - hangsúlyozta a Center for Information and Communication Technology munkatársa.
Oliviero Stock végül leszögezte, hogy a meggyőzést célzó rendszereknek sokkal pontosabbá kell válniuk és jobban figyelembe kell venniük az emberek személyiségét. A gépek segíteni fognak a kreatív embereknek abban, hogy gyorsabbak és hatékonyabbak legyenek. Lesznek olyan munkák, amelyek megszűnnek, éppúgy, mint az ipari forradalom idején. Annyi a különbség, hogy most már bizonyos intellektuális munkákat is érinteni fog a jelenség. De a bojkott, ahogy akkor, úgy most sem jelent megoldást. A társadalomnak okosan kell majd reagálnia az új helyzetre, a problémát komolyan kell venni és tanulmányozni. Az intelligens rendszerek továbbfejlesztésének korlátozása szerinte viszont mindenképpen rossz válasz lenne, ezt a fejlődést ugyanis nem lehet feltartóztatni. Az emberiségnek ki kell dolgoznia az új társadalmi koncepciókat és azokkal kísérleteznie kell.
Oliviero Stock, a Center for Information and Communication Technology munkatársa és kollégái olyan szoftvereket fejlesztenek, amelyek az érzelmekre való ráhatással képesek befolyásolni az embereket. Jelenleg ez úgy működik, hogy a meglévő szövegeket úgy módosítják, hogy azok bizonyos üzenetet hordozzanak. A jövőben az intelligens algoritmusok képesek lesznek arra, hogy a humor és a kreativitás segítségével önállóan is működjenek. A reklámipar és a politika megpróbálja majd a szoftverekkel célzottan manipulálni az embereket. Az automatizált befolyás elleni védelem szintén intelligens programokkal valósul majd meg.
"A világ legjobb sakkjátékosa egy gép. Úgy hiszem, hogy a sakkhoz nem csupán erő kell, hanem bizonyos fokú intelligencia is. A nyelv területén hosszútávon a gépek ugyanúgy viselkedhetnek majd, mint az emberek, de azt nem tudom megmondani, hogy valaha öntudatra fognak-e ébredni. 20 évvel ezelőttig az volt a cél, hogy a gépek megértsék a beszédet és a kutatók eközben bepillantást nyerhessenek az emberi agynak a beszéddel összefüggő folyamataiba. Az internetnek köszönhetően azonban minden valaha leírt információ elérhetővé vált a gépi elemzéshez. Az aktuális rendszerek az adatelemzések segítségével tanulnak. Ez egy paradigmaváltás volt. Bizonyos, korlátolt nyelvtani területeken a gépek már majdnem olyan ügyesek, mint mi, míg más területeken le vannak maradva mögöttünk. Vannak olyan dolgok, amelyeket a tanulási algoritmusokkal nehezen lehet elérni" - jelentette ki a szakértő.
Oliviero Stock biztos abban, hogy ha öntudatuk nem is, de személyiségük - idővel - lesz a gépeknek, azonban ez az időszak még nem érkezett el. Nyilván, mint minden esetben, ezen a területen is fennáll a visszaélések veszélye. Tény, hogy az ilyen megoldásokat arra is fel lehet majd használni, hogy valaki befolyásolja a lakosság véleményét, álláspontját a külföldiekkel szemben vagy vonzóvá tegye az egészséges életstílust. Ez etikailag nehéz dolog, s ezért foglalkoznak ő és a kollégái a munkájuk kezdete óta az etikai kérdésekkel is.
Nem csak arról van szó, hogy valami jó vagy rossz a társadalom számára, hanem arról is, hogy a rendszerek a döntéseiket a morális szempontokhoz igazítsák. Egy okos rendszer a jövőben megérti majd, hogy mit tehet és mit nem. Néhány helyzetben például elfogadható, hogy a gép hazudjon, például, ha ég egy ház és a lakók nem akarják elhagyni az otthonaikat. Ilyenkor a megmentésük érdekében megengedhető lenne egy hazugság a gép részéről. De még az ilyen, jó célért bekövetkező manipulációk is megkérdőjelezhetők és kérdés marad, hogy ki irányítja a rendszert.
Az egyes megoldások képességei folyamatosan javulni fognak és hosszútávon a rendszerek önállóan oldják majd meg a feladataikat. Ehhez viszont elengedhetetlen, hogy meg tudják különböztetni egymástól a jó és a rossz dolgokat. Szerinte ez meg fog történni, ha szeretnénk, ha nem. Nyilván fennáll a veszélye annak, hogy a gépek átveszik az irányítást, de egyrészt ennek az esélye nagyon kicsi, másrészt, ha ilyesmi be is következik, attól még nagyon messze vagyunk. Sokkal inkább tarthatunk az emberektől, ugyanis gyakorlatilag nincs olyan dolog, amit az emberek ne tennének meg egymás ellen. Mindenesetre a gépek segíthetnek nekünk abban, hogy kordában tarthassuk ezeket a dolgokat.
"A felméréseink alapján az emberek nagyon érzékenyek arra, hogy a gépek megpróbálják őket befolyásolni. Amennyiben általánosságban kérdezzük meg őket erről és nem nevezzük meg a befolyásolás konkrét módját, akkor majdnem mindig azt mondják, hogy ez elfogadhatatlan. De ha egy konkrét célt nevezünk meg, akkor a befolyásolást elfogadhatónak tartják. Figyelemre méltó, hogy az embereknek ritkán van problémájuk a más emberek által készített reklámokkal. Dolgozunk egy olyan szoftveren, amely megvédi az embereket a befolyásolástól. Így felismerhetők például az újságcikkekben lévő befolyásolási kísérletek és egyúttal figyelmeztethetők a felhasználók is. Elvileg még a szövegek új, befolyásolási részektől mentes változata is elérhetővé válhat."
"A reklámipar mindenesetre egyike lesz azon ágazatoknak, amelyek az ilyen rendszereket elsőként fogják alkalmazni. Az általunk kifejlesztett technológiák hamarosan megjelennek majd a piacon. A segítségükkel a különböző üzeneteket célzottan az egyes személyekhez vagy helyzetekhez lehet igazítani. ez pedig vonzó a reklámipar számára" - hangsúlyozta a Center for Information and Communication Technology munkatársa.
Oliviero Stock végül leszögezte, hogy a meggyőzést célzó rendszereknek sokkal pontosabbá kell válniuk és jobban figyelembe kell venniük az emberek személyiségét. A gépek segíteni fognak a kreatív embereknek abban, hogy gyorsabbak és hatékonyabbak legyenek. Lesznek olyan munkák, amelyek megszűnnek, éppúgy, mint az ipari forradalom idején. Annyi a különbség, hogy most már bizonyos intellektuális munkákat is érinteni fog a jelenség. De a bojkott, ahogy akkor, úgy most sem jelent megoldást. A társadalomnak okosan kell majd reagálnia az új helyzetre, a problémát komolyan kell venni és tanulmányozni. Az intelligens rendszerek továbbfejlesztésének korlátozása szerinte viszont mindenképpen rossz válasz lenne, ezt a fejlődést ugyanis nem lehet feltartóztatni. Az emberiségnek ki kell dolgoznia az új társadalmi koncepciókat és azokkal kísérleteznie kell.