Berta Sándor
Mesterséges intelligencia - a biztonságra is ügyelni kellene
Nemzetközi szakértők fiktív esetekkel igyekeztek felhívni a figyelmet a technológiával kapcsolatos lehetséges visszaélésekre.
Húsz elismert kutató és biztonsági szakértő, köztük az Oxfordi és a Cambridge-i Egyetem munkatársai, valamint az OpenAI kezdeményezés és az Electronic Frontier Foundation (EFF) tagjai, nem csupán a kockázatokat ecsetelték, hanem javaslatokat is tettek arra, hogy miként lehetne elkerülni a visszaéléseket. A 100 oldalas tanulmány elsődleges célja a politikusok és a kutatóközösségek figyelmeztetése arra, hogy a mesterséges intelligencia nemcsak hasznos és jó lehet, hanem veszélyes is, különösen akkor, ha nem kerül sor megfelelő szabályozásra, valamint a szervezeti és a technikai biztonsági intézkedések továbbfejlesztésére.
A kigondolt példák azt illusztrálták, hogy a bűnözői tevékenységek - a gépi tanulás és az automatikus mintafelismerés segítségével - egy minőségileg új szintre juthatnak el. A már ma is létező támadásokat továbbfejleszthetik, továbbá új és eddig nem igazán realisztikus támadási technikák jelenhetnek meg.
A szakértők javaslatai szerint a politikusoknak meg kell bizonyosodniuk arról, hogy valóban ismerik a technikát és abban rejlő lehetőségeket, illetve azok határait, mert csak így tudják azokat észszerűen szabályozni. A mesterséges intelligencia kutatóknak a fejlesztéseik során mindig gondolniuk kell a visszaélési lehetőségekre, és a munkáikba IT-biztonsági szempontokat is integrálniuk kell azért, hogy megvédjék a mesterséges intelligencia rendszereket és más programokat a hackertámadásokkal szemben. Szerintük fontos lenne az is, hogy ne legyen minden tudományos eredmény mindenki számára elérhető. Különösen ez utóbbi számít vitatott javaslatnak, hiszen számos cég és tudós úgy érezheti, hogy ezáltal korlátozhatják a munkáját és az információcserét. A tudományos anyagok megjelentetésének lehetősége és az információcsere nélkül pedig a fejlődés lelassulhat. A tanulmány szerzői rámutattak, hogy nem akarták a mesterséges intelligenciához kapcsolódó technikákat és alkalmazásokat ördögtől valónak beállítani, csak arra utaltak, hogy minden dolog felhasználható jó és rossz célokra.
Húsz elismert kutató és biztonsági szakértő, köztük az Oxfordi és a Cambridge-i Egyetem munkatársai, valamint az OpenAI kezdeményezés és az Electronic Frontier Foundation (EFF) tagjai, nem csupán a kockázatokat ecsetelték, hanem javaslatokat is tettek arra, hogy miként lehetne elkerülni a visszaéléseket. A 100 oldalas tanulmány elsődleges célja a politikusok és a kutatóközösségek figyelmeztetése arra, hogy a mesterséges intelligencia nemcsak hasznos és jó lehet, hanem veszélyes is, különösen akkor, ha nem kerül sor megfelelő szabályozásra, valamint a szervezeti és a technikai biztonsági intézkedések továbbfejlesztésére.
A kigondolt példák azt illusztrálták, hogy a bűnözői tevékenységek - a gépi tanulás és az automatikus mintafelismerés segítségével - egy minőségileg új szintre juthatnak el. A már ma is létező támadásokat továbbfejleszthetik, továbbá új és eddig nem igazán realisztikus támadási technikák jelenhetnek meg.
A szakértők javaslatai szerint a politikusoknak meg kell bizonyosodniuk arról, hogy valóban ismerik a technikát és abban rejlő lehetőségeket, illetve azok határait, mert csak így tudják azokat észszerűen szabályozni. A mesterséges intelligencia kutatóknak a fejlesztéseik során mindig gondolniuk kell a visszaélési lehetőségekre, és a munkáikba IT-biztonsági szempontokat is integrálniuk kell azért, hogy megvédjék a mesterséges intelligencia rendszereket és más programokat a hackertámadásokkal szemben. Szerintük fontos lenne az is, hogy ne legyen minden tudományos eredmény mindenki számára elérhető. Különösen ez utóbbi számít vitatott javaslatnak, hiszen számos cég és tudós úgy érezheti, hogy ezáltal korlátozhatják a munkáját és az információcserét. A tudományos anyagok megjelentetésének lehetősége és az információcsere nélkül pedig a fejlődés lelassulhat. A tanulmány szerzői rámutattak, hogy nem akarták a mesterséges intelligenciához kapcsolódó technikákat és alkalmazásokat ördögtől valónak beállítani, csak arra utaltak, hogy minden dolog felhasználható jó és rossz célokra.