SG.hu
Jó és gonosz mesterséges intellgencia fog harcolni egymás ellen
A kiberbiztonsági közösségnek ki kell használnia a mesterséges intelligencia erejét. A DevSecOps csapatok erőforrás-korlátjai miatt az automatizálás és a mesterséges intelligencia stratégiai erőforrássá válik.
A héten San Franciscóban megrendezett RSA-konferenciát megnyitó Rohit Ghai, az RSA vezérigazgatója szerint "a mesterséges intelligencia miatt mi, emberek teljesen össze fogunk zavarodni a világban betöltött szerepünkkel kapcsolatban. Fenyegető identitásválsággal nézünk szembe. Az MI meg fogja kérdőjelezni az önképet" - mondta Ghai. A chatrobotok által előállított avatárok, mélyhamisítványok, hamis személyazonosságok, félrevezető és kitalált információk, amelyek rossz és/vagy haszontalan adatokkal árasztják el a hálózatokat... honnan a fenéből tudjuk majd egyáltalán, hogy kik vagyunk mi magunk? Kiben bízhatunk? Kiben kellene bíznod? Vajon az online világ a jövőben minden tevékenységünkre vonatkozóan egy zéró bizalmi univerzummá válik?"
"Minden új technológiai hullám nagyobb, szélesebb körű, gyorsabb és zavaróbb, mint az előző. Ez most sincs másképp" - mondta Ghai. Szerinte az identitástechnológia már három bomlasztó technológiai hullámot élt át. Az első az internet volt. "Annak az időszaknak a jellemzője az összekapcsolhatóság volt. Minden összekapcsolódott, és a mi ágazatunk biztosította ezeket a kapcsolatokat" - mondta Ghai. A második a mobil/felhő hullám. "Ezt az jellemezte, hogy a fejlesztőközpontú gondolkodásmódról a fogyasztóközpontúságra váltottunk. Minden a dolgok megkönnyítéséről szólt. Kiszolgáltuk a felhasználók kényelemszeretet és lehetővé tettük az egyszerű bejelentkezést, a biometrikus hitelesítést és a hozzáférés-kezelést" - mondta.
A harmadik hullám a mostani MI/adat hullám. "Mindannyian érezzük, hogy tetőzik. Halljuk az óceán morajlását" - mondta Ghai. "A könnyen elérhető generatív mesterséges intelligencia, a 175 milliárd(!) paraméterrel rendelkező nagy nyelvi modellek, a nagy technológiai cégek óriási befektetései és az élénk startup ökoszisztéma segítik az MI-t abban, hogy az alkalmazás-szintű technológiából platformképességgé váljon. A mesterséges intelligencia azt is eredményezi majd, hogy az emberek teljesen összezavarodnak a világban betöltött szerepünkkel kapcsolatban - mondta.
"Gondolkodjunk el az identitás technológia alapvető célján. Miért létezik? A személyazonosság világában mindig is három céllal kellett zsonglőrködnünk: a megfelelés, a kényelem és a biztonság. Ez nem kis feladat" - mondta Ghai. Szerinte rengeteg segítségre lesz szükségünk - többek között a mesterséges intelligenciától - ahhoz, hogy ezt hatékonyan tudjuk elvégezni. Ahogy a technológia három hullámán átkeltünk, a személyazonossági platformok alapvető céljaival kapcsolatos elvárásaink is megváltoztak - mondta Ghai. "Az internet korszakában a megfelelés volt az első (majd a biztonság és a kényelem); a mobil/felhő korszakban a kényelem volt az első (majd a biztonság és a megfelelés). A mesterséges intelligencia korszakában a biztonság az első (amit a kényelem és a megfelelés követ)" - mondta Ghai.
"Gondoljunk csak az okostelefonokra: a nevük meghazudtolja, hogy valójában mire használjuk őket" - mondta Ghai. "Ma már nem a telefonálás a készülék alapvető célja. Ez még mindig egy funkció, de nem a fő cél. Ehelyett a fő célja az interneten keresztül történő szolgáltatások elérése. Hasonlóképpen elavult az "identitás- és hozzáférés-kezelő platform" kifejezés is. A hozzáférés- és személyazonosság-kezelés ugyanolyan alapvető funkciók, mint a telefonhívás. Ma egy identitásplatform alapvető célja a biztonság. A mesterséges intelligencia korszakában identitásbiztonsági platformra van szükségünk" - mondta Ghai.
A mesterséges intelligencia képes figyelni és tanulni a tényleges hozzáféréseket, és idővel olyan finomabb hozzáférési modelleket alkotni, amelyeket az emberek nem tudnának feldolgozni - mondta. Hasonlóképpen, a mesterséges intelligencia több millió jogosultsági kapcsolatot tud kezelni, szemben a több ezerrel. "Már nem elegendő a felhasználói felületet integrálni és az összes riasztást egy közös konzolra helyezni. Ehelyett a mesterséges intelligenciát az adatrétegbe kell integrálnunk" - mondta Ghai. "A platformjainkat az adatokból építve kapjuk meg azokat az emberfeletti meglátásokat, szakértői és döntéstámogatást, amelyekre a kiberbiztonságnak szüksége lesz a növekvő támadási felület védelméhez."
A mesterséges intelligencia/adat hullámban "az identitás-technológiára úgy kell gondolnunk, mint döntések sorozatára - kinek, miért, mikor és mihez legyen hozzáférése? Ezekhez a döntésekhez betekintésre van szükségünk. Olyan betekintésre és értelmezésre, amely az adatokon alapuló következtetésekből származik" - mondta Ghai. A személyazonossági eszközeinkben lévő "jó mesterséges intelligencia" nélkül a zéró bizalomnak nincs esélye a sikerre. "A gonosz mesterséges intelligencának a személyazonosság egy könnyű célpont" - mondta.
Ghai szerint a kiberfenyegetések szereplői mindig is használták az automatizálást a támadások indításához. "Most a mesterséges intelligenciát használják ki, hogy nagyon kifinomult social engineering kampányokat indítsanak. Érzelmileg manipulatív, meggyőző és csábító nyelvezetű adathalászatot folytatnak. Hozzáteszem, nyelvtani hibák nélkül" - mondta. "Prompt bombázó támadásokat hajtanak végre, hogy legyőzzék az MFA-t, a többtényezős hitelesítést amikor a legsebezhetőbbek vagyunk. Szükségünk van a Jó MI-re az oldalunkon, hogy kiszimatoljuk ezeket a kifinomult és könyörtelen kampányokat, amelyeket a Rossz MI indított"."
Ghai - aki 2020 szeptemberében vette át a vezérigazgatói tisztséget - a mintegy kétezer fős, zsúfolásig megtelt teremben elmondta, hogy az MI-rendszerek hatalmas szerepet fognak játszani a következő generációs biztonsági platformokban. A fejlett algoritmusok már most is nagymértékben jelen vannak a piacon: 10 nagy gyártó és több mint 50 startup jelentett be a technológián alapuló kiberbiztonsági terméket. "Hogy ne ijesszenek meg minket, embereket, a legtöbb ilyen képességet egyfajta másodpilóta-modellként pozícionálták, ahol az ember ugyanazt a munkát végzi az MI segítségével. De ez csak elkendőzi azt az ijesztő igazságot, hogy sok munkahely megszűnik, sok megváltozik, és néhány új keletkezik. Ez a kiberbiztonság szempontjából talán jó dolog, mert nincs elég emberi tehetségünk." - mondta Rohit Ghai.
Ghai szerint egy átlagos szervezetnek 277 napba telik, mire azonosítja az adatvédelmi incidenseket, ráadásul a riasztások 50%-át figyelmen kívül hagyják a túl nagy mennyiségű értesítés miatt. A védekezéshez Ghai olyan platformot javasolt, amely a személyazonosság teljes életciklusát lefedi. Az MI-val, mint másodpilótával együttműködve az emberek nagyobb hatalmat kapnak, hogy hatásos döntéseket hozzanak. "A jó MI meg fogja védeni a kibertérséget, mi, az identitás emberei pedig a jó MI-t fogjuk megvédeni. Ahhoz, hogy felkészüljünk erre az MI által vezérelt világra, szembe kell néznünk az identitásválsággal, el kell képzelnünk a szerepünket és ki kell alakítanunk a helyünket. Ghai egy kérdéssel zárta beszédét: hogyan biztosíthatjuk az emberfeletti mesterséges intelligencia összehangolását az emberi értékekkel és célokkal, hogy valóban értelmes szerepünk legyen a jövőben?
A héten San Franciscóban megrendezett RSA-konferenciát megnyitó Rohit Ghai, az RSA vezérigazgatója szerint "a mesterséges intelligencia miatt mi, emberek teljesen össze fogunk zavarodni a világban betöltött szerepünkkel kapcsolatban. Fenyegető identitásválsággal nézünk szembe. Az MI meg fogja kérdőjelezni az önképet" - mondta Ghai. A chatrobotok által előállított avatárok, mélyhamisítványok, hamis személyazonosságok, félrevezető és kitalált információk, amelyek rossz és/vagy haszontalan adatokkal árasztják el a hálózatokat... honnan a fenéből tudjuk majd egyáltalán, hogy kik vagyunk mi magunk? Kiben bízhatunk? Kiben kellene bíznod? Vajon az online világ a jövőben minden tevékenységünkre vonatkozóan egy zéró bizalmi univerzummá válik?"
"Minden új technológiai hullám nagyobb, szélesebb körű, gyorsabb és zavaróbb, mint az előző. Ez most sincs másképp" - mondta Ghai. Szerinte az identitástechnológia már három bomlasztó technológiai hullámot élt át. Az első az internet volt. "Annak az időszaknak a jellemzője az összekapcsolhatóság volt. Minden összekapcsolódott, és a mi ágazatunk biztosította ezeket a kapcsolatokat" - mondta Ghai. A második a mobil/felhő hullám. "Ezt az jellemezte, hogy a fejlesztőközpontú gondolkodásmódról a fogyasztóközpontúságra váltottunk. Minden a dolgok megkönnyítéséről szólt. Kiszolgáltuk a felhasználók kényelemszeretet és lehetővé tettük az egyszerű bejelentkezést, a biometrikus hitelesítést és a hozzáférés-kezelést" - mondta.
A harmadik hullám a mostani MI/adat hullám. "Mindannyian érezzük, hogy tetőzik. Halljuk az óceán morajlását" - mondta Ghai. "A könnyen elérhető generatív mesterséges intelligencia, a 175 milliárd(!) paraméterrel rendelkező nagy nyelvi modellek, a nagy technológiai cégek óriási befektetései és az élénk startup ökoszisztéma segítik az MI-t abban, hogy az alkalmazás-szintű technológiából platformképességgé váljon. A mesterséges intelligencia azt is eredményezi majd, hogy az emberek teljesen összezavarodnak a világban betöltött szerepünkkel kapcsolatban - mondta.
"Gondolkodjunk el az identitás technológia alapvető célján. Miért létezik? A személyazonosság világában mindig is három céllal kellett zsonglőrködnünk: a megfelelés, a kényelem és a biztonság. Ez nem kis feladat" - mondta Ghai. Szerinte rengeteg segítségre lesz szükségünk - többek között a mesterséges intelligenciától - ahhoz, hogy ezt hatékonyan tudjuk elvégezni. Ahogy a technológia három hullámán átkeltünk, a személyazonossági platformok alapvető céljaival kapcsolatos elvárásaink is megváltoztak - mondta Ghai. "Az internet korszakában a megfelelés volt az első (majd a biztonság és a kényelem); a mobil/felhő korszakban a kényelem volt az első (majd a biztonság és a megfelelés). A mesterséges intelligencia korszakában a biztonság az első (amit a kényelem és a megfelelés követ)" - mondta Ghai.
"Gondoljunk csak az okostelefonokra: a nevük meghazudtolja, hogy valójában mire használjuk őket" - mondta Ghai. "Ma már nem a telefonálás a készülék alapvető célja. Ez még mindig egy funkció, de nem a fő cél. Ehelyett a fő célja az interneten keresztül történő szolgáltatások elérése. Hasonlóképpen elavult az "identitás- és hozzáférés-kezelő platform" kifejezés is. A hozzáférés- és személyazonosság-kezelés ugyanolyan alapvető funkciók, mint a telefonhívás. Ma egy identitásplatform alapvető célja a biztonság. A mesterséges intelligencia korszakában identitásbiztonsági platformra van szükségünk" - mondta Ghai.
A mesterséges intelligencia képes figyelni és tanulni a tényleges hozzáféréseket, és idővel olyan finomabb hozzáférési modelleket alkotni, amelyeket az emberek nem tudnának feldolgozni - mondta. Hasonlóképpen, a mesterséges intelligencia több millió jogosultsági kapcsolatot tud kezelni, szemben a több ezerrel. "Már nem elegendő a felhasználói felületet integrálni és az összes riasztást egy közös konzolra helyezni. Ehelyett a mesterséges intelligenciát az adatrétegbe kell integrálnunk" - mondta Ghai. "A platformjainkat az adatokból építve kapjuk meg azokat az emberfeletti meglátásokat, szakértői és döntéstámogatást, amelyekre a kiberbiztonságnak szüksége lesz a növekvő támadási felület védelméhez."
A mesterséges intelligencia/adat hullámban "az identitás-technológiára úgy kell gondolnunk, mint döntések sorozatára - kinek, miért, mikor és mihez legyen hozzáférése? Ezekhez a döntésekhez betekintésre van szükségünk. Olyan betekintésre és értelmezésre, amely az adatokon alapuló következtetésekből származik" - mondta Ghai. A személyazonossági eszközeinkben lévő "jó mesterséges intelligencia" nélkül a zéró bizalomnak nincs esélye a sikerre. "A gonosz mesterséges intelligencának a személyazonosság egy könnyű célpont" - mondta.
Ghai szerint a kiberfenyegetések szereplői mindig is használták az automatizálást a támadások indításához. "Most a mesterséges intelligenciát használják ki, hogy nagyon kifinomult social engineering kampányokat indítsanak. Érzelmileg manipulatív, meggyőző és csábító nyelvezetű adathalászatot folytatnak. Hozzáteszem, nyelvtani hibák nélkül" - mondta. "Prompt bombázó támadásokat hajtanak végre, hogy legyőzzék az MFA-t, a többtényezős hitelesítést amikor a legsebezhetőbbek vagyunk. Szükségünk van a Jó MI-re az oldalunkon, hogy kiszimatoljuk ezeket a kifinomult és könyörtelen kampányokat, amelyeket a Rossz MI indított"."
Ghai - aki 2020 szeptemberében vette át a vezérigazgatói tisztséget - a mintegy kétezer fős, zsúfolásig megtelt teremben elmondta, hogy az MI-rendszerek hatalmas szerepet fognak játszani a következő generációs biztonsági platformokban. A fejlett algoritmusok már most is nagymértékben jelen vannak a piacon: 10 nagy gyártó és több mint 50 startup jelentett be a technológián alapuló kiberbiztonsági terméket. "Hogy ne ijesszenek meg minket, embereket, a legtöbb ilyen képességet egyfajta másodpilóta-modellként pozícionálták, ahol az ember ugyanazt a munkát végzi az MI segítségével. De ez csak elkendőzi azt az ijesztő igazságot, hogy sok munkahely megszűnik, sok megváltozik, és néhány új keletkezik. Ez a kiberbiztonság szempontjából talán jó dolog, mert nincs elég emberi tehetségünk." - mondta Rohit Ghai.
Ghai szerint egy átlagos szervezetnek 277 napba telik, mire azonosítja az adatvédelmi incidenseket, ráadásul a riasztások 50%-át figyelmen kívül hagyják a túl nagy mennyiségű értesítés miatt. A védekezéshez Ghai olyan platformot javasolt, amely a személyazonosság teljes életciklusát lefedi. Az MI-val, mint másodpilótával együttműködve az emberek nagyobb hatalmat kapnak, hogy hatásos döntéseket hozzanak. "A jó MI meg fogja védeni a kibertérséget, mi, az identitás emberei pedig a jó MI-t fogjuk megvédeni. Ahhoz, hogy felkészüljünk erre az MI által vezérelt világra, szembe kell néznünk az identitásválsággal, el kell képzelnünk a szerepünket és ki kell alakítanunk a helyünket. Ghai egy kérdéssel zárta beszédét: hogyan biztosíthatjuk az emberfeletti mesterséges intelligencia összehangolását az emberi értékekkel és célokkal, hogy valóban értelmes szerepünk legyen a jövőben?