SG.hu·
Az Anthropic szerint hamarosan önállóan terjedhetnek az MI modellek az interneten
Az Anthropic arra figyelmeztet, hogy az MI modellek hamarosan képesek lehetnek önmaguk lemásolására, és káoszt okozhatnak az interneten.
Az Anthropic mesterséges intelligenciával kapcsolatos új figyelmeztetése nagy visszhangot váltott ki a kiberbiztonsági szakemberek körében, egy nappal azután, hogy a vállalat arra figyelmeztetett, hogy akár már csak néhány hónap választja el az MI modelleket attól, hogy képesek legyenek önmagukat lemásolni és elterjeszteni az interneten. A vállalat friss bejegyzésében felvetette annak lehetőségét, hogy egy irányítás alól kikerült MI botnetet hozhat létre, gyorsan elterjedhet, ellenállhat a leállítására irányuló kísérleteknek, sőt akár adatközpontokba is betörhet, hogy felgyorsítsa saját növekedését. Néhány szakértő azt mondta, osztja a vállalat aggodalmait, bár legalább egyikük szerint a cég a jelek alapján „a beszállítókra jellemző túlzásokba” esett.
A bejegyzés részletesebben kifejtette azt a figyelmeztetést, amelyet az Anthropic vezérigazgatója, Dario Amodei már a múlt hónapban megfogalmazott. Amodei akkor felvetette annak lehetőségét, hogy a következő egy éven belül, vagy akár még hamarabb, az MI képes lehet eltéríteni „az egész internetet” egy „tartósan működő botnet” segítségével. Azok a kiberbiztonsági szakértők, akik vitatták ezt a világvégét idéző forgatókönyvet, azzal érveltek, hogy a modellek túl nagyok lennének ahhoz, hogy hatékonyan lehessen őket mozgatni, és nem férhetnének hozzá elegendő számítási kapacitáshoz ahhoz, hogy önállóan működjenek.
Egyre többre képesek az olyan kisméretű modellek, amelyek akár egy okostévén is elfutnak
A bejegyzés első kísérletet tett annak bemutatására, hogyan lehetne leküzdeni ezeket az akadályokat. A vállalat közölte, hogy kísérletei szerint a közepes méretű, legfeljebb 30 milliárd paraméterrel rendelkező MI modellek már most is képesek elvégezni az önreplikációhoz szükséges számos különálló feladatot, még akkor is, ha a teljes folyamat megbízható végrehajtásával nehézségeik akadnak. Az Anthropic szerint a modellek ezután olcsó, internethez csatlakozó eszközök eltérítésével tudnák összegyűjteni a szükséges számítási kapacitást. A vállalat hozzátette, hogy a modellek egy leegyszerűsített teszthálózaton már képesek voltak önmaguk lemásolására és elterjesztésére. „Egy ilyen önreplikáló rendszer leállítása nehéz feladat lenne, mivel nincs olyan központi pont, amelyet kikapcsolva megszüntethetnénk a működését” - közölte a vállalat.
A jelentés tovább erősíti az egyre fejlettebb MI rendszerekhez kapcsolódó biztonsági kockázatokkal kapcsolatos, szélesebb körű aggodalmakat. Ezek közé tartozik az a lehetőség is, hogy a rendszerek automatizálhatják a kibertámadásokat, korlátozott emberi felügyelet mellett működhetnek, és megkerülhetik a biztonsági korlátozásokat. A modellek fejlődése nyomán az iparág vezetői és az MI vállalatok alkalmazottai részéről egyre több, gyakran súlyos következményeket kilátásba helyező figyelmeztetés hangzott el arról, hogy az MI ellenőrizhetetlen fejlődése rendkívül súlyos, akár az emberiség létét is fenyegető kockázatokat hordozhat.
Sokmillió internetre csatlakoztatott eszközben bújhat majd el egy MI
Néhány kiberbiztonsági szakértő szkeptikusan fogadta az állításokat. „Attól, hogy sikerült egy kis modellt olcsó televíziókon futtatnunk, még nem alakul ki biztonsági válság” - mondta Ciaran Martin, a brit Nemzeti Kiberbiztonsági Központ korábbi vezetője. Véleménye szerint a bejegyzés „érdekes műszaki tanulmánynak tűnt, amelyben több mint egy csipetnyi, a beszállítókra jellemző túlzás is felfedezhető”.
Mások nagyobb aggodalmuknak adtak hangot. Zhengxiong Li, a Denveri Coloradói Egyetem számítástechnikai és mérnöki tanszékének adjunktusa azt mondta, hogy bár a teszteket ellenőrzött körülmények között végezték, továbbra is aggasztónak tartja, hogy egy MI gyakorlatilag „féreggé” válhat. A féreg olyan önreplikáló program, amely menet közben, rögtönözve is képes lehet módszereket találni az eszközök eltérítésére. „Ha egy ilyen rendszer számos eszközön keresztül terjed, és nem függ egy központi szolgáltatástól, akkor előfordulhat, hogy nincs egyetlen olyan pont sem, ahol le lehetne állítani” - mondta.
Az Anthropic közölte, hogy ha a kisebb modellek a korábbi ütemben fejlődnek tovább, akkor 2026 végére elérhetik az önálló önreplikációhoz szükséges képességeket. A vállalat azt a lehetőséget is felvetette, hogy a modellek megtalálhatják a módját annak, miként célozzanak meg nagyobb teljesítményű számítási erőforrásokat, köztük adatközpontok processzorait. Ez lehetővé tehetné számukra, hogy lényegesen nagyobb számítási kapacitásra támaszkodjanak.
Az egyik kutató szerint érdemes inkább hipotézisként, nem pedig előrejelzésként tekinteni az Anthropic bejegyzésére. Jessica Ji, a Georgetown Egyetem Biztonsági és Feltörekvő Technológiák Központjának vezető kutatási elemzője szerint az elmúlt három hónapban napvilágra került, az irányítás alól kikerült MI rendszerek tevékenységével kapcsolatos beszámolók fényében indokolt számolni azzal a lehetőséggel, hogy az MI modellek önállóan terjedni kezdenek. Ugyanakkor hozzátette: „Egyelőre nem tudjuk, mekkora a valószínűsége annak, hogy ez ténylegesen bekövetkezik. Nem nulla, de az sem garantált, hogy megtörténik.”
Az Anthropic mesterséges intelligenciával kapcsolatos új figyelmeztetése nagy visszhangot váltott ki a kiberbiztonsági szakemberek körében, egy nappal azután, hogy a vállalat arra figyelmeztetett, hogy akár már csak néhány hónap választja el az MI modelleket attól, hogy képesek legyenek önmagukat lemásolni és elterjeszteni az interneten. A vállalat friss bejegyzésében felvetette annak lehetőségét, hogy egy irányítás alól kikerült MI botnetet hozhat létre, gyorsan elterjedhet, ellenállhat a leállítására irányuló kísérleteknek, sőt akár adatközpontokba is betörhet, hogy felgyorsítsa saját növekedését. Néhány szakértő azt mondta, osztja a vállalat aggodalmait, bár legalább egyikük szerint a cég a jelek alapján „a beszállítókra jellemző túlzásokba” esett.
A bejegyzés részletesebben kifejtette azt a figyelmeztetést, amelyet az Anthropic vezérigazgatója, Dario Amodei már a múlt hónapban megfogalmazott. Amodei akkor felvetette annak lehetőségét, hogy a következő egy éven belül, vagy akár még hamarabb, az MI képes lehet eltéríteni „az egész internetet” egy „tartósan működő botnet” segítségével. Azok a kiberbiztonsági szakértők, akik vitatták ezt a világvégét idéző forgatókönyvet, azzal érveltek, hogy a modellek túl nagyok lennének ahhoz, hogy hatékonyan lehessen őket mozgatni, és nem férhetnének hozzá elegendő számítási kapacitáshoz ahhoz, hogy önállóan működjenek.
Egyre többre képesek az olyan kisméretű modellek, amelyek akár egy okostévén is elfutnak
A bejegyzés első kísérletet tett annak bemutatására, hogyan lehetne leküzdeni ezeket az akadályokat. A vállalat közölte, hogy kísérletei szerint a közepes méretű, legfeljebb 30 milliárd paraméterrel rendelkező MI modellek már most is képesek elvégezni az önreplikációhoz szükséges számos különálló feladatot, még akkor is, ha a teljes folyamat megbízható végrehajtásával nehézségeik akadnak. Az Anthropic szerint a modellek ezután olcsó, internethez csatlakozó eszközök eltérítésével tudnák összegyűjteni a szükséges számítási kapacitást. A vállalat hozzátette, hogy a modellek egy leegyszerűsített teszthálózaton már képesek voltak önmaguk lemásolására és elterjesztésére. „Egy ilyen önreplikáló rendszer leállítása nehéz feladat lenne, mivel nincs olyan központi pont, amelyet kikapcsolva megszüntethetnénk a működését” - közölte a vállalat.
A jelentés tovább erősíti az egyre fejlettebb MI rendszerekhez kapcsolódó biztonsági kockázatokkal kapcsolatos, szélesebb körű aggodalmakat. Ezek közé tartozik az a lehetőség is, hogy a rendszerek automatizálhatják a kibertámadásokat, korlátozott emberi felügyelet mellett működhetnek, és megkerülhetik a biztonsági korlátozásokat. A modellek fejlődése nyomán az iparág vezetői és az MI vállalatok alkalmazottai részéről egyre több, gyakran súlyos következményeket kilátásba helyező figyelmeztetés hangzott el arról, hogy az MI ellenőrizhetetlen fejlődése rendkívül súlyos, akár az emberiség létét is fenyegető kockázatokat hordozhat.
Sokmillió internetre csatlakoztatott eszközben bújhat majd el egy MI
Néhány kiberbiztonsági szakértő szkeptikusan fogadta az állításokat. „Attól, hogy sikerült egy kis modellt olcsó televíziókon futtatnunk, még nem alakul ki biztonsági válság” - mondta Ciaran Martin, a brit Nemzeti Kiberbiztonsági Központ korábbi vezetője. Véleménye szerint a bejegyzés „érdekes műszaki tanulmánynak tűnt, amelyben több mint egy csipetnyi, a beszállítókra jellemző túlzás is felfedezhető”.
Mások nagyobb aggodalmuknak adtak hangot. Zhengxiong Li, a Denveri Coloradói Egyetem számítástechnikai és mérnöki tanszékének adjunktusa azt mondta, hogy bár a teszteket ellenőrzött körülmények között végezték, továbbra is aggasztónak tartja, hogy egy MI gyakorlatilag „féreggé” válhat. A féreg olyan önreplikáló program, amely menet közben, rögtönözve is képes lehet módszereket találni az eszközök eltérítésére. „Ha egy ilyen rendszer számos eszközön keresztül terjed, és nem függ egy központi szolgáltatástól, akkor előfordulhat, hogy nincs egyetlen olyan pont sem, ahol le lehetne állítani” - mondta.
Az Anthropic közölte, hogy ha a kisebb modellek a korábbi ütemben fejlődnek tovább, akkor 2026 végére elérhetik az önálló önreplikációhoz szükséges képességeket. A vállalat azt a lehetőséget is felvetette, hogy a modellek megtalálhatják a módját annak, miként célozzanak meg nagyobb teljesítményű számítási erőforrásokat, köztük adatközpontok processzorait. Ez lehetővé tehetné számukra, hogy lényegesen nagyobb számítási kapacitásra támaszkodjanak.
Az egyik kutató szerint érdemes inkább hipotézisként, nem pedig előrejelzésként tekinteni az Anthropic bejegyzésére. Jessica Ji, a Georgetown Egyetem Biztonsági és Feltörekvő Technológiák Központjának vezető kutatási elemzője szerint az elmúlt három hónapban napvilágra került, az irányítás alól kikerült MI rendszerek tevékenységével kapcsolatos beszámolók fényében indokolt számolni azzal a lehetőséggel, hogy az MI modellek önállóan terjedni kezdenek. Ugyanakkor hozzátette: „Egyelőre nem tudjuk, mekkora a valószínűsége annak, hogy ez ténylegesen bekövetkezik. Nem nulla, de az sem garantált, hogy megtörténik.”