SG.hu·
Satya Nadella szerint vészfékre van szükség az MI-modelleknél
Satya Nadella, a Microsoft vezérigazgatója a legújabb technológiai vezető, aki részletesen kifejtette véleményét arról, hogyan lehetne javítani az MI biztonságán.
Nadella szombat reggel az X-en közzétett bejegyzésében azt írta, itt az ideje, hogy „hátralépjünk egyet, és felmérjük az MI bizalmi architektúráját”. „Nem kezelhetjük a szuperintelligenciát egymásba ágyazott fekete dobozok halmazaként, és nem fogadhatjuk el vagy utasíthatjuk el egyszerűen az ajánlásait, válaszait és cselekedeteit” - írta Nadella, a Trump-kormányzat által előnyben részesített kifejezést használva az MI-re.
Nadella kifejtette, hogy ez a megközelítés „azt jelenti, hogy külön kell választani a modellt attól a vezérlőrétegtől, amely összehangolja a működését”, valamint „külsővé kell tenni az ellenőrzési mechanizmusokat és a védelmi intézkedéseket”. Emellett azt is szorgalmazta, hogy „minden érdemi modellműveletről” készüljön „hamisításbiztos, ember által olvasható bizonyíték”, továbbá olyan rendszereket kell kialakítani, amelyekben „egy arra jogosult személynek” mindig lehetősége van arra, hogy „a feladat végrehajtása közben szüneteltesse vagy leállítsa a modellt”.
„Feltételeznünk kell, hogy a modellt feltörték vagy kompromittálták, és már a kezdetektől korlátoznunk kell a mozgásterét” - mondta. „Gondoljunk erre úgy, mint egy vészfékre.” Nadella megjegyzései olyan időszakban hangzottak el, amikor a vezető MI-vállalatok egyre több olyan incidensről számolnak be, amelyek során úgy tűnt, elveszítették az ellenőrzést modelljeik felett. A nyilatkozatokra azután került sor, hogy Dario Amodei, az Anthropic vezérigazgatója közzétett egy tervet az MI óvatosabb fejlesztésére.
Nadella szombat reggel az X-en közzétett bejegyzésében azt írta, itt az ideje, hogy „hátralépjünk egyet, és felmérjük az MI bizalmi architektúráját”. „Nem kezelhetjük a szuperintelligenciát egymásba ágyazott fekete dobozok halmazaként, és nem fogadhatjuk el vagy utasíthatjuk el egyszerűen az ajánlásait, válaszait és cselekedeteit” - írta Nadella, a Trump-kormányzat által előnyben részesített kifejezést használva az MI-re.
Nadella kifejtette, hogy ez a megközelítés „azt jelenti, hogy külön kell választani a modellt attól a vezérlőrétegtől, amely összehangolja a működését”, valamint „külsővé kell tenni az ellenőrzési mechanizmusokat és a védelmi intézkedéseket”. Emellett azt is szorgalmazta, hogy „minden érdemi modellműveletről” készüljön „hamisításbiztos, ember által olvasható bizonyíték”, továbbá olyan rendszereket kell kialakítani, amelyekben „egy arra jogosult személynek” mindig lehetősége van arra, hogy „a feladat végrehajtása közben szüneteltesse vagy leállítsa a modellt”.
https://t.co/MjwFy73LOF
— Satya Nadella (@satyanadella) October 10, 2026
„Feltételeznünk kell, hogy a modellt feltörték vagy kompromittálták, és már a kezdetektől korlátoznunk kell a mozgásterét” - mondta. „Gondoljunk erre úgy, mint egy vészfékre.” Nadella megjegyzései olyan időszakban hangzottak el, amikor a vezető MI-vállalatok egyre több olyan incidensről számolnak be, amelyek során úgy tűnt, elveszítették az ellenőrzést modelljeik felett. A nyilatkozatokra azután került sor, hogy Dario Amodei, az Anthropic vezérigazgatója közzétett egy tervet az MI óvatosabb fejlesztésére.