Berta Sándor

Nvidia: szabályozni kell a mesterséges intelligenciát!

Jensen Huang cégvezető szerint a technológia veszélyei miatt jogi keretek közé kell szorítani azt, emellett megfelelő társadalmi normák is kellenek.

Jensen Huang, az nVidia vezérigazgatója kijelentette, hogy a mesterséges intelligencia feltörekvő területe nagy teljesítményű eszközöket fog létrehozni, amelyekhez jogi szabályozásra és társadalmi normákra egyaránt szükség van. Az utóbbiakat még ki kell dolgozni.

Huang a mesterséges intelligencia egyik legjelentősebb alakja, mivel az Nvidia chipjeit széles körben használják a területen. A menedzser most egy stockholmi rendezvényen beszélt, ahol a tisztviselők bejelentették, hogy Svédország az nVidia eszközeinek segítségével korszerűsíti a leggyorsabb, Berzelius nevű szuperszámítógépét, hogy segítse a különböző betegségek, például a rák megértését, és a készüléket a világ leggyorsabb mesterséges intelligencián alapuló szuperszámítógépei közé emelje. A korszerűsítés magában foglalja egy úgynevezett nagy nyelvi modell kifejlesztését, amely folyékonyan beszél majd svédül. A kutatók azt tervezik, hogy idővel egy 175 milliárd paraméterrel rendelkező modellt fejlesztenek ki, amely dánul és norvégul is folyékonyan beszélni fog.

A Knut és Alice Wallenberg Alapítvány által finanszírozott Berzeliust 2021-ben mutatták be a Linköpingi Egyetemen, amely az nVidia 60 leggyorsabb mesterséges intelligencia rendszerét tartalmazza. A készülék a frissítéssel további 34 rendszerrel bővül, amelyek a kép- és videófelismerésben, valamint a gyárakban használt autonóm megoldások területén is segítenek majd.

"Ha az élet bármely a társadalom számra kényelmes vagy csodálatos dolgát távolról nézzük, és végiggondoljuk a hatásait, akkor számolnunk kell potenciális veszélyekkel is." - mondta Huang, utalva arra, hogy a mesterséges intelligencia alkalmazásának is vannak előnyei és hátrányai. Az nVidia vezetője szerint a mérnöki szabványügyi testületeknek szabványokat kellene kidolgozniuk a biztonságos mesterséges intelligencia rendszerek létrehozására, hasonlóan ahhoz, ahogyan az orvosi testületek is protokollokat határoznak meg a gyógyítással kapcsolatban. Ugyanakkor hozzátette, hogy a törvények és a társadalmi normák kulcsszerepet játszanak majd a technológiában.

"Mi a társadalmi norma a mesterséges intelligencia használatának az esetében? Ki kell alakítani a használat jogi kereteit. A technológia még csak most alakul, és az a tény, hogy mindannyian beszélünk róla, sokkal jobb helyzetbe hoz minket ahhoz, hogy végül jó helyre kerüljenek a dolgok" - hangsúlyozta a szakember.

Hozzászólások

A témához csak regisztrált és bejelentkezett látogatók szólhatnak hozzá!
Bejelentkezéshez klikk ide
(Regisztráció a fórum nyitóoldalán)
  • nlght #4
    kb. a köv. 10 évben fog eldőlni hogy a világ disztópia vagy utópia irányt vesz, az MI-nek is erős hatása lesz erre a folyamatra sztem, egyelőre disztópia sokkal esélyesebbnek néz ki
  • And37 #3
    Egyáltalán nem konyítok a területhez, de szerintem egy rakás dolgot kellene szabályozni, ugyanúgy mint pl. a repülésben - ahogy fejlődött ez az új terület, rengeteg új szabály kellett hogy a Boeing ne a konyhádban landoljon kéthetente, légiirányítástól légifolyosókon át a tervezési és tesztelési szabályokig. Hogy betartják-e / be lehet-e tartatni, az más kérdés...

    Ha pl. csinálsz egy MI-t amivel autókat vezetsz, ezt licenceled autógyártóknak, és a 4.7-es frissítés hatására két hétig, a 4.8-asig rárántja a kocsit a kutyákra, ki lesz a felelős és fizeti a kártérítést, te, azaz a fejlesztő, az autógyártók vagy az autótulajdonosok?

    Ha Észak-Korea úgy dönt, hogy márpedig ő megépíti a szuperintelligenciát, és úgy tűnik, hogy pár hónapon belül eljut a gépük a technológiai szingularitás egy fura határára, amikor automatikusan begyűjti a világ összes leakjét az ezeket gyűjtő/kezelő rendszereket is feltörve, a törések révén pedig a világháló felett átveszi az irányítást úgy hogy az emberek kommunikálni sem képesek többé elektronikus eszközön csak az aktuális Kim pozitív listáján levő országokban de ott is csak Korea-barát módon, akkor az ehhez tartozó MI részegységek feljesztését lehet-e világszinten korlátozni, használatát büntetni? Tehát pl. az automatikus kódgenerálást, vagy a ChatGPT szintű kommunikáció révén végtelen mennyiségű személyre szabott, social engineering/pishing célú levél generálását? Ha az Amazonon hostolták, büntethető-e érte a vállalat, és rendeletileg percek alatt lelőhető-e a szolgáltatása?

    Ha csinálsz egy chatbotot ami automatikusan beleszáll minden oroszellenes kommentelőbe az összes eddigi chat-előzményeiket felhasználva személyeskedve, és ennek hatására páran a világon öngyilkosok lesznek, attól gyilkosnak számítasz-e, vagy csak az, aki futtatja? Ha véletlen ez a bot megszalad, és bizonyíthatóan elvezet a harmadik világháborúhoz, mert a létező összes konfliktust (Koszovó, Korea, Tajvan, India-Pakisztán stb.) elmérgesíti, akkor érdemes volna-e ezt megelőzőleg tiltani a közösségi oldalakon a botok kommentelési lehetőségeit? Kell-e hatóság, aminek az a feladata hogy az ilyeneket figyelje és időben (órákon-napokon belül) beavatkozzon akár a Facebook kommentek ideiglenes lelövésével?

    Csomó etikai kérdést kellene újragondolni, és az AI képességeket olyan szempontok szerint rangsorolni, hogy ha rosszra akarják használni, mi a legrosszabb amit el lehet vele érni, és ez alapján eldönteni, adott esetben a "fegyvergyártó" a bűnös, vagy a használója? Az atomfegyvereket gyártani akaró Irán miért kap szankciókat, és a lőszergyártó csehek miért nem? "Gyerekeknek", azaz bizonyíthatóan felelőtlen fejlesztőknek, vagy épp bűnözőknek a kezébe adhat-e az NVIDIA olyan szuperszámítógép-platformot, ami jó eséllyel rossz célokra lesz használva?

    Gondolom ezekről már tengernyi könyvet írtak, Asimovtól kezdődően, de azért nem ártana felkészíteni az emberiséget, hogy most olyan világ jön, amikor a te arcoddal és a te hangoddal nem feltétlenül te hívod a szüleidet, vagy amikor párhuzamosan több millió emberrel tud egyetlen személy érveléses, irányított kommunikációt folytatni jó vagy rossz célokkal úgy, hogy a másik fél nem tudja, valójában nem emberrel kommunikál, és az információs zaj olyan szintet fog elérni, amit még nem láttunk. És szándékosan nem érintettem a gépi intelligenciának az embert elérő/meghaladó szintjét, mert az megint egy teljesen más tészta, amikor a gép dönthet úgy, hogy lekapcsolja a "káros" emberiséget.
    Utoljára szerkesztette: And37, 2023.01.27. 05:01:02
  • dyra #2
    ááá nem tartaná be ezeket senki
  • Kryon #1
    Egyáltalán mit korlátoznának rajta? Amit ma MI nélkül tilos csinálni, azt nyilván azzal sem szabad. Egyéb nem nagyon jut eszembe. Szóval szerintem elég lenne a meglévő törvényeket betartatni.