4
-
nlght #4 kb. a köv. 10 évben fog eldőlni hogy a világ disztópia vagy utópia irányt vesz, az MI-nek is erős hatása lesz erre a folyamatra sztem, egyelőre disztópia sokkal esélyesebbnek néz ki -
And37 #3 Egyáltalán nem konyítok a területhez, de szerintem egy rakás dolgot kellene szabályozni, ugyanúgy mint pl. a repülésben - ahogy fejlődött ez az új terület, rengeteg új szabály kellett hogy a Boeing ne a konyhádban landoljon kéthetente, légiirányítástól légifolyosókon át a tervezési és tesztelési szabályokig. Hogy betartják-e / be lehet-e tartatni, az más kérdés...
Ha pl. csinálsz egy MI-t amivel autókat vezetsz, ezt licenceled autógyártóknak, és a 4.7-es frissítés hatására két hétig, a 4.8-asig rárántja a kocsit a kutyákra, ki lesz a felelős és fizeti a kártérítést, te, azaz a fejlesztő, az autógyártók vagy az autótulajdonosok?
Ha Észak-Korea úgy dönt, hogy márpedig ő megépíti a szuperintelligenciát, és úgy tűnik, hogy pár hónapon belül eljut a gépük a technológiai szingularitás egy fura határára, amikor automatikusan begyűjti a világ összes leakjét az ezeket gyűjtő/kezelő rendszereket is feltörve, a törések révén pedig a világháló felett átveszi az irányítást úgy hogy az emberek kommunikálni sem képesek többé elektronikus eszközön csak az aktuális Kim pozitív listáján levő országokban de ott is csak Korea-barát módon, akkor az ehhez tartozó MI részegységek feljesztését lehet-e világszinten korlátozni, használatát büntetni? Tehát pl. az automatikus kódgenerálást, vagy a ChatGPT szintű kommunikáció révén végtelen mennyiségű személyre szabott, social engineering/pishing célú levél generálását? Ha az Amazonon hostolták, büntethető-e érte a vállalat, és rendeletileg percek alatt lelőhető-e a szolgáltatása?
Ha csinálsz egy chatbotot ami automatikusan beleszáll minden oroszellenes kommentelőbe az összes eddigi chat-előzményeiket felhasználva személyeskedve, és ennek hatására páran a világon öngyilkosok lesznek, attól gyilkosnak számítasz-e, vagy csak az, aki futtatja? Ha véletlen ez a bot megszalad, és bizonyíthatóan elvezet a harmadik világháborúhoz, mert a létező összes konfliktust (Koszovó, Korea, Tajvan, India-Pakisztán stb.) elmérgesíti, akkor érdemes volna-e ezt megelőzőleg tiltani a közösségi oldalakon a botok kommentelési lehetőségeit? Kell-e hatóság, aminek az a feladata hogy az ilyeneket figyelje és időben (órákon-napokon belül) beavatkozzon akár a Facebook kommentek ideiglenes lelövésével?
Csomó etikai kérdést kellene újragondolni, és az AI képességeket olyan szempontok szerint rangsorolni, hogy ha rosszra akarják használni, mi a legrosszabb amit el lehet vele érni, és ez alapján eldönteni, adott esetben a "fegyvergyártó" a bűnös, vagy a használója? Az atomfegyvereket gyártani akaró Irán miért kap szankciókat, és a lőszergyártó csehek miért nem? "Gyerekeknek", azaz bizonyíthatóan felelőtlen fejlesztőknek, vagy épp bűnözőknek a kezébe adhat-e az NVIDIA olyan szuperszámítógép-platformot, ami jó eséllyel rossz célokra lesz használva?
Gondolom ezekről már tengernyi könyvet írtak, Asimovtól kezdődően, de azért nem ártana felkészíteni az emberiséget, hogy most olyan világ jön, amikor a te arcoddal és a te hangoddal nem feltétlenül te hívod a szüleidet, vagy amikor párhuzamosan több millió emberrel tud egyetlen személy érveléses, irányított kommunikációt folytatni jó vagy rossz célokkal úgy, hogy a másik fél nem tudja, valójában nem emberrel kommunikál, és az információs zaj olyan szintet fog elérni, amit még nem láttunk. És szándékosan nem érintettem a gépi intelligenciának az embert elérő/meghaladó szintjét, mert az megint egy teljesen más tészta, amikor a gép dönthet úgy, hogy lekapcsolja a "káros" emberiséget.
Utoljára szerkesztette: And37, 2023.01.27. 05:01:02 -
dyra #2 ááá nem tartaná be ezeket senki -
Kryon #1 Egyáltalán mit korlátoznának rajta? Amit ma MI nélkül tilos csinálni, azt nyilván azzal sem szabad. Egyéb nem nagyon jut eszembe. Szóval szerintem elég lenne a meglévő törvényeket betartatni.