8
-
defiant9 #8 "megpedig ami tavvezerelt az elteritheto"
Az ICBM is távvezérléssel indul, mégsem tudta senki meghackelni ahogy a műholdakat sem a hackerek állítgatják. Ma meg már 2^n+1 bites titkosítások világában élünk, azt sem tudják megtörni hogy a böngésződdel adatot kapsz https-en keresztül, egy military grade drone pedig nyilvánvalóan titkosított command csatornát fog használni, a video upink-nél ez nem lenne kritikus, de ma már nagyon olcsó erre is HW-es titkosítást beépíteni. Az sokkal valószínűbb hogy egy ember az átvilágítások ellenére is szabotálja az akciót, a gépeknek nem lesznek olyan titkos motivációik amik az elérendő céllal ellentétesek. Egyébként nem régi hír hogy a rosszindulatú sejtburjánzással kapcsolatos döntésben már jobb az AI. Valahol az RPG-s fickó a gépágyús terepjárón sem más mint egy rákos sejttömeg az ép sejtek közt. -
kvp #7 "A civileket ért ua. vagy akár megnövekedett számú támadás/collateral damage ellenszere pedig nem egy méghatékonyabb AI lesz, sokkal inkább egy jól felépített, elterelő jellegű médiakampány."
Ez max. arra jo, hogy a nyugati vilagban ne panaszkodjanak annyira ha a katonai megoldas alapja vegul egy-egy nagyobb nepirtas lesz. Egy amerikai katona mondta anno a veluk jarorozo hirados stabnak, hogy szerinte a talibok valojaban a helyi civilek. Es igen, ez volt anno az amerikai fuggetlensegi haboruban is az alap strategia, azaz csak akkor nyerhette volna meg anglia, ha kiirtjak az osszes amerikait. Ezek tenyleg megnyerhetlen haboruk, kieve ha a robotokat a teljes lakossag modszeres kiirtasara vetik be. Viszont a ami vilagban hamarabb kerul ki egy ilyen hir a netre es hamarabb akasztja ki vagy az adott orszag sajat lakossagat vagy egy ellenredekelt orszag vezeteset, mint hogy a hadmuvelet befejezodjon. (jo pelda erre Jemen esete, ha beszallnak az amerikaiak, akkor az oroszok telenyomjak modern fegyverekkel az irani tamogatasu helyi csapatokat, csak azert hogy keresztbe tegyenek az amerikaiaknak es egy nagyobb haboruval elkaszaljak a voros tengeri kereskedelmet is nyugateuropa fele)
Van egy masik veszely is, megpedig ami tavvezerelt az elteritheto, ami autonom az pedig feltorheto. Es egyre inkabb ugy nez ki, hogy olcsobb par hacker-t megfizteni mint kikepezni tobb tizezer katonat vagy legyartani tobb ezer robotot. Nagyon konnyen visszaharaphat egy uj atomata fegyver es ezt a katonakon es a biztonsagi szakertokon kivul nagyjabol senki nem hajlando manapsag belatni. -
#6
Szerintem azt látni kell, hogy a robotok, MI alkalmazásának okai nem azok elsődlegesen, hogy a jelenlegi rendszernél egy jobbat, hatékonyabbat hozzanak létre.
Ha a kérdést persze úgy tesszük fel, hogy a jobb elsősorban költséghatékonyabb, sőt olyan, amely rendszernek alkalmazása kevésbé rázós politikailag, akkor a válasz persze igen. Az MI-nél, robotnál hosszabtávon alacsonyabb költséggel kell majd valszeg számolni, mint a humán erőforrásnál, és az is sokat dob a népszerűséget illetően a latba, hogy kevesebb csillagos sávos lobogóval letakart koporsót fuvaroznak majd haza várhatóan a hadszintérről. A civileket ért ua. vagy akár megnövekedett számú támadás/collateral damage ellenszere pedig nem egy méghatékonyabb AI lesz, sokkal inkább egy jól felépített, elterelő jellegű médiakampány. -
Cat #5 Szerintem csak kapacitás és fejlettség kérdése, hogy mikor és mennyi döntési jogkör kerülhet át az egyes eszközökbe. Már megjelent az első olyan okostelefon, amelynél a - nyilván korlátozott képességű - intelligencia offline is működik, szóval szerintem néhány éven belül változni fog a szakértők véleménye. -
kvp #4 A google rendszere arra jo, hogy kategorizalja a latott kepeket. Ezeket az operatorok altal adott korabbi cimkek szerint teszi. Tehat ha az operatorok arra tanitjak be, hogy az eskuvoi menet vagy az iskolaudvar katonai celpontok, akkor a jovoben az MI is annak fogja jelolni oket. Mivel ezen cimkek alapjan dontenek az operatorok a celpontok megsemmisiteserol, ezert ha a szoftver hibasan van betanitva, akkor hibas donteseket fog okozni. Teljesen mindegy, hogy ki jeloli meg a celpontokat, ha egyszer megvan a cimke akkor tobbnyire mindig lonek. Ehhez jon meg hozza az, hogy a gepek donteseit jobban elfogadjak az emberek, tehat ha a tuzgomb ember kezeben is maradna, ezzel az MI hasznalataval akkor is noni fog a tevedesek szama. Na most a Google alkalmazottaknak nem sok kedvuk volt hozza, hogy ebben segitsenek.
Amit irtam a tevekenyseg kiszervezeserol ezek szerint masoknak is eszebe jutott, szoval annyi valtozik hogy varhatoan nem a Google neve alatt, de az o algoritmusaikat tovabbfejlesztve fog folytatodni a project. Az, hogy a project tesztfazisanak a vegen megnezik, hogy hany szazalekban biralta felul az ember a gepi dontest (es megsem lott civilekre) azt jelentheti, hogy amennyiben ez a szam 0, akkor kihagyhato az emberi operator es a gep maga donthet arrol, hogy mire akar loni es mire nem. Nem lesz tole kevesebb civil aldozat, sot mivel kevesebb operator kell, ezert tobb robot kuldheto fel jarorozni, igy akar nohet is a tamadasok es ezzel aranyosan a civil aldozatok szama.
Egy robot nagyon jo tud lenni abban, hogy ne artson senkinek es abban is hogy mindenkinek artson. Szetvalogatni nem tudja az embereket, de mivel ez tobbnyire az embereknek sem megy, ezert ez valoszinuleg nem a gepek hibaja. Ha ilyen feladatra rakunk be egy gepet amit ember tanit be, akkor a legjobb esetben is csak az emberi hibaaranyt fogja hozni. -
Csatabika #3 A pénz beszél a kutya ugat.
Valószínűleg (több) tucat cég áll készenlétben, hogy átvegye a Google helyét, ha nem máris ezen a projecten dolgoznak párhuzamosan (a Pentagonban ilyen dolgokat nem szoktak kockáztatni).
Az, hogy felvételeket elemzünk, még önmagában szerintem nem probléma.
Az, hogy milyen célból elemezzük, már megér egy átgondolást, de a cikkben is vázolt szerint (több adat, pontosabb összkép, kevesebb polgári áldozat stb.) véleményem szerint még mindig elfogadható.
A dolog ott kezd fokozódni, hogy az eredmények alapján, ki és milyen döntést hoz feltételezve, hogy az ember kezében van a döntés. Hiszen még két ember sem mindig dönt egyformán, mi nem a szimpla matematika szerint működünk (tekintsünk el most az agymosásos tréningektől).
A dolog csúcsa pedig az amikor részben-egészben kiemeljük a döntést az ember kezéből. Bár az MI kutatás rohamosan fejlődik, szerintem még elég messze vagyunk attól, hogy a gépi döntések jobbak legyenek az emberinél, természetesen emberi szempontból.
Sajnos csak reménykedhetünk abban, hogy a fentieket legalább egy kicsit is figyelembe veszik az "illetékes elvtársak".
-
defiant9 #2 Megvárják hogy a Kínaiak megcsinálják az autonóm működést, onnantól megvan a hivatkozási alap az alkalmazásukra, addig "fejlesztési stádiumban" van. -
#1
Szerintem ég és föld a különbség aközött, hogy felderítési adatokat elemez a mesterséges intelligencia és segít megtalálni a potenciális célpontokat, meg aközött, hogy automatikusan döntsön, rahedli egyéb info figyelembevételével ezeknek a célpontoknak a támadásáról és a támadást sikeresen végre is hajtsa bonyolult körülmények között is.