Berta Sándor

A mesterséges intelligencia miatt aggódik a Pentagon

Az amerikai védelmi miniszter intézkedéseket vár az elnöktől, mert az ország gyorsan tartós hátrányba kerülhet Kínához képest, a Szilícium-völgy cégei viszont ma már közel sem olyan együttműködőek, mint régen.

James Mattis amerikai védelmi miniszter azt sürgette, hogy Donald Trump minél előbb álljon elő egy nemzeti mesterséges intelligencia stratégiával és abban kiemelt szerep jusson a fegyveres erőknek. Az ok egyszerű: a Pentagon már most és nem csupán a jövőben szeretne a harctereken a technológiával operálni. A politikus leginkább attól tartott, hogy az Amerikai Egyesült Államok gyorsan és tartósan hátrányba kerülhet az olyan vetélytársaival szemben, mint Kína vagy az Európai Unió, amelyekkel később sem tud majd lépést tartani. Mattis javasolta többek között egy mesterséges intelligencia bizottság létrehozását a Fehér Ház irányításával. Egy ilyen testületnek kellene gondoskodnia arról, hogy az USA ne csupán a védelmi szektorban legyen vezető, hanem más területeken is. A technológia ugyanakkor alapvetően megváltoztathatja a hadviselést.

Az amerikai haderő már most is több tucatnyi különálló projektet futtat, az egyik keretében például a légierő 87 millió dollárt szán háborús játékokra, szimulációkra és terepen végrehajtandó tapasztalatszerzésre. A haditengerészet 13 millió dollárból akar komplex háborús játékokat és az elektronikus hadviselés elleni oktatásra szánt programokat fejleszteni. A szárazföldi haderő szintén az oktatáson javítana a szimulációk, vegyes és virtuális valóság eszközök bevezetésével, de olyan kapcsolatokkal is kisérleteznek, ahol a virtuális valóságban lévő emberek valódi emberekkel kommunikálnak. Kiváncsiak arra hogyan segíthetnek a mesterséges intelligencia-algoritmusok a célfelismerésben, a nagytömegű fémeszközök azonosításában és a háromdimenziós környezet nagyfelbontású kidolgozásában.

A tengerészgyalogság 7 millió dollárból fejleszt drónraj-rendszert, mely segítene nekik a felderítésben és a döntéshozatalban. 5 millió dollárból javítanának a robotok környezeti érzékelésén, hogy ahhoz automatikusan adaptálódni tudjanak és megváltoztassák viselkedésüket a változó taktikai szituációknak megfelelően. 4 millió dollárból fejlesztenék az önálló működést, 10 millió dollárból a mobilitást, hogy a gyalogos katonák hasznos társaivá váljanak. És ez csak egy rövidke felsorolás volt a haderőnemek által felsorolt igénylistából, melyekhez költségvetési hozzájárulást kérnek.


A Pentagon már június végén bejelentette, hogy létrehoz egy mesterséges intelligencia központot. A Joint Artificial Intelligence Center (JAIC) hosszú távon a Szilícium-völgy közvetlen konkurense lehet és többek között harci robotok kifejlesztésével foglalkozhat, valamint több tucat mesterséges intelligencia projektet gyűjthet össze. Az utóbbiak között lenne a vitatott Maven program is. A védelmi minisztérium a tervek alapján első lépésként 75 millió dollárt akar befektetni az új létesítménybe. Az első 5 év esetében pedig a beruházott összeg 1,7 milliárd dollár lenne.

A Pentagon kutatási részlege, a DARPA hagyományosan jó kapcsolatot ápol a Szilícium-völgy cégeivel, azonban az elmúlt években valami megváltozott. Az IT-közösség ugyanis nem szívesen vesz részt a katonai projektekben, például a harci robotok tervezésében és megalkotásában. A szakemberek egy része azt az álláspontot képviseli, hogy komoly különbség van egy robotautó és egy harci robot létrehozása között, mivel az utóbbiak komoly fenyegetést jelenthetnek az emberiségre nézve. Elsa Kania, a Center for a New American Security munkatársa úgy vélte, hogy egyedülálló pillanat jött el, amikor a Szilícium-völgy tehet valamit ebben a vitában.


Brendan McCord, a JAIC vezetőjelöltje úgy véli, hogy be tudja zárni a két tábor közötti szakadékot. Szerinte az új centrum segíthet erősíteni és továbbfejleszteni a fegyveres erők és az ipar, a tudomány és a szövetségesek partnerségi kapcsolatát. A szakember korábban tengeralattjárón szolgált tisztként és azt hangsúlyozta, hogy az új központ az etikai és humanitárius dolgokra is fókuszálni fog. Ráadásul szem előtt akarják tartani a mesterséges intelligencia rövid és hosszú távú biztonságát. Persze mindehhez először is tisztázni kell, hogy mit jelent az ilyen mesterséges intelligencia technológiák fejlesztése és használata. Az eddigi tervek nagyon elvontak, tudni kell, hogy milyen rendszereket akarnak engedélyezni és szeretnének-e fegyverrendszert csatlakoztatni a mesterséges intelligenciához.

Robert Work korábbi védelmi miniszterhelyettes, a Maven projekt életre hívója aggodalmát fejezte ki amiatt, hogy a Google tiltakozása eltorzította a program reális értékelését és megzavarta a nyilvános vitát arról, hogy a katonai technológia hogyan fejlődjön. Sokan elfelejtették azt is, hogy a Maven kapcsán még nem merült fel halálos fegyverek megalkotása. Work nemrég azt mondta, hogy nyitott vitát kell folytatni a mesterséges intelligenciáról és annak lehetséges következményeit, s mindegyik oldal minden érvelését meg kell hallgatni.


Március elején derült ki, hogy a Google az amerikai védelmi minisztériumot segíti a Maven projekt keretében, mely már tavaly április óta fut. Az Algorithmic Warfare Cross-Functional Teamnek (AWCFT) is nevezett program célja az, hogy a gépi tanulás segítségével kutassa át a drónok által készített digitális fotókat és videókat, felismerje az álló- és a mozgóképeken szereplő objektumokat, például az autókat. Április elején a vállalat több mint 3000 dolgozója írta alá azt a nyílt levelet, amelyben a katonai fejlesztésekben való részvétel ellen tiltakoztak. A projekt ellenzőinek száma május közepére meghaladta a négyezret. Júniusban a társaság egyik illetékese arról tájékoztatta a dolgozókat, hogy a közeljövőben nem hosszabbítják meg a Google és a Pentagon közötti együttműködést a mesterséges intelligencia területén. A két fél közötti kooperációjáról szóló jelenleg hatályos szerződés kevesebb, mint tízmillió dolláros és jövőre jár le.

Hozzászólások

A témához csak regisztrált és bejelentkezett látogatók szólhatnak hozzá!
Bejelentkezéshez klikk ide
(Regisztráció a fórum nyitóoldalán)
  • esztyopa #11
    Én is !
    Hol vannak azok a régi,szép idők,amikor csak ember ölt embert?
  • mcganyol #10
    Végre valaki, aki érti mit hívunk ma mesterséges intelligenciának. Túl van misztifikálva az amit jelenleg ezek tudnak, szó sincs önálló gondolkodásról, csak hogy bizonyos célokat úgy tud elérni egy gép, hogy nem tudja előre a lépéseket kb.
    Akit érdekel annak szerintem érdemes némi elméleti képzés azért (nem kell túlzásba vinni), főként matek. Akinek a parciális deriválás nem mond semmit az nem fogja érteni a hibavisszaterjesztést, hogy miért működik (ez pedig a machine learning v deep learning alapja, hogy hogyan "tanulnak" a neurális hálók). Ettől egyébként lehet ai rendszereket fejleszteni, igazán jó frameworkok vannak, de a basic concept nem lesz meg, hogy hogy működik és akkor képzeleg az ember ilyeneket hogy terminátor és gondolkodik a gép, meg új vágyai és ötletei lesznek.
    Képzéshez bármely egyetem előadásai nyílvánosak bárki számára, csomó tök jó online kurzus is van (ingyenesek közt is). Szerintem 100óra befektetéssel az is megérti akinek a matekhoz se sok köze van. És tényleg jó állások vannak, ha valakit a téma érdekel. Szóval hajrá :)
    Utoljára szerkesztette: mcganyol, 2018.08.30. 21:32:59
  • Nos #9
    Valójában mindkét országban elég komoly prioritás az AI. Az a baj, hogy ha mesterséges inteligenciáról van szó, akkor az emberek jó része sokszor egy önállóan gondolkodó, öntudattal rendelkező entitásról beszél. Biztos ilyen irányú kutatás is van, de ettől még messze vagyunk. A machine learning módszerek, neural networks már kb mindenhol jelen van, gyártás, önvezetés, képfelismerés, project management, tőzsde, biztosítások, egészségügy, hadsereg, logisztika . . .

    A mérnökök, politikusok, vállalatok annyira nem félnek ettől a technológiától, hogy épp durva hiány van az ilyen szakemberekből, és nagyon megy az agyelszívás. Abban igazad van, hogy a politika valószínűleg nem látja át tökéletesen, hogy mit kellene fejleszteni, ebből a szempontból csak követő, de azért a már kialakított módszereket elég szép számmal használják Kínától a nyugati világig. Kínában az AI valószínűleg eléggé benne van az óriási populáció megfigyelésében, de a nyugati választások befolyásolásában is erősen látszik, hogy a háttérben valamilyen neural networkre alapuló algoritmussal mérték fel a lépéseket. Az usában már kísérleteztek azzal, hogy előrejelezzék egy adott város adott körzetében, hogy kit érdemes igazoltatni a rendőröknek (ez az algoritmus elég rasszista lett), körülbelül millió felhasználási lehetőség van. Most ott járunk, hogy van egy technológia, ami még nem épp kiforott, de már most is több területen lehetne használni, mint amennyi a szakember kapacitás.

    Ha valakit érdekel, és jóban vani, a lineáris algebrával, bayes statisztikával, meg valamilyen program nyelvvel, akkor szerintem most érdemes ebbe az irányba képezni magát, mert egyetemi diploma nélkül is jó kis állásokat lehet megcsípni.
  • overseer-7 #8
    A kifejlett intellektuális potenciáljában a mesterséges intelligencia számára annyira se leszünk ellenfelek.. mint amennyi fenyegetést jelent nekünk a majmok társadalma valami eldugott erdőben.
  • kvp #7
    A pentagon amiatt aggodik, hogy Kina jobb fegyverrendszereket fejleszt es nem az az amerikai hadsereg lesz a vezeto katonai ero a Foldon. Megeshet, de a fenti programok kb. az apropenz kategoria, raadasul az EU-hoz hasonloan a katonai es politikai vezetok nem igazan latjak, hogy mit is kellene fejleszteni. Szerencsere ez Kinaban is igy van.

    Tenyleges, emberektol fuggetlen katonai MI-t nem nagyon akar senki fejleszteni a nyugati vilagban, de valoszinuleg Kinaban sem, bar ott inkabb a politikai vezetes tulelesi osztone miatt, mig nyugaton inkabb a mernokok nem akarnak magukra is veszelyes rendszereket.

    Rovidtavon nem jellemzo, hogy az emberek (politikusok, katonai vezetok) kiengedjek az iranyitast a kezukbol. Hosszabb tavon meg majd meglatjuk.

    "Az önvezető autók és elektronikus fegyverek korában némileg elektronikához is értő programozóként egyre jobban aggódom. (Ld.: tin whiskers)"

    Az elektronika miatt nem erdemes aggodni, mar eleg regota tudunk olyan hardvert kesziteni, ami sulyos fizikai serulesek eseten is kepes megbizhatoan mukodni. A szoftverek begbizhatosaga sem olyan nagy gond ma mar. Itt az egyetlen problema az, ha nem azt akarja mondani a programozo amit vegul mond, azaz hibasan van meghatarozva a rendszer celja. Az automatikus fegyverrendszerek eseten tehat nem a meghibasodas, hanem a tokeletesen mukodo, csak eppen hibas celokkal ellatott rendszerek jelentik az igazi gondot. A szomoru az, hogy a gepek jelenleg csak azt csinaljak amit mondunk nekik, tehat ha baj van, akkor arrol jellemzoen az emberek altal keszitett program logikaja tehet. Ontanulo rendszerek eseten is ugyanez a helyzet, ugyanis ott a tanulo adatbazis tartalmaval hatarozzuk meg a vegeredmenyt, csak ezt a legtobb ember nem latja mar at.
  • YaniMan #5
    Az önvezető autók és elektronikus fegyverek korában némileg elektronikához is értő programozóként egyre jobban aggódom. (Ld.: tin whiskers)
  • Jawarider #4
    Van valami újdonság egyből a fegyverekre terelődik a téma. Mintha már lett volna ilyen a történelemben....
  • levy668 #3
    LOOOL :) Ez egy korrekt összefoglaló.
  • NEXUS6 #2
    1. "A mesterséges intelligencia miatt aggódik a Pentagon"
    2. A Pentagon miatt aggódik a mesterséges intelligencia
    3. Nem aggódik a Pentagon miatt a mesterséges intelligencia

    XD

  • levy668 #1
    Hehe, aki először kifejleszti az első körben legyőzi az ellenségeit, majd második körben ő is eltűnik a feledés homályában :) Skynet/terminator live.