Berta Sándor

Ma már nem feltétlen tudjuk, hogy egy számítógép mit miért csinál

Az IBM vezető szakembere szerint a számítógépek hamarosan többet fognak tudni annál, mint amit az emberek megtanítanak nekik.

"Mit jelent az, hogy intelligensnek lenni? Amennyiben valaki gondolkodni kezd azon, hogy vajon mi az intelligenciahányados, akkor gyorsan észre fogja venni, hogy mennyire nem megfelelő dolog valakiről azt állítani, hogy okosabb másoknál. Különböző típusú intelligenciák léteznek és a gépek intelligenciáját is ennek tükrében kell megvizsgálnunk. Az intelligenciák nem hasonlítanak egymásra, még a gépeké sem. A gépek bizonyos szempontból már most többet tudnak az embereknél és erősödnek mentálisan, éppúgy, ahogy mi is. Megtanulnak majd olyan dolgokat is, amiket nem mi tanítottunk meg nekik. De ennek ellenére mindig létezni fog szimbiózis az ember és a gép között, csak ki kell találnunk, hogy miként akarjuk alakítani ezt a párbeszédet." - fejtette ki John Cohn, aki több, mint negyven éve foglalkozik a mesterséges intelligenciával.

Az 1970-es években az MIT-n tanult, amely már akkor is a világ egyik legfontosabb tudományos intézménye volt. Ott tanított például Marvin Lee Minsky, az MI-témakör egyik legzseniálisabb gondolkodója. A terület már akkor is pezsgett a felfedezésektől, de akkoriban még a számítógépek túl lassúak voltak tényleges problémák megoldásához. Azonban az elmúlt 40 évben a chipek rengeteget fejlődtek, olcsóvá és gyorssá váltak, ráadásul keveset is fogyasztanak. A számítógépek közötti kommunikáció is annyira feljavult, hogy az 1970-es évek víziói egyszerre valósággá válhatnak.


De nem csupán a technikai lehetőségek javulásáról van szó, hiszen a szakemberek az 1970-es években szabályokon alapuló rendszerekre támaszkodtak. Számos folyamatot nagyon világos törvényszerűségek uralnak, mint például ha felkapcsoljuk a villanyt akkor világítani kezd a lámpa. Mindez nagyon egyszerű: az ember beprogramoz egy számítógépet annak az elvnek az alapján, hogy ha ez és ez történik, akkor tegye ezt és ezt. Ez ma is működik, és a kapott eredmény helyes, azonban nem alkalmazható összetettebb problémák esetében. Például az IBM Watson Kutatóközpontjának a 27. emeletén mintegy 1000 adatpont van, ezek mérik a hőmérsékletet, a páratartalmat, a ventilátorok sebességét stb. Azonban gyakorlatilag lehetetlen olyan programot írni, amely ezt az összes lehetséges összefüggést figyelembe veszi. Megpróbálták, de nagyon bonyolult volt. A legrosszabb esetben a szoftver egyáltalán nem azt csinálta, amit elvártak tőle.

"A technika tinédzseréveiben az emberek megpróbálták modellezni az intelligenciát, szinte végtelen mennyiségű szabályt alkottak meg. Mi inkább megpróbáltunk lazítani a szabályokon és eljutni a javaslatokig. Ez úgy hangzott a számítógép számára, hogyha ez történik, akkor próbálja ki ezt. Ez az elv sok dolgot rugalmasabbá tett. A probléma csak az, hogy vagy annyi variánst épít be az ember egy rendszerbe, hogy idővel keresztezni fogják egymást vagy rengeteg szabályt dolgoz ki, de azok ennek ellenére nem fednek majd le mindent. A szabályokon alapuló mesterséges intelligencia még ma is nagyon népszerű és használják, mert probléma esetén nem kell újraírni, hanem bármikor ki lehet egészíteni újabb dolgokkal. De nem különösebben robusztus és nem tud új helyzeteket kezelni."

"Az áttörés a gépi tanulással érkezett el, ami nem varázslat, pusztán a minták felismeréséről szól. A számítógépek most már képesek önállóan megtanulni, hogyan ismerhetik fel az arcokat és a hangokat. Elég megadni nekik egy példát azzal kapcsolatban, hogy valami miként néz ki normálisan és megmutatni, hogy egy tárgy miként néz ki a különböző szituációkban. Ezután kezdik maguktól is megkülönböztetni az egyes dolgokat. Először még meg kell mondani, hogy: igen, ez stimmel, vagy nem, az nem jó, de fokozatosan egyre jobbá válik a felismerés. Ez a technika nagyon jó, ha például arról van szó, hogy egy repülőt vagy egy autót önállóan kell irányítani."


"40 éve dolgozom ebben az ágazatban és még semmi olyat nem láttam, amely csak megközelítően is ennyire széleskörűen lenne használható. Például sok vezetői asszisztensrendszer van, amelyek segítenek a parkolásban vagy gondoskodnak a sávtartásról. Ezek tipikus szabályokon alapuló rendszerek. De időközben már a gépi tanulást is alkalmazzák ezen a területen, például a fékezésnél, a gyorsításnál és a kormányzásnál. A tesztvezető feladata, hogy beavatkozzon, ha a gépkocsi hibás döntést hoz. Egy ilyen rendszer három nap alatt megtanulhat egészen jól vezetni és ehhez nincs szükség több ezer parancsra, hanem elegendő az adatokat kiértékelnie és szelektálnia. A számítógép eleinte borzalmas döntéseket hozott, de a sofőrnek elég volt csak nemet mondania, azt nem kellett megindokolnia, hogy a döntés miért volt rossz. Persze műszakilag nem ennyire egyszerű ezeket a modelleket megalkotni, de mindez nem varázslat és ilyen rendszerek szinte bárhol alkalmazhatók" - emelte ki a kutató.

A szakember hangsúlyozta, hogy természetesen nem lehet elmenni a költségek mellett sem. A fejlesztések drágák és szükség van egy különleges infrastruktúrára. Amennyiben a rendszernek egy repülőgépet, egy közúti járművet vagy egy robotot kell irányítania, akkor az adatok nem kerülhetik meg a fél világot. Ezért az autóknak kis szuperszámítógépekké kell válniuk, de ezzel párhuzamosan szükség van gyors hozzáférésre a felhőkörnyezetben lévő szerverekhez is, hogy ne csak egy robot tanuljon, hanem az összes.

A kihívást az jelenti, hogy ezek a megoldások emberek által nem átláthatók. Régen az volt a gyakorlat, hogyha valaki megírt egy kódot, akkor futás közben akár sorról-sorra léptetve végignézhette, hogy az a kód mit tesz. Minden egyes alkalommal, amikor probléma merült fel, pontosan látni lehetett, hogy mi volt az ok és értettük mi okozza azt. Ez ma már nem működik, most már nem tudjuk, hogy a gépek bizonyos dolgokat miért tesznek. De ez az embereknél is így van: amennyiben valakinek azt mondják, hogy gondoljon a nagymamája süteményére, akkor adott esetben még az illatát is fel tudja idézni, de azt nem tudja megmondani, hogy miért. Ez azt jelenti, hogy nagyon óvatosaknak kell lennünk és tudnunk kell, hogy miért tesz egy gép valamit. Ezért kell nagyon világosan meghatározni a felelősségeket és azt is, hogy mikortól veheti át az irányítást a számítógép.

"Nagyon óvatosnak kell lennünk annál a kérdésnél, hogy mely feladatok elvégzését bízzuk gépekre. Az IBM-nél nagyon ügyelünk arra, hogy továbbra is az ember maradjon a középpontban. Ez több dolgot is jelent: az embernek mindig meg kell tartania az ellenőrzést és egy adott dolog kapcsán tudnia kell, hogy miről van szó. A nehéz döntéseket mindig embereknek kell meghozniuk. Viszont nagy feladat annak eldöntése, hogy kritikus helyzetekben mennyi teret hagyunk a gépnek" - mondta végül John Cohn.

Hozzászólások

A témához csak regisztrált és bejelentkezett látogatók szólhatnak hozzá!
Bejelentkezéshez klikk ide
(Regisztráció a fórum nyitóoldalán)
  • esztyopa #17
    Ez az ellenőrizhetetlenség első állomása !
  • kvp #16
    Az a teherauto egy hiresen bena hiba volt, az auto magassagat a motorhaztetoig adtak meg es igy pont azt gondolta at is fer alatta. Az EUban egyebkent kotelezo az oldalso es hatso alacsuszas vedelem, az USAban csak ajanlott.

    A jo robotauto egyebkent nem vallal be semmit es csak akkor megy lakoovezetben 20-al, ha biztos benne hogy nem fog alaugrani senki. Ezt tudhatja sajat szenzorbol, masik autotol vagy terfigyelo kameratol is. Pl. az auto elott levo parkolo kocsik moge belathat az elotte halado hatrafele nezo szenzora. Igy nincs takaras. Minel tobb robotauto van annal tobb infojuk lesz es annal kevesbe zavarnak az emberi soforok tehat annal batrabbak (gyorsabbak) lehetnek kockaztatas nelkul. Ha az utolso emberi sofor is eltunik, az osszes autos lampa is kikapcsolhato. Vagy ha minden emberes autoban kotelezo a nyomjelzo akkor csak ott uzemelnek ahol emberi sofor is jar. Igy minden automata autos tudna ha zebra nelkuli keresztezodesben pirosat kap akkor valahol ember vezette jarmu van a kozelben. Nem lennenek tul nepszeruek a hobbi vezetok de kezelheto lenne a valtas vegyesuzeme.

    Az is megoldhato hogy az ember vezet es a robi csak akkor veszi at ha az ember elter az idealis utvonaltol. Videken es ures uton mehetne szabadon varosban meg full automata lenne. Ilyesmi vegyes rendszer a tesla savvaltoja is. Az ember dont melyik savban akar haladni de a gep tekeri a kormanyt. Mintha csak egy sofor lenne akinek eloreszol a tulaj, hogy mit csinaljon az meg tudja hogyan kell.
  • NEXUS6 #15
    Kösz a választ!

    Ahogy nézem a Tesla 2. szintű Autopilot hardvernél már bevezethetőnek tartja a teljesen autonom robotsofört. Közben az Nvidia kijött a 3. generációs rendszerrel is. Szóval akár bármikor bevezetheti a kocsijai egy részénél a piacra.

    Én azért még is egy kicsit szkeptikus vagyok, gondolok itt a tavalyi balesetre, amikor egy 18 kerekes kamiont nem vett észre a rendszer és fékezés nélkül aláfutott. Persze ez már egy éve volt, sokat fejleszthetett a cég, de elgondolkodtató, hogy egy 20 tonnás objktumot jóidőben nem vesz észre. Persze ha minden jármű adatokat közöl a többivel a helyzetére, mozgására vonatkozóan, akkor tényleg kicsi az ilyen baleset valószínűsége. Mint ahogy nem húzza rá a kormányt a másikra sávváltáskor sem, ami nap mint nap előfordul az emberrel is, meg ilyenek.

    A járdáról lelépő ovis/részeg/nagyi esetében meg szerintem a gép sem fog soha joban dönteni, mint az ember. Az emberből sem egy fajta van és nem is mindíg mindenki ugyan úgy viselkedik. Van akinek soha nincs gondja egy ilyen lakóövezetes szituval más meg száguldozik mindenhol, vagy csak szimplán figyelmetlen. Nem látom, hogy ezen tanulással lehetne segíteni. Ha a robi egyszer bevállalja ott a 20-at, ahol nem kelett volna és csak utólag lehet okosnak lenni, akkor a fizika miatt ugyan úgy elcsapja azt aki elé lép, mint az ember.

    Szerintem.
  • kvp #14
    A Roska fele megoldast nem egyedul fejleszette hanem Leon Chuaval egyutt. A magyaroszagon ismertebb analog megoldasbol szuletett egy katonai felhasznalas az usaban (megvettek, reszben az altalam anno osszetakolt celkoveto koddal), ennek a fejleszeset amennyire tudom a fia vitte tovabb kulfoldon. Mar anno is voltak probalkozasok a digitalis valtozat iranyaba azt hiszem foleg a veszpremi csapat altal, de gyartasi kapacitas hijan foleg szimulalt kornyezetben. Ebbol a vonalbol lett a CNND technologia, amit a Google is hasznal. (gyakorlatilag mintaillesztesi gyorsitonak, tovabba a map reduce eseten is nagyon jo eredmenyeket hoz) Ezen futnak a Google fele neuralis halozatos kutatasok is. Ha nem kell nagy sebesseg, az emulacioja elerheto nyilt forraskodban is, ami fejleszteshez eleg. Maguk az algoritmusok egyszeruek csak az adatmennyiseg oriasi.

    Egy jobb katonai rendszer ma is tobb ezer celt tud kovetni egyszerre, csak a memoria es a szamitasi kapacitas a limit. Ma mar egy atlagos google fele robotauto is tobb adatot tud osszeszedni es tobb folyamatot tud kovetni mint amennyit az autoba befero emberek osszesen. Ha foguk egy 64k processzoros rendszert, akar minden mozgo objektum kaphat sajat processzort. Vagy akar minden szenzor minden adatpontja (voxele).

    Az igazi kihivas a hibasan mukodo kornyezet kezeleseben van, azaz az emberekhez es a tobbi nehezen kiszamithato kornyezeti elemhez valo alkalmazkodas. Ennek resze pl. megallapitani, hogy mekkora a meg biztonsagos maximalis sebesseg egy jarda szelen allo ember mellett. Legrosszabb esetet nezve kb. 4 km/h, mivel barmikor elenkugorhat. Ha viszont az auto tudja, hogy csak ott all, akkor ez novelheto, ha viszont azt latja, hogy le akar lepni vagy reszeg es barmikor elenkeshet, akkor fel kell keszulni a megallasra es ilyenkor tenyleg ovatosan kell elhaladni mellette. Na most ezt az elemzest minden mozgo es statikus objektumra, mondjuk New York-ban a Times Square-on a turistaszezon kozepen, nagyfoku bizonyossaggal minden kovetkezteteshez.

    Megoldhato, csak nem egyszeru. Viszont szabalyok helyett a legtobb ilyen MI tanithato es ha a neuralis matrixok kimeneteit egy fuzzy logikai rendszerbe etetjuk (ami ugyancsak futhat a neuralis processzoron), akkor egy viszonylag jol tanulo rendszert kapunk, ami gyorsabban tanul mint ahogy kezzel be lehetne programozni. Nem lesz tokeletes, de ha szinte barmilyen emberi vezetonel jobb lesz, akkor mar hasznalhato.

    Ehhez adjuk hozza az adatok megosztasat, tehat amikor minden jarmu nem csak a sajat szenzoraival lat, hanem a konyezeteben levo osszes tobbi jarmu es statikus szenor szemevel is, akkor ugraszeru minosegjavulast kapunk es nagymertekben csokken a holtter, mialtal a csokken a bizonytalansag es javul a becslesek minosege, azaz kevesbe kell ovatosnak lennie a jarmunek, mert kevesebb vagy 0 az ismeretlen terulet. Raadasul ha minden jarmu azonos algoritmust futtat, akkor nem a szenzoradatokat, hanem a feldolgozott terkepeket kell csak megosztani, ami csokkenti a szamitasi es savszelesseg igenyeket. Van egy pont ahol az egesz osszeall, csak azt el kell erni vagy szepen lassan fokozatosan vagy egy nagy valtoztatas kereteben. A technologia adott, csak ra kellene jonni hogyan vezessuk be.
  • NEXUS6 #13
    Köszi a válaszokat!

    A Roska (RIP) féle magyarországi fejlesztési vonal mennyire élő még, mert nem nagyon látok publikációkat a neten, de lehet hogy csak nem kerestem alaposan?

    Te hogy látod, hogy mikor tudnak egy megfelelő teljesítményű és megfizethető hw-t egy robotkocsiba bepakolni, hogy hozzon egy Lvl 4-5 szintű autonóm vezetést? Vagy jelenleg már csak a sw oldalon vannak kihívások?

    A robotkocsik teljesítménye valóban meghaladhatja majd a jövőben az emberét. Az embernél pl. úgy tudom van egy olyan korlát is, hogy a figyelemmegosztás stabilan 6-8 objektumra működik igazán. Ha több van, akkor a figyelem elveszti, vak foltba kerül. Ez rengeteg mindent meghatároz a társadalmunkban úgy vélem. A család méretétől, a legkisebb harcászati alegység maximális nagyságáig (raj 8 fő körül), a repülésirányítókra terhelhető forgalomig.
    Ilyen korlát felmerülhet a robotkocsik esetében is? Ha nem akkor valszeg tényleg megvalósítható egy sokkal komplexebb, az ember számára átláthatatlan, nagyobb sűrűségű, még is hatékonyan működő gépjárműforgalom pl.
  • kvp #12
    CNN chipbol van analog es digitalis valtozat is. Igazabol mindkettoben van zaj, az analogban termikus, a digitalisnal kvantalasi. Az utobbi determinisztikusabb, bar maga a chip valamivel lassabb. Ellenben ma mar egy atlagos telefon is kepes arra amire regen (15 eve) csak a dedikalt chipek. A deterninisztikussag miatt pedig a digitalis cnn chipek terjedtek el ott ahol tenyleg fontos a teljesitmeny. A google fele cnnd chipekbol par ezer eleg a legnagyobb jelenlegi szuperszamitogep lenyomasahoz (integer muveletekben, lebegopont nincs rajtuk) es ehhez kepest tobb tizezer keszult idaig. Ezek gyorsitjak a legtobb neuralis algoritmust a google rendszerein, de jok sima vektoros adatfeldolgozasra is. Ennek ellenere az osszes algoritmus megertheto rajtuk, bar egyszerubb hagyni tanulni oket es hasznalni az eredmenyt, mint idot szanni a megertesukre vagy kezzel eloallitani az idalis matrixokat. Ez egyszeru lustasag azaz ar-ertek tradeoff.
  • Oliwaw #11
    Nem kell ehhez még mesterséges intelligencia sem. Kitalálok egy miniatűr robotot aminek az egyetlen célja, hogy reprodukálja magát.
    Vajon mi lesz ? (a legyeket sem lehet kiirtani).
  • Oliwaw #10
    Hogy a fenébe jön ez ide ? Egy analóg rendszer mérési pontossága adott és egy digitális rendszeré is (de általában a digitális pontossága jóval felülmúlja az analógét). A lényeg: ha egy megfelelően komplex rendszert arra programozol, hogy mindenekfölött érje el a célját és az ember ennek az útjában van, hát...
  • NEXUS6 #9
    Ha jól értem azt mondod, hogy ma már nincs szükség spec hw-re ugyan olyan szintű neurális háló szimulációhoz?
    De adott feladatra azért a cnn chipek sokkal hatékonyabbak nem?

    És még egy általános kérdés, azok gyakorlatilag analóg jelekkel (is) dolgoznak, a digitális számítógépek viszont az értékek kerekítésével bevisznek egy kvantálási zaj szerűséget a rendszerbe. Ez nem torzítja az eredményt?
  • kvp #8
    A robotautoknal az ovatos bacsi a google fele, az idiota szaguldozos a tesla fele. Mashogy tanitottak oket.

    Az embereknel huzalozott logikat mi is be tudjuk programozni, en is irtam tizen sok eve neuralis matrixot kezzel s Roska fele cnn chipre. (a retina es az agy lataskozpontja kozti latoideg keresztezest szimulalta ahol a terlatas, a mozgasfelismeres tortenik, ez velunk szuletett kepesseg, mint a reflexek) Azota mar eleg erosek a sima telefonok hogy ugyanezt specialis aramkorok nelkul tudjak. Mondjuk en meg mertem neuralis halot is kezzel irni es egyesevel leptetni de csak neztek az idosebb kutatok. Ha akarjuk meg lehet erteni a mai modern mi mukodeset is csak nem konnyu.

    Egy erdekes info: Az evoluciosan tanitott neuralis matrixok atlaga az idealis hebb matrixhoz konvergal... Tehat elvileg programozhatunk idealis matrixot tanitas nelkul is. Csak nehez es egy meret utan meghaladja egy ember kepessegeit. De sok ember egyutt tud olyan jo lenni mint egy nagyon fejlett mi csak joval lassabbak lennenk.