27
-
fszrtkvltzttni #27 "Az univerzalis cnn chipeknel a kapcsolasi matrixot nem a gyartas soran teszik bele" erre írtam, hogy "valamilyen buszrendszerre kapcsolódnak a neuronok, ez utóbbi viszont korlátozza a teljesítményt". Vagy közvetlenül kötöd össze a neuronokat, fix topológiában, és akkor függetlenül kommunikálhatnak nagy sebességgel, vagy közös buszrendszert használsz, de akkor a kommunikáció sebessége töredékére csökken. -
fszrtkvltzttni #26 "Egyszeru osszehasonlito halozatok eseten elso korben engedelyezed a tanulasi modot"
A kérdésem az volt, hogyan lehet tanítani. Bekapcsolod a tanulási módot... Kösz, ezt gondoltam... És mi a tanulási mód algoritmusa?
"A fenti pelda egyebkent 7-9 retegu a feedforward iranyban, " Akkor kezdjük ott, hogy az általános neurális hálóban nincsenek rétegek. Rétegekből álló neurális hálót lehet tanítani. A kimenetét vissza lehet csatolni, és úgy is lehet tanítani. De ez nem általános neurális hálózat. -
kvp #25 "Azt viszont még mindig nem mondtad el, hogy általános, visszacsatolást is tartalmazó neurális hálókat hogyan lehet tanítani."
Egyszeru osszehasonlito halozatok eseten elso korben engedelyezed a tanulasi modot, a megfelelo bemenet stimulalasaval. Ezutan a jelbemeneten erkezo jel a feedback halozatra kerul, ahol jo shift regiszter modjara keringeni kezd. A tanulasi mod kikapcsolasa utan a jelbemenetre az osszehasonlitando jelet kuldod es engedelyezed a komparalo logikat egy masik bemenettel. Ez osszehasonlitja a tarolt es a beerkezo jelet, idealis esetben parhuzamosan minden fazisban, majd a fazisok kimeneti jeleit egy osszesito halo klasszifikalja es vegul megjelenik a kimeneten egy jel, ami meghatarozza mennyire hasonlit a tanult es az aktualis jel. 2D-s CNNA matrixok eseten ez pl. 1 orajeles kepfelismeresre hasznalhato. Mivel a feedback halozatok melysege es mennyisege elmeleti alapon nem limitalt, ezert akarhany feedback halozat lehet es mind kulonbozo mintakat tarol, tovabba kulon-kulon tanithatoak. Egy mar betanitott halozatra is lehet uj jelet kapcsolni, ekkor a feedback es a feedforward jeleket egy logikai halozatnak kell osszekevernie. (legegyszerubb az atlag, minimum vagy maximum kereses, de lehet kizaro vagy is) Ezek a halozatok persze fizikailag nem kulon vannak hanem minden feedback halozat 1-1 eleme a hozzatartozo szamitasi neuron mellett van, tehat ha egy adott helyen serul a halozat, akkor nem egy teljes tarolt kep veszik el, hanem minden tarolt kepbol 1 pixel, amit kesobb ujra lehet tolteni a kornyezo adatok atlagaval. Igy pl. tobb ezer egymas mellett levo tarolo neuron kiesese eseten sem tortenik erezheto romlas a felismeres minosegeben.
A fenti megoldas tobb parhuzamos feedback es feedforward matrixot hasznal es ezek kozott a jelek aramlasat serkento es gatlo bemenetekkel lehet kapcsolgatni. Ezen kapcsolojelek idoziteset pedig egy masik kisebb neuralis matrix csoport kezeli, ami ugyancsak tartalmaz feedback es feedforward komponenseket.
A fenti matrixok teljes osszekotesu halozatbol torteno onszervezo letrehozasara is vannak kiserletek, de sokkal egyszerubb a huzalozast elore meghatarozni, egyfajta orokolt tulajdonsagkent. A fenti pelda egyebkent 7-9 retegu a feedforward iranyban, mig a jelhossznak megfelelo feedback iranyban. Kepek felismeresehez eleg az 1x-es feedback matrix, mig videojelekhez kepkockankent kell 1-1 reteg. A fenti megoldas mind analog, mind digitalis cnn rendszerek eseten is jol hasznalhato.
ps: Az univerzalis cnn chipeknel a kapcsolasi matrixot nem a gyartas soran teszik bele, hanem flash taroloval ellatott tranzisztorok hatarozzak meg, mint egy fpga-ban, tehat a chip atallithato a kulonbozo mukodesi modok kozott, igy egy chipen tobb eltero neuralis halozat mukodese is futtathato es ezen halozatok kozott a programvalaszto bemenetek tudnak atkapcsolni. -
lamer the true #24 Bár az biztos, hogy jobban járnak velük, mint a kényelmes angolszász ősbevándorlókkal :) -
lamer the true #23 "a Harvard Egyetem anyagtudósai"
Tipikus Brit arcok
-
fszrtkvltzttni #22 Teljes összeköttetésű mátrix halott ötlet, mert nem skálázható már milliós neuronokra se. A többi chip vagy fix topológiát használ, vagy valamilyen buszrendszerre kapcsolódnak a neuronok, ez utóbbi viszont korlátozza a teljesítményt, és nem igazán jobb mint a tisztán szoftveres, ezért használják azt szinte mindenhol.
"Egyebkent ezeket a halokat nem tanitjak, hanem programozzak. Aztan csak az adatokat tanitjak a kesz halozatnak." Na de tanításnak ez utóbbit nevezik, a topológia megadását még soha nem hallottam, hogy annak nevezték volna...
Azt viszont még mindig nem mondtad el, hogy általános, visszacsatolást is tartalmazó neurális hálókat hogyan lehet tanítani. -
kvp #21 A szilicium alapu neuralis halozatoknal altalaban teljes osszekotesu matrixot hasznalnak es egyszeruen kinullazzak a nem letezo kapcsolatok sulytenyezojet. Fejletebb valtozatok kepesek szabadon allitani a kapcsolasi matrixot, ezert ugyan kevesebb osszekottetessel mukodnek, de konnyebben tudnak adaptalodni, tehat egy neuron egy bementet atkotni. Egyebkent igy mukodnek a xilink csipek is, csak analog helyett digitalis kapukkal. A CNND vilag es egy jobb videokartya kozott egyre vekonyabb a hatar. Azert azt a 65536 processzoros CNNA rendszert ami ma elerheto meg nem ertek utol. Egyebkent ezeket a halokat nem tanitjak, hanem programozzak. Aztan csak az adatokat tanitjak a kesz halozatnak. Ekkor az alapprogram ugymond orokolt. -
torreadorz #20 Én azt mondanám hogy sokkal hamarabb lesz fehérje alapú intelligens számítógép mint hogy szilicium alapokon mesterséges intelligencia legyen. -
fszrtkvltzttni #19 És mennyi neuronra használtad? Mert pl. Montecarlo módszerrel (vagy bármilyen primitív, nem gradiens alapú minimalizációs módszerrel) lehet tanítani tetszőleges hálózatot, csak nagyon nem hatékony, főleg amikor elkezded növelni a neuronok számát. Tudnál linket adni, hogy te mit használtál. -
fszrtkvltzttni #18 A szimuláció azért jó, mert bármilyen struktúrát tudsz szimulálni. Ha gyártasz egy mesterséges neuron, akkor annak topológiája adott lesz. Ha a topológia nem megfelelő, akkor kukázhatod. A cikkben szereplő esetben is. -
kvp #17 "Általános (visszacsatolást is tartalmazó) neurális hálózatokat igazából nem is nagyon tudnak használni."
Ez ma mar nem igaz, en pl. ilyenre irtam anno programokat. Nem annyira tanitas volt, mint inkabb programozas, neuralis matrixokat irtam. Ezen alapprogramok egyebkent ugy nez ki, hogy oroklottek es ezert bukott meg eddig az osszes neuralis matrix tanitasi kiserlet, mert rossz alapelemekbol indultak ki. -
fszrtkvltzttni #16 "Az agy párhuzamosan működik, mintha sokmilliárdnyi primitív miniszámítógép dolgozna egyszerre. Egy számítógép viszont milliónyi kódot egymásutáni sorrendben hajt végre." Csak kötözködés éppen. 
Tranzisztorszinten nézve a legegyszerűbb számítógép is b@szott párhuzamos ám.
-
kvp #15 "Ugye ez sem jött be és ma már rájöttek a kutatók hogy valójában az agysejt az nem egy tranzisztor sokkal inkább egy mini processzorként funkcionál. Tehát nem 3 milliárd tranzisztorból áll az agy hanem 3 milliárd processzorból. És akkor lehet gondolkozni hogy melyik számítógép képes leadni ezt a teljesítményt..."
A megoldas vagy az, hogy keszitunk egy 3 milliard processzoros rendszert, vagy 3 milliardszorosara gyorsitunk egyetlen cpu-t. Szerintem az elobbi konnyebb lenne. Ha van egy 1000 x 1000 x 1000 cpu-bol allo szamitogepunk, akkor elvileg megoldhato ugyanakkora szamitasi teljesitmeny osszerakasa. Ma mar 100000 egyszerubb cpu-t kepesek vagyunk egy chip-re rakni. Ezt 3D-s strukturaba rakva mar 10000 gep kell csak es ott vagyunk ahol az agy, sot mivel nem 20 kilohertz-en hanem akar 2000000 kilohertz-en (2Mhz) is jarathatjuk, ig valamivel okosabb is lesz. (nem annyival, mert kozel 100 lepes kell egy hagyomanyos risc-es cpu-nak egy neuron egy lepesenek kezelesere, kozel egy nagysagrenddel tobb ha nincs kozel teljes osszekotesu matrix a cluster osszes cpu-ja kozott) -
fszrtkvltzttni #14 Ezaz, ráadásul sok neuronból álló hálózatot is csak bizonyos topológiáknál tudnak tanítani. Általános (visszacsatolást is tartalmazó) neurális hálózatokat igazából nem is nagyon tudnak használni. -
Vol Jin #13 Ennek a böfögésnek mi értelme van? Ha van vélemény, ne ragadjon benned, bökd ki nyugodtan, de az egyszavas mondatok mellőzéséért nem fog haragudni rád senki. -
errorista #12 ,,Egy számítógép viszont milliónyi kódot egymásutáni sorrendben hajt végre."
öö. Nem? -
Vol Jin #11 Számomra már a nyolcvanas években gyerekként ismert információ volt, hogy egy számítógép és az agy semennyire nem analógiája egymásnak. Az agy párhuzamosan működik, mintha sokmilliárdnyi primitív miniszámítógép dolgozna egyszerre. Egy számítógép viszont milliónyi kódot egymásutáni sorrendben hajt végre. Tehát az agy roppant erőforrás pazarló szerkezet, aminek a mellékterméke a tudat. Nem képes arra, amire egy akár c64 is képes volt, cserébe olyat produkál, amit egy lineáris feldolgozású számítógép soha nem fog. -
torreadorz #10 " Szerintem a számítógépek nem járnak olyan messze a mesterséges intelligenciától, már ami a hardvert illeti. A megoldás a programozásban van. Nem kell adaptívnak lennie a hardvernek ha szoftveresen bármi szimulálható."
Nem. Ezt gondolták a '70-es években, azóta túlléptek rakta. Az emberi agy hardver és szoftver egyben és ez elképesztő teljesítményt ad neki. Persze lehet(ne) szimulálni, csak épp figyelembe véve a mai hardver architektúrákat ez nagyjából olyan mintha egy szélkerékkel akarnád előállítani a paksi áramot. Ki lehetne számolni hogyha a szélkereked másodpercenként 10 milliót fordul akkor elméletben müködne a dolog de ugye a gyakorlatban ez nem megvalósítható...
A másik ilyen nagy tévedés az volt (és sajnos még mai is ezt tanitják az iskolában sok helyen) hogy az emberi agysejt az nagyjából megfelel egy tranzisztornak és akkor ha van 3 milliárd agysejtünk akkor nincs más dolgunk mint csinálni egy processzort 3 milliárd tranzisztorral aztán jól van egy MI.
Ugye ez sem jött be és ma már rájöttek a kutatók hogy valójában az agysejt az nem egy tranzisztor sokkal inkább egy mini processzorként funkcionál. Tehát nem 3 milliárd tranzisztorból áll az agy hanem 3 milliárd processzorból. És akkor lehet gondolkozni hogy melyik számítógép képes leadni ezt a teljesítményt...
És legvégül megfelejve ezt azzal amit a cikkben irnak, miszerint ráadásul a fő teljesítmény abból jön hogy ez az egész kib@szottul párhuzamos, mig a mai számítógépek leginkább lineárisak -
Lollerka #9 ugye tudod hogy az agyban nincs program, vagy ha van minden egyes sejtben kodolva a dnssel, a szep az egeszben, hogy az agy sajat magat esetleg reszeit tudja valtoztatni->pl hypofizis
az emlekezetnek tobb foka van van ami protein van ami sejt alapu, allitolag
annyi szinapszis van az agyunkban mint ahany csillag az egen, egyes sejteknek akar tobb ezer is, szinten csak allitolag
-
thsanyi5 #8 Szerintem ezt még az okosok sem tudják. Szerintem a kettő együttesen tárolja. De részlet kérdés. Az agyunk sejtjeinek száma nem is olyan nagy mint elsőre tűnik. Erre akartam célozni előző hozzászólásommal. Illetve arra, hogy a számítógép felépítése révén képes bármit szimulálni ezért a hardver nem kell hogy adaptálódjon semmihez. Az is egy járható út, de nem kötelező. -
Vol Jin #7 Nem a neuronok tárolják az információkat, hanem a kapcsolataik. -
Archenemy #6 "Az emberi elme körülbelül 20 Watt energiával zakatol elképesztő hatékonysággal,"
Az enyém többel, mert én okosabb vagyok. Amúgy vélhetően a péniszem is nagyobb, meg a pénzem is több.
Köszönöm, hogy ezt elmondhattam, most már boldogan halok meg. -
thsanyi5 #5 Az agyunk nem processzor hanem számítógép. Konyhanyelven szólva. Nem véletlen van sok neuronja, mivel tárolóként is működik. 10 terabyte ~ 86 milliárd bit. Ilyen irányból nézve már nem is sok a 86 milliárd ugye? Persze egy neuron nem egy bit információt tárol feltehetően, de akkor sem olyan sok. Szerintem a számítógépek nem járnak olyan messze a mesterséges intelligenciától, már ami a hardvert illeti. A megoldás a programozásban van. Nem kell adaptívnak lennie a hardvernek ha szoftveresen bármi szimulálható. -
resystance #4 Tudom, a szkeptikusok most vért fognak hányni, de nem a szövetek hatására rendeződik az információ, hanem az információ hatására a szövetek. -
Kryon #3 Csak nehogy a ... Skynet kezébe kerüljön :) -
BaltásRém #2 igen ez olyan megállapítás volt kb, hogy van akváriumod ? nem. akkor buzi vagy. Lehet helytálló amit írt, csak néhány láncszem kimaradt a magyarázatból, hogy hogy következik egyik dolog a másikba. -
gombabácsi #1 "melyek az agyi áramkörök erősítésével vagy gyengítésével folyamatosan alkalmazkodnak az ingerekhez. Ez az adaptív folyamat teszi lehetővé az agynak a tanulást"
höhöhö