5
-
Sequoyah #5 Van par eleg komoly kulonbseg az emberi agy es az LLM kozott, ami a jelen architecturaval nem athidalhato...
- Az LLM attol jo, hogy egy statikus, merev algoritmus helyett egy dinamikus, folyamatosan formalodo neuralis halo mukodteti. De egyelore kozel sem olyan dinamikus, mint az agy. Az agy az egyetlen nagy neuralis halo, ami dinamikusan formalodik az elet soran. Mig az LLM meg most is erosen strukturalt, es tobb elkulonulo, a fejlesztok altal definialt fazisbol all a valasz generalasa.
- Az LLM mediafogyasztasbol tanul. Mig az emberi agy a kornyezettel es masokkal valo interakciokbol tanul, aminek a mediafogyasztas az csak egy resze (a multban eleg kicsi resze). Az LLM az olyan mint valaki aki az egesz eletet egy sotet pinceben bezarva elte le, egy internetkapcsolattal.
- Az LLM tudasa statikus. Ha a ChatGPT 2024-11-20-as verziojat hasznalom, akkor az 2024-11-20-ben lett tanitva, es csak azt ismeri ami elotte tortent. Nem tanul a tovabbi kommunikaciokbol semmit, olyan mint egy aranyhal. Az emberi agynak komoly resze a rovidtavu memoria hosszutavu memoriava alakitasa (pl ezert alszunk/almodunk), ami teljesen hianyzik a modern architecturakbol.
Egyik se megoldhatatlan, de uj architecturara lesz ra szukseg, nem csak nagyobb parameter-szamra es finetuningra. -
Sequoyah #4 Az LLM modellek pont ugyanugy mukodnek, rengeteg az ures ter, ami egyaltalan nem esik ki, maximum kihasznalatlanok. Egy milliard parameteres LLM modell sokkal tobb dolgot kepes leirni, mint ahany dolog van a vilagon.
Ebben a sok dimenzios modellben vannak gyakran hasznalt pontok, amik azok a dolgok, amikre nekunk kulon szavaink is kifejezeseink vannak. Es vannak ritkan hasznalt pontok, aminek eleresehez tobb szavas kombinaciokra van szuksek, ahol tobb szo lehet egy mondat, egy paragrafus, vagy akar tobb oldalas szoveg is, ami mind egy adott koncepcio reszletes leirasahoz szukseges.
Az LLM-ekben ezek egyaltalan nem vesznek el, sot eppen ez adja az erejuket. Epp ezert kepesek ertelmezni olyan szovegeket is, amiket soha nem lattak korabban, viszont kepesek elhelyezni oket a vilagmodelljukben.
-
#3
„A HR-chatbotnak nem kell ismernie a fejlett fizikát.”
Még egy aranyköpés, ami valszeg be fog vonulni a történelembe. :D
De általános szinten megfogalmazva a problematikát, abba bele sem menve, hogy ennek a jelenlegi LLM AI-nek van e személyisége, pláne tudata, szerintem a jelenlegi AI ott bukik hogy:
-A világ legáltalánosan megfogalmazva leírható egy strukturálatlan paraméteres info mátrixként, minden egyes paraméter egy 3D térben elhelyezve.Ezáltal a létező dolgok, objektumok ilyen paraméter csomópontok, amelyeket sok üres, zéro értékü tér vesz körül.
Ugyanígy az emberi kommunikáció leírása is működhet így, minden egyes valós csatornát egy különálló info folyamként rögzítve. Ebben az esetben nincs tömörítés, a világ teljes leírása magával a világgal azonos.
-Aztán ahol most vagyunk az kb az, hogy az AI tud csinálni egy statisztikai mintázatokra épülő tömörítési eljárást, az emberi kommunikációra vonatkozóan, mindabból amit eddig beletápláltak. Ilyenkor az üres teret leíró zéro értékek kiesnek, azok gyak az egyes, O-nál nagyobb értékű paraméterek az N dimenziós térben levő távolságával vannak reprezentálva, helyet ílymódon nem foglalnak.
Ha az emberi kommunikációban nem lenne rendszer, akkor nem lehetne tömöríteni. Illetve kvázi egy statikus zajként értelmezhető véletlenszerű választ kapnánk a rendszert működtetve. De tekintve, hogy van benne rendszer, ezért a beletáplált paraméterek közötti mintázat automatikusan kiadja magát, anélkül, hogy bárkinek a mintázat leírására szolgáló matematikai leírással kéne vesződni. A mintázathoz hasonlót tud generálni a rendszer, szinesztéziára is képes, tehát bármilyen térrészletből a mintázatot kvázi kreatív módon bármilyen más térrészletbe, fogalmi tartományba képes átfordítani.
-A gondolkodás, és a tudomány azonban nem így működik, a fő különbség, hogy ezek idő függő mintázatokkal dolgolznak. Ezeket hívhatjuk modelleknek. A lényegét, pedig a különálló, idő függő eredményt adó tömörítési eljárások, mintázatok, gyakorlatilag szabályok és törvényszerűségek adják, amelyek tudományos szabályszerűségeknek, törvényeknek is értelmezhetők.
-Szal, ha az eddigi statikus időfüggetlen paramétermezőt, idő függő függvényekre cserélik, és a függvényeket különböző fázisokban párhuzamosan működtetik, akkor megkaphatjuk azt, ahogy az emberi agy is működik.
Ehhez nagyjából egy jelenlegi teljes az AI-hoz hasonló összetetségű paramétermezővel dolgozó kvantumszámítógép kellene.
Hát nagyjából sehol se vagyunk ehhez képest! XD
(Szakemberektől, bocs a pongyola stílusért)
Utoljára szerkesztette: NEXUS6, 2025.09.15. 15:04:36 -
Sequoyah #2 Ep ez az, hogy NEM jon.
A tech CEO-kon kivul akik probaljak reklamozni es eladni az AI termekuket, senki sem olyan hurraoptimista az AGI-vel kapcsolatban. -
ZenMillitia #1 ehhez kepest jon az AGI es a superintelligent AI kopogtat az ajton. a fejlodes hit resze csak rovidtavu dolgokat befolyasol. igeny lesz mini kozepes es robosztus modellekre is. nyilvan mas aranyban. de nem fekete feher ez a dolog sem.