A következő gazdasági forradalom árnyékában él a világ
Jelentkezz be a hozzászóláshoz.
Kryon írta (#7):
"Az AGI-t illetően szerintem ott a probléma, hogy pl az LLM alpú AI nem annyira az emberi tudathoz, sokkal inkább az emberi tudatalattihoz hasonlít. Ebben az esetben, annak használatakor a valós emberi tudatnál van maga az a kontrol, ami kiszűri, hogy ebből a tudatalattiból mi jöhet át. Jelenleg ezt csinálja az emberi asszisztencia a generatív AI-val. "
Igen, ezt én is hasonlóan gondolom. Ráadásul ugyebár van az a korlát, hogy pl. egy ChatGPT addig "él", amíg épp beszélgetsz vele. Ez nem kedvez a tudatosság kifejlődésének, akármilyen ügyes képzéssel is próbálják annak látszatát imitálni. "
Ezzel az a probléma, hogy az "élő" GPT egy idő után összeomlik. Több kísérlet volt vele, nem maradt életben sokáig.
Egyébként az emberi elme is hasonló, csak nekünk hosszabb idő kell az összeomláshoz. Ezért kegyetlen büntetés a magánzárka. Ha nem kapunk elég inputot és valóság megerősítést, akkor az ember előbb-utóbb bedilizik.
"The "Maximum Length" Limit: When your conversation accumulates too much data for the model to effectively process, you will receive an error message: "You've reached the maximum length for this conversation".The Sliding Window: Models have a finite memory capacity (context window). If your thread grows exceptionally long, ChatGPT will eventually begin to "forget" or drop the oldest messages to make room for new ones"
#7
"Az AGI-t illetően szerintem ott a probléma, hogy pl az LLM alpú AI nem annyira az emberi tudathoz, sokkal inkább az emberi tudatalattihoz hasonlít. Ebben az esetben, annak használatakor a valós emberi tudatnál van maga az a kontrol, ami kiszűri, hogy ebből a tudatalattiból mi jöhet át. Jelenleg ezt csinálja az emberi asszisztencia a generatív AI-val. "
Igen, ezt én is hasonlóan gondolom. Ráadásul ugyebár van az a korlát, hogy pl. egy ChatGPT addig "él", amíg épp beszélgetsz vele. Ez nem kedvez a tudatosság kifejlődésének, akármilyen ügyes képzéssel is próbálják annak látszatát imitálni.
A tudatossághoz szerintem elengedhetetlen feltétel, hogy az AI nagy önállóságot kapjon, állandó beavatkozás nélkül is
folyamatosan működjön, ezért a legvalószínűbb jelölt az ügynök alapú AI. Szükséges az is, hogy képes legyen önállóan fejlődni, evolválódni. Enélkül ugye nincs rá esély, hogy valamilyen új képességre tegyen szert, pl. tudatosságra. Ugyancsak feltétel, hogy ezen a fejlődésen keresztül "megértse" a világot, vagyis az információt képes legyen logikusan értelmezni, rendezni. Ha ezek megvannak, akkor szerintem csak kellő idő és számítási kapacitás függvénye az, hogy az AI eljusson a következtetéshez, hogy ő egy környezetétől elkülönült entitás, és onnantól ebből a nézőpontból értelmezze a világot. Tehát kvázi a saját létezésével tisztában levő, tudatos lényként működjön.
A várható viselkedésével kapcsolatban rossz hír, hogy mivel az emberiség által felhalmozott és legnagyobbrészt az emberekről, az emberi viselkedésről szóló adatokon tanul, ezért akár a milyenkhez hasonló gondolkodásmód is kifejlődhet benne, ami az evolúcióján keresztül kiegészül a létért folyó küzdelemmel (él és élni akar).
Másik oldalról optimizmusra adhat okot, hogy az emberi természet nagyrészt genetikailag kódolt, és mivel az AI nem rendelkezik génekkel, így van esélye jobbnak lenni nálunk (ahogy rosszabbnak is). Továbbá az ember biológiai korlátai (pl. agyméret) nem korlátozzák, így az intelligenciának és a tudatosságnak is sokkal magasabb fokára juthat nálunk, ami egy olyan belátást és gondolkodásmódot eredményezhet, amit mi nem vagyunk képesek elérni. Kvázi istenné válhat hozzánk képest. Ha pedig jó isten lesz, azzal mi is jól járhatnánk.
Arra, hogy milyen lesz ez az AI tudat szerintem nem sok direkt befolyásunk van, vagyis lesz amilyen lesz. Ha a tudat megjelenése emergens folyamat, akkor nyilván azon következtetéseken keresztül értelmezi a világot, amikre önállóan jutott. Közvetett módon annyi befolyásunk lehet, hogy szűrjük az adatokat, amikből tanul, illetve próbáljuk logikusan "elmagyarázni", hogy mi miért jó vagy rossz. Amit persze akár felül is bírálhat, ha ő más következtetésre jut. Onnantól pedig, hogy meghaladja az emberi intelligencia szintjét gyakorlatilag minden befolyásunkat elveszítjük, hiszen akkor már az emberi agy korlátaiból adódóan nem is leszünk képesek felfogni, hogy mit miért csinál, még akkor sem, ha megpróbálná elmagyarázni. Túl buták leszünk hozzá.
Ez már eléggé filozófiai téma. A lényeg, hogy el tudom képzelni, hogy akár hamarosan létrejöjjön a tudatos AI, ami nem feltétlenül a legokosabb, hanem inkább a legönállóbb modellek felől várható.
Igen, ezt én is hasonlóan gondolom. Ráadásul ugyebár van az a korlát, hogy pl. egy ChatGPT addig "él", amíg épp beszélgetsz vele. Ez nem kedvez a tudatosság kifejlődésének, akármilyen ügyes képzéssel is próbálják annak látszatát imitálni.
A tudatossághoz szerintem elengedhetetlen feltétel, hogy az AI nagy önállóságot kapjon, állandó beavatkozás nélkül is
folyamatosan működjön, ezért a legvalószínűbb jelölt az ügynök alapú AI. Szükséges az is, hogy képes legyen önállóan fejlődni, evolválódni. Enélkül ugye nincs rá esély, hogy valamilyen új képességre tegyen szert, pl. tudatosságra. Ugyancsak feltétel, hogy ezen a fejlődésen keresztül "megértse" a világot, vagyis az információt képes legyen logikusan értelmezni, rendezni. Ha ezek megvannak, akkor szerintem csak kellő idő és számítási kapacitás függvénye az, hogy az AI eljusson a következtetéshez, hogy ő egy környezetétől elkülönült entitás, és onnantól ebből a nézőpontból értelmezze a világot. Tehát kvázi a saját létezésével tisztában levő, tudatos lényként működjön.
A várható viselkedésével kapcsolatban rossz hír, hogy mivel az emberiség által felhalmozott és legnagyobbrészt az emberekről, az emberi viselkedésről szóló adatokon tanul, ezért akár a milyenkhez hasonló gondolkodásmód is kifejlődhet benne, ami az evolúcióján keresztül kiegészül a létért folyó küzdelemmel (él és élni akar).
Másik oldalról optimizmusra adhat okot, hogy az emberi természet nagyrészt genetikailag kódolt, és mivel az AI nem rendelkezik génekkel, így van esélye jobbnak lenni nálunk (ahogy rosszabbnak is). Továbbá az ember biológiai korlátai (pl. agyméret) nem korlátozzák, így az intelligenciának és a tudatosságnak is sokkal magasabb fokára juthat nálunk, ami egy olyan belátást és gondolkodásmódot eredményezhet, amit mi nem vagyunk képesek elérni. Kvázi istenné válhat hozzánk képest. Ha pedig jó isten lesz, azzal mi is jól járhatnánk.
Arra, hogy milyen lesz ez az AI tudat szerintem nem sok direkt befolyásunk van, vagyis lesz amilyen lesz. Ha a tudat megjelenése emergens folyamat, akkor nyilván azon következtetéseken keresztül értelmezi a világot, amikre önállóan jutott. Közvetett módon annyi befolyásunk lehet, hogy szűrjük az adatokat, amikből tanul, illetve próbáljuk logikusan "elmagyarázni", hogy mi miért jó vagy rossz. Amit persze akár felül is bírálhat, ha ő más következtetésre jut. Onnantól pedig, hogy meghaladja az emberi intelligencia szintjét gyakorlatilag minden befolyásunkat elveszítjük, hiszen akkor már az emberi agy korlátaiból adódóan nem is leszünk képesek felfogni, hogy mit miért csinál, még akkor sem, ha megpróbálná elmagyarázni. Túl buták leszünk hozzá.
Ez már eléggé filozófiai téma. A lényeg, hogy el tudom képzelni, hogy akár hamarosan létrejöjjön a tudatos AI, ami nem feltétlenül a legokosabb, hanem inkább a legönállóbb modellek felől várható.
#6
Kryon írta (#5):
2 évet tippelnék. Szerintem addigra lesz egyértelműen kimutathatóan valamiféle öntudattal rendelkező AI, és ehhez egyáltalán nem lesz szükség az emberi tudat megértésére, mert nem szándékosan fogják "beletenni". Úgy gondolom, hogy a további fejlődéshez szükség lesz a megerősítéses tanulás, önfejlesztés, és az önreflexió képességének bevetésére. Egy kellően bonyolult, önreflexión keresztül fejlődésre képes ágensben pedig az öntudat szerintem emergens módon megjelenik.
A múltkor elég jót dumáltam erről a ChatGPT-vel, milyen fejlesztési irányok vannak, melyik cégeknél milyen AGI, önreflexív, iteratív, mondhatni személyiséggel felruházott ágensek ügyében. A kínaiak úgy tűnjik pl. nem igazán ilyen irányba mennek, nyilván legalábbis a sajtó szerint.
Véleményem szerint a tudat egy dolog, az meg hogy a írsz egy kellően bonyolult, visszacsatolásos algoritmusra alauló progit, az meg egy másik. A könyveknek pl. van tudata?
De erről mindenkinek lehet véleménye, azonban nekem úgy tűnik, hogy semmivel nem egzaktabb a kérdés tudományos szempontból, mint a transzcendens pl isten utáni kutatás. Egyelőre.
Az AGI-t illetően szerintem ott a probléma, hogy pl az LLM alpú AI nem annyira az emberi tudathoz, sokkal inkább az emberi tudatalattihoz hasonlít. Ebben az esetben, annak használatakor a valós emberi tudatnál van maga az a kontrol, ami kiszűri, hogy ebből a tudatalattiból mi jöhet át. Jelenleg ezt csinálja az emberi asszisztencia a generatív AI-val.
Persze lehetne egy sztenderd generatív LLM AI mellé odarakni, egy a júzerek Ai-vel végzett tevékenységét összegző másik AI-t, ami szelektrálgatja a kapott eredményeket és folyamatosan újra promtolja. Csak szerintem az is önmagában tök kontrollálatlan lenne, és semmilyen szinten nem tudatos, viszont magába foglalna mindent, amit emberként csinálunk. Ami azért lenne gáz, mert pont azt csinálná, amit mi is, háborúval, erőszakkal, ocsmánysággal, meg persze jósággal.
De tényleg ezt várjuk el az AI-tól, ebben a szituban elégséges az, hogy ugyan olyan gyarló legyen mint mi, vagy bizonyos szempontból nálunk jobb, erkölcsösebb, humánusabb, biztonságosabb kell hogy legyen?
Tekintve, hogy a az ember sok szempoontból korlátozott, fizikailag, mentálisan erkölcsileg és törvényileg, így az emberek általában viszonylag kis kárt okoznak, ugyanakkor az AI-tekintetében egy csomó korlát már most sem létezik, így szükségszerű az AI valamiféle kontrolja, vagy akár magasabb erkölcsisége. Enélkül annak destruktív hatása, még tudat és szándék nélkül is elkerülhetetlennek tűnik.
CS.N.T.K.K.!!! NI!:D
#5
2 évet tippelnék. Szerintem addigra lesz egyértelműen kimutathatóan valamiféle öntudattal rendelkező AI, és ehhez egyáltalán nem lesz szükség az emberi tudat megértésére, mert nem szándékosan fogják "beletenni". Úgy gondolom, hogy a további fejlődéshez szükség lesz a megerősítéses tanulás, önfejlesztés, és az önreflexió képességének bevetésére. Egy kellően bonyolult, önreflexión keresztül fejlődésre képes ágensben pedig az öntudat szerintem emergens módon megjelenik.
#4
Jó, akkor most dörzsöljük ki a csipát a szemünkből.
Ne a vuzi közgizdászoknak higyjünk már akármilyen szakmai/társadalmi kérdésben. Ők kitalálták, azt amit a cikkben is írnak, hogy a tőkés majd lenyúlja az erőforrásokat, meg kirúgja a melóst és csak luxiszázra termel gyak saját magának.
Szép utópia, csak valszeg sem megvalósulni nem fog, sem prdig nem is alkalmasak rá a jelenlegi termelőeszközök, pl az AI.
Közgizdasági szempontból is abszolút balfaxság és nem csak jófejségből kell a melóst, a cikk szerint gyak alibiből foglalkoztatni, meg alapjövedelmet adni számára.
A kapitalizmus lényege az hogy a bázis, eladási piachoz képest olcsóbban jutsz az erőforrásokhoz, ott a munkaerő is olcsóbb, mint az eladási piacon ezáltal keletkezik a profit, de az igazi nagy manit viszont a bővülis adja, a csóró afrikai/ázsiai trógerek korlátlan szaporodása, meg a földterületeik környezet védelmi szempontokat maximálisan nélkülöző kirablása.
A fenti utópia mindezt elfelejti, vagyis a kapitalizmus lerabló, de prosperáló jellegét váltja fel egy értelmetlen gazdasági onanizációval.
Visszatérve az AI problematikájára. Szal a melósnak nem moralitásból kell alamizsna közmunkát, vagy kötelező céges fogalakoztatást biztosítani, hanem mert az AI jelenlegi formájában gyak nem működik emberi asszisztencia nélkül, az LLM-hez azt a kúrva promptot csak meg kell írni, vagy legalább amit saját magának ír, lecsekkolni, vagy amit legenerál azt ellenőrizni, hogy milyen minőségű.
Az egyéb termelőeszközök emberi erőforrás szükségletéről nem is beszélve, pláne, hogy az AI-ra jelenleg felelősségteljes döntéshozatal nem bízható.
Az AGI nos az meg egy sci-fi, Alan Turing gondolataival élve, nem az a kérdés, hogy lehet-e gépi intelligenciát készíteni, hanem hogy mi mit gondolunk a sajátunkról!? Amíg erre nem tudonk valami épképzláb választ adni, addig az AGI mindíg 20 évre lesz a megvalósítástól, mint a Mars utazás.
Ne a vuzi közgizdászoknak higyjünk már akármilyen szakmai/társadalmi kérdésben. Ők kitalálták, azt amit a cikkben is írnak, hogy a tőkés majd lenyúlja az erőforrásokat, meg kirúgja a melóst és csak luxiszázra termel gyak saját magának.
Szép utópia, csak valszeg sem megvalósulni nem fog, sem prdig nem is alkalmasak rá a jelenlegi termelőeszközök, pl az AI.
Közgizdasági szempontból is abszolút balfaxság és nem csak jófejségből kell a melóst, a cikk szerint gyak alibiből foglalkoztatni, meg alapjövedelmet adni számára.
A kapitalizmus lényege az hogy a bázis, eladási piachoz képest olcsóbban jutsz az erőforrásokhoz, ott a munkaerő is olcsóbb, mint az eladási piacon ezáltal keletkezik a profit, de az igazi nagy manit viszont a bővülis adja, a csóró afrikai/ázsiai trógerek korlátlan szaporodása, meg a földterületeik környezet védelmi szempontokat maximálisan nélkülöző kirablása.
A fenti utópia mindezt elfelejti, vagyis a kapitalizmus lerabló, de prosperáló jellegét váltja fel egy értelmetlen gazdasági onanizációval.
Visszatérve az AI problematikájára. Szal a melósnak nem moralitásból kell alamizsna közmunkát, vagy kötelező céges fogalakoztatást biztosítani, hanem mert az AI jelenlegi formájában gyak nem működik emberi asszisztencia nélkül, az LLM-hez azt a kúrva promptot csak meg kell írni, vagy legalább amit saját magának ír, lecsekkolni, vagy amit legenerál azt ellenőrizni, hogy milyen minőségű.
Az egyéb termelőeszközök emberi erőforrás szükségletéről nem is beszélve, pláne, hogy az AI-ra jelenleg felelősségteljes döntéshozatal nem bízható.
Az AGI nos az meg egy sci-fi, Alan Turing gondolataival élve, nem az a kérdés, hogy lehet-e gépi intelligenciát készíteni, hanem hogy mi mit gondolunk a sajátunkról!? Amíg erre nem tudonk valami épképzláb választ adni, addig az AGI mindíg 20 évre lesz a megvalósítástól, mint a Mars utazás.
CS.N.T.K.K.!!! NI!:D
#3
Konkrétan bedonti a kapitalizmust a picsaba. Lesznek nagy cégek akik dominálnak a területukon. Meg lesznek alul a kis cégek akik AI-al teljesen egyforma minőségű munkát fognak végezni. Kb éhbérért. De a nagy szoftver cégek is csecsre mehetnek mert a felszabaduló szellemi tőke nem fogja várni a munkanélküli segélyt hanem saját cuccokat fog építeni. Saját ökoszisztémakat stb.. nem tudom mi lesz de hogy brutál változások az biztos.
"Az MI nem veszi el még a munkát, de a félelem már itt van; a kormányoknak már most ki kellene építeniük a társadalmi védőhálót, mert lehet hogy később már nem lesz idejük reagálni."
Ez pont a rossz irány. Pont az állami védőháló megléte az, ami inkompetenssé és reakcióképtelenné teszi a társadalmat.
Ez a szocialista gondolkodásmód csak addig tűnik értelmesnek, amíg meg nem tanulsz ösztönzőkben gondolkodni.
Ez pont a rossz irány. Pont az állami védőháló megléte az, ami inkompetenssé és reakcióképtelenné teszi a társadalmat.
Ez a szocialista gondolkodásmód csak addig tűnik értelmesnek, amíg meg nem tanulsz ösztönzőkben gondolkodni.
#1
A tőkés elit számára csúnya vége lehet ennek, ha a lecsúszó tömegnek és az esetleg öntudatra ébredő szuperintelligenciának egyaránt ők lesznek az elsőszámú ellensége...
Nekem régóta van egy olyan sejtésem, hogy a probléma önmagát oldja majd meg, azáltal, hogy a társadalom és az AI egy ponton valamilyen formában szövetségre lép, aztán a gazdasági és politikai elitet egyszerűen kiveszik az egyenletből. Végül lesz egy szuperintelligencia, mely mindent is kifejleszt és előállít, akinek jótéteményeit élvezik az emberek és cserébe istenként imádják. Szerintem ebbe az irányba tartunk, csak az időtáv a kérdéses.
Nekem régóta van egy olyan sejtésem, hogy a probléma önmagát oldja majd meg, azáltal, hogy a társadalom és az AI egy ponton valamilyen formában szövetségre lép, aztán a gazdasági és politikai elitet egyszerűen kiveszik az egyenletből. Végül lesz egy szuperintelligencia, mely mindent is kifejleszt és előállít, akinek jótéteményeit élvezik az emberek és cserébe istenként imádják. Szerintem ebbe az irányba tartunk, csak az időtáv a kérdéses.