Közeleg az idő, amikor a mesterséges intelligencia emberi segítség nélkül fejlődik tovább

t_robert írta (#4):
Azért a technológiai fejlődés mindig járt olyan áldozatokkal ami kellemetlen. Gondolj bele a lyoni takácsok lázadására, akik fellázadtak a szövőgépek ellen. a manufaktúrákban. vagy csőringer patkoló kovácsokra, aki feleslegesek lettek mikor a lovakat felváltották az autók. Ettől azért nem fog loval járni az emberiség újra. Optimális esetben talán lett olyan patkoló kovács, aki autószerelő lett vagy autógumis... 😊

Szerintem nem világosan fogalmaztam meg, amit mondani akartam. Valszeg ezért nem jött át, kicsit tovább viszem a gondolatsort.
Nem az a gáz, amikor a társadalmi folyamatok miatt néhány ember jobban jár és mások meg elveszítik a munkájukat egzisztenciájukat. Ahogy írtad volt már ilyen. Nem az a probléma, hogy az MI esetében, annak döntései során (ha ezeket rá bízzuk) már most is előállhat olyan, amikor sokan rosszul járnak. Hanem, hogy ebben az új leosztásban már előállhat olyan szitu is, az MI találhat olyan megoldást a problémákra, amikor csak az MI jár jól és minden ember rosszul. Nem kell nagy fantázia, túl sok fantasztikus filmet megnézni, hogy ez mit jelent számunkra.
A fantasztikus filmekhez képest pláne problémás, hogy már a jelenlegi szintű MI is ezt mindenféle igazi tudatos tevékenység nélkül is meg valósíthatja (ha hagyjuk neki), nem kell ehhez a Skynetnek öntudatra ébrednie!

Kryon írta (#2):
Szerintem a rekurzív önfejlesztés sikerességének mindenképp előfeltétele valamiféle öntudat, önreflexiós képesség. Ennek hiányában ugyanis (mint ahogy a cikk utali is rá) a nem teljesen egyértelműen eldönthető helyzetekben az MI nem, vagy sokkal kisebb valószínűséggel tudja csak kiválasztani a jó megoldást. Ahányszor rosszul dönt, azok az esetek az új modellnek már eleve hibásan lesznek betanítva. Így a generációk során a hibák felszaporodnak és végül teljesen használhatatlanná válik az MI.

Ennek elkerüléséhez szükséges, hogy az önfejlesztő MI értse is a világot. Ahhoz pedig valamilyen tudatosság kell. Szóval szerintem szuperintelligencia nincs önfejlesztés nélkül, hatékon önfejlesztés pedig nincs tudatosság nélkül. Mivel pedig nem tudjuk, hogy pontosan hogyan működik a tudat, így a tudatos MI-t nem tudjuk direkt módon megalkotni. Abban bízhatunk, hogy sok kísérletezés és a modellek bonyolultságának növekedése során valahogy emergens módon megjelenik majd a tudat is. Onnan viszont nagyon gyorsan fognak pörögni az események, és nem sok befolyásunk lesz rá.

Úgy tűnik, hogy az ilyen rekurzivitással felruházott MI megoldások problematikája bizonyos szempontból hasonló az algoritmusokkal kapcsolatban is felmereülő kérdésekhez (pl. az algoritmusok jelentős része végső eredmény nélküli végtelen ciklushoz vezet, és kérdéses, hogy megállapítható előre azok működtetése nélkül, hogy ebbe a kategóriába tartoznak vagy sem?).
A jelenlegi MI legalábbis az LLM alapúak ugyanakkor nem adnak egzakt eredményt semmire, még akkor sem, amikor látszólag tökéletesen felelnek, mert egyszerűen csak mintázatokat kezelnek, anélkül hogy azt a hagyományos értelemben értenék. És valójában önmagukban soha nem képesek eldönteni, hogy az általuk generált eredmény tudományosan helyes, vagy helytelen még akkor sem, ha végtelenszer tesszük fel a kérdést.
Az emberi megértés, tudatosság is valószínüleg egy olyan folymatot tükröz, amikor az LLM MI-hez nagyon hasonló tudatalatti eredményeit mi magunk összevetjük más tanult/megismert rajtunk kívül álló rendszerek, információs strukturák eredményeivel: a társadalmi értékek/tabuk rendszerével, az erkölcsi elvekkel, a tudományos ismeretekből logikai elvekkel kikövetkeztetett konkrét eredményekkel, stb. Ez a tudatos elem összességében talán megfelel a személyiségnek.
Ezen rendszer működésekor a tudatalatti/LLM MI és a tanult, racionális modellek (személyiség) eltérő eredményei jelentősen ellentétesek lehetnek, ami vagy a tudatatti alapját jelentő adatbázisának módosítását igényelheti az adatok ismételt újra és újra történő bevitele által és ebben a rendszerben gyakokrlatilag ez maga a tanulás. Vagy a személyiség modosítását.

N3XUS6 írta (#1):
Ha azok az emberek akik az MI-t fejleszti gyakorlatilag már ma is jelentős számú ember érdekével szemnben cselekszenek (hiszen azok pl. elveszítik a melójukat), akkor miért gondoljuk hogy egy ilyen szemlélettel létrehozott, már önfejlesztés képességgel felruházott tudattalan mechanizmus, ami az MI most is, más fajta módon, nem az emberek kárára fejleszti majd önmagát.

Ha nem adunk neki más célt, erkölcsi mérlegelést, gyakorlatilág személyiséget és tudatot, akkor biztos, hogy ellenünkre fog tenni, hiszen már ma is így tesz. Ha öntudatra ébred, akkor viszont esetleg nem fog ellenünk tenni, de akkor is meg lesz rá az esély.

Azért a technológiai fejlődés mindig járt olyan áldozatokkal ami kellemetlen. Gondolj bele a lyoni takácsok lázadására, akik fellázadtak a szövőgépek ellen. a manufaktúrákban. vagy csőringer patkoló kovácsokra, aki feleslegesek lettek mikor a lovakat felváltották az autók. Ettől azért nem fog loval járni az emberiség újra. Optimális esetben talán lett olyan patkoló kovács, aki autószerelő lett vagy autógumis... 😊

Figyi AI szerintem a háromszögbe nyomd a hengert... csak erővel... na látod, hogy belement. Tölünk emberektől mindig tanulhatsz valami hasznosat... 😊

Szerintem a rekurzív önfejlesztés sikerességének mindenképp előfeltétele valamiféle öntudat, önreflexiós képesség. Ennek hiányában ugyanis (mint ahogy a cikk utali is rá) a nem teljesen egyértelműen eldönthető helyzetekben az MI nem, vagy sokkal kisebb valószínűséggel tudja csak kiválasztani a jó megoldást. Ahányszor rosszul dönt, azok az esetek az új modellnek már eleve hibásan lesznek betanítva. Így a generációk során a hibák felszaporodnak és végül teljesen használhatatlanná válik az MI.

Ennek elkerüléséhez szükséges, hogy az önfejlesztő MI értse is a világot. Ahhoz pedig valamilyen tudatosság kell. Szóval szerintem szuperintelligencia nincs önfejlesztés nélkül, hatékon önfejlesztés pedig nincs tudatosság nélkül. Mivel pedig nem tudjuk, hogy pontosan hogyan működik a tudat, így a tudatos MI-t nem tudjuk direkt módon megalkotni. Abban bízhatunk, hogy sok kísérletezés és a modellek bonyolultságának növekedése során valahogy emergens módon megjelenik majd a tudat is. Onnan viszont nagyon gyorsan fognak pörögni az események, és nem sok befolyásunk lesz rá.

Ha azok az emberek akik az MI-t fejleszti gyakorlatilag már ma is jelentős számú ember érdekével szemnben cselekszenek (hiszen azok pl. elveszítik a melójukat), akkor miért gondoljuk hogy egy ilyen szemlélettel létrehozott, már önfejlesztés képességgel felruházott tudattalan mechanizmus, ami az MI most is, más fajta módon, nem az emberek kárára fejleszti majd önmagát.

Ha nem adunk neki más célt, erkölcsi mérlegelést, gyakorlatilág személyiséget és tudatot, akkor biztos, hogy ellenünkre fog tenni, hiszen már ma is így tesz. Ha öntudatra ébred, akkor viszont esetleg nem fog ellenünk tenni, de akkor is meg lesz rá az esély.