Az MI miatti szorongás világszerte terjed és átível a pártokat szétválasztó törésvonalakon
Jelentkezz be a hozzászóláshoz.
#6
Igen az AI ügynök már picit más, de a feladatot annak is ember kell, hogy kiadja. Aztán a veszély abban rejlik, hogy nem lehet tudni, hogy azt a feladatot pontosan milyen lépéseken keresztül haladva oldja meg. Így közben csinálhat olyat, ami a használójának szándékán kívül esik.
Ami szerintem úgy lehet veszélyes, amitől most félnek, hogy elszabadul, az a rekurzív önfejlesztés és az agentic AI kombinációja. És itt látom a csavart a történetben, amit nem tudom hogy fognak megoldani, ha egyáltalán létezik rá megoldás. Az AGI, és méginkább a szuperintelligencia a világ megértésének képessége nélkül szerintem elérhetetlen. Ez a képesség pedig valamiféle tudatosságot feltételez, míg a tudat valószínűleg emergens jelenség.
Vagyis tudatos AI-t, ami az AGI előfeltétele valószínűleg épp úgy lenne esély csinálni, hogy önfejlesztő, visszacsatolt AI-k sokaságát indítják el, abban reménykedve, hogy valamelyikben megjelenik a tudatosság és AGI, majd szuperintelligencia lesz belőle.
Ám mivel a fejlődése emberi léptékben felfoghatatlanul gyors lenne, így az öntudatra ébredés (ahonnan már saját célokat követ) és az emberit a kontrollálhatatlanság szintjén túl meghaladó intelligencia elérése között (itt már nem tudjuk lekacsolni, mert túljár az eszünkön) olyan kevés idő telne el, hogy nem tudnánk időben "megfogni".
Ami szerintem úgy lehet veszélyes, amitől most félnek, hogy elszabadul, az a rekurzív önfejlesztés és az agentic AI kombinációja. És itt látom a csavart a történetben, amit nem tudom hogy fognak megoldani, ha egyáltalán létezik rá megoldás. Az AGI, és méginkább a szuperintelligencia a világ megértésének képessége nélkül szerintem elérhetetlen. Ez a képesség pedig valamiféle tudatosságot feltételez, míg a tudat valószínűleg emergens jelenség.
Vagyis tudatos AI-t, ami az AGI előfeltétele valószínűleg épp úgy lenne esély csinálni, hogy önfejlesztő, visszacsatolt AI-k sokaságát indítják el, abban reménykedve, hogy valamelyikben megjelenik a tudatosság és AGI, majd szuperintelligencia lesz belőle.
Ám mivel a fejlődése emberi léptékben felfoghatatlanul gyors lenne, így az öntudatra ébredés (ahonnan már saját célokat követ) és az emberit a kontrollálhatatlanság szintjén túl meghaladó intelligencia elérése között (itt már nem tudjuk lekacsolni, mert túljár az eszünkön) olyan kevés idő telne el, hogy nem tudnánk időben "megfogni".
#5
Ja, nem írtam, hogy szerintem miért irányíthatatlan. Évekkel ezelőtt volt az téma, hogy a betanítás során nemcsak ismereteket adunk át a szövegekkel, hanem következtetési mintákat is. Így nem lehet száz százalékosan kitiltani valamit ebből az adatbázisból, pl. megtiltani neki valamit, hogy milyen eszközökhöz ne nyúljon egy kívánt feladat érdekében, egyszerűen nem ilyen szabályrendszerek alapján működik az egész.
Egyszerűbb válaszoknál is látszik, hogy ha egy ritkábban előforduló jelenségről kérdezem, nagyobb eséllyel hibázik: érezhető lesz egy-egy hasonló, de sokkal erősebb mintázat hatása, amitől többszöri pontosítással, cáfolatokkal lehet eltéríteni.
Zavaró lehet, hogy korábban végeztek direkt a megoldási módszereket vizsgáló teszteket mesterséges körülmények közt és azok eredményeit is szenzációként tálalták a médiában, de nemcsak azokról van szó. És egyébként is szembe megy az LLM-ek belső működése minden olyasmivel, amit a számítástechnikában eddig biztonságnak tartottunk; mi a program, mi az adat és ki mire jogosult. Külön próbáljuk megoldani, ahol lehet.
Utoljára szerkesztette: _tki_, 2026. 09. 26. 12:20
Egyszerűbb válaszoknál is látszik, hogy ha egy ritkábban előforduló jelenségről kérdezem, nagyobb eséllyel hibázik: érezhető lesz egy-egy hasonló, de sokkal erősebb mintázat hatása, amitől többszöri pontosítással, cáfolatokkal lehet eltéríteni.
Zavaró lehet, hogy korábban végeztek direkt a megoldási módszereket vizsgáló teszteket mesterséges körülmények közt és azok eredményeit is szenzációként tálalták a médiában, de nemcsak azokról van szó. És egyébként is szembe megy az LLM-ek belső működése minden olyasmivel, amit a számítástechnikában eddig biztonságnak tartottunk; mi a program, mi az adat és ki mire jogosult. Külön próbáljuk megoldani, ahol lehet.
Utoljára szerkesztette: _tki_, 2026. 09. 26. 12:20
#4
Ez a sok évvel ezelőtti, naiv álláspont, hogy magától semmit sem csinál, tehát kiszámítható és kordában tartható, a többség így gondolta, én is.
Nyugodtan úgy lehet tekinteni, hogy egy agentic AI "magától" csinál ezt vagy azt, mivel egyre több mindent bízunk rájuk - a verseny vagy az anyagi haszon miatt is -, amik hosszú, összefüggő feladatok, döntési folyamatok, amelyek során a külvilágot valós vagy virtuális, de konkrét eszközökkel befolyásolják - miközben gyakorlatilag és végső soron irányíthatatlanok. Ezen érdemes rágódni egy kicsit, hogy mit is jelent a gyakorlatban. Tehát most is veszélyesek, nemhogy a jövőben.
Hogy sosem lesz minőségi váltás a működésükben? Havonta gondolom hol így, hol úgy. Igaz, hogy a modellek nem tanulnak menet közben, ebben mások az emberi agyhoz képest, mégis van bennük visszacsatolás az agentek miatt, ez azért emlékezet és tanulás egy bizonyos szinten, és sok képességet megdobhat még a gyakorlati alkalmazások fejlődése, azok részletei.
Amúgy az LLM működése nem különbözik annyira az emberi gondolkodástól, még ki is alakultak bennük az emberei psziché jutalmazás-büntetés rendszeréhez hasonló jelenségek nagy számban, alapvető összetevőkben, ami szintén igen jelentős felfedezés volt tán egy éve stb. Persze, az emberi gondolkodás "több szálon", nagyobb térben történik, de hasonlóan mintaillesztésekből és valószínűségekből áll.
Az eddigi eredményeket sem mertük remélni az aktuális számítástechnikai szinttől, számítási teljesítményektől, sőt nem is láttuk előre, hogy már megvan rá a lehetőség. Az AI-jal kapcsolatos fejlesztések során pedig bizonyos szinten rengeteg a vaktában próbálkozás, pl. az Open AI-osok meséltek erről. És az aktuális fejlesztések a nagy AI-cégeknél leginkább az öntanulás-önfejlesztés elérésére irányulnak, amit szintén nem látnak előre, hogy hová juthat - mármint a fejlesztők, tudósok, nemcsak mi -, ettől nyilván lehet tartani.
Ugyanakkor ebben a mozgalomban, ami látható belőle, már az is manipulációnak tűnik, hogy a veszélyek nincsenek pontosabban megfogalmazva csak ez az "öntudatra ébredés" a jelszó. Talán így, ebben az állapotában hagyják a gazdasági és politikai vezetők kisülni a jelenséget, mert már úgysem lehet következménye. Egy bizalomvesztett világban, amiben a politikusok az úgynevezett demokráciákban is hatalmon tudnak maradni úgy is, hogy a nagy kérdésekben igen távol vannak a többség akaratától, érezhetően irányítja őket valami ellenünkben - a kisebbekben folyó munkák majd eltakarják -, mire lehet számítani egy szimpla 50 százalék körüli akarattól? : -)
Utoljára szerkesztette: _tki_, 2026. 09. 26. 11:19
Nyugodtan úgy lehet tekinteni, hogy egy agentic AI "magától" csinál ezt vagy azt, mivel egyre több mindent bízunk rájuk - a verseny vagy az anyagi haszon miatt is -, amik hosszú, összefüggő feladatok, döntési folyamatok, amelyek során a külvilágot valós vagy virtuális, de konkrét eszközökkel befolyásolják - miközben gyakorlatilag és végső soron irányíthatatlanok. Ezen érdemes rágódni egy kicsit, hogy mit is jelent a gyakorlatban. Tehát most is veszélyesek, nemhogy a jövőben.
Hogy sosem lesz minőségi váltás a működésükben? Havonta gondolom hol így, hol úgy. Igaz, hogy a modellek nem tanulnak menet közben, ebben mások az emberi agyhoz képest, mégis van bennük visszacsatolás az agentek miatt, ez azért emlékezet és tanulás egy bizonyos szinten, és sok képességet megdobhat még a gyakorlati alkalmazások fejlődése, azok részletei.
Amúgy az LLM működése nem különbözik annyira az emberi gondolkodástól, még ki is alakultak bennük az emberei psziché jutalmazás-büntetés rendszeréhez hasonló jelenségek nagy számban, alapvető összetevőkben, ami szintén igen jelentős felfedezés volt tán egy éve stb. Persze, az emberi gondolkodás "több szálon", nagyobb térben történik, de hasonlóan mintaillesztésekből és valószínűségekből áll.
Az eddigi eredményeket sem mertük remélni az aktuális számítástechnikai szinttől, számítási teljesítményektől, sőt nem is láttuk előre, hogy már megvan rá a lehetőség. Az AI-jal kapcsolatos fejlesztések során pedig bizonyos szinten rengeteg a vaktában próbálkozás, pl. az Open AI-osok meséltek erről. És az aktuális fejlesztések a nagy AI-cégeknél leginkább az öntanulás-önfejlesztés elérésére irányulnak, amit szintén nem látnak előre, hogy hová juthat - mármint a fejlesztők, tudósok, nemcsak mi -, ettől nyilván lehet tartani.
Ugyanakkor ebben a mozgalomban, ami látható belőle, már az is manipulációnak tűnik, hogy a veszélyek nincsenek pontosabban megfogalmazva csak ez az "öntudatra ébredés" a jelszó. Talán így, ebben az állapotában hagyják a gazdasági és politikai vezetők kisülni a jelenséget, mert már úgysem lehet következménye. Egy bizalomvesztett világban, amiben a politikusok az úgynevezett demokráciákban is hatalmon tudnak maradni úgy is, hogy a nagy kérdésekben igen távol vannak a többség akaratától, érezhetően irányítja őket valami ellenünkben - a kisebbekben folyó munkák majd eltakarják -, mire lehet számítani egy szimpla 50 százalék körüli akarattól? : -)
Utoljára szerkesztette: _tki_, 2026. 09. 26. 11:19
#3
Akva írta (#2):
"egy mai LLM elveken müködő "AI" baromi messze van attól hogy önálló entitás legyen"
Az a baj, hogy ez csak az egyik veszély. Azért működő vírust már kifejlesztettek vele, és vegyi fegyvereket is könnyebb vele tervezni, mint nélküle. A hackelési képességeiről nem beszélve.
Vagyis akkor lehet veszélyes, ha rossz szándékkal használják. Ez pedig lényegében bármiről elmondható.
Önmagában nem veszélyes, mert magától nem csinál semmit.
#2
"egy mai LLM elveken müködő "AI" baromi messze van attól hogy önálló entitás legyen"
Az a baj, hogy ez csak az egyik veszély. Azért működő vírust már kifejlesztettek vele, és vegyi fegyvereket is könnyebb vele tervezni, mint nélküle. A hackelési képességeiről nem beszélve.
Az a baj, hogy ez csak az egyik veszély. Azért működő vírust már kifejlesztettek vele, és vegyi fegyvereket is könnyebb vele tervezni, mint nélküle. A hackelési képességeiről nem beszélve.
#1
Teljesen behülyitik az embereket a sok baromsággal az AI-ról a neten. egy mai LLM elveken müködő "AI" baromi messze van attól hogy önálló entitás legyen. Majd ha sikrül valami quantum számítógépen vagy egyébb hardveren valóban entitással rendelkező AI-t alkotni na akkor el lehet gondolkodni hogy mi van- A mostani "AI" entitás szinten nem éri el egy éti csiga tudatoságát. Ez az AI nem fog minket kiírtani. Ez csak egy ügyesebb google kereső, aminek adat tartalma jobban van feldolgozva, hogy megtalálják az informatikai adathalmazban az üsszefüggésket és ez alapján átfogobb eredményeket tud visszaadni. Ez persze nem zárja ki, hogy emberek ártó dolgokra használják. Mondjuk elektronikusan betörni valahová vagy olyan információkat szerezni, ami máshol nem érhető el. kamu dolgokat generálni vele és egyebek. De tuti nem fog minket kiírtani ez fajta "AI". Lévén esélytelen, hogy bármiféle módon valós öntudatra ébredjen. Ás 100-szor ennyi hardverrel és 1000-szer ennyi adattal is csak egy ügyesebb google kereső marad..... a mennyiségből nem lesz minőségi ugrás. Szóval tessék nyugodtan aludni. van egy praktikus eszközünk ami megkönnyíti az életünket. de nem fog éjjel belopozni a háloszobába egy nagy konyhakéssel, hogy átvágja a torkunkat... 😊