6
-
zakzag #6 "Eloszor is erdemes tisztazni, hogy ha a statisztikai modellek, mint amilyenek az LLM-ek sajat kimenetukbol dolgoznak tovabb, akkor az eleg gyorsan felerositi a modellekben jelen levo zajt, tehat elobb utobb feher zaj (teljes mertekben ertelmetlen szoveg) lesz a kimenet." - nem emlékszem, hogy ezzel kapcsolatban bárki mondott volna bármit, szalmabáb érvelés. Az AI-k nem a saját maguk által generált információkkal tanítják saját magukat, hanem egy AI létrehoz egy másik AI-t és nézi, hogyan viselkedik a valós életben, az információ nem egyszerűen generált adat, hanem egy generált adatból létrehozott AI sikeressége, ami már nem generált adat, hanem új. A veszély valós, az AI tudósok is gyorsan rájöttek, hogy a veszélyessége a visszacsatolásos rendszer miatt van, az okoz végtelen bonyolultságot és kaotikus viselkedést, mint ahogy az élet maga is egy ugyanilyen rendszer.
Nem kell, hogy az ember létrehozzon bármilyen AGI-t, mert elég, ha csak egy olyan rendszert tud létrehozni, amelyik önmagát javítja (visszacsatolás), vagy olyan rendszereket tud létrehozni, amik más rendszereket javítanak, a lényeg az hogy az információ valahogy visszacsatolódik, és önjavítővá válik. Ehhez nem intelligencia kell, hanem ez a beépített mechanizmus. -
codaco #5 Nézd a jó oldalát. Az MI-vel való harc majd egyesíti az emberiséget. -
kvp #4 Eloszor is erdemes tisztazni, hogy ha a statisztikai modellek, mint amilyenek az LLM-ek sajat kimenetukbol dolgoznak tovabb, akkor az eleg gyorsan felerositi a modellekben jelen levo zajt, tehat elobb utobb feher zaj (teljes mertekben ertelmetlen szoveg) lesz a kimenet.
Amit a cikk emlitene, azok a sajat magukat kepzo altalanos mesterseges intelligenciak (AGI), viszont ilyenbol egyelore (tudtommal) meg mukodo modell se letezik es csak elmeletben gondoljuk, hogy keszitheto ilyen. (Ha letezik, akkor amig leirtam ezt a hozzaszolast, mar okosabb lett mint az egesz emberiseg es ha nem joindulatu velunk mar reg tul keso barmin is gondolkozni.) -
CommieSlayer #3 Ez az alarmizmus ezektől a milliárd dolláros tech cégektől a market control stratégia része. Minél jobban be lesz szabályozva az AI annál jobban be lesz biztosítva a piacvezető pozíciójuk. A politikusoknak is jól jön, ha nem fejleszthet bárki olyan AI-t, ami megkérdőjelezi az uralkodó politikai ideológiát.
Utoljára szerkesztette: CommieSlayer, 2025.12.03. 18:52:17 -
CommieSlayer #2 A hallucináció jellemző probléma az embernél is és az ember is képes kezelni. Az episztemológia és a tudományos módszertan jól algoritmizálható dolgok. Az AI-nak csak ezközt kell biztosítani, amin le tudja tesztelni az állításai igazságtartalmát.
Utoljára szerkesztette: CommieSlayer, 2025.12.03. 18:48:07 -
felemelő #1 Hát ha a hallucinációkat mint tényanyagot építi be, az elég kemény rekurzióvá tud válni.