zakzag#6
"Eloszor is erdemes tisztazni, hogy ha a statisztikai modellek, mint amilyenek az LLM-ek sajat kimenetukbol dolgoznak tovabb, akkor az eleg gyorsan felerositi a modellekben jelen levo zajt, tehat elobb utobb feher zaj (teljes mertekben ertelmetlen szoveg) lesz a kimenet." - nem emlékszem, hogy ezzel kapcsolatban bárki mondott volna bármit, szalmabáb érvelés. Az AI-k nem a saját maguk által generált információkkal tanítják saját magukat, hanem egy AI létrehoz egy másik AI-t és nézi, hogyan viselkedik a valós életben, az információ nem egyszerűen generált adat, hanem egy generált adatból létrehozott AI sikeressége, ami már nem generált adat, hanem új. A veszély valós, az AI tudósok is gyorsan rájöttek, hogy a veszélyessége a visszacsatolásos rendszer miatt van, az okoz végtelen bonyolultságot és kaotikus viselkedést, mint ahogy az élet maga is egy ugyanilyen rendszer.
Nem kell, hogy az ember létrehozzon bármilyen AGI-t, mert elég, ha csak egy olyan rendszert tud létrehozni, amelyik önmagát javítja (visszacsatolás), vagy olyan rendszereket tud létrehozni, amik más rendszereket javítanak, a lényeg az hogy az információ valahogy visszacsatolódik, és önjavítővá válik. Ehhez nem intelligencia kell, hanem ez a beépített mechanizmus.