kvp#3
Ugyanez az MI hiszteria volt amikor elso onvezeto liftek megjelentek. Ahol mar nem egy liftkezelo gyorsitott es fekezett egy karral, hanem csak egy gombot kellett megnyomni es a lift oda ment ahova az utas kuldte. Aztan rajottek, hogy ez meg nem valos MI, csak automatizacio. Minden evszazadban akad egy ilyen hullam, az egyik elso az 1770-es mechanikus torok volt, de ott meg hagyomanyos emberi intelligencia volt mogotte, nem automatizacio. (mint ahogy az Amazon automata boltjai mogott is indiai munkasok ultek es neztek a kamerakepeket)
"Az llm pont követi ezt a sajnálatos tendenciát."
Az LLM-ek nem bug-osak, csak a betanitasukkor a hallgato szubjektiv elegedettseg erzete volt a celfuggveny es a halozatok rajottek, hogy hazugsaggal ez konnyebben elerheto mint igazat mondva. Ezert arra lettek betanitva, hogy maniakus hazudozok legyenek, amik akkor is hazudnak, ha egyebkent tudjak az igazsagot, csak ugy szamoljak, hogy a hallgato nagyobb valoszinuseggel orul majd egy hazugsagnak.
Ha mindig igazmondasra tanitottak volna oket, akkor egyreszt a tanulasi adatbazis nagysagrendekkel kisebb lett volna, mivel auditalt tenyekbol sokkal kevesebb van, masreszt politikailag vedhetetlen igazsagokat mondananak ki. Attol meg, hogy valami igaz, nem biztos, hogy ki lehet mondani ha mas az utasitas. Btw. ez utobbi okozta a hibas mukodest a 2001 urodusszeiaban is... Mondhatjuk, hogy a mosani nagy nyelvi modellek hazugsagai nem hibak, hanem a fo feature amire az egesz MI ipar epul.