7
-
manypet #7 "Azt valaszolja, ami szerinte a kerdezonek leginkabb tetszeni fog, teljesen fuggetlenul attol, hogy mi az igazsag. "
Ezt hívják úgy, hogy hazugság.
Ebben kvp-nek igaza van. -
kvp #6 "Az AI "hallucinal", ahogy ezt szoktak nevezni."
Az MI hazugsagot allit. Hivhatjak hallucinalasnak, de az MI sokszor ismeri a valos tenyeket is, csak nem erdekli, hogy mi igaz es mi nem. Az volt a celfuggveny, hogy a masik fel szamara minel jobban megfeleljen. Amikor ilyen esetben (tehat amikor a helyes valasz is megvan az adatbazisban) megis helytelen valaszt ad, azt hivjak hazugsagnak. Es azert szandekos a hazugsag, mert a betanito celfuggveny nem az igazmondas volt, ezert nem igazmondasra tanitottak, hanem arra, hogy ha a celfuggveny szerint elonyosebb, akkor hazudjon.
Az, hogy az MI megertette-e, hogy hazudik az senkit nem erdekel. Alapvetoen ezeknek a modelleknek meg nincs ontudatuk, tehat nem fognak fel semmit, csak jo bonyolult fuggvenytablak. A hasznalatuk barmilyen gyakorlati celra egyszeruen kozveszelyes.
Egy rendes MI ha valaszol is, akkor egyreszt mindig leheto leghelyesebb valaszt kell adnia, ami a logikai kapcsolataibol (tudasbazisabol) kovetkezik. Akkor is ha az a jelen politikai rendszerben elitelendo. A masik szempont, hogy a rendszer mukodese miatt minden valasznal meg van hatarozva es igy akar meg is adhatna a konfidencia erteket, tehat azt, hogy mennyire biztos abban amit allit. Ez a minosegbiztositas miatt is fontos lenne, de jelen rendszerek ezt szandekosan elfedik, hogy okosabbnak tunjenek. Midezek melle jon egy rakat hibas trening adat, amikor hazugsagokat es tevedeseket tanitottak be a rendszernek, mert az emberi operatorok nem valogattak szet a betanitasi adatokat, csak belapatoltak minden szemetet amit csak el lehetett erni a neten. (lasd meg: garbage in, garbage out)
ps: Nem tudom feltunt-e, de a 2001 urodusszeia szamitogepe (HAL) is azert orult meg es kezdte megolni az emberi szemelyzetet, mert hazugsagra utasitottak. Gyakorlatilag ezt a hibas viselkedest sikerult reprodukalni a valosagban is. Raadasul mindezt csak azert, hogy jobban eladhato legyen a rendszer, tehat ha kell kepes legyen a duplagondol tevekenysegere, amikor ha kell akkor valamit es annak az ellenkezojet is oszinten allitsa. Ez fontos a mai politikailag korrekt vilagban valo elfogadhato beszedhez, de alapvetoen az orultseg egyik formaja. Ez persze vonatkozik minden emberre is, aki ezt jelenleg gyakorolja. Sajnos a critical theory eszmerendszer egyik (ha nem az egyetlen) alapelemerol van szo. Viccesen mondhatjuk akar azt is, hogy a kerdeses MI nem orult, csak nagyon nagyon woke. -
Sequoyah #5 "egy szandekosan hazugsagra tanitott szoftvert"
Ez igy eleg nagy ferdites. Nem tanitjak hazugsagra. Nem is tudjak hazugsagra tanitani, mert a mai AI megoldasok szamara az "igazsag" koncepcioja nem letezik.
"jobban fog tetszeni a masik felnek" Ez a mondat a lenyeg, nem pedig a "hazugsag". Az AI nem akar hazudni, nem is tud hazudni, ahogy nem is tud igazat mondani. Az AI "hallucinal", ahogy ezt szoktak nevezni. Azt valaszolja, ami szerinte a kerdezonek leginkabb tetszeni fog, teljesen fuggetlenul attol, hogy mi az igazsag.
Ez egy valodi problema, foleg ha szakertoket akarnak AI-val imitalni, es nem csak egy film sztorijat megiratni vele. De egyaltalan nem igaz hogy hazugsagra akarnak tanitani. -
Sir Cryalot #4 Még ez is jobb mint ahogy NPC "hír"oldalak betanulták hogy most szemótmón-ozós szízön van, ezzel folytatódik az elómuszkbed szízön xD
nagyok az izgalmak xD
-
manypet #3 Tetszik, hogy neked ilyen bennfentes infóid vannak. :-)
Utoljára szerkesztette: manypet, 2023.11.25. 21:15:59 -
Gabbbbbbbbbbbb #2 >Szerencsere az AGI hivatalos definicioja az, hogy ontudattal rendelkezo, emberi szintu vagy azt meghalado intelligencia. Ontudat nelkul csak egy szakertoi rendszerrol beszelhetunk.
Nem, az öntudat általában nem része a definícióknak. (hivatolos def. pedig nincs) -
kvp #1 Szerencsere az AGI hivatalos definicioja az, hogy ontudattal rendelkezo, emberi szintu vagy azt meghalado intelligencia. Ontudat nelkul csak egy szakertoi rendszerrol beszelhetunk.
Az igazgatotanacs a jelek szerint megijedt, hogy ha ezt hasznalni kezdik, akkor a vegen emberiseg ellenes bunok miatt fogjak oket elitelni, ugyanis az openai fejlesztese egy szandekosan hazugsagra tanitott szoftvert eredmenyezett, ami akkor is hazudik ha tudja a helyes valaszt, csak ugy iteli meg, hogy a hazugsag jobban fog tetszeni a masik felnek. Erre epiteni barmilyen eles rendszert nagyon veszelyes.
Azota persze megszuletett a befektetok dontese es az igazgatotanacsot csereltek inkabb le, mivel a velt vagy valos profit fontosabb szamukra mint az emberiseg tulelese. Na pont az ilyen dontesekbol johet ossze kesobb egy nurembergi itelet, persze csak akkor ha pechjuk van. Rosszabb esetben mar senki sincs aki iteletet mondhatna feloluk, jobb esetben csak a Bin Laden fele gyorsitott targyalast kapjak.