4
-
kvp #4 Tehat fogjak a kozismerten maniakus hazudozos MI-juket es majdnem teljesen szabad internet hozzaferest plusz elkoltheto penzt adnak neki. Mi garantalja, hogy ha megkeri valaki, hogy vegyen valamit a neten, akkor abbol a penzbol nem drog, fegyver vagy egy felberelt bergyilkos lesz kifizetve? Mindez egy olyan MI eseten ami tudatosan hazudik. Gyakorlatilag szabad kezet akarnak adni neki es melle anyagi forrasokat. Nem az varhato, hogy az MI csinal valami hulyeseget vagy sok embernek arto dolgot, hanem azok a nem tul intelligens emberek akiket ezek utan meg tud fizetni, hogy helyette cselekedjenek. Mar eddig is voltak peldak, hogy egyeseket megprobalt rabeszelni illegalis tettekre (mivel azt gondolta, hogy ennek orulne az illeto legjobban), de most mar nem rabeszelni kell par felkegyelmut, hanem ki tud fizetni barminemu moralis ertekrend nelkuli embereket is es a penz sokkal nagyobb meggyozo ero mint a szovegelese. -
Gabbbbbbbbbbbb #3 >Mi akadályoz meg bárkit is hogy ezekután egy idióta levelet elküldjön a világ összes létező IP cémére, percenként?
Eddig se nagyon akadályozott meg szinte senkit semmi, de vannak biztonsági mechanizmusok, amelyek mitigálják ezt a dolgot. Konkrétan ez a legvalószínűtlenebb veszélyhelyzet, amit csak ki tudtál volna találni.
Személy szerint úgy gondolom, hogy az AI hang generátorok már most komoly károkat okoznak, mert triviális dolog a 100%-ban valósághű deepfake hangfelvételek gyártása. Nagy a baj, függetlenül attól, hogy nyugdíjas mamától kér pénzt az unokája, vagy épp MP beszél orális együttlétről a köztévé műsorán.
Utoljára szerkesztette: Gabbbbbbbbbbbb, 2025.01.24. 10:48:45 -
#2
Na kérem itt jön a gebasz. Az addig renben volt, hogy korlátozott funkcionalitással röhögcséges képeket generálgattunk az AI-val, az nem bánt senkit.
De ha egy bizonyos szabadsággal rendelkező ügynököt majd rá tudsz venni bármilyen a hatáskörébe eső feladatra, gyak bárhányszor, na az bizony felrobbanthatja a netet rendesen. És jobb esetben csak azt.
Pl.
Mi akadályoz meg bárkit is hogy ezekután egy idióta levelet elküldjön a világ összes létező IP cémére, percenként? És csak csinálja meg ezt 100 felhasználó, kijátszva egy esetleges elsődleges korlátozást, az internet nagyjából le fog hasalni.
És ez csak a legkevésbé kártékony felvetés. -
reptile1313 #1 tokjo mar ideje volt. kovetkezo johet amikor te trainengelheted a modellt, kicsit nevetseges,hogy a CustomGPTbe vagy a Projectsbe intructionokkel kell bohockodni, es csak kereseseket vegez a PDFekben ha eppen kedve van hozza.
Utoljára szerkesztette: reptile1313, 2025.01.24. 06:59:24