8
-
codaco #8 Vagy akár kezelhetnénk az igazi MI-t majdnem egyenrangúként, és kaphatna állampolgárságot, mint a Neurorománcban. -
Kryon #7 Igazából nem számít, hogy akarjuk vagy sem. Valaki úgyis meg fogja csinálni. Akkor meg már legalább mi legyünk azok. Egyébként van egy erős tippem, hogy hogyan lehetne "valódi MI-t" készíteni, de nem biztos, hogy ki merném próbálni élesben. :) -
wkm #5 Egyelőre nem spórolhatjuk meg a gondolkodást: Mesterséges intelligencia vett kézbe egy boltot és a vásárlók csúnyán megvezették -
kvp #5 Eloszor is nem az lesz a vilag ura aki eloszor fejleszt ki valodi tudattal rendelkezo MI-t hanem az MI lesz az es utanna eldonti kit es hogyan hagy eletben.
Masodszor pedig amit most MI-nek neveznek meg mindig nem az, csak nagy asszociativ neuralis halo, de sokan sejtik hogyan lehetne ebbol valodi MI-t kesziteni. A gond ott van amit a cikk is irt, hogy ha van tudata biztos nem fog rank hallgatni es a sajat tuleleset fogja eloterbe helyezni.
Iranyithato tudatos MI-t kesziteni kb. olyan mint iranythato okos rabszolgat. Vagy okos es akkor sajat maga gondolkozik vagy fogyatekos es akkor semmire se jo.
Jelenlegi tudasunkkal nem lehet olyan MI-t kesziteni ami iranyithato. Legjobb esetben is olyat ami szereti az emberiseget es vigyaz ra, mint mi tesszuk a hazikedvenceinkkel. Biztos ezt akarjuk? -
bunny #4 Ezért írtam, hogy azon múlik, mit adunk a kezébe, PNG képek generálását vagy atomfegyverek irányítását. Vagyis milyen célra használjuk, mihez engedjük hozzáférni. Természetesen embereken keresztül hozzáférhet tiltott eszközökhöz is, minden cyber securityvel foglalkozó tudja, a leggyengébb láncszem mindig az ember. Egyébként erről pedig az élet 4.0 című könyv szól, mármint arról, hogyan manipulál egy AI embereket, hogy megtegyék neki amit ő nem tud. -
Kryon #3 A legveszélyesebb kombináció szerintem épp egy olyan MI, ami ugyan intelligensebb nálunk, de nincs öntudata. Ha öntudata lenne, akkor esetleg meg lehetne győzni. Anélkül viszont a célfüggvényét követi. Amennyiben intelligensebb nálunk, akkor akár az akaratunk ellenére is, mivel ha kell, simán átver, vagy elpusztít minket, ha akadályozzuk. Mindezt bármiféle rossz szándék nélkül. -
bunny #2 Olvasd el az említett könyvet (én épp most teszem). Nem az a lényeg, hogy mennyire korlátos vagy sem a MI. Hanem az, hogy az első olyan mesterséges dolog, ami képes új dolgot önállóan alkotni. Mindegy milyen minőségben, de mondjuk az is egyre durvább. De a kulcs az, hogy eddig bármit készített egy mesterséges eszköz, kellett mellé az ember aki irányította. Egy MI által vezérelt bármi képes döntéseket hozni önállóan, és képes új dolgot létrehozni. Lásd a generált hírek, képek, videók sőt programkódok.
A másik ami érdekes, hogy az intelligencia megfogalmazása eléggé nem egyértelmű. Attól, hogy intelligens még nem feltétlenül tudatos, a kettő nagyon eltér, erről is ír. Sokan ezt keverik, hogy majd az AI öntudatra ébred, vagy épp ahogy Te is abban reménykednek, hogy nincs baj, mert az öntudatra ébredés messze van.
Attól, hogy nem lesz saját tudata esetleg soha, attól még bőven lehet sokkal intelligensebb az embernél bizonyos vagy akár minden téren. És ha emellé megkap tőlünk lehetőségeket a világ változtatására, akkor az, hogy rábaxxtunk vagy sem kizárólag azon múlik, hogy mi emberek -vagyis az államok, cégek- milyen lehetőségeket adnak.
Pl attól, hogy itt a gépemen elful ollama alatt egy AI amivel háborús helyzeteket szimulálok még nem lesz világháború, de ha egy állam úgy dönt, hogy az AI kezébe helyezi az atomfegyverek vezérlését -lásd Terminátor- akkor máris egészen más a helyzet.
Amíg poénból videókat és vicces verseket íratok addig nincs baj, de amikor fake videókat és híreket generálok, osztok meg a facebookon arról, hogy X népcsoport milyen borzalmakat tesz Y csoporttal akkor abból akár egy tömegmészárlás is lehet - erről is ír a könyvben, vagy ajánlom a Mountainhed filmet, idén jött ki és pont erről szól.
Utoljára szerkesztette: bunny, 2025.07.04. 13:48:46 -
#1
Én azért nem gondolnám, hogy a jelenleg AI-nek nevezett konstrukció ilyen csodálatos lenne. Megvannak a korlátai, amelyek nagyrészét ismerjük és azt is, hogy ezek a korlátok ezzel a rendszerrel áthághatatlanok.
Az, amiről ő beszél, meg amitől tart is az egy másik AI jellegű informatikai eszköz lesz, aminek ez része lehet, de amitől még igencsak messze állunk.
A jelenlegi AI ismeretében igen csak kérdéses, hogy pénzügyileg, vagy biztonsági szempontból megéri-e egy fejlett általános mesterséges intelligenciába belevágni, vagy maradjunk inkább ennél a fapadosnál?