Mesterséges intelligencia - félni nem kell, aggódni lehet

A delfineket érdemes megfigyelni.
Az ember után nekik van a legfejlettebb szociális rendszerük.

Az MI-nek is lesz agressziója,éppenolyan,mint az embernek.
Az,hogy milyen szintű,az kérdéses.

Nemcsak chatbot van,sokkal fejletteb MI-k is vannak már.
Itt van például az önvezető autó,mely folyamatosan változó körülmények között végzi feladatát.Az igaz,hogy a feladat adott,de a másik összetevő az folyamatosan változik,tehát alkalmazkodnia kell és ezzel együtt meg kell figyelnie a környezetét.
És nagyon komoly mesterséges neurálos hálózatokat fejlesztenek:
http://index.hu/tudomany/agygep/
http://www.origo.hu/techbazis/20150512-kozelebb-jutottunk-a-mesterseges-agyhoz.html

A tudatra példa: http://www.origo.hu/tudomany/20150717-robot-ontudat-entudat-android-mesterseges-intelligencia-ai.html

"annyira kell félni, mint a régi Office idegesítő segítő gémkapcsától."
Azt emberkínzásra fejlesztették ki.

Egyetértek.
Leszámítva, hogy az ember ponthogy a viszaonylag alacsony és ritualizált agressziójával tűnik ki az állatvilágból. Már főemlősből sem lehetne egy területen hasonló népsűrűségű csoportot (nem egy közösséghez tartozókból) összehozni, pedig nekik a legfejlettebb a csoportszervező ösztönük és talán legalacsonyabb az agressziós szintjük. Egy pályaudvar meg mégsem, a permanens tömegverekedésről szól, mint az lenne csimpázok esetében hasonló körülmények között.

Ha emberszerű MI-t akarnak csinálni, akkor ahhoz akkora agresszió tartozik amekkora, ha nem emberszerűt akarnak emulálni, akkor más mértékű. Eleve a szexualitásól, territorriális ösztönökből, hierarchiális helyzetből fakadó aggresszió kihagyható.

Az agresszió meg ugye nem pusztán a másik megölése, mert ha csak az lenne, akkor az állatok is stikában mérgeznék egymást. Sokkal inkább a hatalom kinyilvánításának módja, ez a mikrobit meg had neérdekelje már.

Végül pedig, attól hogy csinálunk egy intelligensen válaszolgató csetbotot, az még nem lesz valaki. Attól, hogy úgy viselkedik, mintha érezne, még nem fog valóban érezni is.
Az emulációnak pedig sokkal jelentősebb korlátai vannak, lásd asgh go-s példája. Az AI nem érez, nem kreativ, nem tudatos. És az aki tervezte ezt pillanatokon belül demonstrálni tudja, mégha esetleg mást rövid ideig meg is téveszt.

Félni kell az AI-tól? Hülye kérdés, annyira kell félni, mint a régi Office idegesítő segítő gémkapcsától. Persze ha valami állat a nukleáris rakéták indítórendszerét köti rá, akkor igen! XD
Utoljára szerkesztette: NEXUS6, 2016.03.21. 11:27:15

Valójában maga a go világbajnok legyőzése is parasztvakitás. Bár komolyabb AI van mögötte, mint anno az IBM sakkautomatája mögött, ahol pont a variációk bruteforce végigszámolása volt a lényeg, valójában nem beszélhetünk azonos szintű győzelemről, mint ha ember győzött volna ember ellen.
A go játékos gép programozói ugyanis simán le tudják győzni a saját gépüket, mert ismerik a működése logikáját és ismerik a viselkedésmintáit. Még akkor is, ha a gép képes hosszú távon tanulni. Ugyanakkor ugyanazok az emberek a go világbajnokot nem tudnák legyőzni.
A gép le tudja győzni a világbajnokot, a programozó le tudja győzni a gépet, a világbajnok le tudja győzni a programozót. Ha tehát a világbajnoknak is ugyanolyan alapos rálátása lenne a rendszerre, mint a programozóknak, nem lenne itt semmilyen világszenzáció.
Persze a kihivás lényege éppen az volt, hogy a világbajnok elől igyekeztek minden belső információt elzárni, hogy az minél inkább egy személy és ne egy gép ellen játszon. Ebből azonban nem azt a következtetést kell levonni, hogy a gépek képesek úgy viselkedni, mint egy személy, hanem pont ellenkezőleg: ahhoz, hogy kontrollálni tudjuk a gépet, nem szabad, hogy a saját intelligenciánkat rá vetitve személyként kezeljük.

Én abszolút nem értem, hogy miért lenne jó, ha emberi viselkedésű lenne, vagy hogy ez egyáltalán miért lenne szükségszerű, hogy együtt jár a magasabb intelligenciával az emberi viselkedés.

Az ember azért keresi más emberek társaságát, mert ez van belehuzalozva az agyába, evolúciós eredmény a társadalomalkotás. Az az ember, amelyik nem kereste mások társaságát, megdöglött, mikor jött a medve.

Ugyanígy az ember agressziója is evolúciós vívmány, így tudott ő elterjedni más fajok rovására.

Egy AI-nak mitől lennének ilyen problémái? Egy AI simá lehet teljesen nem-agresszív, hiszen nem kell féltenie az életterét vagy más fajokkal versengenie. Egy AI nem kell, hogy keresse más AI-k társaságát, mert életképes egyedül is. Egy AI-ba viszont bele lehet huzalozni, hogy segítse az embereket, és ezt olyan ösztönné tenni, mint nálunk pl. a társaság keresésének a vágya.

Kurzweil arra alapozva állítja ezt a 15 évet, hogy a fejlődés nem lineárisan történik, hanem exponenciálisan, tehát gyorsuló ütemben. Eddig bejöttek a jóslatai, most szerintem túl nagy a bizonytalanság benne. Szóval én is szkeptikus vagyok.

Én próbálom követni az sg.hu hasábjain kívül is a történéseket és nekem is az a benyomásom, hogy már eléggé nehéz lépést tartani azzal manapság, hogy mit lehet és mit nem. Valóban mintha egyre jobban gyorsulna a világ. Egyre többen és többen látják meg az MI-be rejlő lehetőségeket is. Nincs konkrét forrásom, de le merném fogadni, hogy pénzbe levetítve valóban exponenciális az MI kutatásokra fordított erőforrás. Ez egy olyan dolog, hogy egyszer kell elérni az áttörést, egyszer csinálnak egy egérhez hasonló intelligenciával rendelkező robotot, utána már sínen vannak és Moore törvényéhez hasonló pályán fog haladni az egész. Senkit ne tévesszen meg, hogy most nincsenek jól látható, kézzelfogható eredményeink egy általános intelligencia kialakítása felé.

Tulajdonképpen csak azt kell megcsinálnunk, amit a természet már egyszer megcsinált, szóval elvileg nem lehetetlen. És ha megértjük az alapvető mechanizmusokat akkor onnantól kezdve skálázhatjuk a dolgot, így létrehozva egy magasabb intelligenciát. Ami a lényeg, hogy hatalmas üzleti lehetőség is, nem kérdés, hogy megpróbálják-e.

Amúgy a problémakör leegyszerűsíthető. Önmagában az M.I. nem veszélyes ránk nézve, mert csak egy komplexebb robot, nem több... de amint sikerül neki egót is programozni, és rendes egót, nem mondvacsináltat, na, akkor halunk ki és valszeg az összes többi élőlény is pusztulni fog, ami itt a földön él, mivel feleslegessé válnak... (és lesz egy mátrix-ban látható körülmények, csak éppen az energia termeléshez nem fog kelleni az emberi testek hője sem).

Amíg a Google fordítója angolról magyarra egy "selejtes" (óccó pici kínai) szöveget gyárt, addig nem kell félni... 😉
Utoljára szerkesztette: Meridian, 2016.03.20. 10:13:29

Én addig nyugodt vagyok, amíg olyan emberek kezében van az MI kutatás, akik legalább is a cikk szerint alapvető dolgokat kevernek össze, a tudatot, az értelmet, és az intelligenciát konkrétan.

MI már most is van, ha egy bonyolult helyzetekben is logikai szabályokat követő döntéseket hozó rendszerről beszélünk. Sokszor, jobb és gyorsabb, mint az ember. Lásd go, meg sakk.

Ezt a rendszert akár ki is egészíthetjük az érzelmeket emuláló kis programocskákkal, ami a logikai döntéseket színesítik, emberszerűbbé teszik. Ennek max kb annyi értelme van, hogy csetrobotunk átmenjen a Turing-teszten. Amivel persze az a gond, hogy az emberek is hozzászoknak ahhoz, hogy ilyen programok veszik őket körül és egyre kevésbé megtéveszthetők általuk.

Aztán van ugye a tudat. Namost ott kezdődik az alapvető tévedés, hogy ez a tudomány térképén a kibaszott nagy fehér folt. Ezek a kutatók abból indulnak ki, hogy ha megfelelően túlbonyolítják a rendszert, akkor az tudatossá válik, mint Schwartzi a Terminátor filmekben. Namost ez vagy így van, vagy nem, és a tudat egy teljesen más dolog. Állatoknak pl láthatóan van, bár nem lennének képesek legyőzni a go világbajnokot, vagy átmenni a Turing-teszten.

Szal, hogy a 20 év múlva működő MI mire lesz képes, az egy kérdés, az hogy mit bíznak rá, az egy másik, az meg hogy tudattal bíró, önálló, önreprodukáló rendszer legyen egy harmadik. Az utóbbi szerintem max a sci-fi írók nedves álmaiban létező valami lesz, még jó 100 évig minimum. De addig mindenképp, amíg ezt a tudatos kérdést nem tisztázzuk.
Utoljára szerkesztette: NEXUS6, 2016.03.20. 08:32:07

Az onalloan eletkepes MI es a kvazi orokeletu intelligens biologiai alapu letforma megteremtese kozel azonos nehezsegunek tunik. Egy intelligens es kelloen fejlett biologiai faj valaszthatja barmelyik utat vagy akar mindkettot.

Ehhez kepest jelenleg az emberiseg egyikre sem kepes es joreszt anyagi okokbol nem is megyunk igazabol egyik cel fele sem tul nagy tempoval. Hozzateszem az emberiseg kozeptavu fennmaradasahoz egyikre sincs szukseg.

ps: eleg korlatolt vilagkepre utal hogy valaki csak a gepeket latja eletkepesnek az urben es feltetelezi hogy nincs vagy nem lehet olyan intelligens biologiai letforma aminek a melyur az egyik eletkornyezete

Amíg ez a Go játékost megverő szoftver nem ver meg sakkban is bárkit, közben cseveg valakivel egy Turing teszt keretében sikerrel, és old meg egyszerűbb szöveges fejtörőket és talál ki viccet, majd elemez festményt és verseket, addig biza nincs ok a félelemre sem.

20 éve ugyanezt a dumát tolták.

szilikonvölgyi mesék , hollywoodi blöff-arzenál

20 év múlva meglátjuk.

Kezébe adok egy ördöglakatot,nyissa ki! Ezt egy 7 éves gyerek csípőből megoldja.
Szerintem ezt az egyszerű feladatot bebuká a robotjuk...

Ne röhögtessük ki magunkat. Olyan félelmetesen lekorlátozott környezetben, ahol minden matmetikatikailag fix és leírható évtizedek után nagy nehezen győzött egy gép. Tessék csal ráznézni a számítógépes játékokra. Valódi MI gyakorlatilag nyomokban nincs.

Még mindig nem tudnak megtanítani egy gépet olyan dolgokra, amit egy 8-10 éves gyerek tud. Nincs olyan szezor (hardver) és szotfver páros, ami lényegében értelmezni tudja a körülötte levő világot nemhogy emberi érzelmekkel bármit csinálni.