Az Anthropic vezérigazgatója szerint lassítani kell az MI fejlesztését

Gyanítom a valódi cél a hirtelen jött iparági aggódás mögött, hogy kezdenek a költségek nagyon elszállni. Ezen a lassítás valóban segíthetne, csökkenne a hardver ára a kereslet visszafogásával. A hivatkozott problémát azonban pont nem oldaná meg a lassítás sem, vagyis azt, hogy az önfejlesztő AI fölött valószínűleg elvész a kontroll, amint okosabbá válik az embernél. A lassítás ezt legfeljebb csak elodázná mondjuk 2-3 évvel. A rekurzív önfejlesztés pedig elkerülhetetlen, mert az a rendszer logikájából következik, ez a leginkább költséghatékony megoldás, vagyis pont azt a célt szolgálja, amit valójában a lassítás is. Ezért valaki úgyis meg fogja csinálni, mert a verseny rákényszeríti. A tiltás sem segítene, mert legfeljebb átvinnék oda a betanítást, ahol nem tilos.

Abszolút! A probléma az, hogy eddig volt egy AI ami akkor csinált valamit, ha kérted. Most ezt megtoldották egy önpromtoló agenttel, szuper. Nade ebben ebben hol a konkrét reasoning, az erkölcs, az alapvető értékek, amik felé törekszünk és hol vannak a tabuk, az erkölcsi és jogi gátak, hol van a határok ismerete és tudomásul vétele? Nem az hogy tudja a BTK-t, hanem tudja, hogy annak különböző esetekben, melyek az alkalmazási szabályai és mi a szellemisége, amikor olyan helyzettel találkozik, amelyre már nem okították ki. Nem elég a saját promptot végrehajtani, azt a fentiek szerint értelmezni és kéne és nem csak kiszúrni, ha olyan van beleírva, ami a tiltólistáján szerepel, de megkerülve, körülírva simán meg tudod rá kérni.

Ha ilyen szinten beszélnek valamilyen problémáról, akkor annak valódi nagysága általában sokszor akkora az előadottnál, és máshol is szokott lenni a fókusz, mint ahová irányítani próbálják.

Szerintem a jelenlegi technológiájú AI-ok végső soron irányíthatatlanok, akármivel próbálják ezt keretek közé szorítani.