Az Anthropic vezérigazgatója szerint lassítani kell az MI fejlesztését

Cat írta (#4):
Évekre előre le vannak kötve a hardverek, és az építkezések szintén több évig tartanak és azokat bankok finanszírozzák. Semmilyen költségmegtakarítást nem okoz az aggódás.

Nem tudjuk mi van pontosan azokban a szerződésekben. Általában szokott lenni valamilyen lehetőség az átütemezésre. A hardverre ugyanis a lassítás esetén is szükség lenne, csak hosszabb idő alatt. Ugyanez igaz az építkezésekre is.

De még ha őszinte is az aggódás, azon nem változtat, hogy a lassítás épp a fő problémát nem oldaná meg, csak késleltetné. Vagy még talán előbbre is hozná. Mert ahogy írták a többiek, ez az AI még nagyon nincs azon a szinten, hogy önállósodjon, egyelőre elég butácska. Ám ha a fejlesztőknek lenne elég idejük a finomhangolásra, esetleg alternatív megoldások kipróbálására LLM helyett/mellett, akkor hamarabb rálelhetnének egy olyan módszerre, amely sokat javítana az AI gondolkodási képességein.

Mótvá'
Majd el is hisszük (ha látjuk).
Végetek van Sátán kutyái és kurvái, itt a Végjáték!
Are You Ready?

És ugyan ezek a mintázatok hiányosságok jelennek meg a munkafolyamatban bármit is csinálsz vele, videót generáltatsz, szülinapi verset írsz, vagy komolyabb kutató munkát végzel, esetleg programot íratsz vele.

Ha kapsz valamit elsőre ami jó, az szuper, hagyd úgy, mert a finomítással lehet időt eltölteni, de a végén oda jutsz hogy annyi időt elbaxtál rá, mintha te csináltad volna az elejétől csak épp hagyományos eszközökkel.

És persze el lehet hinni, hogy ez idővel jobb lesz, sőt a problémák teljesen eltűnnek, de azok nagyrésze ponthogy az LLM működési elveiből fakad. Most legfeljebb az agent fog vele xopni és a végén ugyan úgy kapsz egy nem teljesen jó megoldást, mint amikor te voltál az agent és promtoltad újra és újra és újra az AI-t.

És ezt elnevezték AGI-nek, sőt SI-nek! 😉 LOL

Én nem hiszek az önfejlesztéstől várt minőségi robbanásban, bár bármi megtörténhet sci-fiben élünk. Fantasztikus, mire lettek képesek az LLM-ek, de közben alapvetően ugyanazokkal a problémákkal találkozom pl. egy-egy hétköznapi kutatás során valami után egy olyan területről kérdezve, amiről nem talál elegendő kész anyagot.

Meghökkentően koherens válaszokra képes, de ha nemcsak dumálni kell, akkor az esetek igen nagy százalékában hosszabb gondolkodással sem tud egyes összetartozó dolgokat magától összekapcsolni, megoldani valamit. Nekem kell kérdezgetnem, rávezetnem az újabb és újabb lépésekre, kiszúrni a hibás válaszait és terelgetni, hogy el ne tévedjen, ne kerüljön rossz helyre a fókusz, ne kezdje elmosni a hangsúlyokat és körbe-körbe érvelni, a bizonyítottat bizonyítani, a kérdezetteket meg megválaszolatlanul hagyni stb. Érezhetően hiányzik belőle a szellemi spiritusz pont úgy, ahogy eddig, pedig elég jól hozzá lehet férni a friss modellekhez.

Kryon írta (#3):
Gyanítom a valódi cél a hirtelen jött iparági aggódás mögött, hogy kezdenek a költségek nagyon elszállni. Ezen a lassítás valóban segíthetne, csökkenne a hardver ára a kereslet visszafogásával.

Évekre előre le vannak kötve a hardverek, és az építkezések szintén több évig tartanak és azokat bankok finanszírozzák. Semmilyen költségmegtakarítást nem okoz az aggódás.

Gyanítom a valódi cél a hirtelen jött iparági aggódás mögött, hogy kezdenek a költségek nagyon elszállni. Ezen a lassítás valóban segíthetne, csökkenne a hardver ára a kereslet visszafogásával. A hivatkozott problémát azonban pont nem oldaná meg a lassítás sem, vagyis azt, hogy az önfejlesztő AI fölött valószínűleg elvész a kontroll, amint okosabbá válik az embernél. A lassítás ezt legfeljebb csak elodázná mondjuk 2-3 évvel. A rekurzív önfejlesztés pedig elkerülhetetlen, mert az a rendszer logikájából következik, ez a leginkább költséghatékony megoldás, vagyis pont azt a célt szolgálja, amit valójában a lassítás is. Ezért valaki úgyis meg fogja csinálni, mert a verseny rákényszeríti. A tiltás sem segítene, mert legfeljebb átvinnék oda a betanítást, ahol nem tilos.

Abszolút! A probléma az, hogy eddig volt egy AI ami akkor csinált valamit, ha kérted. Most ezt megtoldották egy önpromtoló agenttel, szuper. Nade ebben ebben hol a konkrét reasoning, az erkölcs, az alapvető értékek, amik felé törekszünk és hol vannak a tabuk, az erkölcsi és jogi gátak, hol van a határok ismerete és tudomásul vétele? Nem az hogy tudja a BTK-t, hanem tudja, hogy annak különböző esetekben, melyek az alkalmazási szabályai és mi a szellemisége, amikor olyan helyzettel találkozik, amelyre már nem okították ki. Nem elég a saját promptot végrehajtani, azt a fentiek szerint értelmezni és kéne és nem csak kiszúrni, ha olyan van beleírva, ami a tiltólistáján szerepel, de megkerülve, körülírva simán meg tudod rá kérni.

Ha ilyen szinten beszélnek valamilyen problémáról, akkor annak valódi nagysága általában sokszor akkora az előadottnál, és máshol is szokott lenni a fókusz, mint ahová irányítani próbálják.

Szerintem a jelenlegi technológiájú AI-ok végső soron irányíthatatlanok, akármivel próbálják ezt keretek közé szorítani.