Aggodalmat kelt az MI önfejlesztésének felgyorsulása

N3XUS6 írta (#4):
Nem látok túl sokat a szoftverfejlesztés aktuális helyzetéből, így megfogalmazva, ez tény. Mint ahogy talán senki sem. Az Anthropic-nál dolgozó emberke is csak a saját vállalatát látja

Nem erre gondoltam, hanem a már létező AI-ok, megoldások felhasználására, hogy milyen szinten tart, mennyire változtatta meg a szakmát stb. Néhány mondatban csak általánosságokat lehet írni, de egyfajta szakmai elitre céloztam, amikről tudni lehet. Én követem, amennyire csak tudom, tanulom a módszereket és lehetőségeket, de egy forgószél az egész, viszont időnként ki-kilátszik valami abból, hogy a korai alkalmazók mennyire el tudnak húzni. Nekik most kifizetődő. Hogy lehet-e hosszabb távon is kifizetődő, nyilván később derül csak ki, de egyáltalán nem lehetetlen, akkora segítséget nyújt az új technológia, ami még változásban van és kiszámíthatatlan, milyen plafon lesz. Szerintem ez a legtöbb buboréktól/válságtól jelentősen eltér. Persze a többi szakma változásairól és hogy azokban mennyire érheti meg az AI alkalmazása a közeljövőben, így a közgazdászok vélekedésének helyességéről fogalmam sincs, hiába töröm rajta a fejem.

Ilyenekkel is lehet mérni, mire képesek már - játéknak is jók, fokozatosan nehezebbé válnak: https://arcprize.org/arc-agi/3 Azt is ki kell találni, hogy mi a cél, és azt is, hogy hogyan lehet elérni.

peterx írta (#5):
A fejlődés miben mérik egyébként? Nem teljesen a szakterületem, de hova juthat el a "fejlődése" egy MI modellnek, mi a plafon, hogy kb az embernek a szórakozáson kívül semmi más dolga lesz az életben mert az MI MINDENT, de szó szerint mindent megcsinál majd helyettünk? (feltéve ha nem nyír ki minket embereket)

Vannak tesztek, azok alapján fel lehet mérni egy MI modell képességeit. Elméletileg nincs plafon a fejlődésben, a végtelenbe tart (szingularitás). Gyakorlatilag a hardver, energia, az alkalmazott algoritmusok, képzési adatok mennyisége/minősége és még egy halom tényező korlátozza.

A fejlődés miben mérik egyébként? Nem teljesen a szakterületem, de hova juthat el a "fejlődése" egy MI modellnek, mi a plafon, hogy kb az embernek a szórakozáson kívül semmi más dolga lesz az életben mert az MI MINDENT, de szó szerint mindent megcsinál majd helyettünk? (feltéve ha nem nyír ki minket embereket)

Nem látok túl sokat a szoftverfejlesztés aktuális helyzetéből, így megfogalmazva, ez tény. Mint ahogy talán senki sem. Az Anthropic-nál dolgozó emberke is csak a saját vállalatát látja, persze lehetnek más hasonló cégnél is ismerősei ez OK, de akkor sincs azokban napi szinten tapasztalata. Amit látok az nyilván a sajtó, akár a közösségi média is, ahol elég magas szintről kiugrott emberkék mondanak el elég részletes dolgokat, aggódják tele a netet. És van a szeméyles tapasztalat, közeli IT fejlesztések dinamikája, vagy azok megváltozása az AI alkalmazásának elkezdésekor, vagy épp egyhelybe topogása annak elmaradása esetén.

Amit látok az az, ami a korábbi dotkom katasztrófáknál is megnyilvánult: hogy a főleg technikailag korlátozott tudással rendelkező közgizdászok ott lelkesek, amit semmi nem indokol. És a szaktudással rendelkező emberkék ott aggódnak, és tesznek erőfeszítéseket, ami az adott technológiánál olyan alapvető probléma, amit semmilyen módszerrel az adott szinten nem lehet megoldani.

Konkrétan: Gazdasági oldalról: amíg az AI energia fogyasztása ilyen bődületes és ez a felhasználó száma szerint felfelé skálázódik és nem eloszlik, addig soha nem lesz kifizetődő ez a fajta LLM alapú AI technológia (a hw gyártók kivételével).
IT/biztonsági szempontból: egy izmos aranyhal figyelmével és erkölcsi érzékével felruházott AI-ból öntevékeny agentsereget létrehozni, az az önygyilkoságnak egy nagyon kifinomult módja.
A megoldás egy érdekes, ellentmodásosnak tűnő AI modell: amely amellett, hogy kis energi fogyasztású, ráadásul egyszersmind mondhatni élete árán is becsületes, úgy értve bonyolult környezetben is hajlandó ÉRTÉKEK szerint cselekdni. Ezt jelenleg csak az ember képes megvalósítani.

Mennyit látsz te a szoftverfejlesztés aktuális helyzetéből? És hogy milyen volt egy éve, két éve stb.? Mennyit lehet "távolról", általunk megismerni a változásokból és hogy azok valójában hol tartanak? Nem az otthoni barkácsolásból, a hagyományos cégek működésének változásaiból, hanem hogy azok a cégek mit csinálnak éppen, amiknek van elég tőkéje hozzá, kockáztatnak és/vagy közel vannak a tűzhöz, vagyis információjuk is van?

Mert ez mindig így szokott lenni: az ember nem hiszi, nem látja, ráadásul érzelmek is vannak a világon, amik ezt nehezítik - aztán később kénytelen azt mondani, mikor a többiekkel együtt már ő is érzi a hatását, látja a konkrét eredményeit, hogy jé, ez is tényleg így van meg az is, az újdonságok, amikről beszéltek, léteznek, a nem hitt változások mégiscsak lezajlottak... Hát még ilyen sebességnél, amire eddig nem volt példa.
Utoljára szerkesztette: _tki_, 2026. 11. 09. 10:18

Bakker, közgizdászok, el a kezekkel a technológiai szektortól! Abban a pillanatban, hogy az adott pénzügyi időszakban valamely technológiai szektor szegmensének mutatói (gazdasági és vagy műszaki) az átlagtól eltérő növekedést mutatnak rögtön jön valaki aki valami szingularitással, meg a gépek öntudatra ébredésével, meg munkahelyek elveszítésével kezd fenyegetni.

Nyugodjon már mindenki le a ..csába!
Még milyen magas RAM árakat akarunk, kérdezem? Mert ezen kívül más reális növekedés ebben az ipari szegmensben nem igen tapasztalható! Plusz mindaz, amit ez magával húz.

Az Anthropic vajon miért is nem akarja kiadni a részleteket, hú meg ha, mert milyen üzleti titokról is van szó!? El nem tudom képzelni. XD
Vagy csak nem arról az eléggé triviális, egy egyszeri effektusról van szó, amikor pl egy bonyolult projektben az AI-on keresztül, mint egyfajta közös fejlesztési felületen keresztül kezd el mindenki fejleszteni és nem azzal szórakozik minden alvezető hogy végeláthatatlan értekezleteken akarja a saját téveszméiről meggyőzni a többi alvezetőt, akiknek amúgy az ő területéhez semmi közük, illetve az egyszeri fejlesztőnek sem kell egy másik részleg termékére várnia, mert akár csak időlegesen a saját munkájához azt egy AI termékkel tudja helyettesíteni, és ez az "optimalizálás" hirtelen megdobja a hatékonyságot?