6
-
kvp #6 Az MI gyorsito gyakorlatilag egy egesz szam (integer) alapu vektoros aritmemetikai es logiai egyseget jelent. Ezt kezelheti dedikalt chip, a proci vagy akar a videokartya is. Sok uj prociba (pl. az Apple M sorozatba) beepitettek a lebegopontos GPU melle az egesz szam alapu MI egyseget, de vannak olyan architekturak, ahol csak egy regi, de gyors DSP chipet vagy beepitett aramkort raktak be, amit eddig jellemzoen kriptogafiara valamit hang es video gyorsitasra hasznaltak. -
end3 #5 „Jelenleg a modellek már eléggé kiforrottak ahhoz, hogy szerintem van értelme a transzformátorra fogadni, de mondjuk a Llama 3.1 405B-re nem tennék egy lyukas vasat sem” - mondta Uberti, utalva a Facebook-tulajdonos Meta Platforms egyik MI-modelljére. (Egy másik SG-cikkben!)
Ez a lényeg, a szoftver napról-napra fejlődik, de a PC-be épített neurális hardver tudása helyben marad. - Mivel sokféle fejlesztés van ezeknél is, lesznek megvásárolt hardverek, amelyeket ugyan eladnak majd valakinek, de már a megvételekor sem ér semmit vele, hát még egy év után. (A számtech. hardver-szoftver káosz, és az értelmetlen gyorsított elavulás tovább fokozódik majd.)
- Azt hiszem a felhasználók jelentős része, ha ezt felismerte, nem fog sietni sehova. A tények ismeretében még sokáig nem lesz az az AI, ami miatt hajlandó lennék gépcserére. (Értő kezekben felértékelődnek majd az AI-t futtatni nem tudó, régi hardverek és oprendszerek.)
Utoljára szerkesztette: end3, 2024.09.26. 09:08:48 -
#4
Hát nálam biztos nem kerülnek többségbe, mert én belátható időn belül nem tervezek gépet venni. Akkor se, ha befosik valamelyik, mert van még néhány. -
Vanek úr #3 Egyrészt igen, marketing bullshit (lassan már minden eszközt MI/AI-nak neveznek, csak mert az adott gyártó így gondolja - pontosabban így tervezi eladásait növelni).
Másrészt viszont azért vannak törekvések, hogy legyen valami kapaszkodó is, hogy valamit mitől nevezzenek MI/AI gépnek - ilyen pl. a Microsoft féle "Copilot+" elnevezés is, aminél kell egy bizonyos szintet hozó számítási teljesítmény (40 TOPS teljesítményt meghaladó neuronháló gyorsító részegység), egy bizonyos mennyiséget meghaladó rendszermemória-méret (16GB), és egy minimális mennyiségű tárterület (256GB SSD/UFS a helyi számításokhoz) kell ahhoz, hogy egy gépet MI/AI gépnek hívhassanak. Bár a MS is alapvetően azért ragaszkodik ehhez, mert így a Windows 11-et is el tudja adni, de az ilyen jellegű törekvések legalább tisztítanák a sok feleslegesen 'AI'/'MI'-zett termékeket a boltok listáiról, és adnának legalább iránymutatást az egyszeri halandóknak is, hogy most mi is a pálya.
Szerk.: mellesleg megjegyzem, hogy nem a videokártya az, amelyik a "Copilot+" gépeknél vizsgálva van (ugyanis annak még jelenleg nincs ilyen részegysége), hanem a proci (ezek közül pedig egyelőre a Snapdragon X Plus és a Snapdragon X Elite az, ami ezt a lécet megugorja, de jönnek az AMD és az Intel MI/AI-s procijai is, amik hasonló tulajdonsággal rendelkeznek). Pedig a VGA-k esetében is működhetne a vizsgálat - bár a memória kapacitása jelenleg csak a legdrágábbaknak lenne elég.
Utoljára szerkesztette: Vanek úr, 2024.09.26. 08:12:20 -
CommieSlayer #2 Hát egyrészt van benne egy extra chip, ami mátrix számításokra van specializálva, másrészt gondolom az operációsrendszer is olyan rajta, hogy az AI segédet részben helyben futtatja és közben folyamatosan monitorozza, amit csinálsz, szummázza és továbbítja a Microsoft-nak (és az összes nyugati titkosszolgálatnak).
Utoljára szerkesztette: CommieSlayer, 2024.09.25. 22:15:42 -
reptile1313 #1 Mitol AI? erosegg GPU van benne? marketing bullshit