7
-
nlght #7 A cégeknek az az érdeke hogy a userek adatait "kibányássza" belőlük és felhasználja üzleti célokra. Ezért nyomják mindenki arcába hogy legyen "okosotthona" Alexával, Sirivel, stb-vel.
Az új MI cuccokat többnyire ingyen fogják, vagy ingyen közeli konstrukcióban fogják adni, csak hogy az atlag user továbbra is birkának legyen nézve. -
kvp #6 Az Apple M sorozatu CPU-kban mar az indulas ota van videokartya es MI aramkor is. Arra a par alapfeladatra amire kell eleg. MI alatt most mindenki a nagy nyelvi modelleket erti, de sokkal nagyobb terulet az alapveto kepfeldolgozas, amit erdemesebb a keszulek oldalan futtatni, hogy ne terhelje a halozatot a feltoltott adat. Az MI alapu feldolgozashoz ugyanis nem lehet szenne tomoriteni a video stream-eket, hanem nagyjabol vesztesegmentes tomorites kell.
Tehat PC-k eseteben egy hibrid modell az ami elkepzelheto, azaz a beviteli eszkozok (kamerak mikrofonok, 3d scanner-ek, stb.) bemeneti adatait dolgozna fel a PC, majd a felhobe felkuldott adatokra kapott valaszbol generalna megjelenitheto adatokat. Normal szoveg eseten nem nagyon kell elofeldolgozas, tehat nem igazan szukseges az MI chip vagy aramkor sem.
ps: Az Apple nem nyitotta meg az MI processzorait, hanem altaluk elore definialt feladatokat lehet elvegeztetni vele, kvazi fix funkcios pipelne-kent hasznalva oket. A cikkben emlitett uj MI szabvany egy programozhato MI interface-t jelent, ami kb. olyannak tunik mint amikor a fix opengl pipeline utan atvaltottunk a programozhato shader-ekre. A problema az, hogy amig nincs ilyen szabvany, addig nem lehet tudni, hogy melyik CPU vagy GPU mit fog belole tamogatni. -
Gabbbbbbbbbbbb #5 > Ami növelni fogja a gépek árát.
Az ár lehet fog emelkedni, de a gyártási költség nem. MI nem lenne, akkor találnának más okot az áremelésre. Egy 4090 is önmagában semmi egy normális LLM futtatásához, nyilván reménytelen egy CPU mellé berakni valamit, amit hozza ezt a teljesítményt és hűteni is lehet, na meg valamilyen szinten megfizethető.
Valaki más írta a telefonok MI chipjeit, ilyesmire lehet számítani.
Utoljára szerkesztette: Gabbbbbbbbbbbb, 2024.03.04. 19:14:43 -
#4
Ez egy szűk réteg lehet. Lapozzunk. -
Kryon #3 Valószínűleg ez csak az új marketing bs., hogy aki nem ért hozzá majd elhiszi, hogy ettől majd húdenagyonjó lesz neki és már rohan is drága MI PC-t venni. -
t_robert #2 Szerintem egy PC szintű gépbe nem lehet olyan szintű MI támogató elektronikát beépíteni, ami hatékony MI szerű müködést eredményezne. Legfeljebb valami féle MI szerű támogatást lehet beépíteni. Ami náhány funkcióban nyomokba úgy tesz, mintha tényleg MI lenne. Ahogy kezdenek megjelleni bizonyos MI támogatások a telefonok hardverében is, de ettől még koránt sem lett MI a telefonokban. A PC-ben pont így lesz. A komolyabb MI szerűséghez sokkal ütősebb és több hardverre lenne szükség. -
Macropus Rufus #1 azért arra kíváncsi lennék, hogy egy átlag felhasználó (akiből nem kevés van, több mint gamerből, akik vélhetően fogják használni az npu-t) mikor és hogyan fogja tudni kihasználni az npu-t. Mert amiket most használ - ha használ - az nem a gépében fut. Se a Copilot se a ChatGPT. A Copilot eleve a Binget használja szóval az nem fog a gépében futni, a ChatGPT meg az adatbázisa miatt nem fog. Szóval - sztem - egy átlag usernek marhára nincs szüksége egy npu-s gépre. Cégeknél lehet, de csak akkor ha - mint a cikk is kifejtette - ők maguk akarják futtatni a nyelvi modelt.
Viszont vélhetően minden gépben benne lesz. Ami növelni fogja a gépek árát. És akkor is meg kell venned, ha soha nem is fogod használni. Szóval ez a kockázatossá vált a pc megjegyzése a szakiktól nem teljesen helytálló.