SG.hu·
Az OpenAI vezérigazgatója szerint pazarlás a PC-kben tartani a memóriát az adatközpontok helyett
Miközben az adatközpontok tele vannak RAM-mal, úgy tűnik, valójában a te számítógéped jelenti a problémát.
Sam Altman adatközpontjai tele vannak memóriával, ám szerinte mégis az asztali számítógépekben lévő 16-32 GB RAM jelenti a problémát. A Cheeky Pint nevű YouTube-csatornának adott, sörözés közben készült interjúban Altman azt mondta, hogy az, hogy az emberek otthoni számítógépeikben DRAM-mal rendelkeznek, „meglehetősen szörnyű”.
Amikor az otthoni számítógépeken, nyílt forráskódú modellekkel végzett helyi következtetésről beszélgettek, Altman kitért arra az elképzelésre, hogy az emberek képesek lesznek saját számítógépükön futtatni a helyi MI-t, akár olyan gépeken is, amelyekkel már rendelkeznek, vagy amelyeket a jövőben szeretnének összeállítani. Ezután elmagyarázta, miért tartja ezt rossz ötletnek (az interjú 29. percében):
„A globális erőforrás-elosztás szempontjából valójában meglehetősen szörnyű, ha mindenki a saját számítógépében tartja a világ korlátozott DRAM-készletének egy jelentős részét, miközben az idő mindössze 5 százalékában használja azt” - mondta Altman. „Ha egy ilyen, nagyon korlátozott kínálatú környezetben próbálsz boldogulni, akkor azt szeretnéd, hogy a felhőben a lehető legnagyobb legyen a kihasználtság. És valamiért sok ember éppen ennek az ellenkezőjét tartja magától értetődőnek.”
Bár az OpenAI-nak vannak nyílt forráskódú modelljei is, alapvető üzleti tevékenysége az adatközpontokban futó, zárt forráskódú modellekre épül, így Altman valójában a vállalat üzleti modelljét védi.
Az OpenAI-t egyelőre nem igazán fenyegetik az egyes laptopok és gamer számítógépek, a helyi MI azonban azt eredményezheti, hogy az emberek egy nap kevesebbet fizetnek majd az olyan modellek előfizetéseiért, mint a GPT-6 Luna, ha rendelkeznek az otthoni futtatásukhoz szükséges számítási kapacitással. Altman kijelentései arra utalnak, hogy a vállalat azt részesítené előnyben, ha több RAM kerülne az OpenAI adatközpontjaiba az otthoni számítógépek helyett. Ez azoknak a technológiai rajongóknak az aggodalmait is erősíti, akik attól tartanak, hogy a jövőben nem birtokolhatják majd saját hardvereiket és szoftvereiket, hanem inkább egy ügynököt és egy felhőben működő számítógépet bérelhetnek.
Altman kijelentéseinek egy része azon az elképzelésen alapul, hogy az adatközpontok építése nem fog lelassulni. Emellett abból indul ki, hogy az MI-adatközpontokban éjjel-nappal használt RAM értékesebb, mint az a memória, amelyet táblázatok kezelésére, webböngészésre, játékra, esetleg alkalmanként helyi MI futtatására használnak. A széles körű interjú további részében szó esik az e heti PHP-sebezhetőségekről, a modellek tanítás közbeni sandboxolásáról, valamint az OpenAI matematikai kutatásairól.
Sam Altman adatközpontjai tele vannak memóriával, ám szerinte mégis az asztali számítógépekben lévő 16-32 GB RAM jelenti a problémát. A Cheeky Pint nevű YouTube-csatornának adott, sörözés közben készült interjúban Altman azt mondta, hogy az, hogy az emberek otthoni számítógépeikben DRAM-mal rendelkeznek, „meglehetősen szörnyű”.
Amikor az otthoni számítógépeken, nyílt forráskódú modellekkel végzett helyi következtetésről beszélgettek, Altman kitért arra az elképzelésre, hogy az emberek képesek lesznek saját számítógépükön futtatni a helyi MI-t, akár olyan gépeken is, amelyekkel már rendelkeznek, vagy amelyeket a jövőben szeretnének összeállítani. Ezután elmagyarázta, miért tartja ezt rossz ötletnek (az interjú 29. percében):
„A globális erőforrás-elosztás szempontjából valójában meglehetősen szörnyű, ha mindenki a saját számítógépében tartja a világ korlátozott DRAM-készletének egy jelentős részét, miközben az idő mindössze 5 százalékában használja azt” - mondta Altman. „Ha egy ilyen, nagyon korlátozott kínálatú környezetben próbálsz boldogulni, akkor azt szeretnéd, hogy a felhőben a lehető legnagyobb legyen a kihasználtság. És valamiért sok ember éppen ennek az ellenkezőjét tartja magától értetődőnek.”
Bár az OpenAI-nak vannak nyílt forráskódú modelljei is, alapvető üzleti tevékenysége az adatközpontokban futó, zárt forráskódú modellekre épül, így Altman valójában a vállalat üzleti modelljét védi.
Az OpenAI-t egyelőre nem igazán fenyegetik az egyes laptopok és gamer számítógépek, a helyi MI azonban azt eredményezheti, hogy az emberek egy nap kevesebbet fizetnek majd az olyan modellek előfizetéseiért, mint a GPT-6 Luna, ha rendelkeznek az otthoni futtatásukhoz szükséges számítási kapacitással. Altman kijelentései arra utalnak, hogy a vállalat azt részesítené előnyben, ha több RAM kerülne az OpenAI adatközpontjaiba az otthoni számítógépek helyett. Ez azoknak a technológiai rajongóknak az aggodalmait is erősíti, akik attól tartanak, hogy a jövőben nem birtokolhatják majd saját hardvereiket és szoftvereiket, hanem inkább egy ügynököt és egy felhőben működő számítógépet bérelhetnek.
Altman kijelentéseinek egy része azon az elképzelésen alapul, hogy az adatközpontok építése nem fog lelassulni. Emellett abból indul ki, hogy az MI-adatközpontokban éjjel-nappal használt RAM értékesebb, mint az a memória, amelyet táblázatok kezelésére, webböngészésre, játékra, esetleg alkalmanként helyi MI futtatására használnak. A széles körű interjú további részében szó esik az e heti PHP-sebezhetőségekről, a modellek tanítás közbeni sandboxolásáról, valamint az OpenAI matematikai kutatásairól.