SG.hu
A játék PC-k segíthetnek az MI modellek képzésében
Több startup célozta meg a játékkonzolokban vagy irodai gépekben milliószámra jelenlévő kihasználatlan GPU-chipeket, hogy virtuális „elosztott” hálózatokat varrjanak össze, hogy így versenyezzenek az MI adatközpontokkal.
A legjobb mesterségesintelligencia-rendszerek létrehozásáért folyó éles versenyben a legértékesebb erőforrás nem az adatok, a kutatók vagy a pénz, hanem egy drága chip, az úgynevezett grafikus feldolgozó egység. Olyan cégvezérek, mint Elon Musk, Mark Zuckerberg és Sam Altman úgy vélik, hogy a mesterséges intelligencia terén a dominancia és a vereség közötti különbség a lehető legtöbb GPU felhalmozásán és az egyenként több milliárd dollárba kerülő hatalmas adatközpontokban történő hálózatba kapcsolásán múlik. Ha a Szilícium-völgy vezetői szerint a mesterséges intelligenciához ilyen léptékű építkezésre van szükség, akkor ezt csak az olyan óriások engedhetik meg maguknak, mint a Microsoft, a Meta, az Alphabet és az Amazon, vagy a gazdag befektetők által megtámogatott startupok, mint az OpenAI.
De egyesek szerint van más megoldás is. Alex Cheema, az EXO Labs társalapítója a startupok azon növekvő csoportjához tartozik, akik szerint a mesterséges intelligencia terén a siker abban rejlik, hogy világszerte megtalálják a kihasználatlan GPU-kat, és ezeket virtuális „elosztott” hálózatokba fűzzék össze az interneten keresztül. Ezek a chipek bárhol lehetnek - egy egyetemi kampuszon, egy irodában vagy egy tinédzser hálószobájában lévő játék PC-ben. "A mesterséges intelligencia alapvető korlátja a számítási kapacitás” - mondja Cheema. "Enélkül nem lehet versenyezni. De ha létrehozzuk ezt az elosztott hálózatot, talán sikerülhet”.
Ha ez működik, akkor a felállás lehetővé tenné a mesterséges intelligencia fejlesztőinek, hogy megkerüljék a legnagyobb technológiai vállalatokat, és jóval alacsonyabb költséggel versenyezzenek az OpenAI vagy a Google szervereivel. Ez a megközelítés a kínai DeepSeek által sikerre vitt technikákkal és más nyílt forráskódú modellekkel párosulva olcsóbbá teheti a mesterséges intelligencia fejlesztését.
A legfejlettebb GPU-kat az Nvidia gyártja. Egyik csúcsmodellje, a HGX H100 GPU-rendszer 70 kilót nyom, 35 000 alkatrészt tartalmaz, és negyedmillió dolláros áron indul. A kisebb, olcsóbb modelleket azonban már régóta használják más célokra, például videojátékok életre keltésére és kriptovaluták bányászatára. Az elosztott MI-hálózatok kihasználnák azokat az időszakokat, amikor ezek a chipek nem Call of Duty-t futtatnak vagy a bitcoin bányászatot hajtanak végre, és online összekapcsolnák őket, hogy együtt dolgozzanak az MI-rendszerek fejlesztésén. E hálózatok üzemeltetői fizetnének a GPU-tulajdonosoknak, vagy megkérhetnék őket, hogy adományozzák nekik a chipjeik idejét, ha a mesterséges intelligenciát jótékonysági célokra fejlesztik.
Jared Quincy Davis azt mondja, hogy amíg a Google tulajdonában lévő DeepMind kutatója volt, a vállalat többet költött a számítástechnikai erőforrásokra, mint az emberekre. 2022-ben távozott, és létrehozta a Foundry nevű céget, egy olyan platformot, ahol az ügyfelek szabad GPU-kat kereshetnek és bérbe adhatják saját, nem kihasznált GPU-ikat. A vállalkozók váratlan helyeken találják meg ezeket a megüresedett erőforrásokat. Cheemát nemrég mutatták be egy kanadai ügyvédi irodának, amely egy GPU-klasztert hozott létre, amelyet a telephelyükön üzemeltetnek. "Amíg ők otthon alszanak, ezek a GPU-k nem csinálnak semmit” - mondja.
A nemrégiben alapított Exo Labs a küldetésének a mesterséges intelligenciához való hozzáférés demokratizálását nevezi meg. A cég még a kezdeti szakaszban van, mert GPU-kat keres, hogy összeállíthasson egy hálózatot. Cheema becslése szerint szervezetek ezreinek van akár százas nagyságrendben GPU-ja, amelyeket általában nem használnak. "Összességében nagyobb számítási kapacitásról van szó, mint amivel például az X rendelkezik” - mondja, utalva Musk startupjára, amely tavaly egy 100 000 GPU-s klasztert épített egy Tennessee-i adatközpontban.
Eddig még senki sem épített ilyen méretű virtuális GPU-hálózatot. A létezők többségének csak néhány száz GPU-ja van, és még rengeteg akadályt kell leküzdeni. A legfontosabb a sebesség. Egy elosztott hálózat csak olyan gyors, mint a leglassabb internetkapcsolat, míg az ugyanabban az adatközpontban lévő chipeknél gyakorlatilag nincs késleltetés. Az sem egyértelmű, hogy a GPU-k hálózata elég biztonságos-e ahhoz, hogy valaki személyes adatai ne szivárogjanak ki. És egyáltalán, hogyan lehet megtalálni azokat az embereket és vállalatokat, akiknek van felesleges chipjük?
Egy másik probléma: a mesterséges intelligenciamodellek létrehozása költséges vállalkozás, és az ilyen projekteket finanszírozó emberek általában idegenkednek a további kockázatoktól. Vipul Prakash, a Together.AI vezérigazgatója eredetileg azért alapította a vállalatot, hogy decentralizált GPU-hálózatot hozzon létre, majd áttért az adatközpontokon belüli munkára. "Az olyan emberek, akik egymilliárdot fektetnek be egy modell kiképzésébe, általában konzervatívak” - mondja. "Sok pénzt költenek, és már így is sok más típusú rizikót vállalnak, és nem akarnak infrastrukturális téren is kockáztatni.”
A decentralizált utat követő alapítók elismerik ezeket a kihívásokat, de azzal érvelnek, hogy a gazdaságnak és a vállalkozóknak nem tesz jót, ha a számítási erőforrások néhány hatalmas techcég kezében összpontosulnak. Azt is mondják, hogy nincs szükségük bő számítási kapacitáshoz való hozzáférésre ahhoz, hogy elősegítsék az új MI-vállalkozások felvirágzását, és ezt a DeepSeek sikere is bizonyítja.
Paul Hainsworth, a Berkeley Compute decentralizált MI-vállalat vezérigazgatója szerint van egy ügyfele, aki egy olyan élvonalbeli MI-modellt szeretne építeni, amely nagyobb, mint a Meta által üzemeltetett legnagyobb, amely az idei év végére 1,3 millió GPU-val tervezi befejezni. Hainsworth tavaly alapított startupja együttesen mintegy 900 GPU-val rendelkezik, két adatközpontban - az egyik Wyomingban, a másik Kaliforniában. Emellett olyan módszert is fejleszt, amellyel az emberek pénzügyi eszközként birtokolhatják a GPU-kat, amelyeket bérbe adhatnak, mint egy nyaralót. „Nagy téttel fogadok arra, hogy a nagy technológiai cégek tévednek, hogy az összes érték egy központi helyre kerül” - mondja Hainsworth.
A legjobb mesterségesintelligencia-rendszerek létrehozásáért folyó éles versenyben a legértékesebb erőforrás nem az adatok, a kutatók vagy a pénz, hanem egy drága chip, az úgynevezett grafikus feldolgozó egység. Olyan cégvezérek, mint Elon Musk, Mark Zuckerberg és Sam Altman úgy vélik, hogy a mesterséges intelligencia terén a dominancia és a vereség közötti különbség a lehető legtöbb GPU felhalmozásán és az egyenként több milliárd dollárba kerülő hatalmas adatközpontokban történő hálózatba kapcsolásán múlik. Ha a Szilícium-völgy vezetői szerint a mesterséges intelligenciához ilyen léptékű építkezésre van szükség, akkor ezt csak az olyan óriások engedhetik meg maguknak, mint a Microsoft, a Meta, az Alphabet és az Amazon, vagy a gazdag befektetők által megtámogatott startupok, mint az OpenAI.
De egyesek szerint van más megoldás is. Alex Cheema, az EXO Labs társalapítója a startupok azon növekvő csoportjához tartozik, akik szerint a mesterséges intelligencia terén a siker abban rejlik, hogy világszerte megtalálják a kihasználatlan GPU-kat, és ezeket virtuális „elosztott” hálózatokba fűzzék össze az interneten keresztül. Ezek a chipek bárhol lehetnek - egy egyetemi kampuszon, egy irodában vagy egy tinédzser hálószobájában lévő játék PC-ben. "A mesterséges intelligencia alapvető korlátja a számítási kapacitás” - mondja Cheema. "Enélkül nem lehet versenyezni. De ha létrehozzuk ezt az elosztott hálózatot, talán sikerülhet”.
Ha ez működik, akkor a felállás lehetővé tenné a mesterséges intelligencia fejlesztőinek, hogy megkerüljék a legnagyobb technológiai vállalatokat, és jóval alacsonyabb költséggel versenyezzenek az OpenAI vagy a Google szervereivel. Ez a megközelítés a kínai DeepSeek által sikerre vitt technikákkal és más nyílt forráskódú modellekkel párosulva olcsóbbá teheti a mesterséges intelligencia fejlesztését.
A legfejlettebb GPU-kat az Nvidia gyártja. Egyik csúcsmodellje, a HGX H100 GPU-rendszer 70 kilót nyom, 35 000 alkatrészt tartalmaz, és negyedmillió dolláros áron indul. A kisebb, olcsóbb modelleket azonban már régóta használják más célokra, például videojátékok életre keltésére és kriptovaluták bányászatára. Az elosztott MI-hálózatok kihasználnák azokat az időszakokat, amikor ezek a chipek nem Call of Duty-t futtatnak vagy a bitcoin bányászatot hajtanak végre, és online összekapcsolnák őket, hogy együtt dolgozzanak az MI-rendszerek fejlesztésén. E hálózatok üzemeltetői fizetnének a GPU-tulajdonosoknak, vagy megkérhetnék őket, hogy adományozzák nekik a chipjeik idejét, ha a mesterséges intelligenciát jótékonysági célokra fejlesztik.
Jared Quincy Davis azt mondja, hogy amíg a Google tulajdonában lévő DeepMind kutatója volt, a vállalat többet költött a számítástechnikai erőforrásokra, mint az emberekre. 2022-ben távozott, és létrehozta a Foundry nevű céget, egy olyan platformot, ahol az ügyfelek szabad GPU-kat kereshetnek és bérbe adhatják saját, nem kihasznált GPU-ikat. A vállalkozók váratlan helyeken találják meg ezeket a megüresedett erőforrásokat. Cheemát nemrég mutatták be egy kanadai ügyvédi irodának, amely egy GPU-klasztert hozott létre, amelyet a telephelyükön üzemeltetnek. "Amíg ők otthon alszanak, ezek a GPU-k nem csinálnak semmit” - mondja.
A nemrégiben alapított Exo Labs a küldetésének a mesterséges intelligenciához való hozzáférés demokratizálását nevezi meg. A cég még a kezdeti szakaszban van, mert GPU-kat keres, hogy összeállíthasson egy hálózatot. Cheema becslése szerint szervezetek ezreinek van akár százas nagyságrendben GPU-ja, amelyeket általában nem használnak. "Összességében nagyobb számítási kapacitásról van szó, mint amivel például az X rendelkezik” - mondja, utalva Musk startupjára, amely tavaly egy 100 000 GPU-s klasztert épített egy Tennessee-i adatközpontban.
Eddig még senki sem épített ilyen méretű virtuális GPU-hálózatot. A létezők többségének csak néhány száz GPU-ja van, és még rengeteg akadályt kell leküzdeni. A legfontosabb a sebesség. Egy elosztott hálózat csak olyan gyors, mint a leglassabb internetkapcsolat, míg az ugyanabban az adatközpontban lévő chipeknél gyakorlatilag nincs késleltetés. Az sem egyértelmű, hogy a GPU-k hálózata elég biztonságos-e ahhoz, hogy valaki személyes adatai ne szivárogjanak ki. És egyáltalán, hogyan lehet megtalálni azokat az embereket és vállalatokat, akiknek van felesleges chipjük?
Egy másik probléma: a mesterséges intelligenciamodellek létrehozása költséges vállalkozás, és az ilyen projekteket finanszírozó emberek általában idegenkednek a további kockázatoktól. Vipul Prakash, a Together.AI vezérigazgatója eredetileg azért alapította a vállalatot, hogy decentralizált GPU-hálózatot hozzon létre, majd áttért az adatközpontokon belüli munkára. "Az olyan emberek, akik egymilliárdot fektetnek be egy modell kiképzésébe, általában konzervatívak” - mondja. "Sok pénzt költenek, és már így is sok más típusú rizikót vállalnak, és nem akarnak infrastrukturális téren is kockáztatni.”
A decentralizált utat követő alapítók elismerik ezeket a kihívásokat, de azzal érvelnek, hogy a gazdaságnak és a vállalkozóknak nem tesz jót, ha a számítási erőforrások néhány hatalmas techcég kezében összpontosulnak. Azt is mondják, hogy nincs szükségük bő számítási kapacitáshoz való hozzáférésre ahhoz, hogy elősegítsék az új MI-vállalkozások felvirágzását, és ezt a DeepSeek sikere is bizonyítja.
Paul Hainsworth, a Berkeley Compute decentralizált MI-vállalat vezérigazgatója szerint van egy ügyfele, aki egy olyan élvonalbeli MI-modellt szeretne építeni, amely nagyobb, mint a Meta által üzemeltetett legnagyobb, amely az idei év végére 1,3 millió GPU-val tervezi befejezni. Hainsworth tavaly alapított startupja együttesen mintegy 900 GPU-val rendelkezik, két adatközpontban - az egyik Wyomingban, a másik Kaliforniában. Emellett olyan módszert is fejleszt, amellyel az emberek pénzügyi eszközként birtokolhatják a GPU-kat, amelyeket bérbe adhatnak, mint egy nyaralót. „Nagy téttel fogadok arra, hogy a nagy technológiai cégek tévednek, hogy az összes érték egy központi helyre kerül” - mondja Hainsworth.