Berta Sándor
Több százezer grafikus chipből készített rendszert a Microsoft
A gépi tanulás nagyon erőforrásigényes, a redmondi konszern talált egy megoldást a problémára.
Az óriáscég kutatói az anyagukban mutatták be a Singularity nevű rendszert, amely nVidia DGX-2 szerverekből vagyis több százezer grafikus chipből épül fel. Minden egyes DGX-2 egy Xeon Platinum 8168 processzort használ kétszer 20 CPU-maggal, valamint 692 gigabájt memóriával. Ezt egészíti ki még 8 V100 típusú grafikus chip. A társaság a hálózatot a gépi tanulási feladatok elosztására és ütemezésére, valamint a mesterséges intelligencia algoritmusok edzésére alkalmazza. Ezek a feladatok hatalmas adatmennyiség feldolgozását teszik szükségessé.
Az elsődleges cél a kapcsolódó költségek csökkentése volt. A vállalat a Singularity megalkotásakor elsősorban azt a problémát akarta megoldani, hogy a mély tanulási rendszerek képzésekor egyre nagyobb hálózatokra van szükség, azok beszerzése és üzemeltetése azonban rendkívül sokba kerül. Ahhoz viszont, hogy ezek a beruházások mégis megtérüljenek, fontos, hogy a rendszerek kapacitásai maximálisan ki legyenek használva.
Ez úgy érhető el, hogy a feladatokat az Azure felhőkörnyezeten belül az éppen szabad erőforrások között elosztják. Ez rendkívüli módon növeli a hatékonyságot, hiszen a világszerte hozzáférhető erőforrások optimálisan vannak kihasználva. A Replica Splicing nevű eljárásnak köszönhetően pedig egy szerveren több feladat is feldolgozható egymás mellett. A nyilvánosságra hozott dokumentum összesen 26 szakembert sorolt fel a projekttel kapcsolatban, köztük van Mark Russinovich, a Microsoft Azure felhőrészlegének a műszaki vezetője.
Az óriáscég kutatói az anyagukban mutatták be a Singularity nevű rendszert, amely nVidia DGX-2 szerverekből vagyis több százezer grafikus chipből épül fel. Minden egyes DGX-2 egy Xeon Platinum 8168 processzort használ kétszer 20 CPU-maggal, valamint 692 gigabájt memóriával. Ezt egészíti ki még 8 V100 típusú grafikus chip. A társaság a hálózatot a gépi tanulási feladatok elosztására és ütemezésére, valamint a mesterséges intelligencia algoritmusok edzésére alkalmazza. Ezek a feladatok hatalmas adatmennyiség feldolgozását teszik szükségessé.
Az elsődleges cél a kapcsolódó költségek csökkentése volt. A vállalat a Singularity megalkotásakor elsősorban azt a problémát akarta megoldani, hogy a mély tanulási rendszerek képzésekor egyre nagyobb hálózatokra van szükség, azok beszerzése és üzemeltetése azonban rendkívül sokba kerül. Ahhoz viszont, hogy ezek a beruházások mégis megtérüljenek, fontos, hogy a rendszerek kapacitásai maximálisan ki legyenek használva.
Ez úgy érhető el, hogy a feladatokat az Azure felhőkörnyezeten belül az éppen szabad erőforrások között elosztják. Ez rendkívüli módon növeli a hatékonyságot, hiszen a világszerte hozzáférhető erőforrások optimálisan vannak kihasználva. A Replica Splicing nevű eljárásnak köszönhetően pedig egy szerveren több feladat is feldolgozható egymás mellett. A nyilvánosságra hozott dokumentum összesen 26 szakembert sorolt fel a projekttel kapcsolatban, köztük van Mark Russinovich, a Microsoft Azure felhőrészlegének a műszaki vezetője.