SG.hu·
Amikor a szilícium elkezdi megtervezni a következő szilíciumot
Egyre közelebb kerülünk a gépek által végzett géptervezéshez, az MI a tervek megvalósítását, ellenőrzését és optimalizálását egyre nagyobb önállósággal képes elvégezni.
Az Architect Labs bejelentette, hogy olyan chipet tervezett, amelyet szinte teljes egészében az MI fejlesztett ki, ami iparági elsőnek számít. Az MI-t már most is használják az alaprajzok, az elhelyezés és huzalozás, az ellenőrzés, valamint a félvezető-fejlesztés egyéb szakaszainak optimalizálására. A generatív MI segíthet a mérnököknek az RTL-kód megírásában, miközben a kialakulóban lévő ügynökalapú rendszerek képesek elektronikus tervezési automatizálási, vagyis EDA-eszközöket működtetni, elemezni az eredményeket, azonosítani a problémákat, módosítani a terveket, majd egyre kisebb emberi beavatkozás mellett megismételni a folyamatot. Eközben az emberi mérnökök továbbra is meghatározzák és kidolgozzák az architektúrákat, valamint meghozzák azokat az alapvető tervezési döntéseket, amelyek meghatározzák, hogy egy chip mit csinál és hogyan működik.
Ez egy különös visszacsatolási kört hoz létre. A mai MI-modellek olyan processzorokon futnak, amelyeket emberi mérnökök terveztek, egyre nagyobb mértékben az MI segítségével; ezek a modellek pedig ezután képesek segíteni olyan nagyobb teljesítményű processzorok megtervezését, amelyek az MI-rendszerek következő generációját működtetik. Ahogy az EDA-szoftverek gyártói és a félvezetőipari vállalatok az MI számára a tervezési folyamat egyre nagyobb része felett biztosítanak irányítást, az iparág fokozatosan halad afelé, hogy az emberek által az MI-eszközök segítségével történő chiptervezéstől eljusson oda, hogy az MI-rendszerek részt vegyenek annak a hardvernek a megtervezésében, amelyen utódaik futni fognak.
Képesek-e a gépek ma valóban gépeket tervezni? Valószínűleg nem. De képesek lesznek erre a jövőben? Ez egy nagy kérdés, amelynek fontos következményei vannak - és a mérnökök már hosszabb ideje foglalkoznak vele, mint gondolnánk. A Cadence, a Synopsys és a Siemens EDA - amelyek mind EDA-szoftverek vezető fejlesztői -, valamint az Ansys, a szimulációs szoftverek egyik vezető fejlesztője, már a 2020-as évek elején piacra dobta eszközeinek MI-vel továbbfejlesztett változatait, még azelőtt, hogy a generatív MI fellendülése teljesen felforgatta volna a világot.
Az MI-vel továbbfejlesztett EDA-szoftverek első generációja elsősorban gépi tanulást és megerősítéses tanulást használt jól meghatározott optimalizálási problémák megoldására. Egy meglévő terv, egy sor korlátozás és konkrét célok megadásával ezek az eszközök számos megvalósítási lehetőséget tudtak feltérképezni az elhelyezés és huzalozás, és ezáltal a teljesítmény, a fogyasztás és a terület, vagyis a PPA (power, performance, and area) optimalizálása érdekében, miközben lerövidítették a fejlesztési időt. Lényegében az MI képes volt megtalálni egy terv jobb megvalósítási módját, de magát a tervet és annak céljait továbbra is a mérnökök határozták meg.
Ezeknek az eszközöknek az egyik legfontosabb előnye az volt, hogy képesek voltak tanulni a korábbi futtatásokból, és a felhalmozott adatokat felhasználni a későbbi tervezési tér feltérképezésének irányítására. Ez csökkenthette a PPA-célok eléréséhez szükséges iterációk számát, és bizonyos esetekben olyan eredményeket hozhatott, amelyek hagyományos módszerekkel lényegesen több mérnöki munkát igényeltek volna. Ezeknek az eszközöknek az autonómiája azonban csekély, mivel a mérnökök határozzák meg a korlátozásokat, állítják be a folyamatokat, futtatják az egyes eszközöket, elemzik azok kimenetét, és eldöntik, mit próbáljanak ki ezután. Az MI felgyorsítja vagy optimalizálja a chipfejlesztés egyes szakaszait, de az általános tervezési folyamatot továbbra is az emberek irányítják. Az újabb generációkkal azonban ez változik.
A legújabb MI-vel továbbfejlesztett EDA-eszközök jóval ambiciózusabbak. A generatív MI képes RTL- és ellenőrzési kódot írni vagy módosítani, jelentéseket elemezni, azonosítani a lehetséges meghibásodási pontokat, és akár javításokat is javasolni. Eközben a kialakulóban lévő ügynökalapú rendszerek több EDA-eszközt is képesek működtetni, és mérnöki feladatok sorozatát végrehajtani nagyon korlátozott emberi beavatkozás mellett. Egy ilyen ügynök képes elemezni az eredményeket, módosítani egy tervet vagy annak paramétereit, elindítani egy újabb szimulációt vagy megvalósítási futtatást, kiértékelni az eredményt, majd addig ismételni a folyamatot, amíg el nem éri a meghatározott célokat. Ennek eredményeként az MI fokozatosan az EDA-eszközökön belüli egyes lépések optimalizálásától magának a chipfejlesztési munkafolyamatnak bizonyos részeinek automatizálása felé halad.
2023 és 2024 között a Cadence és a Synopsys is bejelentette, hogy több száz chiptervet készítettek el az MI-vel továbbfejlesztett Cadence.ai DSO.ai, VSO.ai és TSO.ai eszközeik segítségével. Emellett vezető technológiai vállalatok részleteket hoztak nyilvánosságra arról, hogyan használták az MI-t projektjeik megvalósításához. A Google-t, az Nvidiát, az OpenAI-t és az Architect Labsot azonban nem helyes ugyanabba a kategóriába sorolni, mivel eltérő mértékben vesznek részt az MI segítségével a chipfejlesztésben.
A Google az elsők között volt a technológiai óriásvállalatok között, amelyek bejelentették, hogy MI segítségével fejlesztik MI-gyorsítóikat, és a legkevésbé radikális megközelítést alkalmazza. A Google AlphaChipje elsősorban megerősítéses tanulást használ a fizikai alaprajz kialakítására: áramköri blokkokat helyez el és optimalizálja az elrendezéseket, de nem találja ki magát a teljes tervet vagy az architektúrát. A Google DeepMind 2024-ben azt mondta, hogy az AlphaChipet a TPU-k előző három generációjánál is használták, ami azt jelenti, hogy a Google eszközei jóval megelőzték az általános EDA-iparágat. A vállalat azóta nem osztott meg részletes információkat az AlphaChip fejlődéséről.
Az Nvidia érdekesebb, mivel belső MI-rendszerei hajlamosak automatizálni azokat a munkafolyamatokat, amelyeket hagyományosan hardvermérnökök végeznek. A fontos különbség az, hogy az Nvidia saját RTL-kódján, dokumentációján és egyedülálló módon felhalmozott mérnöki tudásán képez speciális modelleket, amelyekhez egy kereskedelmi EDA-szoftvereket kínáló szolgáltató nem férhet hozzá. Ez teszi az Nvidiát annak példájává, amikor egy chiptervező a saját fejlesztésű GPU-ja, illetve újabban MI-gyorsítói, CPU-i, DPU-i és hálózati kártyái mögött álló mérnöki adatokat MI-modellek betanítására szolgáló adatokká alakítja. Az Nvidia ugyanakkor egyértelmű határvonalat húz automatizálása és az autonóm chiptervezés között.
Az OpenAI Jalapeno projektje valószínűleg a jelenleg rendelkezésünkre álló legerősebb, valódi szilíciumon alapuló példa. Az OpenAI szerint az MI közvetlenül részt vett a megvalósításban, a tervezési tér feltérképezésében, az ellenőrzési ciklusokban és a számtani áramkörök optimalizálásában, ami lehetővé tette, hogy a vállalat a kezdeti tervtől a gyártás előtti végleges terv elkészítéséig kilenc hónap alatt jusson el. A Hot Chips rendezvényen az OpenAI konkrét PPA-előnyöket is ismertetett: az emberi mérnökök által készített alapértékekhez képest az MI segítségével létrehozott tervek 56%-kal javították egy BF16-szorzó, 21%-kal egy FP4 pontszorzó blokk, illetve 10%-kal egy FP32 akkumulátor teljesítményét, miközben a mátrix- és SIMD-egységek területét 10, illetve 8%-kal csökkentették.
Az OpenAI nem állította, hogy az MI találta ki a Jalapeno architektúráját, így annak megtervezéséért valóban továbbra is az emberek voltak felelősek. Az MI-t azonban kiterjedten használták arra, hogy ezt az architektúrát szilíciummá alakítsák és optimalizálják... és ezzel eljutunk az Architect Labshoz.
Az Architect Labs Redwood projektje valóban minőségileg más. Két emberi architektúramérnök határozta meg a specifikációt, ezt követően pedig az Architect Labs szerint az MI autonóm módon generálta és ellenőrizte a logikát, létrehozta az RTL-kódot, ellenőrizte azt, és firmware-t készített. Ráadásul az MI a szoftverfejlesztésben is segített, beleértve az illesztőprogramokat és a kerneleket. Eközben a Google-lel, az Nvidiával és az OpenAI-jal ellentétben a vállalat kifejezetten olyan rendszerként írja le a saját megoldását, amely gépi tanulási együtttervezést végez, és azt mondja, hogy képes architektúrákat feltérképezni, bár erről nem közölt további részleteket.
A Redwoodot kevesebb mint két hét alatt "állították elő", és több mint egymilliárd paraméteres modelleket futtat, de van egy hatalmas megszorítás: a chipet még nem gyártották le. Soha nem készült el ténylegesen ASIC-ként; a gyorsító egy FPGA-n fut, a Nvidia Jetson Orin Nano teljesítményhez viszonyított, wattos teljesítményben mért 3,4-szeres előnyre vonatkozó állítás pedig egy tervezett Samsung 8LPP megvalósításon alapul.
Néhány évvel ezelőtt az MI használata a félvezető-fejlesztésben nagyrészt olyan optimalizálási technológia volt, amely segített a mérnököknek jobb módszereket találni az emberek által létrehozott tervek megvalósítására. Ma már képes RTL-kódot generálni, terveket ellenőrizni, EDA-eszközöket működtetni, sőt még az architekturális lehetőségeket is feltérképezni, bár továbbra is az emberek határozzák meg, mi épül meg végül. Így tehát jelentősen közelebb kerültünk ahhoz, hogy gépek tervezzenek gépeket, de még messze vagyunk a szingularitástól. Egyelőre a chipek segítenek megtervezni utódaikat. De még csak megközelítőleg sem képesek eldönteni, hogy milyenek legyenek ezek az utódok.
Az Architect Labs bejelentette, hogy olyan chipet tervezett, amelyet szinte teljes egészében az MI fejlesztett ki, ami iparági elsőnek számít. Az MI-t már most is használják az alaprajzok, az elhelyezés és huzalozás, az ellenőrzés, valamint a félvezető-fejlesztés egyéb szakaszainak optimalizálására. A generatív MI segíthet a mérnököknek az RTL-kód megírásában, miközben a kialakulóban lévő ügynökalapú rendszerek képesek elektronikus tervezési automatizálási, vagyis EDA-eszközöket működtetni, elemezni az eredményeket, azonosítani a problémákat, módosítani a terveket, majd egyre kisebb emberi beavatkozás mellett megismételni a folyamatot. Eközben az emberi mérnökök továbbra is meghatározzák és kidolgozzák az architektúrákat, valamint meghozzák azokat az alapvető tervezési döntéseket, amelyek meghatározzák, hogy egy chip mit csinál és hogyan működik.
Ez egy különös visszacsatolási kört hoz létre. A mai MI-modellek olyan processzorokon futnak, amelyeket emberi mérnökök terveztek, egyre nagyobb mértékben az MI segítségével; ezek a modellek pedig ezután képesek segíteni olyan nagyobb teljesítményű processzorok megtervezését, amelyek az MI-rendszerek következő generációját működtetik. Ahogy az EDA-szoftverek gyártói és a félvezetőipari vállalatok az MI számára a tervezési folyamat egyre nagyobb része felett biztosítanak irányítást, az iparág fokozatosan halad afelé, hogy az emberek által az MI-eszközök segítségével történő chiptervezéstől eljusson oda, hogy az MI-rendszerek részt vegyenek annak a hardvernek a megtervezésében, amelyen utódaik futni fognak.
Képesek-e a gépek ma valóban gépeket tervezni? Valószínűleg nem. De képesek lesznek erre a jövőben? Ez egy nagy kérdés, amelynek fontos következményei vannak - és a mérnökök már hosszabb ideje foglalkoznak vele, mint gondolnánk. A Cadence, a Synopsys és a Siemens EDA - amelyek mind EDA-szoftverek vezető fejlesztői -, valamint az Ansys, a szimulációs szoftverek egyik vezető fejlesztője, már a 2020-as évek elején piacra dobta eszközeinek MI-vel továbbfejlesztett változatait, még azelőtt, hogy a generatív MI fellendülése teljesen felforgatta volna a világot.
Az MI-vel továbbfejlesztett EDA-szoftverek első generációja elsősorban gépi tanulást és megerősítéses tanulást használt jól meghatározott optimalizálási problémák megoldására. Egy meglévő terv, egy sor korlátozás és konkrét célok megadásával ezek az eszközök számos megvalósítási lehetőséget tudtak feltérképezni az elhelyezés és huzalozás, és ezáltal a teljesítmény, a fogyasztás és a terület, vagyis a PPA (power, performance, and area) optimalizálása érdekében, miközben lerövidítették a fejlesztési időt. Lényegében az MI képes volt megtalálni egy terv jobb megvalósítási módját, de magát a tervet és annak céljait továbbra is a mérnökök határozták meg.
Ezeknek az eszközöknek az egyik legfontosabb előnye az volt, hogy képesek voltak tanulni a korábbi futtatásokból, és a felhalmozott adatokat felhasználni a későbbi tervezési tér feltérképezésének irányítására. Ez csökkenthette a PPA-célok eléréséhez szükséges iterációk számát, és bizonyos esetekben olyan eredményeket hozhatott, amelyek hagyományos módszerekkel lényegesen több mérnöki munkát igényeltek volna. Ezeknek az eszközöknek az autonómiája azonban csekély, mivel a mérnökök határozzák meg a korlátozásokat, állítják be a folyamatokat, futtatják az egyes eszközöket, elemzik azok kimenetét, és eldöntik, mit próbáljanak ki ezután. Az MI felgyorsítja vagy optimalizálja a chipfejlesztés egyes szakaszait, de az általános tervezési folyamatot továbbra is az emberek irányítják. Az újabb generációkkal azonban ez változik.
A legújabb MI-vel továbbfejlesztett EDA-eszközök jóval ambiciózusabbak. A generatív MI képes RTL- és ellenőrzési kódot írni vagy módosítani, jelentéseket elemezni, azonosítani a lehetséges meghibásodási pontokat, és akár javításokat is javasolni. Eközben a kialakulóban lévő ügynökalapú rendszerek több EDA-eszközt is képesek működtetni, és mérnöki feladatok sorozatát végrehajtani nagyon korlátozott emberi beavatkozás mellett. Egy ilyen ügynök képes elemezni az eredményeket, módosítani egy tervet vagy annak paramétereit, elindítani egy újabb szimulációt vagy megvalósítási futtatást, kiértékelni az eredményt, majd addig ismételni a folyamatot, amíg el nem éri a meghatározott célokat. Ennek eredményeként az MI fokozatosan az EDA-eszközökön belüli egyes lépések optimalizálásától magának a chipfejlesztési munkafolyamatnak bizonyos részeinek automatizálása felé halad.
2023 és 2024 között a Cadence és a Synopsys is bejelentette, hogy több száz chiptervet készítettek el az MI-vel továbbfejlesztett Cadence.ai DSO.ai, VSO.ai és TSO.ai eszközeik segítségével. Emellett vezető technológiai vállalatok részleteket hoztak nyilvánosságra arról, hogyan használták az MI-t projektjeik megvalósításához. A Google-t, az Nvidiát, az OpenAI-t és az Architect Labsot azonban nem helyes ugyanabba a kategóriába sorolni, mivel eltérő mértékben vesznek részt az MI segítségével a chipfejlesztésben.
A Google az elsők között volt a technológiai óriásvállalatok között, amelyek bejelentették, hogy MI segítségével fejlesztik MI-gyorsítóikat, és a legkevésbé radikális megközelítést alkalmazza. A Google AlphaChipje elsősorban megerősítéses tanulást használ a fizikai alaprajz kialakítására: áramköri blokkokat helyez el és optimalizálja az elrendezéseket, de nem találja ki magát a teljes tervet vagy az architektúrát. A Google DeepMind 2024-ben azt mondta, hogy az AlphaChipet a TPU-k előző három generációjánál is használták, ami azt jelenti, hogy a Google eszközei jóval megelőzték az általános EDA-iparágat. A vállalat azóta nem osztott meg részletes információkat az AlphaChip fejlődéséről.
Az Nvidia érdekesebb, mivel belső MI-rendszerei hajlamosak automatizálni azokat a munkafolyamatokat, amelyeket hagyományosan hardvermérnökök végeznek. A fontos különbség az, hogy az Nvidia saját RTL-kódján, dokumentációján és egyedülálló módon felhalmozott mérnöki tudásán képez speciális modelleket, amelyekhez egy kereskedelmi EDA-szoftvereket kínáló szolgáltató nem férhet hozzá. Ez teszi az Nvidiát annak példájává, amikor egy chiptervező a saját fejlesztésű GPU-ja, illetve újabban MI-gyorsítói, CPU-i, DPU-i és hálózati kártyái mögött álló mérnöki adatokat MI-modellek betanítására szolgáló adatokká alakítja. Az Nvidia ugyanakkor egyértelmű határvonalat húz automatizálása és az autonóm chiptervezés között.
Az OpenAI Jalapeno projektje valószínűleg a jelenleg rendelkezésünkre álló legerősebb, valódi szilíciumon alapuló példa. Az OpenAI szerint az MI közvetlenül részt vett a megvalósításban, a tervezési tér feltérképezésében, az ellenőrzési ciklusokban és a számtani áramkörök optimalizálásában, ami lehetővé tette, hogy a vállalat a kezdeti tervtől a gyártás előtti végleges terv elkészítéséig kilenc hónap alatt jusson el. A Hot Chips rendezvényen az OpenAI konkrét PPA-előnyöket is ismertetett: az emberi mérnökök által készített alapértékekhez képest az MI segítségével létrehozott tervek 56%-kal javították egy BF16-szorzó, 21%-kal egy FP4 pontszorzó blokk, illetve 10%-kal egy FP32 akkumulátor teljesítményét, miközben a mátrix- és SIMD-egységek területét 10, illetve 8%-kal csökkentették.
Az OpenAI nem állította, hogy az MI találta ki a Jalapeno architektúráját, így annak megtervezéséért valóban továbbra is az emberek voltak felelősek. Az MI-t azonban kiterjedten használták arra, hogy ezt az architektúrát szilíciummá alakítsák és optimalizálják... és ezzel eljutunk az Architect Labshoz.
Az Architect Labs Redwood projektje valóban minőségileg más. Két emberi architektúramérnök határozta meg a specifikációt, ezt követően pedig az Architect Labs szerint az MI autonóm módon generálta és ellenőrizte a logikát, létrehozta az RTL-kódot, ellenőrizte azt, és firmware-t készített. Ráadásul az MI a szoftverfejlesztésben is segített, beleértve az illesztőprogramokat és a kerneleket. Eközben a Google-lel, az Nvidiával és az OpenAI-jal ellentétben a vállalat kifejezetten olyan rendszerként írja le a saját megoldását, amely gépi tanulási együtttervezést végez, és azt mondja, hogy képes architektúrákat feltérképezni, bár erről nem közölt további részleteket.
A Redwoodot kevesebb mint két hét alatt "állították elő", és több mint egymilliárd paraméteres modelleket futtat, de van egy hatalmas megszorítás: a chipet még nem gyártották le. Soha nem készült el ténylegesen ASIC-ként; a gyorsító egy FPGA-n fut, a Nvidia Jetson Orin Nano teljesítményhez viszonyított, wattos teljesítményben mért 3,4-szeres előnyre vonatkozó állítás pedig egy tervezett Samsung 8LPP megvalósításon alapul.
Néhány évvel ezelőtt az MI használata a félvezető-fejlesztésben nagyrészt olyan optimalizálási technológia volt, amely segített a mérnököknek jobb módszereket találni az emberek által létrehozott tervek megvalósítására. Ma már képes RTL-kódot generálni, terveket ellenőrizni, EDA-eszközöket működtetni, sőt még az architekturális lehetőségeket is feltérképezni, bár továbbra is az emberek határozzák meg, mi épül meg végül. Így tehát jelentősen közelebb kerültünk ahhoz, hogy gépek tervezzenek gépeket, de még messze vagyunk a szingularitástól. Egyelőre a chipek segítenek megtervezni utódaikat. De még csak megközelítőleg sem képesek eldönteni, hogy milyenek legyenek ezek az utódok.