SG.hu
8 millió GPU-órát osztott ki az EU startupok között
Az Európai Unió bejelentette az év elején indított "Large AI Grand Challenge" győzteseit, amelynek célja, hogy felgyorsítsa a nagyméretű MI-modelleket készítők hazai innovációjának ütemét. Négy startup vállalkozás osztozik majd 1 millió eurós pénzdíjon, és ami talán még fontosabb, 8 millió GPU-órán, hogy a következő 12 hónapban a kontinens nagy teljesítményű számítógépein (HPC) képezhessék modelljeiket. A Bizottság úgy számol, hogy ez lehetővé teszi számukra, hogy a modellek képzési idejét "évekről hetekre" csökkentsék.
A nyertes négy startup cég a francia Lingua Custodia pénzügyi dokumentumokat természetes nyelvi feldolgozással (NLP) feldolgozó francia fintech cég; a belga Textgain startup, amely szintén NLP-t használ szövegfeldolgozásra, de a strukturálatlan adatok elemzésére összpontosít, például a közösségi médiában folyó beszélgetések gyűlöletbeszédre való szűrésére; a lett Tilde startup, egy másik nyelvi specialista, amely a balti-szláv nyelvekre összpontosít, gépi fordítást és mesterséges intelligenciával működő chatbotokat kínál a célnyelveken; valamint a portugál Unbabel, amely a gépi fordítást és az emberi anyanyelvi beszélők szakértelmét ötvözi, és mesterséges intelligenciát alkalmaz ügyfélszolgálati és irodai felhasználásra vállalati ügyfelek számára.
A Bizottság közölte, hogy az AI Challenge-re összesen 94 pályázat érkezett. A négy nyertes közül valószínűleg az Unbabel a legismertebb. A Y Combinator által támogatott fordítói vállalkozás már több mint egy évtizede működik, és a Crunchbase szerint közel 100 millió dollárt gyűjtött össze. Hogy az Unbabelnek szüksége van-e további negyedmillió euróra vagy akár 2 millió ingyenes GPU-képzési órára, az vita tárgya, de még a veterán MI-startupok is úgy érezhetik, hogy minden kis apróság segít, tekintve a generatív MI gyors ütemű fejlődését az elmúlt körülbelül másfél évben. Az EU elvárja, hogy a képzési időszak végén a nyertesek a kifejlesztett modelleket nyílt forráskódú licenc alatt, nem kereskedelmi célú felhasználásra tegyék közzé, illetve kutatási eredményeiket tegyék közzé.
Az EU Ursula von der Leyen elnök tavaly őszi, az Unió helyzetéről szóló beszédében mutatta be tervét, miszerint lehetővé tennék startupok számára a szervezet szuperszámítógépes hardvereihez való hozzáférést. Akkor azt mondta, hogy az "etikus és felelős MI-startupok" elsőként vehetnék igénybe a számítási támogatást. Az EuroHPC közös vállalkozás (European High-Perfomance Computing Joint Undertaking, azaz Nagyteljesítményű Számítástechnikai Közös Vállalkozás) - jelenleg kilenc szuperszámítógéppel rendelkezik, és ezek közül kettő biztosítja majd a négy nyertesnek a 8 millió GPU-óra elosztását: nevezetesen a finnországi Lumi és az olaszországi Leonardo. Egy ötödik startup, a spanyolországi székhelyű Multiverse Computing, amely arra összpontosít, hogy "kvantum-ihletésű tenzorhálózatok" segítségével próbálja javítani a nagy nyelvi modellek energiahatékonyságát és sebességét, épphogy lemaradt a díjról. De van egy vigasz: 800 000 számítási órát kap egy másik szuperszámítógépen, a spanyol MareNostrum 5-ön.
A nagyméretű mesterséges intelligenciamodelleket építő európai startupok maroknyi csoportja nem először kap ízelítőt abból, hogy mire képes a HPC-hardver. Az általános célú MI-modelleket gyártó francia Mistral tavaly nyáron részt vett a szuperszámítógépes ellátás korai kísérleti fázisában, és a Leonardo segítségével "néhány kisebb kísérletet futtatott", ahogy Arthur Mensch társalapító és vezérigazgató elmondta - bár elmondása szerint akkor még nem használták modellképzésre. Az EuroHPC közös vállalkozás a múltban is biztosított némi kapacitást a kereskedelmi szereplők számára, a szuperszámítógépek iránti kereslet azonban jellemzően messze meghaladja a kínálatot, így az AI startupok lényegében a sor végére kerülnek.
Az EU döntéshozói is felismerték, hogy a HPC-infrastruktúrát át kell alakítani a generatív mesterséges intelligencia korszakára. Ezért jelentette be a Bizottság januárban az "MI-innovációs" intézkedéscsomagot, amely a szuperszámítógépek korszerűsítésére és a hozzáférhetőséget javító támogatási réteg kiépítésére irányuló javaslatokat tartalmazott, hogy az MI-startupok könnyebben használhassák az infrastruktúrát.
A nyertes négy startup cég a francia Lingua Custodia pénzügyi dokumentumokat természetes nyelvi feldolgozással (NLP) feldolgozó francia fintech cég; a belga Textgain startup, amely szintén NLP-t használ szövegfeldolgozásra, de a strukturálatlan adatok elemzésére összpontosít, például a közösségi médiában folyó beszélgetések gyűlöletbeszédre való szűrésére; a lett Tilde startup, egy másik nyelvi specialista, amely a balti-szláv nyelvekre összpontosít, gépi fordítást és mesterséges intelligenciával működő chatbotokat kínál a célnyelveken; valamint a portugál Unbabel, amely a gépi fordítást és az emberi anyanyelvi beszélők szakértelmét ötvözi, és mesterséges intelligenciát alkalmaz ügyfélszolgálati és irodai felhasználásra vállalati ügyfelek számára.
A Bizottság közölte, hogy az AI Challenge-re összesen 94 pályázat érkezett. A négy nyertes közül valószínűleg az Unbabel a legismertebb. A Y Combinator által támogatott fordítói vállalkozás már több mint egy évtizede működik, és a Crunchbase szerint közel 100 millió dollárt gyűjtött össze. Hogy az Unbabelnek szüksége van-e további negyedmillió euróra vagy akár 2 millió ingyenes GPU-képzési órára, az vita tárgya, de még a veterán MI-startupok is úgy érezhetik, hogy minden kis apróság segít, tekintve a generatív MI gyors ütemű fejlődését az elmúlt körülbelül másfél évben. Az EU elvárja, hogy a képzési időszak végén a nyertesek a kifejlesztett modelleket nyílt forráskódú licenc alatt, nem kereskedelmi célú felhasználásra tegyék közzé, illetve kutatási eredményeiket tegyék közzé.
Unbabel is one of four AI startups from Europe to win the Large AI Grand Challenge, sharing €1M and 8M computational hours, boosting Europe's AI leadership! Huge thanks to our amazing team who made this achievement possible!
— Unbabel (@Unbabel) June 26, 2024
Read more https://t.co/anjf71P7pY pic.twitter.com/ZIodZFODYz
Az EU Ursula von der Leyen elnök tavaly őszi, az Unió helyzetéről szóló beszédében mutatta be tervét, miszerint lehetővé tennék startupok számára a szervezet szuperszámítógépes hardvereihez való hozzáférést. Akkor azt mondta, hogy az "etikus és felelős MI-startupok" elsőként vehetnék igénybe a számítási támogatást. Az EuroHPC közös vállalkozás (European High-Perfomance Computing Joint Undertaking, azaz Nagyteljesítményű Számítástechnikai Közös Vállalkozás) - jelenleg kilenc szuperszámítógéppel rendelkezik, és ezek közül kettő biztosítja majd a négy nyertesnek a 8 millió GPU-óra elosztását: nevezetesen a finnországi Lumi és az olaszországi Leonardo. Egy ötödik startup, a spanyolországi székhelyű Multiverse Computing, amely arra összpontosít, hogy "kvantum-ihletésű tenzorhálózatok" segítségével próbálja javítani a nagy nyelvi modellek energiahatékonyságát és sebességét, épphogy lemaradt a díjról. De van egy vigasz: 800 000 számítási órát kap egy másik szuperszámítógépen, a spanyol MareNostrum 5-ön.
A nagyméretű mesterséges intelligenciamodelleket építő európai startupok maroknyi csoportja nem először kap ízelítőt abból, hogy mire képes a HPC-hardver. Az általános célú MI-modelleket gyártó francia Mistral tavaly nyáron részt vett a szuperszámítógépes ellátás korai kísérleti fázisában, és a Leonardo segítségével "néhány kisebb kísérletet futtatott", ahogy Arthur Mensch társalapító és vezérigazgató elmondta - bár elmondása szerint akkor még nem használták modellképzésre. Az EuroHPC közös vállalkozás a múltban is biztosított némi kapacitást a kereskedelmi szereplők számára, a szuperszámítógépek iránti kereslet azonban jellemzően messze meghaladja a kínálatot, így az AI startupok lényegében a sor végére kerülnek.
Az EU döntéshozói is felismerték, hogy a HPC-infrastruktúrát át kell alakítani a generatív mesterséges intelligencia korszakára. Ezért jelentette be a Bizottság januárban az "MI-innovációs" intézkedéscsomagot, amely a szuperszámítógépek korszerűsítésére és a hozzáférhetőséget javító támogatási réteg kiépítésére irányuló javaslatokat tartalmazott, hogy az MI-startupok könnyebben használhassák az infrastruktúrát.