SG.hu
Még mindig nem tudjuk mennyi energiát fogyaszt a mesterséges intelligencia
De még ennél is nehezebb a CO2-kibocsátás megbecslése. A vállalatoknak lehetőséget kell adniuk arra, hogy megértsük az általunk használt technológia környezeti hatásait.
Minden egyes lekérdezéssel, képgenerálással és chatbot beszélgetéssel nő a mesterséges intelligencia modellek által fogyasztott energia. Az MI-szolgáltatások képzéséhez és nyújtásához szükséges adatközpontok által okozott kibocsátás már most is a globális összmennyiség mintegy 3 százalékára becsülhető, ami megközelíti a repülési ipar által okozott kibocsátást.
De nem minden MI-modell használ ugyanannyi energiát. Az olyan feladatspecifikus MI-modellek, mint az Intel TinyBERT és a Hugging Face DistilBERT, amelyek egyszerűen szövegből keresnek válaszokat, elenyésző mennyiségű energiát fogyasztanak - 1000 lekérdezésenként körülbelül 0,06 wattórát. Ez egy LED-izzó 20 másodpercig történő működtetésének felel meg. A másik végletet az olyan nagy nyelvi modellek, mint az OpenAI GPT-4, az Anthropic Claude, a Meta Llama, a DeepSeek vagy az Alibaba Qwen jelenti, ezek több ezerszer annyi energiát használnak ugyanarra a lekérdezésre. Az eredmény olyan, mintha stadionok reflektorát kapcsolnánk be kulcsok kereséséhez.
Miért van ilyen óriási különbség az energiafogyasztásban? Mert az LLM-ek nem egyszerűen csak megtalálják a válaszokat, hanem a semmiből generálják azokat, hatalmas adathalmazokból származó minták újrakombinálásával. Ez több időt, számítást és energiát igényel, mint egy internetes keresés.
Nehéz pontosan mérni, hogy az egyes mesterséges intelligenciamodellek mekkora méretűek és mennyi energiát használnak fel. A zárt forráskódú rendszerekkel rendelkező vállalatok, mint például a Google Gemini vagy az Anthropic Claude, nem teszik nyilvánosan elérhetővé a kódjukat és védik ezeket az információkat. Ezért az internet tele van ellenőrizetlen állításokkal arról, hogy a chatbotok lekérdezései milyen mennyiségű energiát és vizet igényelnek, és hogy ez hogyan hasonlítható össze egy internetes kereséssel.
Egy szabványosított megközelítés kidolgozásával próbál fényt deríteni a kérdésre az AI Energy Score projekt, amely a Salesforce, a Hugging Face, a Cohere MI-fejlesztő és a Carnegie Mellon Egyetem együttműködésében jött létre. A kód nyílt, és bárki számára elérhető, és bárki hozzájárulhat. A cél az, hogy a mesterséges intelligencia közösséget minél több modell tesztelésére ösztönözzék.
Tíz népszerű feladat (például szöveggenerálás vagy hangátírás) nyílt forráskódú MI-modelleken történő vizsgálatával elkülöníthető az őket futtató számítógépes hardver által felhasznált energia mennyisége. Ezekhez a relatív hatékonyságuk alapján egy és öt csillag közötti pontszámokat rendelnek. A mintában szereplő leghatékonyabb és legkevésbé hatékony MI-modellek között 62 000-szeres különbséget találtak a szükséges energiaigényben. A projekt februári indulása óta egy új eszköz összehasonlítja a chatbotok lekérdezéseinek energiafelhasználását az olyan mindennapi tevékenységekkel, mint a telefontöltés vagy a vezetés, hogy segítsen a felhasználóknak megérteni a naponta használt technológiák környezeti hatásait.
A technológiai ágazat tisztában van azzal, hogy a mesterséges intelligencia kibocsátása veszélyezteti az éghajlattal kapcsolatos kötelezettségvállalásait. Úgy tűnik, hogy a Microsoft és a Google sem tudja már teljesíteni a nettó nullás célokat. Eddig azonban egyetlen nagy techcég sem vállalta, hogy a módszertant saját MI-modelljeinek tesztelésére használja. Lehetséges, hogy az MI-modellek egy nap segíteni fognak az éghajlatváltozás elleni küzdelemben. Az olyan vállalatok által úttörőként alkalmazott mesterséges intelligencia-rendszerek, mint a DeepMind, már most is terveznek új generációs napelemeket és akkumulátor-anyagokat, optimalizálják az elektromos hálózatok elosztását és csökkentik a cementgyártás szén-dioxid-intenzitását.
A technológiai vállalatok is a tisztább energiaforrások felé mozdulnak el. A Microsoft befektet a Three Mile Island-i atomerőműbe, az Alphabet pedig olyan kísérleti jellegű megközelítésekkel foglalkozik, mint a kis moduláris atomreaktorok. 2024-ben a technológiai ágazat az Egyesült Államokban az új tiszta energiavásárlások 92 százalékához járult hozzá. De nagyobb egyértelműségre van szükség. Az OpenAI-nak, az Anthropicnak és más technológiai vállalatoknak el kellene kezdeniük nyilvánosságra hozni modelljeik energiafogyasztását. Ha ellenállnak, akkor olyan jogszabályra van szükség, amely kötelezővé teszi az ilyen közzétételt.
Ahogy egyre több felhasználó lép kapcsolatba a mesterséges intelligencia rendszerekkel, olyan eszközöket kell biztosítani számukra, amelyekkel megérthetik, hogy az egyes kérések mennyi energiát fogyasztanak. Ennek ismeretében talán óvatosabbak lennének a mesterséges intelligenciát felesleges feladatokra, például egy ország fővárosának megkeresésére használni. A nagyobb átláthatóság arra is ösztönözné a mesterséges intelligenciával működő szolgáltatásokat fejlesztő vállalatokat, hogy az egyedi igényeknek megfelelő kisebb, fenntarthatóbb modelleket válasszanak, ahelyett, hogy alapértelmezésben a legnagyobb, legintenzívebb energiaigényű lehetőségeket választanák.
A mesterséges intelligencia korunk egyik legnagyobb technológiai áttörését jelenti. Forradalmasítani fogja az életünket. A technológia azonban környezeti költségekkel jár, amelyeket a felhasználók és a döntéshozók számára egyaránt világossá kell tenni. Az éghajlati válság korában elengedhetetlen, hogy a mesterséges intelligencia energiafelhasználását átláthatóbbá tegyük.
Minden egyes lekérdezéssel, képgenerálással és chatbot beszélgetéssel nő a mesterséges intelligencia modellek által fogyasztott energia. Az MI-szolgáltatások képzéséhez és nyújtásához szükséges adatközpontok által okozott kibocsátás már most is a globális összmennyiség mintegy 3 százalékára becsülhető, ami megközelíti a repülési ipar által okozott kibocsátást.
De nem minden MI-modell használ ugyanannyi energiát. Az olyan feladatspecifikus MI-modellek, mint az Intel TinyBERT és a Hugging Face DistilBERT, amelyek egyszerűen szövegből keresnek válaszokat, elenyésző mennyiségű energiát fogyasztanak - 1000 lekérdezésenként körülbelül 0,06 wattórát. Ez egy LED-izzó 20 másodpercig történő működtetésének felel meg. A másik végletet az olyan nagy nyelvi modellek, mint az OpenAI GPT-4, az Anthropic Claude, a Meta Llama, a DeepSeek vagy az Alibaba Qwen jelenti, ezek több ezerszer annyi energiát használnak ugyanarra a lekérdezésre. Az eredmény olyan, mintha stadionok reflektorát kapcsolnánk be kulcsok kereséséhez.
Miért van ilyen óriási különbség az energiafogyasztásban? Mert az LLM-ek nem egyszerűen csak megtalálják a válaszokat, hanem a semmiből generálják azokat, hatalmas adathalmazokból származó minták újrakombinálásával. Ez több időt, számítást és energiát igényel, mint egy internetes keresés.
Nehéz pontosan mérni, hogy az egyes mesterséges intelligenciamodellek mekkora méretűek és mennyi energiát használnak fel. A zárt forráskódú rendszerekkel rendelkező vállalatok, mint például a Google Gemini vagy az Anthropic Claude, nem teszik nyilvánosan elérhetővé a kódjukat és védik ezeket az információkat. Ezért az internet tele van ellenőrizetlen állításokkal arról, hogy a chatbotok lekérdezései milyen mennyiségű energiát és vizet igényelnek, és hogy ez hogyan hasonlítható össze egy internetes kereséssel.
Egy szabványosított megközelítés kidolgozásával próbál fényt deríteni a kérdésre az AI Energy Score projekt, amely a Salesforce, a Hugging Face, a Cohere MI-fejlesztő és a Carnegie Mellon Egyetem együttműködésében jött létre. A kód nyílt, és bárki számára elérhető, és bárki hozzájárulhat. A cél az, hogy a mesterséges intelligencia közösséget minél több modell tesztelésére ösztönözzék.
Tíz népszerű feladat (például szöveggenerálás vagy hangátírás) nyílt forráskódú MI-modelleken történő vizsgálatával elkülöníthető az őket futtató számítógépes hardver által felhasznált energia mennyisége. Ezekhez a relatív hatékonyságuk alapján egy és öt csillag közötti pontszámokat rendelnek. A mintában szereplő leghatékonyabb és legkevésbé hatékony MI-modellek között 62 000-szeres különbséget találtak a szükséges energiaigényben. A projekt februári indulása óta egy új eszköz összehasonlítja a chatbotok lekérdezéseinek energiafelhasználását az olyan mindennapi tevékenységekkel, mint a telefontöltés vagy a vezetés, hogy segítsen a felhasználóknak megérteni a naponta használt technológiák környezeti hatásait.
A technológiai ágazat tisztában van azzal, hogy a mesterséges intelligencia kibocsátása veszélyezteti az éghajlattal kapcsolatos kötelezettségvállalásait. Úgy tűnik, hogy a Microsoft és a Google sem tudja már teljesíteni a nettó nullás célokat. Eddig azonban egyetlen nagy techcég sem vállalta, hogy a módszertant saját MI-modelljeinek tesztelésére használja. Lehetséges, hogy az MI-modellek egy nap segíteni fognak az éghajlatváltozás elleni küzdelemben. Az olyan vállalatok által úttörőként alkalmazott mesterséges intelligencia-rendszerek, mint a DeepMind, már most is terveznek új generációs napelemeket és akkumulátor-anyagokat, optimalizálják az elektromos hálózatok elosztását és csökkentik a cementgyártás szén-dioxid-intenzitását.
A technológiai vállalatok is a tisztább energiaforrások felé mozdulnak el. A Microsoft befektet a Three Mile Island-i atomerőműbe, az Alphabet pedig olyan kísérleti jellegű megközelítésekkel foglalkozik, mint a kis moduláris atomreaktorok. 2024-ben a technológiai ágazat az Egyesült Államokban az új tiszta energiavásárlások 92 százalékához járult hozzá. De nagyobb egyértelműségre van szükség. Az OpenAI-nak, az Anthropicnak és más technológiai vállalatoknak el kellene kezdeniük nyilvánosságra hozni modelljeik energiafogyasztását. Ha ellenállnak, akkor olyan jogszabályra van szükség, amely kötelezővé teszi az ilyen közzétételt.
Ahogy egyre több felhasználó lép kapcsolatba a mesterséges intelligencia rendszerekkel, olyan eszközöket kell biztosítani számukra, amelyekkel megérthetik, hogy az egyes kérések mennyi energiát fogyasztanak. Ennek ismeretében talán óvatosabbak lennének a mesterséges intelligenciát felesleges feladatokra, például egy ország fővárosának megkeresésére használni. A nagyobb átláthatóság arra is ösztönözné a mesterséges intelligenciával működő szolgáltatásokat fejlesztő vállalatokat, hogy az egyedi igényeknek megfelelő kisebb, fenntarthatóbb modelleket válasszanak, ahelyett, hogy alapértelmezésben a legnagyobb, legintenzívebb energiaigényű lehetőségeket választanák.
A mesterséges intelligencia korunk egyik legnagyobb technológiai áttörését jelenti. Forradalmasítani fogja az életünket. A technológia azonban környezeti költségekkel jár, amelyeket a felhasználók és a döntéshozók számára egyaránt világossá kell tenni. Az éghajlati válság korában elengedhetetlen, hogy a mesterséges intelligencia energiafelhasználását átláthatóbbá tegyük.