SG.hu·
Mindössze néhány év alatt ezredrészére zuhant az MI használat ára
Az MI ára gyorsabban zuhan, mint a Moore-törvény üteme, állítja egy jelentés. Az intelligencia költsége szabadesésben van, és olyan összehasonlítható technológiákat is megelőz, mint a számítási kapacitás, a DNS-szekvenálás és a lítiumakkumulátorok
Az Epoch AI MI-kutató vállalat új jelentése szerint a mesterséges intelligencia ára az elmúlt években néhány ezredrészére csökkent, és ez gyorsabb, mint bármely más, az elmúlt évszázadban átalakulást hozó technológiáé. A jelentés szerint a mesterséges intelligencia költsége negyedévente valamivel kevesebb mint 50 százalékkal, évente pedig 13-szorosára csökken. Ez gyorsabb a lítiumakkumulátoroknál, gyorsabb a DNS-szekvenálásnál, sőt még a számítási kapacitásnál is gyorsabb, amely az elmúlt évszázad nagy részében a Moore-törvény gyors fejlődésének köszönhetően folyamatosan javult.
Bár ezek a csökkenő költségek valószínűleg elősegítik az MI elterjedését, nehéz kérdéseket vetnek fel azzal kapcsolatban, hogy szükség van-e továbbra is az élvonalbeli MI fejlesztéséhez való kötődésre, és megnehezíthetik a külső MI-szolgáltatások számára az ügyfélhűség és a kiszámítható bevétel kialakítását. Ha tudjuk, hogy egy adott pillanatban már csak néhány hét vagy hónap választ el minket attól, hogy az általunk kiszemelt szolgáltatás fejlettebbé és olcsóbbá váljon, akkor mi ösztönzi az embert arra, hogy már most bevezesse? Ha egy konkurens szolgáltatás valami jobbat és olcsóbbat kínál, miért maradna bárki a jelenlegi szolgáltatójánál? Ez nehéz dilemmát jelent az olyan cégek számára, mint az OpenAI és az Anthropic, amelyek az egyre erősebb MI-képességekben versenyeznek. Ahogy a jelentés rámutat, nehéz elképzelni nagy nyereséget még olyan fejlett modellekkel is, amelyek felülmúlják a versenytársakat, ha az előnyük csupán múló előny lehet.
A Moore-törvény az elmúlt mintegy 60 év nagy részében releváns állandó tényező volt. Mivel a számítási teljesítmény és a hatékonyság minden évben jelentős mértékben javul, ennek összetett hatására olyan modern számítógépek jönnek létre, amelyek elődeiknél drámaian gyorsabbak, miközben a számítási képességeikhez viszonyítva jóval olcsóbban üzemeltethetők. Az MI teljesítménye és az ehhez a teljesítményhez szükséges költségek még ennél is gyorsabban csökkennek. Költségcsökkenés szempontjából a DNS-szekvenálás mutat a leginkább hasonló tendenciát - ez a technológiai költségek csökkenésének gyakran idézett példája. Relatív költsége még az MI-nél is nagyobb mértékben csökkent, ehhez azonban valamivel több mint 20 évre volt szükség.
Az Epoch AI szerint a mesterséges intelligencia ugyanezt mindössze fél évtized alatt érte el. Ez azt jelenti, hogy a költség negyedévente valamivel kevesebb mint felére, évente pedig 13-ad részére csökken. A csökkenés üteme négyszer gyorsabb a DNS-szekvenálásénál és 18-szor gyorsabb a lítiumakkumulátorokénál. Ezeknek az eredményeknek több korlátja is van. A számítási kapacitás esetében az adatok csak 2001-ig terjednek, és ezt követően nincs adat a relatív költségről, míg a villamos energiát csak 1973-ig követték nyomon, ami azt jelenti, hogy teljesen kimarad belőle a napenergia elmúlt években bekövetkezett felfutása. Az MI költségének csökkenését szintén csak 2023-tól követték nyomon, az ezt megelőző időszakra vonatkozó adatokat pedig a meglévő rövidebb trend és külső kutatások alapján extrapolálták.
Az Epoch AI ezeket az eredményeket ráadásul nem egy konkrét modellre alapozta, hanem olyan modellekre, amelyek a Graduate-Level Google-Proof Q&A (GPQA) Diamond benchmarkon legalább 81,25 százalékos eredményt értek el, és azt követte nyomon, mennyibe kerül, hogy a modell megválaszolja a teszt egyik feleletválasztós kérdését. Ez az MI képességeit számos tudományterületen és ismeretterületen méri, de nem feltétlenül fedi le az MI-képességek teljes skáláját. Azt azonban megmutathatja, hogy az újabb modellek számára mennyivel könnyebbé váltak az ilyen feladatok, mivel nem csupán könnyebben érnek el magasabb pontszámot a teszten, hanem ezt sokkal kisebb költséggel is megteszik.
Az Epoch AI az OpenAI 2025 januárjában kiadott GPT o3 modelljét hozza fel példaként, amely a GPQA Diamond teszten 75 százalékos eredményt ért el, kérdésenként 0,30 dolláros költség mellett. Mindössze másfél évvel később azonban az OpenAI kiadta a GPT-5.6 Luna modellt, amely ugyanilyen jól teljesít ugyanazon a teszten, de kérdésenként mindössze 0,0004 dollárba kerül.
Az ilyen gyors költségcsökkenés azonban nem egységes a különböző tudományterületeken, és nem is lineáris a fejlődése. Az Epoch AI a kutatását további benchmarkeredményekkel egészítette ki, amelyek sakkfeladványokat és matematikai feladatokat is tartalmaztak, és rendkívül eltérő ütemű költséghatékonyság-javulást fedezett fel. Míg a GPQA Diamond benchmark gyors költségcsökkenéssel járó időszakokat mutatott, amelyeket stagnálás és platószerű időszakok követtek, az AIME OTIS Mock teszt sokkal egyenletesebb fejlődést mutatott minden egyes adatpontnál. A sakkfeladványok esetében, bár nem ugyanahhoz a sikerességi százalékhoz viszonyítva követték nyomon a fejlődést, szintén rendszeresebb és következetesebb javulás volt látható. A Frontier Math fejlesztései azonban 2025 és 2026 között alig javultak, majd az év közepén a költségek hirtelen zuhanni kezdtek.
Az Epoch AI arra is rámutat, hogy a költségcsökkenés üteme lassul, és úgy tűnik, hogy ez a helyzet a legtöbb mért mutató esetében, bármely adott teljesítményszinten. Az öt benchmark alapján kezdetben negyedévente 66 százalékos költségcsökkenést mért, két évvel később azonban ez már csak negyedévente 32 százalék. Ez arra utalhat, hogy lassul az MI fejlődése, vagy hogy egyre nehezebbé válik az MI használati költségeinek csökkentése, különösen 2026-ban, amikor az energia és a számítástechnikai hardverek ára az egekbe szökött. Nehéz olcsóbb szolgáltatást kínálni, ha az MI-intelligencia nyersanyagai jóval drágábbak, mint korábban.
Az adatok legnagyobb lehetséges problémája az Epoch AI szerint vitathatatlanul a „Benchmaxxing” lehetősége. Ez azt jelenti, hogy az MI-fejlesztők kifejezetten úgy tanítják a modelljeiket, hogy jól teljesítsenek azokon a benchmarkokon, amelyeket egyébként általánosabb képességek tesztelésére terveztek. A benchmarkok kijátszása nem új jelenség a szoftvercégek körében - az Nvidiát és az ATI-t 2003-ban rajtakapták, hogy ezt tették a 3DMark esetében, 2024-ben pedig több ezer Intel-teszteredményt érvénytelenítettek, mert egy másik benchmarkkal lényegében ugyanezt csinálták.
Az Epoch AI a benchmarkolás során véletlenszerű elemeket használt annak megakadályozására, hogy a modellek felismerjék, hogy tesztelik őket, illetve hogy a fejlesztők kifejezetten úgy tanítsák őket, hogy hatékonyak legyenek a külső teszteken. Ez azonban nem vonatkozott minden tesztre, és azoknál, amelyekből hiányzott ez a védelem, nagyobb mértékű csökkenést figyeltek meg, ami arra utal, hogy az adatokban bizonyos mértékben jelen van a benchmarkok optimalizálása. Ez nem teszi érvénytelenné az eredményeket, de indokolttá teszi, hogy némi szkepticizmussal kezeljük őket.
Az MI-fejlesztőknek - különösen az élvonalbeli modelleket fejlesztő vállalatok számára, amelyek több százmilliárd dollárt költenek infrastruktúrára - a legnagyobb aggodalmat az jelenti, hogy ezek az eredmények arra utalnak, alig van értelme bármiféle prémiumot fizetni. Bár az olyan modellek, mint a Fable, a Mythos és a legújabb OpenAI-modellek még mindig drágák a kortársaikhoz képest, a tokenenkénti költségek folyamatosan csökkennek, miközben a vezető fejlesztők a Pareto-frontier mentén versenyeznek - azon a ponton, ahol a költséghatékonyság és a magas intelligencia találkozik.
De ha más modellek a költségek töredékéért képesek elérni ugyanannak az intelligenciának a 90 százalékát, és ez a költség a következő hetekben és hónapokban várhatóan tovább csökken, akkor van-e egyáltalán szükség arra, hogy az ember a legújabb funkciókért és képességekért fizessen? Különösen akkor, ha ezek a más modellek végül nyílt súlyúvá válnak, vagyis harmadik felek is versenyezhetnek azért, hogy az adott modell leghatékonyabb és legmegfizethetőbb változatát kínálják.
De mint minden más esetében, amire az emberek előfizetnek, itt sem csak az ár számít, és nem is csupán az intelligencia vagy a képességek. A megszokottság fontos: a felhasználói felülettel, a munkafolyamatokkal és a szervezet többi működő rendszerével kapcsolatban. A bizalom óriási jelentőségű mindenféle folyamatos elköteleződés esetében, különösen pénzügyi szempontból. Megbízol-e abban az új, harmadik fél által kínált szolgáltatásban, amely olcsóbb modellt kínál annál, amelyet az elmúlt egy évben használtál? Talán igen, de megéri vállalni a kockázatot?
Az új modellre való áttérés azt jelenti, hogy meg kell győződni az új benchmarkok hitelességéről, és bízni kell abban, hogy az árak a jövőben nem változnak drámai mértékben - pedig valószínűleg változni fognak -, ami esetleg érvényteleníti a megtakarítást. Bíznod kell abban is, hogy az általad használt rendszer egy hét múlva utoléri az új rendszert, és hogy az új rendszernek nincsenek hibái vagy adatvédelmi problémái. Az MI-eszközök megváltoztatása nem olyan egyszerű, mint pusztán az ár vagy az intelligencia hajszolása. Bár az árak drámai mértékben csökkenhetnek, ez nem feltétlenül jelenti azt, hogy az MI előfizetéses modellje életképtelen. Csupán nehezebb megindokolni.
Az Epoch AI MI-kutató vállalat új jelentése szerint a mesterséges intelligencia ára az elmúlt években néhány ezredrészére csökkent, és ez gyorsabb, mint bármely más, az elmúlt évszázadban átalakulást hozó technológiáé. A jelentés szerint a mesterséges intelligencia költsége negyedévente valamivel kevesebb mint 50 százalékkal, évente pedig 13-szorosára csökken. Ez gyorsabb a lítiumakkumulátoroknál, gyorsabb a DNS-szekvenálásnál, sőt még a számítási kapacitásnál is gyorsabb, amely az elmúlt évszázad nagy részében a Moore-törvény gyors fejlődésének köszönhetően folyamatosan javult.
Bár ezek a csökkenő költségek valószínűleg elősegítik az MI elterjedését, nehéz kérdéseket vetnek fel azzal kapcsolatban, hogy szükség van-e továbbra is az élvonalbeli MI fejlesztéséhez való kötődésre, és megnehezíthetik a külső MI-szolgáltatások számára az ügyfélhűség és a kiszámítható bevétel kialakítását. Ha tudjuk, hogy egy adott pillanatban már csak néhány hét vagy hónap választ el minket attól, hogy az általunk kiszemelt szolgáltatás fejlettebbé és olcsóbbá váljon, akkor mi ösztönzi az embert arra, hogy már most bevezesse? Ha egy konkurens szolgáltatás valami jobbat és olcsóbbat kínál, miért maradna bárki a jelenlegi szolgáltatójánál? Ez nehéz dilemmát jelent az olyan cégek számára, mint az OpenAI és az Anthropic, amelyek az egyre erősebb MI-képességekben versenyeznek. Ahogy a jelentés rámutat, nehéz elképzelni nagy nyereséget még olyan fejlett modellekkel is, amelyek felülmúlják a versenytársakat, ha az előnyük csupán múló előny lehet.
A Moore-törvény az elmúlt mintegy 60 év nagy részében releváns állandó tényező volt. Mivel a számítási teljesítmény és a hatékonyság minden évben jelentős mértékben javul, ennek összetett hatására olyan modern számítógépek jönnek létre, amelyek elődeiknél drámaian gyorsabbak, miközben a számítási képességeikhez viszonyítva jóval olcsóbban üzemeltethetők. Az MI teljesítménye és az ehhez a teljesítményhez szükséges költségek még ennél is gyorsabban csökkennek. Költségcsökkenés szempontjából a DNS-szekvenálás mutat a leginkább hasonló tendenciát - ez a technológiai költségek csökkenésének gyakran idézett példája. Relatív költsége még az MI-nél is nagyobb mértékben csökkent, ehhez azonban valamivel több mint 20 évre volt szükség.
Az Epoch AI szerint a mesterséges intelligencia ugyanezt mindössze fél évtized alatt érte el. Ez azt jelenti, hogy a költség negyedévente valamivel kevesebb mint felére, évente pedig 13-ad részére csökken. A csökkenés üteme négyszer gyorsabb a DNS-szekvenálásénál és 18-szor gyorsabb a lítiumakkumulátorokénál. Ezeknek az eredményeknek több korlátja is van. A számítási kapacitás esetében az adatok csak 2001-ig terjednek, és ezt követően nincs adat a relatív költségről, míg a villamos energiát csak 1973-ig követték nyomon, ami azt jelenti, hogy teljesen kimarad belőle a napenergia elmúlt években bekövetkezett felfutása. Az MI költségének csökkenését szintén csak 2023-tól követték nyomon, az ezt megelőző időszakra vonatkozó adatokat pedig a meglévő rövidebb trend és külső kutatások alapján extrapolálták.
Az Epoch AI ezeket az eredményeket ráadásul nem egy konkrét modellre alapozta, hanem olyan modellekre, amelyek a Graduate-Level Google-Proof Q&A (GPQA) Diamond benchmarkon legalább 81,25 százalékos eredményt értek el, és azt követte nyomon, mennyibe kerül, hogy a modell megválaszolja a teszt egyik feleletválasztós kérdését. Ez az MI képességeit számos tudományterületen és ismeretterületen méri, de nem feltétlenül fedi le az MI-képességek teljes skáláját. Azt azonban megmutathatja, hogy az újabb modellek számára mennyivel könnyebbé váltak az ilyen feladatok, mivel nem csupán könnyebben érnek el magasabb pontszámot a teszten, hanem ezt sokkal kisebb költséggel is megteszik.
Az Epoch AI az OpenAI 2025 januárjában kiadott GPT o3 modelljét hozza fel példaként, amely a GPQA Diamond teszten 75 százalékos eredményt ért el, kérdésenként 0,30 dolláros költség mellett. Mindössze másfél évvel később azonban az OpenAI kiadta a GPT-5.6 Luna modellt, amely ugyanilyen jól teljesít ugyanazon a teszten, de kérdésenként mindössze 0,0004 dollárba kerül.
Az ilyen gyors költségcsökkenés azonban nem egységes a különböző tudományterületeken, és nem is lineáris a fejlődése. Az Epoch AI a kutatását további benchmarkeredményekkel egészítette ki, amelyek sakkfeladványokat és matematikai feladatokat is tartalmaztak, és rendkívül eltérő ütemű költséghatékonyság-javulást fedezett fel. Míg a GPQA Diamond benchmark gyors költségcsökkenéssel járó időszakokat mutatott, amelyeket stagnálás és platószerű időszakok követtek, az AIME OTIS Mock teszt sokkal egyenletesebb fejlődést mutatott minden egyes adatpontnál. A sakkfeladványok esetében, bár nem ugyanahhoz a sikerességi százalékhoz viszonyítva követték nyomon a fejlődést, szintén rendszeresebb és következetesebb javulás volt látható. A Frontier Math fejlesztései azonban 2025 és 2026 között alig javultak, majd az év közepén a költségek hirtelen zuhanni kezdtek.
Az Epoch AI arra is rámutat, hogy a költségcsökkenés üteme lassul, és úgy tűnik, hogy ez a helyzet a legtöbb mért mutató esetében, bármely adott teljesítményszinten. Az öt benchmark alapján kezdetben negyedévente 66 százalékos költségcsökkenést mért, két évvel később azonban ez már csak negyedévente 32 százalék. Ez arra utalhat, hogy lassul az MI fejlődése, vagy hogy egyre nehezebbé válik az MI használati költségeinek csökkentése, különösen 2026-ban, amikor az energia és a számítástechnikai hardverek ára az egekbe szökött. Nehéz olcsóbb szolgáltatást kínálni, ha az MI-intelligencia nyersanyagai jóval drágábbak, mint korábban.
Az adatok legnagyobb lehetséges problémája az Epoch AI szerint vitathatatlanul a „Benchmaxxing” lehetősége. Ez azt jelenti, hogy az MI-fejlesztők kifejezetten úgy tanítják a modelljeiket, hogy jól teljesítsenek azokon a benchmarkokon, amelyeket egyébként általánosabb képességek tesztelésére terveztek. A benchmarkok kijátszása nem új jelenség a szoftvercégek körében - az Nvidiát és az ATI-t 2003-ban rajtakapták, hogy ezt tették a 3DMark esetében, 2024-ben pedig több ezer Intel-teszteredményt érvénytelenítettek, mert egy másik benchmarkkal lényegében ugyanezt csinálták.
Az Epoch AI a benchmarkolás során véletlenszerű elemeket használt annak megakadályozására, hogy a modellek felismerjék, hogy tesztelik őket, illetve hogy a fejlesztők kifejezetten úgy tanítsák őket, hogy hatékonyak legyenek a külső teszteken. Ez azonban nem vonatkozott minden tesztre, és azoknál, amelyekből hiányzott ez a védelem, nagyobb mértékű csökkenést figyeltek meg, ami arra utal, hogy az adatokban bizonyos mértékben jelen van a benchmarkok optimalizálása. Ez nem teszi érvénytelenné az eredményeket, de indokolttá teszi, hogy némi szkepticizmussal kezeljük őket.
Az MI-fejlesztőknek - különösen az élvonalbeli modelleket fejlesztő vállalatok számára, amelyek több százmilliárd dollárt költenek infrastruktúrára - a legnagyobb aggodalmat az jelenti, hogy ezek az eredmények arra utalnak, alig van értelme bármiféle prémiumot fizetni. Bár az olyan modellek, mint a Fable, a Mythos és a legújabb OpenAI-modellek még mindig drágák a kortársaikhoz képest, a tokenenkénti költségek folyamatosan csökkennek, miközben a vezető fejlesztők a Pareto-frontier mentén versenyeznek - azon a ponton, ahol a költséghatékonyság és a magas intelligencia találkozik.
De ha más modellek a költségek töredékéért képesek elérni ugyanannak az intelligenciának a 90 százalékát, és ez a költség a következő hetekben és hónapokban várhatóan tovább csökken, akkor van-e egyáltalán szükség arra, hogy az ember a legújabb funkciókért és képességekért fizessen? Különösen akkor, ha ezek a más modellek végül nyílt súlyúvá válnak, vagyis harmadik felek is versenyezhetnek azért, hogy az adott modell leghatékonyabb és legmegfizethetőbb változatát kínálják.
De mint minden más esetében, amire az emberek előfizetnek, itt sem csak az ár számít, és nem is csupán az intelligencia vagy a képességek. A megszokottság fontos: a felhasználói felülettel, a munkafolyamatokkal és a szervezet többi működő rendszerével kapcsolatban. A bizalom óriási jelentőségű mindenféle folyamatos elköteleződés esetében, különösen pénzügyi szempontból. Megbízol-e abban az új, harmadik fél által kínált szolgáltatásban, amely olcsóbb modellt kínál annál, amelyet az elmúlt egy évben használtál? Talán igen, de megéri vállalni a kockázatot?
Az új modellre való áttérés azt jelenti, hogy meg kell győződni az új benchmarkok hitelességéről, és bízni kell abban, hogy az árak a jövőben nem változnak drámai mértékben - pedig valószínűleg változni fognak -, ami esetleg érvényteleníti a megtakarítást. Bíznod kell abban is, hogy az általad használt rendszer egy hét múlva utoléri az új rendszert, és hogy az új rendszernek nincsenek hibái vagy adatvédelmi problémái. Az MI-eszközök megváltoztatása nem olyan egyszerű, mint pusztán az ár vagy az intelligencia hajszolása. Bár az árak drámai mértékben csökkenhetnek, ez nem feltétlenül jelenti azt, hogy az MI előfizetéses modellje életképtelen. Csupán nehezebb megindokolni.