Az OpenAI vezérigazgatója, Sam Altman négy napos száműzetése előtt több kutató munkatárs levelet írt az igazgatótanácsnak, amelyben egy nagyhatású mesterséges intelligencia felfedezésre figyelmeztettek, amely szerintük veszélyeztetheti az emberiséget.

Máig nem tudjuk a hétvégi események kiinduló okát, és az igazgatótanács annak ellenére nem volt azt hajlandó elárulni, hogy nem csak a több száz dolgozó, hanem még az általuk kinevezett ideiglenes vezérigazgató is megfenyegette őket a kilépésével. Talán idővel kiderül a teljes igazság, mindenesetre pletykák már kezdenek szállingózni. A legfrissebb hír szerint egy korábban nem ismert levél és az MI-algoritmus fejlesztésének alakulása kulcsfontosságú lépcsőfokok voltak abban a döntésben, hogy az igazgatótanács menesztette Altmant, a generatív MI arcát. Két forrás újságíróknak elmondta, hogy a levél fontos tényező volt az Altman kirúgásához vezető sérelmek hosszabb listáján, amelyek között szerepeltek a kutatási áttörés kereskedelmi megjelenése miatti aggodalmak is. A Reuters hírügynökség nem tudott betekintést nyerni a levél másolatába, és a levelet író munkatársak nem válaszoltak a kommentárra irányuló megkeresésekre.

Az OpenAI a hétvégi események előtt egy belső üzenetben bemutatta a Q* nevű projektet (ejtsd: Q-csillag) a munkatársak számára, és egy levelet küldött az igazgatóságnak. Az üzenetet az egyik vezető munkatárs, Mira Murati küldte, és ebben bizonyos sajtóhírekre figyelmeztette a munkatársakat, anélkül, hogy azok pontosságát kommentálta volna. Az OpenAI-nál néhányan úgy vélik, hogy a Q* áttörést jelenthet az úgynevezett mesterséges általános intelligencia (AGI) kutatásában. Az OpenAI az AGI-t olyan autonóm rendszerekként definiálja, amelyek a legtöbb gazdaságilag értékes feladatban felülmúlják az embert. Az új modell hatalmas számítási erőforrások birtokában képes volt bizonyos matematikai problémák megoldására. Bár csak az általános iskolások szintjén szerepelt, a tesztek teljesítése nagyon optimistává tette a kutatókat a Q* jövőbeli sikereit illetően.

Ez azért különleges dolog, mert kutatók a matematikát tekintik a generatív mesterséges intelligencia fejlesztése egyik határterületének. Jelenleg a generatív mesterséges intelligencia az írás és a nyelvi fordítás terén teljesít jól: az általa adott válaszok statisztikai valószínűségen alapulnak, csak megjósolja a következő szót, így az ugyanarra a kérdésre adott válaszok nagyon eltérőek lehetnek. De a matematikai képesség meghódítása - ahol csak egy helyes válasz létezik - azt jelenti, hogy az MI nagyobb, az emberi intelligenciához hasonló következtetési képességekkel rendelkezne. Ezt például újszerű tudományos kutatásokban lehetne alkalmazni, vélik az MI-kutatók. Egy számológéppel ellentétben, amely korlátozott számú műveletet képes megoldani, az AGI képes általánosítani, tanulni és megérteni.

A testületnek írt levelükben a kutatók az MI képességeit és potenciális veszélyeit emelték ki - közölték a források anélkül, hogy pontosan meghatározták volna a levélben jelzett biztonsági aggályokat. Az informatikusok között már régóta folyik a vita a magas intelligenciájú gépek jelentette veszélyről, például arról, hogy esetleg úgy döntenének-e, hogy az emberiség elpusztítása az érdekükben áll. A kutatók egy újonnan létrehozott csapat munkáját is megjelölték, amelynek létezését több forrás is megerősítette. A csoport a korábbi "Code Gen" és "Math Gen" csapatok egyesítésével jött létre, és azt vizsgálta, hogyan lehet optimalizálni a meglévő MI-modelleket, hogy javítsák érvelésüket, és végül tudományos munkát végezzenek.

Altman vezette azokat az erőfeszítéseket, amelyek a ChatGPT-t a történelem egyik leggyorsabban növekvő szoftveralkalmazásává tették, és a Microsofttól megszerezte a szükséges tőkét és számítási erőforrásokat, hogy közelebb kerüljön az AGI-hoz. Altman a múlt héten a világ vezetőinek San Franciscóban tartott csúcstalálkozóján azt mondta, hogy jelentős előrelépések vannak kilátásban. "Az OpenAI történetében már négyszer, legutóbb éppen az elmúlt néhány hétben volt alkalmam ott lenni a teremben, amikor a tudatlanság fátylát hátrébb toltuk, és a felfedezés határát előretoltuk. Ezt megtenni életem szakmai megtiszteltetése" - mondta az Ázsiai-Csendes-óceáni Gazdasági Együttműködés csúcstalálkozóján.

Egy nappal később az igazgatótanács kirúgta Altmant.