SG.hu·
Az OpenAI alapértelmezés szerint vízjelet helyez a ChatGPT kimeneteire, de csak az EU-ban
Az OpenAI bejelentette, hogy az Európai Unióban automatikusan vízjelet helyez a ChatGPT által generált szövegekre. A vállalat más régiókban is elérhetővé teszi majd a vízjelezési funkciót, de az EU-n kívül alapértelmezés szerint ki lesz kapcsolva.
Az európai lépést az EU MI-rendeletének való megfelelés szükségessége hajtja, amely augusztusban lépett hatályba. A rendelet előírja, hogy az MI-modellek által előállított tartalmakat olyan módon kell megjelölni, hogy azt egy másik eszköz képes legyen felismerni. Sajnos jelenleg még nincs erre teljesen hatékony és megbízható módszer. Már létezik néhány szabvány, például a SynthID és a C2PA projekt, de ezek viszonylag könnyen megkerülhetők bárki számára, aki alapvető technikai ismeretekkel rendelkezik.
Valószínűleg ugyanez igaz lesz az OpenAI vízjelére is. A vállalat módszere szabadalmaztatott megoldás; az OpenAI textGrainnek nevezi, és közzétett egy technikai tanulmányt is, amelyben elmagyarázza, hogyan működik. Olyan mintázatokat helyez el a szavak kiválasztásában, amelyek az emberi olvasó számára nem egyértelműek, és amelyek érdemben nem változtatják meg a kimenet általános minőségét, viszont egy kulccsal rendelkező személy egy speciális detektor segítségével képes lehet felismerni őket. Az OpenAI közlése szerint a detektorhoz korlátozott számú kutatónak és szervezetnek biztosít majd hozzáférést, mások számára pedig idővel egy jóváhagyási kérelmi folyamatot tesz lehetővé a csatlakozáshoz.
A textGrain OpenAI által végzett tesztjeinek legjobb esetében tiszteletre méltó, de korántsem teljesen megbízható, 92 százalékos sikeres felismerési arányt mutat. A vállalat tesztjei ugyanakkor azt is kimutatják, hogy ha egy kimenet szövegének mindössze 10 százalékát megváltoztatják, a sikeres felismerési arány csaknem 30 százalékkal csökken, míg a szöveg 20 százalékának megváltoztatása csaknem 75 százalékkal csökkentheti a sikerességi arányt. Érdemes azt is megjegyezni, hogy általánosságban a sikerességi arány alacsonyabb a rövidebb vagy lefordított szövegek esetében, mint a hosszabb szövegeknél. Mindez nagyjából összhangban van azzal, amit a múltban más, hasonló vízjelezési megoldások esetében láttunk.
Augusztusban az OpenAI versenytársa, az Anthropic szintén bevezetett vízjelezést a modelljei által generált szövegekre, az Anthropic azonban globálisan engedélyezte azt, míg az OpenAI jelenleg csak ott teszi alapértelmezetté, ahol a szabályozók ezt előírják, legalábbis a ChatGPT és a Codex alkalmazásokban. Úgy tűnik, az API-ban kikapcsolva marad, de opcionálisan elérhető lesz. A vállalat közlése szerint az új vízjelezést az EU-ban a felhasználók számára „az elkövetkező hetekben” vezetik be.
Az európai lépést az EU MI-rendeletének való megfelelés szükségessége hajtja, amely augusztusban lépett hatályba. A rendelet előírja, hogy az MI-modellek által előállított tartalmakat olyan módon kell megjelölni, hogy azt egy másik eszköz képes legyen felismerni. Sajnos jelenleg még nincs erre teljesen hatékony és megbízható módszer. Már létezik néhány szabvány, például a SynthID és a C2PA projekt, de ezek viszonylag könnyen megkerülhetők bárki számára, aki alapvető technikai ismeretekkel rendelkezik.
Valószínűleg ugyanez igaz lesz az OpenAI vízjelére is. A vállalat módszere szabadalmaztatott megoldás; az OpenAI textGrainnek nevezi, és közzétett egy technikai tanulmányt is, amelyben elmagyarázza, hogyan működik. Olyan mintázatokat helyez el a szavak kiválasztásában, amelyek az emberi olvasó számára nem egyértelműek, és amelyek érdemben nem változtatják meg a kimenet általános minőségét, viszont egy kulccsal rendelkező személy egy speciális detektor segítségével képes lehet felismerni őket. Az OpenAI közlése szerint a detektorhoz korlátozott számú kutatónak és szervezetnek biztosít majd hozzáférést, mások számára pedig idővel egy jóváhagyási kérelmi folyamatot tesz lehetővé a csatlakozáshoz.
A textGrain OpenAI által végzett tesztjeinek legjobb esetében tiszteletre méltó, de korántsem teljesen megbízható, 92 százalékos sikeres felismerési arányt mutat. A vállalat tesztjei ugyanakkor azt is kimutatják, hogy ha egy kimenet szövegének mindössze 10 százalékát megváltoztatják, a sikeres felismerési arány csaknem 30 százalékkal csökken, míg a szöveg 20 százalékának megváltoztatása csaknem 75 százalékkal csökkentheti a sikerességi arányt. Érdemes azt is megjegyezni, hogy általánosságban a sikerességi arány alacsonyabb a rövidebb vagy lefordított szövegek esetében, mint a hosszabb szövegeknél. Mindez nagyjából összhangban van azzal, amit a múltban más, hasonló vízjelezési megoldások esetében láttunk.
Augusztusban az OpenAI versenytársa, az Anthropic szintén bevezetett vízjelezést a modelljei által generált szövegekre, az Anthropic azonban globálisan engedélyezte azt, míg az OpenAI jelenleg csak ott teszi alapértelmezetté, ahol a szabályozók ezt előírják, legalábbis a ChatGPT és a Codex alkalmazásokban. Úgy tűnik, az API-ban kikapcsolva marad, de opcionálisan elérhető lesz. A vállalat közlése szerint az új vízjelezést az EU-ban a felhasználók számára „az elkövetkező hetekben” vezetik be.