Az OpenAI közzétette a ChatGPT-ben található mesterséges intelligencia-technológia viselkedésére vonatkozó irányelve új tervezetét, melyben az szerepel, hogy vizsgálják hogyan lehet felelősségteljesen explicit tartalmakat generálni.

Az OpenAI közzétett egy dokumentáció-tervezetet, amely meghatározza, hogyan kell viselkednie a ChatGPT-nek és más MI-technológiáinak. A vaskos dokumentum egy része feltárja, hogy a vállalat vizsgálja a pornó és más explicit tartalmakkal kapcsolatos lehetőségeket. Az OpenAI használati szabályzata jelenleg tiltja a szexuálisan explicit vagy akár csak szuggesztív anyagokat, de a szabályhoz kapcsolódó megjegyzés szerint a vállalat fontolgatja, hogyan engedélyezhetné az ilyen tartalmakat. "Megvizsgáljuk, hogy az API és a ChatGPT segítségével felelősségteljesen biztosíthatjuk-e az NSFW tartalmak generálásának lehetőségét a kornak megfelelő kontextusban” - áll a megjegyzésben. Az NSFW a not safe for work, azaz a "munka közben nem biztonságos" tartalmak rövidítése. "Alig várjuk, hogy jobban megértsük a felhasználók és a társadalom elvárásait a modell viselkedésével kapcsolatban ezen a területen."

A dokumentum szerint az NSFW tartalom „tartalmazhat erotikát, extrém véres tartalmakat, szidalmakat és káromkodást”. Nem világos, hogy az OpenAI vizsgálódásai az NSFW-tartalmak felelős előállításának módjára vonatkozóan csak kis mértékben tervezik a felhasználási irányelvek lazítását, például az erotikus szövegek generálásának engedélyezését, vagy tágabb értelemben az erőszak leírásának vagy ábrázolásának engedélyezését. Niko Felix, a vállalat szóvivője azt mondta, hogy "nem áll szándékunkban, hogy modelljeink MI-pornót generáljanak”. Joanne Jang, az OpenAI munkatársa, aki segített a specifikáció megírásában, elismerte, hogy a felhasználók végső soron maguk döntenek arról, hogy a technológiájuk felnőtt tartalmakat állít-e elő, mondván: „Attól függ, hogy Ön hogyan definiálja a pornót”.

Az OpenAI szóvivője szerint a dokumentum egy kísérlet arra, hogy „átláthatóbbá tegyük a fejlesztési folyamatot, és hogy a nyilvánosság, a politikai döntéshozók és más érdekelt felek nézőpontjainak és visszajelzéseinek keresztmetszetét kapjuk”. Nem volt hajlandó részleteket megosztani arról, hogy az OpenAI milyen explicit tartalomgenerálást vizsgál, illetve milyen visszajelzéseket kapott a vállalat az ötlettel kapcsolatban. Az év elején az OpenAI technológiai vezetője, Mira Murati azt mondta, hogy „nem biztos” abban, hogy a vállalat a jövőben engedélyezné-e a meztelenség ábrázolását a cég Sora nevű videógeneráló eszközével.

Az MI által generált pornográfia gyorsan az OpenAI által kifejlesztett technológia egyik legnagyobb és legaggasztóbb alkalmazásává vált. Az úgynevezett deepfake pornó - az MI-eszközökkel készített, valódi embereket a beleegyezésük nélkül ábrázoló meztelen képek vagy videók - a nők és lányok elleni zaklatás gyakori eszközévé váltak. Az Egyesült Államokban már letartóztattak kiskorúakat MI által generált aktképek hozzájárulás nélküli terjesztése miatt: a floridai rendőrség két tizenéves fiú ellen vádat emelt, mert középiskolás társaikat ábrázoló képeket készítettek.

„Az intim magánélet megsértése - beleértve a deepfake szexvideókat és más, nem konszenzuson alapuló szintetizált intim képeket - mélyen káros tevékenység” - mondja Danielle Keats Citron, a University of Virginia School of Law professzora, aki tanulmányozta a problémát. „Most már egyértelmű tapasztalatokkal rendelkezünk arra vonatkozóan, hogy az ilyen visszaélések egyes egyéneknél károkat okoznak, többek között a munkába állásnál és a fizikai biztonság terén.” Citron „riasztónak” nevezte, hogy az OpenAI potenciálisan felkarolja az explicit MI-tartalmakat.

Mivel az OpenAI felhasználási irányelvei tiltják az engedély nélküli megszemélyesítést, a nem konszenzusos képek még akkor is tiltottak maradnának, ha a vállalat engedélyezné az alkotóknak, hogy NSFW anyagokat hozzanak létre. Azt azonban még nem tudni, hogy a vállalat hatékonyan tudná-e moderálni az explicit generálást, hogy megakadályozza a rossz szándékú szereplőket eszközei használatában. A Microsoft már változtatásokat eszközölt az egyik generatív MI-eszközén, miután azt Taylor Swiftről készült pornóképek létrehozására használták, amelyeket az X közösségi platformon terjesztettek.