SG.hu
Lehet etikus egy pornógenerátor?
Ahogy a generatív MI használata egyre általánosabbá válik, úgy az MI-generált pornó is el fogja önteni a webet.
Ha rákeresünk az "MI pornógenerátor" kifejezésre, több tucat találatot lelhetünk a világhálón, melyek közül sok ingyenesen használható. Ezek kb. egy éve még csak kialakulóban voltak, és az általuk létrehozott eredmények pedig nem voltak olyanok, amelyeket bárki is "jónak" nevezne. Az alkalmazások és az őket alátámasztó MI modellek nem tudták még jól kezelni az anatómia árnyalatait, és gyakran olyan fizikailag bizarr testeket generáltak, amelyek egy horrorfilmben is megállnák a helyüket. A szintetikus pornóban szereplő embereknek extra végtagjaik voltak, vagy mellbimbójuk volt az orruk helyén - egyéb zavaró torzulások mellett. Az ilyen szoftverek által generált állóképek ma sem tökéletesek, de már némelyikük összetéveszthető professzionális alkotásokkal.
Az etikai kérdések megválaszolása pedig emiatt egyre sürgetőbb. Ahogy a mesterséges intelligencia-pornó és a létrehozásához szükséges eszközök árucikké válnak, úgy kezdenek ijesztő valós hatásokkal járni. A világhálón található hamisított pornográf, un. deepfake anyagok túlnyomó többsége nőket ábrázol - és gyakran zsarolásra használják ezeket. A Washington Post cikke szerint egy kisvárosi iskolai tanárnő elvesztette az állását, miután a diákok szülei tudomást szereztek a tanárnő képmása alapján a beleegyezése nélkül készített MI-pornóról. Néhány hónappal ezelőtt egy 22 éves fiatalembert hat hónap börtönbüntetésre ítéltek, mert kiskorú lányok fotóit töltötte le közösségi média-platformokról, és szexuális tartalmú deepfake-eket készített belőlük.
A generatív pornótechnológia felhasználási módjainak még ennél is nyugtalanítóbb példája, hogy kis mértékben, de megnőtt a fotorealisztikus mesterséges intelligenciával generált, gyermekek szexuális zaklatását ábrázoló anyagok mennyisége. Előfordult, hogy egy 15 éves tornászfiút zsaroltak meg úgy, hogy a fiú meztelen mellkasáról készült fotót generatív mesterséges intelligenciát használva aktfotóvá szerkesztették. Más felhasználókat egy fórumban mesterséges intelligencia-pornómodellekkel verték át olyan emberek képeit árulva, akik nem is léteznek. A felnőttfilmekben és a művészeti alkotásokban dolgozók pedig aggodalmukat fejezték ki azzal kapcsolatban, hogy ez mit jelent a megélhetésükre - és az iparágukra - nézve. Mindez nem tántorítja el az Unstable Diffusiont, az MI pornógenerátorok mögött álló egyik csoportot attól, hogy folytassák munkájukat.
A Stable Diffusion, a Stability AI által kifejlesztett, írott utasítások alapján képeket generáló MI modell tavaly év végén vált nyílt forráskódúvá, és nem kellett sok idő, hogy azt a netezők pornó-alkotási célokra kezdjék használni. Az egyik csoport, az Unstable Diffusion különösen gyorsan nőtt a Reddit fórumain, majd a Discordra tették át székhelyüket. Idővel pedig a csoport vezetői elkezdték vizsgálni, hogyan lehetne a Stable Diffusionra saját pornógeneráló modelleket építeni, és azokat pénzzé tenni.
A Stable Diffusiont - mint minden szöveg-kép mesterséges intelligencia rendszert - több milliárd képet tartalmazó felcímkézett, aláírásokkal ellátott adathalmazon képezték ki. Ebből tanulja meg az algoritmus az írott fogalmak és a képek közötti asszociációkat, például azt, hogy a "madár" szó nemcsak a kék madarakra, hanem a sokkal absztraktabb fogalmak mellett a papagájokra és a sasokra is utalhat. A Stable Diffusion adathalmazának csak kis százaléka tartalmaz felnőtt tartalmak létrehozásához felhasználható anyagot, így a modellnek kevés támpontja van az ilyen témák tekintetében. Ezért az Unstable Diffusion adminjai önkénteseket toboroztak - többnyire Discord szerver tagokat -, hogy pornó adathalmazokat hozzanak létre a Stable Diffusion finomhangolásához.
Néhány bukkanó ellenére - beleértve a Kickstarterről és a Patreonról való kitiltást is - az Unstable Diffusionnak sikerült egy teljes értékű weboldalt kiépítenie, egyedi képgeneráló MI-modellekkel. Miután több mint 56 000 dollárt gyűjtöttek össze az adományozóktól, majd biztosították a generatív mesterséges intelligencia képzéséhez szükséges hardvert, létrehoztak egy több mint 30 millió fényképből álló adathalmazt. Az Unstable Diffusion által indított platformot állításuk szerint jelenleg több mint 350 000 ember használja, és naponta több mint félmillió képet generál.
Arman Chaudhry, az Unstable Diffusion és a hozzá kapcsolódó Equilibrium AI csoport egyik társalapítója szerint az Unstable Diffusion célja olyan platform létrehozása az MI-művészet számára, amely "fenntartja a véleménynyilvánítás szabadságát". "Lépéseket teszünk weboldalunk és a prémium szolgáltatásaink elindításában, olyan művészeti platformot kínálva, amely több mint egy eszköz - ez egy olyan tér, ahol a kreativitás kibontakozhat, indokolatlan korlátok nélkül. Meggyőződésünk, hogy a művészetnek számos formában, cenzúrázatlanul kell léteznie, és ez a filozófia vezérli az MI-eszközökkel és azok használatával kapcsolatos megközelítésünket."
Az Unstable Diffusion közössége a Discordon létrehozott szerveren teszi közzé a generatív eszköze művészetének nagy részét, és ezek a korlátok nélküli filozófiájukat tükrözik. A szerver képmegosztó része két fő kategóriára van osztva: "SFW" és "NSFW" (Safe For Work és ennek ellentétére, azaz munka közben nem biztonságos szekcióra). Utóbbi alkategóriáinak száma némileg meghaladja az előbbiekét. Az SFW kategóriába tartozó képek az állatoktól és ételektől kezdve a belső terekig, városokig és tájképekig terjednek. Az NSFW - ahogy az várható - explicit képeket tartalmaz férfiakról és nőkről, nem bináris emberekről, szőrmékről, "nem-emberekről" és "szintetikus borzalmakról" - utóbbiakat a legegyszerűbb létrehozni a tréning-adatbázis hiányosságai és a technikai akadályok miatt. A fotórealisztikus képek továbbra is kihívást jelentenek, mostanra azonban az Unstable Diffusion művészi alkotásainak nagy része - anime-stílusú, cell-shaded és egyéb kategóriákra bontva - anatómiailag hihető, és néhány ritka esetben telitalálat.
Az Unstable Diffusion Discord szerverén sok kép az eszközök, modellek és platformok keverékének terméke, tehát nem szigorúan a csoport webes alkalmazásával lett létrehozva. Az alkalmazás egy viszonylag csupasz felület, amely nagy hangsúlyt fektet a testreszabásra, a kép utófeldolgozási hatásainak, például a telítettségnek, a képaránynak és a képgenerálás sebességének beállítási lehetőségeivel. A felhasználók megváltoztathatják a generált képek színpalettáját, és számos művészeti stílus közül választhatnak, köztük a "digitális művészet", a "fotó", az "anime" és az "általános" közül. A kívánt tartalom szöveges leírása mellett lehetővé teszi azon dolgok megadását, amelyeket ki szeretnénk zárni a generált képekből. És mivel az egész egy kereskedelmi vállalkozás, vannak fizetős lehetőségek, például növelhető az egyszerre végezhető, egyidejű képgenerálási kérések száma.
Az eredmények használhatók, de nem kiszámíthatók. Az MI-generátorok nyilvánvalóan nem igazán értik a szex mechanikáját, ami néha furcsa arckifejezéseket, lehetetlen pozíciókat és természetellenes nemi szerveket eredményez. Általánosságban elmondható, hogy minél egyszerűbb a kérés, annál szebb az eredmény. A legtöbb jelenetet, amelyben kettőnél több ember vesz részt, horrorfilmek is megirigyelhetnék. A modell szinte kizárólag fehér vagy ázsiai emberek képeit adja vissza - ez valószínűleg a képzési adatállományban lévő egyensúlytalanságok tünete.
A testtípusok alapértelmezés szerint sem túl változatosak: a férfiak izmosak és tónusosak, bordázott felsőtesttel. A nők vékonyak és gömbölydedek. Ugyan az Unstable Diffusion nagyon is képes többféle alakú és méretű alanyokat létrehozni, de erre kifejezetten utasítani kell a promptban. Az elfogultság egyéb, furcsa módokon is megnyilvánul egyes nemi szerepeknél. A "titkárnő" szót tartalmazó kérés esetén általában egy ázsiai nő az eredmény alárendelt pozícióban, ami valószínűleg annak a következménye, hogy a képzési adatokban ez a bizonyos beállítás túlreprezentált.
Hiába azonban az Unstable Diffusion technikai áttörései, jelenlegi formájában nehéz üzleti modellt építeni rá. Az alapítók ugyan elkötelezettek a korlátok nélküli generatív mesterséges intelligencia gondolata mellett, a tömegpiac számára is elfogadhatóbb üzenetek és márkaépítés felé akarnak elmozdulni. A jelenleg öt főből álló csapat azon dolgozik, hogy az Unstable Diffusiont szoftver-szolgáltatásként működő vállalkozássá fejlessze, és előfizetéseket értékesítsen a webes alkalmazáshoz a termékfejlesztések és az ügyféltámogatás finanszírozása érdekében.
"Szerencsések vagyunk, hogy van egy olyan felhasználói közösségünk, amely hihetetlenül támogató. Ennek ellenére felismertük, hogy az Unstable Diffusion következő szintre emeléséhez stratégiai partnerségek és további befektetések szükségesek" - mondta Chaudhry. "Értéket akarunk nyújtani előfizetőinknek, úgy, hogy eközben a platformunk elérhető maradjon azok számára is, akik még csak most kóstolnak bele a mesterséges intelligencia művészet világába.""Arra összpontosítottunk, hogy a rendszerünk a legegyszerűbb utasításokból is gyönyörű és esztétikus képeket tudjon generálni, így platformunk a kezdő és a tapasztalt felhasználók számára egyaránt hasznossá válik, és biztosítja azt, hogy végig uralják a képgenerálási folyamatot." - mondta Chaudhry.
Mindazonáltal - a befektetők és ügyfelek felkutatására tett erőfeszítései által ösztönözve - az Unstable Diffusion azt állítja, hogy jelentős erőforrásokat fordított egy "robusztus" tartalommoderációs rendszer létrehozására. Meghúzzák a határt azoknál a képeknél, amelyekkel jogi problémák adódhatnak, beleértve a hírességek pornográf deepfake-eit és a 18 éves vagy annál fiatalabb - kitalált vagy nem kitalált - szereplőket ábrázoló pornót. Több amerikai államban is vannak törvények a deepfake pornó ellen, és a kongresszusban legalább egy olyan törekvés van, amely a mesterséges intelligencia által generált pornó megosztását illegálissá tenné az Egyesült Államokban. Az Unstable Diffusion moderációs rendszere a konkrét szavak és kifejezések blokkolása mellett egy olyan mesterséges intelligenciamodellt is használ, amely megpróbálja azonosítani és automatikusan törölni a szabályzatot sértő képeket.
Chaudhry szerint a szűrők jelenleg "nagyon érzékenyek", az óvatosság oldalára vannak pozicionálva, de az Unstable Diffusion jelenleg is várja a közösség visszajelzéseit, hogy "megtalálja a megfelelő egyensúlyt". "Elsőbbséget biztosítunk felhasználóink biztonságának, és elkötelezettek vagyunk amellett, hogy platformunkat olyan térré tegyük, ahol a kreativitás a nem megfelelő tartalmakkal kapcsolatos aggodalmak nélkül virágozhat" - mondta Chaudhry. "Szeretnénk, ha a felhasználóink biztonságban éreznék magukat, amikor a platformunkat használják, és elkötelezettek vagyunk egy olyan környezet fenntartása mellett, amely tiszteletben tartja ezeket az értékeket."
Feltételezve, hogy az Unstable Diffusion megkapja a vágyott tőkét, azt tervezik, hogy megerősítik a számítási infrastruktúrát, ami folyamatos kihívást jelent a közösség növekvő mérete miatt. A csoport további testreszabási lehetőségeket és közösségi megosztási funkciókat is tervez, a Discord szervert használva ugródeszkaként. "Célunk, hogy elkötelezett és interaktív közösségünket a Discordról átvigyük a weboldalunkra, arra ösztönözve a felhasználókat, hogy megosszák alkotásaikat, együttműködjenek és tanuljanak egymástól" - mondta Chaudhry. "A közösségünk az alapvető erősségünk - ezt tervezzük integrálni a szolgáltatásunkba, és eszközöket biztosítani számukra a bővüléshez és a sikerhez."
A platform jelenlegi formájában a hagyományos kockázatitőke-finanszírozás nem jöhet szóba. Az erkölcsi záradékok megakadályozzák, hogy az intézményi alapok pornográf vállalkozásokba fektessenek be. És még ha a felnőtt tartalmakról le is mondanának, meg kell küzdeniük a generatív MI-k mindegyikénél jelenlévő elefánttal: a művészek beleegyezésével és a kártérítéssel. Mint a legtöbb generatív MI művészeti modell, az Unstable Diffusion modelljeit is a világhálóról származó tartalmakon képzik ki, nem feltétlenül az alkotó tudtával. Sok művész nehezményezi - sőt, már be is perelte - az olyan mesterséges intelligencia rendszereket, amelyek a stílusukat utánozzák anélkül, hogy megfelelő elismerést vagy fizetést adnának.
Ha rákeresünk az "MI pornógenerátor" kifejezésre, több tucat találatot lelhetünk a világhálón, melyek közül sok ingyenesen használható. Ezek kb. egy éve még csak kialakulóban voltak, és az általuk létrehozott eredmények pedig nem voltak olyanok, amelyeket bárki is "jónak" nevezne. Az alkalmazások és az őket alátámasztó MI modellek nem tudták még jól kezelni az anatómia árnyalatait, és gyakran olyan fizikailag bizarr testeket generáltak, amelyek egy horrorfilmben is megállnák a helyüket. A szintetikus pornóban szereplő embereknek extra végtagjaik voltak, vagy mellbimbójuk volt az orruk helyén - egyéb zavaró torzulások mellett. Az ilyen szoftverek által generált állóképek ma sem tökéletesek, de már némelyikük összetéveszthető professzionális alkotásokkal.
Az etikai kérdések megválaszolása pedig emiatt egyre sürgetőbb. Ahogy a mesterséges intelligencia-pornó és a létrehozásához szükséges eszközök árucikké válnak, úgy kezdenek ijesztő valós hatásokkal járni. A világhálón található hamisított pornográf, un. deepfake anyagok túlnyomó többsége nőket ábrázol - és gyakran zsarolásra használják ezeket. A Washington Post cikke szerint egy kisvárosi iskolai tanárnő elvesztette az állását, miután a diákok szülei tudomást szereztek a tanárnő képmása alapján a beleegyezése nélkül készített MI-pornóról. Néhány hónappal ezelőtt egy 22 éves fiatalembert hat hónap börtönbüntetésre ítéltek, mert kiskorú lányok fotóit töltötte le közösségi média-platformokról, és szexuális tartalmú deepfake-eket készített belőlük.
A generatív pornótechnológia felhasználási módjainak még ennél is nyugtalanítóbb példája, hogy kis mértékben, de megnőtt a fotorealisztikus mesterséges intelligenciával generált, gyermekek szexuális zaklatását ábrázoló anyagok mennyisége. Előfordult, hogy egy 15 éves tornászfiút zsaroltak meg úgy, hogy a fiú meztelen mellkasáról készült fotót generatív mesterséges intelligenciát használva aktfotóvá szerkesztették. Más felhasználókat egy fórumban mesterséges intelligencia-pornómodellekkel verték át olyan emberek képeit árulva, akik nem is léteznek. A felnőttfilmekben és a művészeti alkotásokban dolgozók pedig aggodalmukat fejezték ki azzal kapcsolatban, hogy ez mit jelent a megélhetésükre - és az iparágukra - nézve. Mindez nem tántorítja el az Unstable Diffusiont, az MI pornógenerátorok mögött álló egyik csoportot attól, hogy folytassák munkájukat.
A Stable Diffusion, a Stability AI által kifejlesztett, írott utasítások alapján képeket generáló MI modell tavaly év végén vált nyílt forráskódúvá, és nem kellett sok idő, hogy azt a netezők pornó-alkotási célokra kezdjék használni. Az egyik csoport, az Unstable Diffusion különösen gyorsan nőtt a Reddit fórumain, majd a Discordra tették át székhelyüket. Idővel pedig a csoport vezetői elkezdték vizsgálni, hogyan lehetne a Stable Diffusionra saját pornógeneráló modelleket építeni, és azokat pénzzé tenni.
A Stable Diffusiont - mint minden szöveg-kép mesterséges intelligencia rendszert - több milliárd képet tartalmazó felcímkézett, aláírásokkal ellátott adathalmazon képezték ki. Ebből tanulja meg az algoritmus az írott fogalmak és a képek közötti asszociációkat, például azt, hogy a "madár" szó nemcsak a kék madarakra, hanem a sokkal absztraktabb fogalmak mellett a papagájokra és a sasokra is utalhat. A Stable Diffusion adathalmazának csak kis százaléka tartalmaz felnőtt tartalmak létrehozásához felhasználható anyagot, így a modellnek kevés támpontja van az ilyen témák tekintetében. Ezért az Unstable Diffusion adminjai önkénteseket toboroztak - többnyire Discord szerver tagokat -, hogy pornó adathalmazokat hozzanak létre a Stable Diffusion finomhangolásához.
Néhány bukkanó ellenére - beleértve a Kickstarterről és a Patreonról való kitiltást is - az Unstable Diffusionnak sikerült egy teljes értékű weboldalt kiépítenie, egyedi képgeneráló MI-modellekkel. Miután több mint 56 000 dollárt gyűjtöttek össze az adományozóktól, majd biztosították a generatív mesterséges intelligencia képzéséhez szükséges hardvert, létrehoztak egy több mint 30 millió fényképből álló adathalmazt. Az Unstable Diffusion által indított platformot állításuk szerint jelenleg több mint 350 000 ember használja, és naponta több mint félmillió képet generál.
Arman Chaudhry, az Unstable Diffusion és a hozzá kapcsolódó Equilibrium AI csoport egyik társalapítója szerint az Unstable Diffusion célja olyan platform létrehozása az MI-művészet számára, amely "fenntartja a véleménynyilvánítás szabadságát". "Lépéseket teszünk weboldalunk és a prémium szolgáltatásaink elindításában, olyan művészeti platformot kínálva, amely több mint egy eszköz - ez egy olyan tér, ahol a kreativitás kibontakozhat, indokolatlan korlátok nélkül. Meggyőződésünk, hogy a művészetnek számos formában, cenzúrázatlanul kell léteznie, és ez a filozófia vezérli az MI-eszközökkel és azok használatával kapcsolatos megközelítésünket."
Az Unstable Diffusion közössége a Discordon létrehozott szerveren teszi közzé a generatív eszköze művészetének nagy részét, és ezek a korlátok nélküli filozófiájukat tükrözik. A szerver képmegosztó része két fő kategóriára van osztva: "SFW" és "NSFW" (Safe For Work és ennek ellentétére, azaz munka közben nem biztonságos szekcióra). Utóbbi alkategóriáinak száma némileg meghaladja az előbbiekét. Az SFW kategóriába tartozó képek az állatoktól és ételektől kezdve a belső terekig, városokig és tájképekig terjednek. Az NSFW - ahogy az várható - explicit képeket tartalmaz férfiakról és nőkről, nem bináris emberekről, szőrmékről, "nem-emberekről" és "szintetikus borzalmakról" - utóbbiakat a legegyszerűbb létrehozni a tréning-adatbázis hiányosságai és a technikai akadályok miatt. A fotórealisztikus képek továbbra is kihívást jelentenek, mostanra azonban az Unstable Diffusion művészi alkotásainak nagy része - anime-stílusú, cell-shaded és egyéb kategóriákra bontva - anatómiailag hihető, és néhány ritka esetben telitalálat.
Az Unstable Diffusion Discord szerverén sok kép az eszközök, modellek és platformok keverékének terméke, tehát nem szigorúan a csoport webes alkalmazásával lett létrehozva. Az alkalmazás egy viszonylag csupasz felület, amely nagy hangsúlyt fektet a testreszabásra, a kép utófeldolgozási hatásainak, például a telítettségnek, a képaránynak és a képgenerálás sebességének beállítási lehetőségeivel. A felhasználók megváltoztathatják a generált képek színpalettáját, és számos művészeti stílus közül választhatnak, köztük a "digitális művészet", a "fotó", az "anime" és az "általános" közül. A kívánt tartalom szöveges leírása mellett lehetővé teszi azon dolgok megadását, amelyeket ki szeretnénk zárni a generált képekből. És mivel az egész egy kereskedelmi vállalkozás, vannak fizetős lehetőségek, például növelhető az egyszerre végezhető, egyidejű képgenerálási kérések száma.
Az eredmények használhatók, de nem kiszámíthatók. Az MI-generátorok nyilvánvalóan nem igazán értik a szex mechanikáját, ami néha furcsa arckifejezéseket, lehetetlen pozíciókat és természetellenes nemi szerveket eredményez. Általánosságban elmondható, hogy minél egyszerűbb a kérés, annál szebb az eredmény. A legtöbb jelenetet, amelyben kettőnél több ember vesz részt, horrorfilmek is megirigyelhetnék. A modell szinte kizárólag fehér vagy ázsiai emberek képeit adja vissza - ez valószínűleg a képzési adatállományban lévő egyensúlytalanságok tünete.
A testtípusok alapértelmezés szerint sem túl változatosak: a férfiak izmosak és tónusosak, bordázott felsőtesttel. A nők vékonyak és gömbölydedek. Ugyan az Unstable Diffusion nagyon is képes többféle alakú és méretű alanyokat létrehozni, de erre kifejezetten utasítani kell a promptban. Az elfogultság egyéb, furcsa módokon is megnyilvánul egyes nemi szerepeknél. A "titkárnő" szót tartalmazó kérés esetén általában egy ázsiai nő az eredmény alárendelt pozícióban, ami valószínűleg annak a következménye, hogy a képzési adatokban ez a bizonyos beállítás túlreprezentált.
Hiába azonban az Unstable Diffusion technikai áttörései, jelenlegi formájában nehéz üzleti modellt építeni rá. Az alapítók ugyan elkötelezettek a korlátok nélküli generatív mesterséges intelligencia gondolata mellett, a tömegpiac számára is elfogadhatóbb üzenetek és márkaépítés felé akarnak elmozdulni. A jelenleg öt főből álló csapat azon dolgozik, hogy az Unstable Diffusiont szoftver-szolgáltatásként működő vállalkozássá fejlessze, és előfizetéseket értékesítsen a webes alkalmazáshoz a termékfejlesztések és az ügyféltámogatás finanszírozása érdekében.
"Szerencsések vagyunk, hogy van egy olyan felhasználói közösségünk, amely hihetetlenül támogató. Ennek ellenére felismertük, hogy az Unstable Diffusion következő szintre emeléséhez stratégiai partnerségek és további befektetések szükségesek" - mondta Chaudhry. "Értéket akarunk nyújtani előfizetőinknek, úgy, hogy eközben a platformunk elérhető maradjon azok számára is, akik még csak most kóstolnak bele a mesterséges intelligencia művészet világába.""Arra összpontosítottunk, hogy a rendszerünk a legegyszerűbb utasításokból is gyönyörű és esztétikus képeket tudjon generálni, így platformunk a kezdő és a tapasztalt felhasználók számára egyaránt hasznossá válik, és biztosítja azt, hogy végig uralják a képgenerálási folyamatot." - mondta Chaudhry.
Mindazonáltal - a befektetők és ügyfelek felkutatására tett erőfeszítései által ösztönözve - az Unstable Diffusion azt állítja, hogy jelentős erőforrásokat fordított egy "robusztus" tartalommoderációs rendszer létrehozására. Meghúzzák a határt azoknál a képeknél, amelyekkel jogi problémák adódhatnak, beleértve a hírességek pornográf deepfake-eit és a 18 éves vagy annál fiatalabb - kitalált vagy nem kitalált - szereplőket ábrázoló pornót. Több amerikai államban is vannak törvények a deepfake pornó ellen, és a kongresszusban legalább egy olyan törekvés van, amely a mesterséges intelligencia által generált pornó megosztását illegálissá tenné az Egyesült Államokban. Az Unstable Diffusion moderációs rendszere a konkrét szavak és kifejezések blokkolása mellett egy olyan mesterséges intelligenciamodellt is használ, amely megpróbálja azonosítani és automatikusan törölni a szabályzatot sértő képeket.
Chaudhry szerint a szűrők jelenleg "nagyon érzékenyek", az óvatosság oldalára vannak pozicionálva, de az Unstable Diffusion jelenleg is várja a közösség visszajelzéseit, hogy "megtalálja a megfelelő egyensúlyt". "Elsőbbséget biztosítunk felhasználóink biztonságának, és elkötelezettek vagyunk amellett, hogy platformunkat olyan térré tegyük, ahol a kreativitás a nem megfelelő tartalmakkal kapcsolatos aggodalmak nélkül virágozhat" - mondta Chaudhry. "Szeretnénk, ha a felhasználóink biztonságban éreznék magukat, amikor a platformunkat használják, és elkötelezettek vagyunk egy olyan környezet fenntartása mellett, amely tiszteletben tartja ezeket az értékeket."
Feltételezve, hogy az Unstable Diffusion megkapja a vágyott tőkét, azt tervezik, hogy megerősítik a számítási infrastruktúrát, ami folyamatos kihívást jelent a közösség növekvő mérete miatt. A csoport további testreszabási lehetőségeket és közösségi megosztási funkciókat is tervez, a Discord szervert használva ugródeszkaként. "Célunk, hogy elkötelezett és interaktív közösségünket a Discordról átvigyük a weboldalunkra, arra ösztönözve a felhasználókat, hogy megosszák alkotásaikat, együttműködjenek és tanuljanak egymástól" - mondta Chaudhry. "A közösségünk az alapvető erősségünk - ezt tervezzük integrálni a szolgáltatásunkba, és eszközöket biztosítani számukra a bővüléshez és a sikerhez."
A platform jelenlegi formájában a hagyományos kockázatitőke-finanszírozás nem jöhet szóba. Az erkölcsi záradékok megakadályozzák, hogy az intézményi alapok pornográf vállalkozásokba fektessenek be. És még ha a felnőtt tartalmakról le is mondanának, meg kell küzdeniük a generatív MI-k mindegyikénél jelenlévő elefánttal: a művészek beleegyezésével és a kártérítéssel. Mint a legtöbb generatív MI művészeti modell, az Unstable Diffusion modelljeit is a világhálóról származó tartalmakon képzik ki, nem feltétlenül az alkotó tudtával. Sok művész nehezményezi - sőt, már be is perelte - az olyan mesterséges intelligencia rendszereket, amelyek a stílusukat utánozzák anélkül, hogy megfelelő elismerést vagy fizetést adnának.