• asgh
    #3
    Nem az AI fejlesztést akarják megállítani, hanem mindenkire érvényes biztonsági szabályokat akarnak bevezetni, hogy az emberiség kezéből ne csúszhasson ki az irányítás.

    Gondolj bele a következőbe: valaki kirak a netre egy AI botot, ami milliárdszámra gyártja a náci fajvédő, laposföld hívő, "nem volt holdraszállás", " az oltások autizmust okoznak", stb. tartalmakat.
    A többi AI meg a statisztikailag szignifikáns mennyiségben egymásra hasonlító tartalmakat fogadja el általános igazságként, és köszönhetően a generátor AI-nak a hülyeség is statisztikailag szignifikáns mennyiségben fordul elő a neten, így az új AI is hasonló tartalmakat fog gyártani, ami befolyásolja a többi trainingjét és így tovább.
    Egy ponton túl így a valóságtagadó, veszélyes baromságok válnak az általánosan elfogadott igazsággá.
    És ez még csak a relatíve ártalmatlan netes hülyeség, de mi van, ha ezeket a rendszereket idővel valós alkalmazásokba integrálják és mondjuk kitalálja a repülőtéri biztonsági rendszer, hogy minden kék szeműre ráküldi a biztonsági kommandót, mert az AI-t a sok fake tartalommal úgy trainingezték, hogy minden kék szemű ember potenciális veszélyforrás a többi utasra nézve.

    Valamiféle állami kontroll tehát nélkülözhetetlen, méghozzá minél hamarabb, amíg nem késő.
    A cégek józan belátására meg eddig sem lehetett számítani, főleg ha az önkorlátozás piaci versenyhátránnyal jár, így mindenkire egységes és keményen számon is kért szabályokat kell lefektetni, lehetőleg tegnapra.