Informatika és tudomány

  • kvp
    #16
    A gond ketretu. Egyreszt olyan MI-kre epul a gazdasag egyre nagyobb mertekben, amik hazugsagra lettek betanitva, tehat nem azt mondjak ami igaz, hanem ami a masik felnek valoszinuleg leginkabb tetszeni fog. Az ilyen MI-k altal irt programok is ugyanigy hazugsagra hajlamosak.

    A masik gond, hogy egyre kevesebb ember erti, hogy mi is tortenik es egy rendszer mit miert csinal. Nagyon konnyu eljutni addig a fazisig, amikor mar senki nem erti az MI mukodeset es hogy mit miert csinal a kulonbozo projectekben es ha a kivitelezes is automatizalt, akkor gyakorlatilag szabadon engedtunk egy rakat onmagat tanito MI-t, aminek egyuttal szabad kezet is adtunk. Mindezt barmifele emberi ellenorzes nelkul. A legkisebb hiba vagy picit felreertett parancs is vezethet odaig, hogy az egyik MI az egesz emberiseget foloslegesnek nyilvanitsa.

    https://en.wikipedia.org/wiki/Instrumental_convergence#Paperclip_maximizer