SG.hu
Már nem ígéri a Google, hogy nem használ MI-t fegyverekhez vagy megfigyelésre
2018-ban a Google olyan irányelveket vezetett be, amelyek kizárták a mesterséges intelligencia olyan módon történő alkalmazását, amely „valószínűleg általános kárt okozhat”. Most ez az ígéret megszűnt.
A reklámóriás frissítette a mesterséges intelligenciával kapcsolatos etikai irányelveit, és megszüntette azokat a vállalásokat, amelyek szerint nem alkalmazza a technológiát fegyverek vagy megfigyelés céljára. A vállalat MI-alapelvei korábban egy olyan részt tartalmaztak, amely négy olyan „alkalmazást sorolt fel, amelyeket nem fogunk folytatni”. A múlt héten még a fegyverek, a megfigyelés, az olyan technológiák, amelyek „általános károkat okoznak vagy valószínűleg okoznak”, valamint a nemzetközi jog és az emberi jogok elveivel ellentétes felhasználási esetek szerepeltek az Internet Archive által tárolt másolat szerint.
A Google szóvivője nem kívánt válaszolni a fegyverekre és a megfigyelésre vonatkozó politikájával kapcsolatos konkrét kérdésekre, de utalt a vállalat mesterséges intelligenciáért felelős vezetője, Demis Hassabis és a technológiáért és társadalomért felelős vezető alelnöke, James Manyika kedden közzétett blogbejegyzésére. A vezetők azt írták, hogy a Google azért frissíti a mesterséges intelligenciára vonatkozó elveit, mert a technológia sokkal szélesebb körben elterjedt, és szükség van arra, hogy a demokratikus országokban székhellyel rendelkező vállalatok kormányzati és nemzetbiztonsági ügyfeleket szolgáljanak ki.
"Globális verseny zajlik az MI vezető szerepéért egy egyre összetettebb geopolitikai környezetben. Úgy véljük, hogy a demokráciáknak vezető szerepet kell betölteniük az MI-fejlesztésben, olyan alapvető értékek által vezérelve, mint a szabadság, az egyenlőség és az emberi jogok tiszteletben tartása” - írta Hassabis és Manyika. „És hisszük, hogy az ezeket az értékeket osztó vállalatoknak, kormányoknak és szervezeteknek együtt kell működniük, hogy olyan mesterséges intelligenciát hozzanak létre, amely védi az embereket, elősegíti a globális növekedést és támogatja a nemzetbiztonságot.”
A Google frissített MI alapelvek oldala olyan rendelkezéseket tartalmaz, amelyek szerint a vállalat emberi felügyeletet fog alkalmazni, és visszajelzéseket fog kapni annak biztosítására, hogy technológiáját a „nemzetközi jog és az emberi jogok széles körben elfogadott elveivel” összhangban használják. Az elvek szerint a vállalat tesztelni fogja technológiáját, hogy „mérsékelje a nem szándékos vagy káros következményeket”. Hassabis 2014-ben csatlakozott a Google-hoz, miután az felvásárolta az általa társalapított DeepMind AI startupot. Egy 2015-ös interjúban elmondta, hogy a felvásárlás feltételei között szerepelt, hogy a DeepMind technológiáját soha nem használják katonai vagy megfigyelési célokra.
A Google az MI nemzetbiztonsági felhasználási eseteit korlátozó elvei miatt a vezető fejlesztők közül kilógott a sorból. Tavaly év végén a ChatGPT-gyártó OpenAI azt mondta, hogy a katonai gyártó Andurillal együttműködve fejleszt technológiát a Pentagon számára. A Claude chatbotot kínáló Anthropic bejelentette, hogy partnerséget kötött a Palantir védelmi vállalkozóval, hogy az Amazon Web Services-en keresztül az amerikai hírszerzési és védelmi ügynökségek hozzáférhessenek a Claude változataihoz. A Google rivális techóriásai, a Microsoft és az Amazon már régóta együttműködnek a Pentagonnal. Az Amazon alapítója, Jeff Bezos a The Washington Post tulajdonosa.
"A Google bejelentése újabb bizonyítéka annak, hogy az amerikai technológiai szektor és a védelmi minisztérium közötti kapcsolat egyre szorosabbá válik, beleértve a vezető MI-vállalatokat is” - mondta Michael Horowitz, a Pennsylvaniai Egyetem politológia professzora, aki korábban a Pentagon számára dolgozott a feltörekvő technológiákon. Elmondása szerint a mesterséges intelligencia, a robotika és a kapcsolódó technológiák egyre fontosabbak az amerikai hadsereg számára, és az amerikai kormányzat a technológiai vállalatokkal együttműködve igyekszik megérteni, hogyan lehet felelősségteljesen használni az ilyen technológiát. „Logikus, hogy a Google frissítette irányelveit, hogy tükrözze az új valóságot” - mondta Horowitz.
Lilly Irani, a San Diegó-i Kaliforniai Egyetem professzora és a Google egykori alkalmazottja szerint a vezetők keddi nyilatkozatai nem újdonságok. Eric Schmidt, a Google korábbi vezérigazgatója évek óta szította azokat a félelmeket, hogy az Egyesült Államokat az a veszély fenyegeti, hogy Kína megelőzi a mesterséges intelligencia terén - mondta Irani, és a vállalat eredeti mesterséges intelligencia alapelvei is azt állították, hogy tiszteletben tartja a nemzetközi jogot és az emberi jogokat. „De láttuk, hogy ezeket a korlátokat az amerikai állam rendszeresen megszegi” - mondta. „Ez egy lehetőség arra, hogy emlékeztessük magunkat a Google ígéreteinek ürességére”.
A Google politikájának megváltoztatása a vállalat változása, amely összhangban van a technológiai iparágon belüli azon nézettel, amelyet Donald Trump elnök főtanácsadója, Elon Musk testesít meg, és amely szerint a vállalatoknak az amerikai nemzeti érdekek szolgálatában kell dolgozniuk. Ez azt is követi, hogy a technológiai óriások nyilvánosan megtagadták korábbi elkötelezettségüket a faji és nemi egyenlőség, valamint a munkaerő sokszínűsége mellett, amely politikákat a Trump-kormányzat ellenezte. A keresőóriás is azok között a technológiai cégek és vezetők között volt, amelyek egymillió dolláros adományokat tettek Trump beiktatási bizottságának. A Google vezérigazgatója, Sundar Pichai azon technológiai vezetők között volt, akiknek prominens helyet biztosítottak a beiktatás napján tartott ünnepségeken.
A Google és a mesterséges intelligencia-technológia az utóbbi időben az Egyesült Államok és Kína közötti geopolitikai feszültségek középpontjában állt. Röviddel azután, hogy Trump kedden hatályba léptette a kínai importra kivetett vámokat, Peking bejelentette, hogy trösztellenes vizsgálatot indít a Google ellen, és megtorló vámokat vet ki egyes amerikai termékekre. A múlt héten a DeepSeek kínai startup cég olyan félelmeket szított fel, hogy az Egyesült Államok elveszíti vezető szerepét a mesterséges intelligencia terén.
A Google először 2018-ban tette közzé az MI alapelveit, miután az alkalmazottak tiltakoztak egy Pentagonnal kötött szerződés ellen, amely a Google számítógépes látás algoritmusait alkalmazta drónfelvételek elemzésére. Több ezer dolgozó írt alá egy nyílt levelet a Google vezérigazgatójának, amelyben az állt: „Úgy gondoljuk, hogy a Google-nek nem kellene háborúval foglalkoznia”. Az MI-elvek bevezetése mellett a Google úgy döntött, hogy nem újítja meg a Pentagon szerződését, amely Project Maven néven ismert. A Szilícium-völgy gyorsan bővülő védelmi ágazatának befektetői és vezetői gyakran hivatkoznak a Google alkalmazottainak a Project Maven elleni lökéshullámára, mint az iparágon belüli fordulópontra.
A Google néhány dolgozója tiltakozott a vállalatnak az izraeli kormánnyal kötött felhőalapú számítástechnikai szerződése ellen is, azt állítva, hogy a Google mesterséges intelligencia technológiája hozzájárulhat a palesztinokat károsító politikákhoz. A The Post nemrég arról számolt be, hogy belső dokumentumokból kiderül, hogy a Google nagyobb hozzáférést biztosított az izraeli védelmi minisztériumnak és az Izraeli Védelmi Erőknek a mesterséges intelligencia eszközeihez, miután a Hamász megtámadta Izraelt 2023. október 7-én.
A reklámóriás frissítette a mesterséges intelligenciával kapcsolatos etikai irányelveit, és megszüntette azokat a vállalásokat, amelyek szerint nem alkalmazza a technológiát fegyverek vagy megfigyelés céljára. A vállalat MI-alapelvei korábban egy olyan részt tartalmaztak, amely négy olyan „alkalmazást sorolt fel, amelyeket nem fogunk folytatni”. A múlt héten még a fegyverek, a megfigyelés, az olyan technológiák, amelyek „általános károkat okoznak vagy valószínűleg okoznak”, valamint a nemzetközi jog és az emberi jogok elveivel ellentétes felhasználási esetek szerepeltek az Internet Archive által tárolt másolat szerint.
A Google szóvivője nem kívánt válaszolni a fegyverekre és a megfigyelésre vonatkozó politikájával kapcsolatos konkrét kérdésekre, de utalt a vállalat mesterséges intelligenciáért felelős vezetője, Demis Hassabis és a technológiáért és társadalomért felelős vezető alelnöke, James Manyika kedden közzétett blogbejegyzésére. A vezetők azt írták, hogy a Google azért frissíti a mesterséges intelligenciára vonatkozó elveit, mert a technológia sokkal szélesebb körben elterjedt, és szükség van arra, hogy a demokratikus országokban székhellyel rendelkező vállalatok kormányzati és nemzetbiztonsági ügyfeleket szolgáljanak ki.
"Globális verseny zajlik az MI vezető szerepéért egy egyre összetettebb geopolitikai környezetben. Úgy véljük, hogy a demokráciáknak vezető szerepet kell betölteniük az MI-fejlesztésben, olyan alapvető értékek által vezérelve, mint a szabadság, az egyenlőség és az emberi jogok tiszteletben tartása” - írta Hassabis és Manyika. „És hisszük, hogy az ezeket az értékeket osztó vállalatoknak, kormányoknak és szervezeteknek együtt kell működniük, hogy olyan mesterséges intelligenciát hozzanak létre, amely védi az embereket, elősegíti a globális növekedést és támogatja a nemzetbiztonságot.”
A Google frissített MI alapelvek oldala olyan rendelkezéseket tartalmaz, amelyek szerint a vállalat emberi felügyeletet fog alkalmazni, és visszajelzéseket fog kapni annak biztosítására, hogy technológiáját a „nemzetközi jog és az emberi jogok széles körben elfogadott elveivel” összhangban használják. Az elvek szerint a vállalat tesztelni fogja technológiáját, hogy „mérsékelje a nem szándékos vagy káros következményeket”. Hassabis 2014-ben csatlakozott a Google-hoz, miután az felvásárolta az általa társalapított DeepMind AI startupot. Egy 2015-ös interjúban elmondta, hogy a felvásárlás feltételei között szerepelt, hogy a DeepMind technológiáját soha nem használják katonai vagy megfigyelési célokra.
A Google az MI nemzetbiztonsági felhasználási eseteit korlátozó elvei miatt a vezető fejlesztők közül kilógott a sorból. Tavaly év végén a ChatGPT-gyártó OpenAI azt mondta, hogy a katonai gyártó Andurillal együttműködve fejleszt technológiát a Pentagon számára. A Claude chatbotot kínáló Anthropic bejelentette, hogy partnerséget kötött a Palantir védelmi vállalkozóval, hogy az Amazon Web Services-en keresztül az amerikai hírszerzési és védelmi ügynökségek hozzáférhessenek a Claude változataihoz. A Google rivális techóriásai, a Microsoft és az Amazon már régóta együttműködnek a Pentagonnal. Az Amazon alapítója, Jeff Bezos a The Washington Post tulajdonosa.
"A Google bejelentése újabb bizonyítéka annak, hogy az amerikai technológiai szektor és a védelmi minisztérium közötti kapcsolat egyre szorosabbá válik, beleértve a vezető MI-vállalatokat is” - mondta Michael Horowitz, a Pennsylvaniai Egyetem politológia professzora, aki korábban a Pentagon számára dolgozott a feltörekvő technológiákon. Elmondása szerint a mesterséges intelligencia, a robotika és a kapcsolódó technológiák egyre fontosabbak az amerikai hadsereg számára, és az amerikai kormányzat a technológiai vállalatokkal együttműködve igyekszik megérteni, hogyan lehet felelősségteljesen használni az ilyen technológiát. „Logikus, hogy a Google frissítette irányelveit, hogy tükrözze az új valóságot” - mondta Horowitz.
Lilly Irani, a San Diegó-i Kaliforniai Egyetem professzora és a Google egykori alkalmazottja szerint a vezetők keddi nyilatkozatai nem újdonságok. Eric Schmidt, a Google korábbi vezérigazgatója évek óta szította azokat a félelmeket, hogy az Egyesült Államokat az a veszély fenyegeti, hogy Kína megelőzi a mesterséges intelligencia terén - mondta Irani, és a vállalat eredeti mesterséges intelligencia alapelvei is azt állították, hogy tiszteletben tartja a nemzetközi jogot és az emberi jogokat. „De láttuk, hogy ezeket a korlátokat az amerikai állam rendszeresen megszegi” - mondta. „Ez egy lehetőség arra, hogy emlékeztessük magunkat a Google ígéreteinek ürességére”.
A Google politikájának megváltoztatása a vállalat változása, amely összhangban van a technológiai iparágon belüli azon nézettel, amelyet Donald Trump elnök főtanácsadója, Elon Musk testesít meg, és amely szerint a vállalatoknak az amerikai nemzeti érdekek szolgálatában kell dolgozniuk. Ez azt is követi, hogy a technológiai óriások nyilvánosan megtagadták korábbi elkötelezettségüket a faji és nemi egyenlőség, valamint a munkaerő sokszínűsége mellett, amely politikákat a Trump-kormányzat ellenezte. A keresőóriás is azok között a technológiai cégek és vezetők között volt, amelyek egymillió dolláros adományokat tettek Trump beiktatási bizottságának. A Google vezérigazgatója, Sundar Pichai azon technológiai vezetők között volt, akiknek prominens helyet biztosítottak a beiktatás napján tartott ünnepségeken.
A Google és a mesterséges intelligencia-technológia az utóbbi időben az Egyesült Államok és Kína közötti geopolitikai feszültségek középpontjában állt. Röviddel azután, hogy Trump kedden hatályba léptette a kínai importra kivetett vámokat, Peking bejelentette, hogy trösztellenes vizsgálatot indít a Google ellen, és megtorló vámokat vet ki egyes amerikai termékekre. A múlt héten a DeepSeek kínai startup cég olyan félelmeket szított fel, hogy az Egyesült Államok elveszíti vezető szerepét a mesterséges intelligencia terén.
A Google először 2018-ban tette közzé az MI alapelveit, miután az alkalmazottak tiltakoztak egy Pentagonnal kötött szerződés ellen, amely a Google számítógépes látás algoritmusait alkalmazta drónfelvételek elemzésére. Több ezer dolgozó írt alá egy nyílt levelet a Google vezérigazgatójának, amelyben az állt: „Úgy gondoljuk, hogy a Google-nek nem kellene háborúval foglalkoznia”. Az MI-elvek bevezetése mellett a Google úgy döntött, hogy nem újítja meg a Pentagon szerződését, amely Project Maven néven ismert. A Szilícium-völgy gyorsan bővülő védelmi ágazatának befektetői és vezetői gyakran hivatkoznak a Google alkalmazottainak a Project Maven elleni lökéshullámára, mint az iparágon belüli fordulópontra.
A Google néhány dolgozója tiltakozott a vállalatnak az izraeli kormánnyal kötött felhőalapú számítástechnikai szerződése ellen is, azt állítva, hogy a Google mesterséges intelligencia technológiája hozzájárulhat a palesztinokat károsító politikákhoz. A The Post nemrég arról számolt be, hogy belső dokumentumokból kiderül, hogy a Google nagyobb hozzáférést biztosított az izraeli védelmi minisztériumnak és az Izraeli Védelmi Erőknek a mesterséges intelligencia eszközeihez, miután a Hamász megtámadta Izraelt 2023. október 7-én.