SG.hu·
Kinek az ügynöke az MI?
Az önállóan cselekvő MI ügynökök tömeges elterjedése megkérdőjelezheti a felelősség, a jogérvényesítés és az emberi döntéshozatal eddig megszokott határait.
A mesterséges intelligencia megalkotásáért folyó verseny annyira eszeveszett tempójú, hogy egy vállalat győztessé nyilvánítása biztos jele annak, hogy hamarosan megelőzik - és fordítva. A Meta MI-beruházásait sokan korábban pazarló hiúsági projektként írták le, ugyanezek a befektetők azonban most azt mondják, hogy a cég új személyes ügynöke, a Muse hamarosan felforgatja a kereskedelmet és az egész világot. A Muse az Apple App Store ranglistájának élén áll. A Meta részvényárfolyama az elmúlt hónapban mintegy harmadával emelkedett.
A chatbotokat gyakran gyakornokokhoz hasonlítják. A Muse inkább egy szerződéses szolgálatra kötelezett titkárra hasonlít. A felhasználók számára a különbség teljesen egyértelmű lesz: nem pusztán felolvassa nekik a vonat menetrendjét, hanem le is foglalja a jegyeket; nemcsak mérlegeli a jogaikat, hanem be is nyújtja a kárigényüket; nemcsak összehasonlítja a mobiltelefon-előfizetéseket, hanem leküzdi azokat az akadályokat is, amelyeket a vállalatok azért állítanak az ügyfelek elé, hogy megakadályozzák őket a szolgáltatóváltásban. Az áruk és szolgáltatások piacait teljes körűen és megállás nélkül fel lehet mérni. Egyetlen űrlap sem túl hosszú; egyetlen követelés sem túl csekély.
A matematikai problémák közül melyiket tudja megoldani a Muse? Ez nem világos. De ha a megfelelő módon ösztökéljük a Musét, akár arra ébredhetünk egy reggel, hogy olcsóbb autóbiztosításunk van. Vajon a Muse ügynökei véget vethetnek a világnak? Mark Zuckerberg, a Meta vezetője, elutasította az MI biztonságával kapcsolatos aggodalmakat, akárcsak a Fehér Ház. Bár a Muse még nem a legnépszerűbb MI-termék, kétségkívül ez az első populista MI-termék, amelyet a Facebook Marketplace átlagfelhasználójának terveztek, akit nem érdekel a magánszféra, az egzisztenciális kockázatokat badarságnak tartja, és úgy gondolja, hogy a gazdaságban minden vagy jó üzlet, vagy átverés.
A piacok hangulata hasonló ahhoz, ami februárban uralkodott. Akkor, amikor világossá vált, hogy a modellek az embereknél jobban tudnak kódot írni, az volt a kérdés: mi történik akkor, ha mindenkinek olyan kódolási képessége lesz, mint egy Szilícium-völgyi mérnöknek? A szoftvercégek részvényeit válogatás nélkül adták el, bár sokuk azóta visszakapaszkodott. Most a nap kérdése valami olyasmi: mi történik akkor, ha mindenkinek olyan türelme lesz, mint egy szerzetesnek?
Az állam nehezen fog megbirkózni az újonnan ügynöki képességekkel rendelkező állampolgáraival. Amikor csökken annak költsége, hogy azonosítsák és igénybe vegyék mindazokat a jogokat és juttatásokat, amelyeket a gazdag országok biztosítanak lakosaiknak, a kormányok végül többet fognak költeni. Ez különösen súlyos problémát jelent a bíróságok számára, amelyeket már most is elárasztanak az MI által írt beadványok. A jogállamiság megköveteli, hogy az állampolgárok érvényesíteni tudják jogaikat, ugyanakkor azt is, hogy a bíróságok nyitva maradjanak, és a bírák emberek legyenek. Aggasztó módon erre a háromszoros dilemmára adott legtöbb megoldás több pénzzel vagy kevesebb joggal jár.
A vállalatok olyan mértékben fognak szenvedni, amilyen mértékben a tudatlanságból és a tehetetlenségből profitálnak. A közgazdászok régóta találgatják, miért marad lekötetlen pénz bankszámlákon, amikor egy pénzpiaci alapban jóval magasabb kamatot termelhetne. Vagy hogy a biztosítási ügyfelek miért engedik, hogy hűségüket magasabb díjakkal büntessék, ahelyett hogy egyszerűen szolgáltatót váltanának. Gyakran mondják, hogy a Nyugatot áthatja a kártérítési kultúra, ám rengeteg kártérítést valójában nem igényelnek meg. Európában a késedelmes és törölt repülőjáratok után járó lehetséges kártérítéseknek mindössze mintegy felét fizetik ki ténylegesen - gyakran olyan cégek segítségével, amelyek saját részesedést vonnak le a kárt szenvedett ügyfelektől.
Amikor a fogyasztók a nevükben szabadjára engedik az ügynökeiket, a vállalatok, amelyek előfizetésekből élnek, kevésbé lesznek biztonságban; alig kerül valamibe kipróbálni a Musét azzal, hogy megpróbálunk lemondani egy nem kívánt fizeős tagságot vagy hírlevél-előfizetést. Ugyanez vonatkozik azokra a vállalkozásokra is, amelyeknek az a működésük alapja, hogy meg tudják különböztetni az embereket a számítógépektől. Egy online megszerzett képesítésnek mostantól kisebb értékűnek kell lennie. A legtöbb ember elviselhetetlennek tartaná a gondolatot, hogy egy robottal flörtöljön. Amint azonban az ügynökök beszélgetni kezdenek a társkereső alkalmazásokban, ezek az alkalmazások összetett párosító rendszerekké válnak az egyedülálló emberek online személyiségei között.
Az államok és a vállalatok megpróbálhatják saját technológiájukkal újra bevezetni a súrlódásokat. Képzeljük el, hogy az ügynökök más ügynököket tartanak várakoztatva, figyelmen kívül hagyják egymást, majd egyre agresszívebb e-mail váltásokban üldözik a másikat. Ironikus módon az ilyen védekezési mechanizmusok még elviselhetetlenebbé teszik majd az internetet az emberek számára. A Shopify online kereskedelmi platform, üdvözölte a Muse ügynökeit. Az Amazon kitiltotta őket. Ha hihetünk az MI-pártiaknak, ennek hamarosan komoly ára lehet, mivel az ügynökök felelősek lesznek a kereskedelem jelentős részéért, és nehezebb lesz azonosítani őket: a „jelöld be a négyzetet az emberi mivoltod bizonyításához” átalakul „kattints a sárga biciklikre” lesz, majd „tölts fel egy fényképet a mai újsággal”.
A fogyasztók, megszabadulva az adminisztratív munkától, feltehetnek egy alapvetőbb kérdést új ügynökeiknek: mi a kapcsolat az Ember és a Muse között? A homo-agentikus kapcsolat megítélése eltérő lesz. Egy ügynök felhasználója valószínűleg hétköznapi technológiai terméknek tekinti majd új asszisztensét, amelyért nem visel teljes felelősséget. A világ szemében természetesen az ügynök és annak irányítója meglehetősen megkülönböztethetetlen lesz egymástól. A modellkészítők bizonyára úgy gondolják, hogy a felelősség jelentős része a felhasználót terheli.
Vegyünk három forgatókönyvet. János arra utasítja ügynökét, hogy írjon vicces bejegyzéseket az internetre, az ügynök pedig ennek során megrágalmaz valakit; Júliua azt mondja ügynökének, hogy tárgyaljon bizonyos áruk eladásáról, az azonban, mivel hajlamos a túlzásra, hamisan tünteti fel azokat; Péter az ügynökével beszélgetve rendel egy plüsssárkányt a fiának, aki aztán egy kést kap, és megvágja magát vele. Gondatlan emberek gondatlan modelleket működtetnek, mondhatnánk. Azonban a felelősség megállapítására rendszerint használt fogalmakat megfeszíti az MI természete. Mit jelent azt mondani, hogy az olyan általános és misztikus valami, mint az MI által okozott károk előre láthatók? Ha a modell készítőjét hibáztatják, számít-e, hogy a kódját ügynökök írták, amelyeket valószínűleg egy másik cég tervezett?
Az autonómia és a felelősség közötti feszültség az MI egyik legalapvetőbb kérdése. Eddig többnyire elvontan tárgyalták, az egzisztenciális kockázatok és az MI tudatossága kapcsán. Most azonban egymillió, ügynöki képességekkel rendelkező, a gazdaságban szabadjára engedett állampolgár saját maga fogja megtapasztalni ezt. Ha nem tetszik nekik az eredmény, tudják, hogyan nyújtsanak be panaszt.
A mesterséges intelligencia megalkotásáért folyó verseny annyira eszeveszett tempójú, hogy egy vállalat győztessé nyilvánítása biztos jele annak, hogy hamarosan megelőzik - és fordítva. A Meta MI-beruházásait sokan korábban pazarló hiúsági projektként írták le, ugyanezek a befektetők azonban most azt mondják, hogy a cég új személyes ügynöke, a Muse hamarosan felforgatja a kereskedelmet és az egész világot. A Muse az Apple App Store ranglistájának élén áll. A Meta részvényárfolyama az elmúlt hónapban mintegy harmadával emelkedett.
A chatbotokat gyakran gyakornokokhoz hasonlítják. A Muse inkább egy szerződéses szolgálatra kötelezett titkárra hasonlít. A felhasználók számára a különbség teljesen egyértelmű lesz: nem pusztán felolvassa nekik a vonat menetrendjét, hanem le is foglalja a jegyeket; nemcsak mérlegeli a jogaikat, hanem be is nyújtja a kárigényüket; nemcsak összehasonlítja a mobiltelefon-előfizetéseket, hanem leküzdi azokat az akadályokat is, amelyeket a vállalatok azért állítanak az ügyfelek elé, hogy megakadályozzák őket a szolgáltatóváltásban. Az áruk és szolgáltatások piacait teljes körűen és megállás nélkül fel lehet mérni. Egyetlen űrlap sem túl hosszú; egyetlen követelés sem túl csekély.
A matematikai problémák közül melyiket tudja megoldani a Muse? Ez nem világos. De ha a megfelelő módon ösztökéljük a Musét, akár arra ébredhetünk egy reggel, hogy olcsóbb autóbiztosításunk van. Vajon a Muse ügynökei véget vethetnek a világnak? Mark Zuckerberg, a Meta vezetője, elutasította az MI biztonságával kapcsolatos aggodalmakat, akárcsak a Fehér Ház. Bár a Muse még nem a legnépszerűbb MI-termék, kétségkívül ez az első populista MI-termék, amelyet a Facebook Marketplace átlagfelhasználójának terveztek, akit nem érdekel a magánszféra, az egzisztenciális kockázatokat badarságnak tartja, és úgy gondolja, hogy a gazdaságban minden vagy jó üzlet, vagy átverés.
A piacok hangulata hasonló ahhoz, ami februárban uralkodott. Akkor, amikor világossá vált, hogy a modellek az embereknél jobban tudnak kódot írni, az volt a kérdés: mi történik akkor, ha mindenkinek olyan kódolási képessége lesz, mint egy Szilícium-völgyi mérnöknek? A szoftvercégek részvényeit válogatás nélkül adták el, bár sokuk azóta visszakapaszkodott. Most a nap kérdése valami olyasmi: mi történik akkor, ha mindenkinek olyan türelme lesz, mint egy szerzetesnek?
Az állam nehezen fog megbirkózni az újonnan ügynöki képességekkel rendelkező állampolgáraival. Amikor csökken annak költsége, hogy azonosítsák és igénybe vegyék mindazokat a jogokat és juttatásokat, amelyeket a gazdag országok biztosítanak lakosaiknak, a kormányok végül többet fognak költeni. Ez különösen súlyos problémát jelent a bíróságok számára, amelyeket már most is elárasztanak az MI által írt beadványok. A jogállamiság megköveteli, hogy az állampolgárok érvényesíteni tudják jogaikat, ugyanakkor azt is, hogy a bíróságok nyitva maradjanak, és a bírák emberek legyenek. Aggasztó módon erre a háromszoros dilemmára adott legtöbb megoldás több pénzzel vagy kevesebb joggal jár.
A vállalatok olyan mértékben fognak szenvedni, amilyen mértékben a tudatlanságból és a tehetetlenségből profitálnak. A közgazdászok régóta találgatják, miért marad lekötetlen pénz bankszámlákon, amikor egy pénzpiaci alapban jóval magasabb kamatot termelhetne. Vagy hogy a biztosítási ügyfelek miért engedik, hogy hűségüket magasabb díjakkal büntessék, ahelyett hogy egyszerűen szolgáltatót váltanának. Gyakran mondják, hogy a Nyugatot áthatja a kártérítési kultúra, ám rengeteg kártérítést valójában nem igényelnek meg. Európában a késedelmes és törölt repülőjáratok után járó lehetséges kártérítéseknek mindössze mintegy felét fizetik ki ténylegesen - gyakran olyan cégek segítségével, amelyek saját részesedést vonnak le a kárt szenvedett ügyfelektől.
Amikor a fogyasztók a nevükben szabadjára engedik az ügynökeiket, a vállalatok, amelyek előfizetésekből élnek, kevésbé lesznek biztonságban; alig kerül valamibe kipróbálni a Musét azzal, hogy megpróbálunk lemondani egy nem kívánt fizeős tagságot vagy hírlevél-előfizetést. Ugyanez vonatkozik azokra a vállalkozásokra is, amelyeknek az a működésük alapja, hogy meg tudják különböztetni az embereket a számítógépektől. Egy online megszerzett képesítésnek mostantól kisebb értékűnek kell lennie. A legtöbb ember elviselhetetlennek tartaná a gondolatot, hogy egy robottal flörtöljön. Amint azonban az ügynökök beszélgetni kezdenek a társkereső alkalmazásokban, ezek az alkalmazások összetett párosító rendszerekké válnak az egyedülálló emberek online személyiségei között.
Az államok és a vállalatok megpróbálhatják saját technológiájukkal újra bevezetni a súrlódásokat. Képzeljük el, hogy az ügynökök más ügynököket tartanak várakoztatva, figyelmen kívül hagyják egymást, majd egyre agresszívebb e-mail váltásokban üldözik a másikat. Ironikus módon az ilyen védekezési mechanizmusok még elviselhetetlenebbé teszik majd az internetet az emberek számára. A Shopify online kereskedelmi platform, üdvözölte a Muse ügynökeit. Az Amazon kitiltotta őket. Ha hihetünk az MI-pártiaknak, ennek hamarosan komoly ára lehet, mivel az ügynökök felelősek lesznek a kereskedelem jelentős részéért, és nehezebb lesz azonosítani őket: a „jelöld be a négyzetet az emberi mivoltod bizonyításához” átalakul „kattints a sárga biciklikre” lesz, majd „tölts fel egy fényképet a mai újsággal”.
A fogyasztók, megszabadulva az adminisztratív munkától, feltehetnek egy alapvetőbb kérdést új ügynökeiknek: mi a kapcsolat az Ember és a Muse között? A homo-agentikus kapcsolat megítélése eltérő lesz. Egy ügynök felhasználója valószínűleg hétköznapi technológiai terméknek tekinti majd új asszisztensét, amelyért nem visel teljes felelősséget. A világ szemében természetesen az ügynök és annak irányítója meglehetősen megkülönböztethetetlen lesz egymástól. A modellkészítők bizonyára úgy gondolják, hogy a felelősség jelentős része a felhasználót terheli.
Vegyünk három forgatókönyvet. János arra utasítja ügynökét, hogy írjon vicces bejegyzéseket az internetre, az ügynök pedig ennek során megrágalmaz valakit; Júliua azt mondja ügynökének, hogy tárgyaljon bizonyos áruk eladásáról, az azonban, mivel hajlamos a túlzásra, hamisan tünteti fel azokat; Péter az ügynökével beszélgetve rendel egy plüsssárkányt a fiának, aki aztán egy kést kap, és megvágja magát vele. Gondatlan emberek gondatlan modelleket működtetnek, mondhatnánk. Azonban a felelősség megállapítására rendszerint használt fogalmakat megfeszíti az MI természete. Mit jelent azt mondani, hogy az olyan általános és misztikus valami, mint az MI által okozott károk előre láthatók? Ha a modell készítőjét hibáztatják, számít-e, hogy a kódját ügynökök írták, amelyeket valószínűleg egy másik cég tervezett?
Az autonómia és a felelősség közötti feszültség az MI egyik legalapvetőbb kérdése. Eddig többnyire elvontan tárgyalták, az egzisztenciális kockázatok és az MI tudatossága kapcsán. Most azonban egymillió, ügynöki képességekkel rendelkező, a gazdaságban szabadjára engedett állampolgár saját maga fogja megtapasztalni ezt. Ha nem tetszik nekik az eredmény, tudják, hogyan nyújtsanak be panaszt.