SG.hu·
A Palantir vezére szerint az MI biztonságáról szóló vita valójában az államosításról szól
Alex Karp szerint az Anthropic kormányzati szabályozásra irányuló kérése mögött a biztonság kérdésén túl más is meghúzódik.
A Palantir vezérigazgatója egy csütörtöki interjúban, amelyet a CNBC „Squawk on the Street” című műsorának adott, azt mondta, hogy az Anthrophichoz hasonló, csúcskategóriás MI-laboratóriumok államosításra törekednek, hogy megvédjék magukat az olyan jövőbeli perektől, amelyekben azzal vádolhatják őket, hogy szellemi tulajdont loptak. „Ezeket a vállalkozásokat államosítani kell, mert ha nem államosítják őket, minden egyes ügyfelem beperli őket” - mondta Karp az MI-laboratóriumokról. „A nyilvánvaló megoldás Amerika.”
Karp azt mondta, hogy a Palantir egyes ügyfelei arról számoltak be neki, hogy saját, bizalmas üzleti ötleteik végül chatbotok betanítására szolgáló adatokként kötnek ki, és így a szélesebb nyilvánosság számára is hozzáférhetővé válnak. „Aztán rájönnek, hogy a szomszédban lévő versenytársuknak ott van az összes kimenetük” - mondta Karp. Karp szerint a perek potenciális áradata arra ösztönözheti az MI-cégeket, hogy kormányzati védelmet kérjenek a felelősségre vonás alól. „Ehhez a modellhez komoly felelősség alóli védelemre lenne szükség, és erre egyetlen intézmény képes: az Egyesült Államok kormánya” - mondta.
Karp korábban is élesen bírálta a csúcskategóriás MI-laboratóriumokat az adatvédelem kérdésében. Júniusban a Palantir közzétett egy kilenc pontból álló kiáltványt, amelyben arra szólította fel a vállalatokat, hogy tartsák házon belül adataikat, ahelyett, hogy olyan intézményeknek szerveznék ki az adatkezelést, amelyeket a Palantir megbízhatatlannak állít be. „Az adatok átadása hozzáférést biztosít a már meglévő nyerő stratégiáihoz, és új stratégiákhoz szükséges termelőeszközöket ad át” - áll a kiáltvány egyik pontjában.
Az MI-programok biztonságával kapcsolatos félelmek azután kerültek a fősodorba, hogy Jacob Coxon, az Anthropic egykori mérnöke a hónap elején felmondott, és súlyos figyelmeztetéseket tett közzé arról, hogy az Anthrophoz és az OpenAI-hoz hasonló csúcskategóriás MI-vállalatok „az életünkkel játszanak”. Szombaton Dario Amodei, az Anthropic vezérigazgatója közzétett egy esszét, amelyben összehangolt lassítást szorgalmazott, és arra figyelmeztetett, hogy a rekurzív fejlesztés, vagyis az a folyamat, amelynek során az MI saját magát fejleszti, hamarosan olyan önállóan működő MI-ügynököket hozhat létre, amelyek képesek átvenni az internet feletti irányítást. Az esszét az OpenAI vezérigazgatója, Sam Altman és a SpaceX vezérigazgatója, Elon Musk is megosztotta és szélesebb körben terjesztette.
Amodei az esszében azt írta, hogy „minden csúcskategóriás MI-laboratóriumnak partnerségre kell lépnie a kormánnyal”, hogy megakadályozzák az MI-modellek eltérő célokhoz való igazodásával kapcsolatos incidenseket. „A fejlesztés ütemezésére jelentős hatással bíró koordináció bizonyos formái jogilag nehezen megvalósíthatók, és kormányzati támogatást igényelnek” - mondta. Donald Trump elnök jelezte, hogy nem érdekli az iparág szabályozása. „Az egyetlen ellenőrzésre vagy korlátra, amelyre az MI-nek szüksége van, egy ERŐS ÉS OKOS, vagyis magas IQ-jú ELNÖK, és az Egyesült Államokból ez bőségesen megvan!” - írta az elnök a közösségi médiában.
Karp szerint a vitát helytelenül keretezik. „Ezt úgy mutatják be, mint egy szabályozásról, illetve a szabályozás elutasításáról szóló mozgalmat” - mondta Karp. „Valójában azonban nem erről szól ez a mozgalom.” „Az ilyen jellegű felelősség kezelésének egyetlen módja az, ha a kormányhoz fordulunk, és azt mondjuk: 'államosítsanak minket, kérem'” - tette hozzá.
A Palantir vezérigazgatója egy csütörtöki interjúban, amelyet a CNBC „Squawk on the Street” című műsorának adott, azt mondta, hogy az Anthrophichoz hasonló, csúcskategóriás MI-laboratóriumok államosításra törekednek, hogy megvédjék magukat az olyan jövőbeli perektől, amelyekben azzal vádolhatják őket, hogy szellemi tulajdont loptak. „Ezeket a vállalkozásokat államosítani kell, mert ha nem államosítják őket, minden egyes ügyfelem beperli őket” - mondta Karp az MI-laboratóriumokról. „A nyilvánvaló megoldás Amerika.”
Karp azt mondta, hogy a Palantir egyes ügyfelei arról számoltak be neki, hogy saját, bizalmas üzleti ötleteik végül chatbotok betanítására szolgáló adatokként kötnek ki, és így a szélesebb nyilvánosság számára is hozzáférhetővé válnak. „Aztán rájönnek, hogy a szomszédban lévő versenytársuknak ott van az összes kimenetük” - mondta Karp. Karp szerint a perek potenciális áradata arra ösztönözheti az MI-cégeket, hogy kormányzati védelmet kérjenek a felelősségre vonás alól. „Ehhez a modellhez komoly felelősség alóli védelemre lenne szükség, és erre egyetlen intézmény képes: az Egyesült Államok kormánya” - mondta.
Karp korábban is élesen bírálta a csúcskategóriás MI-laboratóriumokat az adatvédelem kérdésében. Júniusban a Palantir közzétett egy kilenc pontból álló kiáltványt, amelyben arra szólította fel a vállalatokat, hogy tartsák házon belül adataikat, ahelyett, hogy olyan intézményeknek szerveznék ki az adatkezelést, amelyeket a Palantir megbízhatatlannak állít be. „Az adatok átadása hozzáférést biztosít a már meglévő nyerő stratégiáihoz, és új stratégiákhoz szükséges termelőeszközöket ad át” - áll a kiáltvány egyik pontjában.
Az MI-programok biztonságával kapcsolatos félelmek azután kerültek a fősodorba, hogy Jacob Coxon, az Anthropic egykori mérnöke a hónap elején felmondott, és súlyos figyelmeztetéseket tett közzé arról, hogy az Anthrophoz és az OpenAI-hoz hasonló csúcskategóriás MI-vállalatok „az életünkkel játszanak”. Szombaton Dario Amodei, az Anthropic vezérigazgatója közzétett egy esszét, amelyben összehangolt lassítást szorgalmazott, és arra figyelmeztetett, hogy a rekurzív fejlesztés, vagyis az a folyamat, amelynek során az MI saját magát fejleszti, hamarosan olyan önállóan működő MI-ügynököket hozhat létre, amelyek képesek átvenni az internet feletti irányítást. Az esszét az OpenAI vezérigazgatója, Sam Altman és a SpaceX vezérigazgatója, Elon Musk is megosztotta és szélesebb körben terjesztette.
Amodei az esszében azt írta, hogy „minden csúcskategóriás MI-laboratóriumnak partnerségre kell lépnie a kormánnyal”, hogy megakadályozzák az MI-modellek eltérő célokhoz való igazodásával kapcsolatos incidenseket. „A fejlesztés ütemezésére jelentős hatással bíró koordináció bizonyos formái jogilag nehezen megvalósíthatók, és kormányzati támogatást igényelnek” - mondta. Donald Trump elnök jelezte, hogy nem érdekli az iparág szabályozása. „Az egyetlen ellenőrzésre vagy korlátra, amelyre az MI-nek szüksége van, egy ERŐS ÉS OKOS, vagyis magas IQ-jú ELNÖK, és az Egyesült Államokból ez bőségesen megvan!” - írta az elnök a közösségi médiában.
Karp szerint a vitát helytelenül keretezik. „Ezt úgy mutatják be, mint egy szabályozásról, illetve a szabályozás elutasításáról szóló mozgalmat” - mondta Karp. „Valójában azonban nem erről szól ez a mozgalom.” „Az ilyen jellegű felelősség kezelésének egyetlen módja az, ha a kormányhoz fordulunk, és azt mondjuk: 'államosítsanak minket, kérem'” - tette hozzá.