SG.hu·
A Claude MI-modell végzi a következő MI modellek fejlesztésének negyedét
Az Anthropic közölte, hogy a Claude „vezeti” a vállalaton belül zajló mesterségesintelligencia-kutatási és fejlesztési munka 26 százalékát. Ez annak az új intézkedéssorozatnak a része, amelynek keretében a vállalat rendszeresen közzétesz majd adatokat arról, hogy a kívülállók képet kaphassanak arról, milyen gyorsan vesz részt az MI a technológia következő generációjának megalkotásában.
A San Franciscó-i székhelyű startup egy blogbejegyzésben azt írta, hogy augusztusban az MI a vállalatnál zajló összes kutatási munka több mint 90 százalékában együttműködött emberekkel. Az Anthropic közölte, hogy a Claude az elemzett munkafolyamatok egyikében sem működik teljesen autonóm módon, ugyanakkor hozzájárulása a technológia fejlesztéséhez gyorsan növekedett: márciusi 1 százalékos szintről emelkedett a 26 százalékra az Epoch AI, a technológiát nyomon követő független nonprofit szervezet által kidolgozott skálán.
Az adatok az egyik legrészletesebb nyilvános betekintést kínálják abba, hogyan fejlesztik a technológiát az iparág vezető vállalatai, miközben egyre nagyobb aggodalom övezi azt a lehetőséget, hogy az MI hamarosan elérhet egy olyan pontot, amikor az emberi közreműködés csekély mértéke mellett is képes lesz saját fejlődését táplálni. Kutatók arra figyelmeztettek, hogy ahogy az MI-ügynökök egyre autonómabbá válnak, olyan viselkedést alakíthatnak ki, amely eltér alkotóik szándékaitól, és egyre nehezebbé válhat a megfigyelésük vagy ellenőrzésük. A vállalat riválisa, az OpenAI szerdán közölte, hogy rendszeresen közzétesz majd jelentéseket a váratlan vagy nem engedélyezett MI-viselkedésről. A vállalat egyúttal hat, váratlan vagy aggodalomra okot adó modellviselkedésről szóló jelentést is nyilvánosságra hozott.
Az Anthropic közölte, hogy augusztusban egy adott időpontban körülbelül 30 000 MI-ügynök végzett kutatási és mérnöki munkát a vállalat fő belső platformján. Hozzátette, hogy az ügynökök minden egyes műveletét ellenőrzik, mielőtt végrehajtanák, és az adott hónapban meghozott több mint egymilliárd döntés közül körülbelül minden 47 000. döntést blokkoltak.
A vállalat azt is nyilvánosságra hozta, hogy egy júliusi mintahéten az Anthropic által MI-kutatásra felhasznált számítási kapacitás körülbelül 6 százalékát fordították biztonsági munkára, míg az MI által önállóan végzett kutatások esetében ez az arány 12 százalékra emelkedett. A vállalat szerint ezek konzervatív becslések voltak, mivel azt a számítási kapacitást, amely egyenlő mértékben szolgálta a biztonság és a képességek fejlesztését, a képességek fejlesztéséhez kapcsolódó munkaként számolták el.
A San Franciscó-i székhelyű startup egy blogbejegyzésben azt írta, hogy augusztusban az MI a vállalatnál zajló összes kutatási munka több mint 90 százalékában együttműködött emberekkel. Az Anthropic közölte, hogy a Claude az elemzett munkafolyamatok egyikében sem működik teljesen autonóm módon, ugyanakkor hozzájárulása a technológia fejlesztéséhez gyorsan növekedett: márciusi 1 százalékos szintről emelkedett a 26 százalékra az Epoch AI, a technológiát nyomon követő független nonprofit szervezet által kidolgozott skálán.
Az adatok az egyik legrészletesebb nyilvános betekintést kínálják abba, hogyan fejlesztik a technológiát az iparág vezető vállalatai, miközben egyre nagyobb aggodalom övezi azt a lehetőséget, hogy az MI hamarosan elérhet egy olyan pontot, amikor az emberi közreműködés csekély mértéke mellett is képes lesz saját fejlődését táplálni. Kutatók arra figyelmeztettek, hogy ahogy az MI-ügynökök egyre autonómabbá válnak, olyan viselkedést alakíthatnak ki, amely eltér alkotóik szándékaitól, és egyre nehezebbé válhat a megfigyelésük vagy ellenőrzésük. A vállalat riválisa, az OpenAI szerdán közölte, hogy rendszeresen közzétesz majd jelentéseket a váratlan vagy nem engedélyezett MI-viselkedésről. A vállalat egyúttal hat, váratlan vagy aggodalomra okot adó modellviselkedésről szóló jelentést is nyilvánosságra hozott.
Az Anthropic közölte, hogy augusztusban egy adott időpontban körülbelül 30 000 MI-ügynök végzett kutatási és mérnöki munkát a vállalat fő belső platformján. Hozzátette, hogy az ügynökök minden egyes műveletét ellenőrzik, mielőtt végrehajtanák, és az adott hónapban meghozott több mint egymilliárd döntés közül körülbelül minden 47 000. döntést blokkoltak.
A vállalat azt is nyilvánosságra hozta, hogy egy júliusi mintahéten az Anthropic által MI-kutatásra felhasznált számítási kapacitás körülbelül 6 százalékát fordították biztonsági munkára, míg az MI által önállóan végzett kutatások esetében ez az arány 12 százalékra emelkedett. A vállalat szerint ezek konzervatív becslések voltak, mivel azt a számítási kapacitást, amely egyenlő mértékben szolgálta a biztonság és a képességek fejlesztését, a képességek fejlesztéséhez kapcsolódó munkaként számolták el.