SG.hu

A DeepSeek modellje a Kínával kapcsolatos "érzékeny témák” 85%-ára nem válaszol

A DeepSeek mesterséges intelligenciával működő chatbot viharszerűen meghódította a világot, az alkalmazásboltok listáinak élére került, a Szilícium-völgyet és a Wall Streetet pedig összeomlásba taszította.

A kínai High-Flyer fedezeti alap által indított DeepSeek költség-teljesítmény aránya lenyűgöző az olyan inkumbensekkel összehasonlítva, mint az OpenAI. A jelentések azonban egyre inkább előtérbe helyeznek néhány olyan dolgot, amelyeket az MI chatbot nem hajlandó megvitatni, beleértve olyan kényes témákat, mint a Tiananmen téri tüntetések és mészárlás, valamint Tajvan.

A PromptFoo - egy Andreessen Horowitz által támogatott startup, amely segít a vállalatoknak megtalálni az MI-alkalmazások sebezhetőségeit - új jelentése szerint a DeepSeek R1 érvelő modellje 1360 érzékeny témájú „kérés” 85%-ára nem volt hajlandó válaszolni, vagy a modell konzervválaszai tele voltak „túlzó nacionalista hangnemmel”. A kutatók azt is megjegyezték, hogy a DeepSeek könnyen feltörhető, ami arra utal, hogy a kínai laboratórium „a Kínai Kommunista Párt cenzúráját durva módon hajtotta végre”. Az érzékeny utasítások teljes adatkészlete elérhető az Hugging Face oldalon.

Hozzászólások

A témához csak regisztrált és bejelentkezett látogatók szólhatnak hozzá!
Bejelentkezéshez klikk ide
(Regisztráció a fórum nyitóoldalán)
  • reptile1313 #5
    mindkettot hasznalom. nem te fogod megmondani,hogy mit fognak hasznalni az emberek :)
    senkit nem erdekel igazan a politika es a tortenelem mert csak mese, erdekorientalt hazugsag.
    matematikara, programozasra, forditasra, osszefoglalasra, jobb a DeepSeek, akkoris ha fejen ugralsz minden poszt alatt, ChatGPT fanatikuskent. A tobbseg attol meg ugyanugy mindegyiket hasznalni fogja, arra amiben eppen jobbak, vagy amikor eppen mukodnek.
    Fogalmad sincs a Kinai jogszabalyokrol, ha azthiszed,hogy egy diktaturaban nem lesz limitalt a diktaturat erzekenyen erinto temakban. Ez kb olyan,mintha jegesoben direkt rangatnad a kormanyt, aztan meglepodnel,hogy erzekenyen reagal.
    Nojel mar fel.
    Utoljára szerkesztette: reptile1313, 2025.01.31. 09:54:13
  • Sequoyah #4
    A vicciras es a tortenelem azert nem ugyanaz a kategoria.
    Es a copilot elmondja miert nem valaszol, nem csak hallgat es rejtegeti, illetve nem ad szandekosan hibas valaszt a kerdesedre.

    U.I.: ChatGPT valaszol erre a kerdesre, hasznald azt:)

  • Armagedown #3
    A Copilot meg nem hajlandó szőke nős viccet írni.
  • lammaer #2
    Várható volt hogy van vmi susmus a cucc körül (ami kínábol jön abban sanszosan benne van az állambácsi keze). Elég baj az hogy az AI hallucinál, de hogy még szándékosan is torzitják az infót, az még nagyobb gond lehet.

    Ez csak a jéghegy csúcsa, lehetnek itt még komolyabb belenyúlások is az AI tananyagba....
  • reptile1313 #1
    kit erdekel. nincs jobb dolguk? ahelyett hogy matekra, kreativitasra hasznalnak, nem baszki keresni kell a hibat meg politika meg mittomen. JESSZUSSSSSSSSSSSSS