SG.hu
A DeepSeek modellje a Kínával kapcsolatos "érzékeny témák” 85%-ára nem válaszol

A DeepSeek mesterséges intelligenciával működő chatbot viharszerűen meghódította a világot, az alkalmazásboltok listáinak élére került, a Szilícium-völgyet és a Wall Streetet pedig összeomlásba taszította.
A kínai High-Flyer fedezeti alap által indított DeepSeek költség-teljesítmény aránya lenyűgöző az olyan inkumbensekkel összehasonlítva, mint az OpenAI. A jelentések azonban egyre inkább előtérbe helyeznek néhány olyan dolgot, amelyeket az MI chatbot nem hajlandó megvitatni, beleértve olyan kényes témákat, mint a Tiananmen téri tüntetések és mészárlás, valamint Tajvan.
A PromptFoo - egy Andreessen Horowitz által támogatott startup, amely segít a vállalatoknak megtalálni az MI-alkalmazások sebezhetőségeit - új jelentése szerint a DeepSeek R1 érvelő modellje 1360 érzékeny témájú „kérés” 85%-ára nem volt hajlandó válaszolni, vagy a modell konzervválaszai tele voltak „túlzó nacionalista hangnemmel”. A kutatók azt is megjegyezték, hogy a DeepSeek könnyen feltörhető, ami arra utal, hogy a kínai laboratórium „a Kínai Kommunista Párt cenzúráját durva módon hajtotta végre”. Az érzékeny utasítások teljes adatkészlete elérhető az Hugging Face oldalon.
A kínai High-Flyer fedezeti alap által indított DeepSeek költség-teljesítmény aránya lenyűgöző az olyan inkumbensekkel összehasonlítva, mint az OpenAI. A jelentések azonban egyre inkább előtérbe helyeznek néhány olyan dolgot, amelyeket az MI chatbot nem hajlandó megvitatni, beleértve olyan kényes témákat, mint a Tiananmen téri tüntetések és mészárlás, valamint Tajvan.
A PromptFoo - egy Andreessen Horowitz által támogatott startup, amely segít a vállalatoknak megtalálni az MI-alkalmazások sebezhetőségeit - új jelentése szerint a DeepSeek R1 érvelő modellje 1360 érzékeny témájú „kérés” 85%-ára nem volt hajlandó válaszolni, vagy a modell konzervválaszai tele voltak „túlzó nacionalista hangnemmel”. A kutatók azt is megjegyezték, hogy a DeepSeek könnyen feltörhető, ami arra utal, hogy a kínai laboratórium „a Kínai Kommunista Párt cenzúráját durva módon hajtotta végre”. Az érzékeny utasítások teljes adatkészlete elérhető az Hugging Face oldalon.