Not蒸留物、本物のDeepSeek-R1(671B)を1.58bit量子化したモデルを動かす(1500円/時)

関連記事

Not蒸留物、本物のDeepSeek-R1(671B)を1.58bit量子化したモデルを動かす(1500円/時)

Not蒸留物、本物のDeepSeek-R1(671B)を1.58bit量子化したモデルを動かす(1500円/時) 皆に本物のDeepSee...概要を表示 Not蒸留物、本物のDeepSeek-R1(671B)を1.58bit量子化したモデルを動かす(1500円/時) 皆に本物のDeepSeek-R1を見せてあげますよ お疲れ様です、波浪です。 DeepSeek R1をローカルPCで動かしました!ドヤっっってしてる記事がたくさんありますがその人たちが動かしているブツの大半はR1の蒸留物でサイズが13Bとかせいぜい70Bくらいなんですよね。 そんな中ガチのDeepseek-R1(model size 671B)の1.58bit量子化版がHFに登録されました。 まあタイトルにあるような「本物」かと言われたら量子化はしてますけどね それでも蒸留モデルよりは本物ですわ。 といっても、さすがに動かすためには最低でも24GBのVRAMと128GぐらいのRAMが必要です。(理論上は64Gでも動きそう?) ま、逆に言えば、それが家にある人はこれをローカルPC

• モデル
• 人工知能
• あとで読む

ブックマークしたユーザー

• misshiki2025年02月04日 misshiki
• phanvos2025年02月04日 phanvos
• knok2025年02月03日 knok
• ys00002025年02月02日 ys0000
• ducky199992025年02月02日 ducky19999
• hiroaki2562025年02月02日 hiroaki256
• db3010ss2025年02月02日 db3010ss
• facpatrysis2025年02月02日 facpatrysis
• triceratoppo2025年02月01日 triceratoppo
• kazuya0302025年02月01日 kazuya030
• kei_10102025年02月01日 kei_1010
• threegravity2025年02月01日 threegravity
• kotesaki2025年02月01日 kotesaki
• toshikish2025年02月01日 toshikish
• cu392025年02月01日 cu39
• enemyoffreedom2025年02月01日 enemyoffreedom
• yuiseki2025年02月01日 yuiseki