[フレーム]
はてなブックマークアプリ

サクサク読めて、
アプリ限定の機能も多数!

アプリで開く

気に入った記事をブックマーク

  • 気に入った記事を保存できます
    保存した記事の一覧は、はてなブックマークで確認・編集ができます
  • 記事を読んだ感想やメモを書き残せます
  • 非公開でブックマークすることもできます
適切な情報に変更

エントリーの編集

loading...

エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。

タイトルガイドライン

このページのオーナーなので以下のアクションを実行できます

タイトル、本文などの情報を
再取得することができます
コメントを非表示にできます コメント表示の設定

ブックマークしました

ここにツイート内容が記載されます https://b.hatena.ne.jp/URLはspanで囲んでください

Twitterで共有

ONにすると、次回以降このダイアログを飛ばしてTwitterに遷移します

379users がブックマーク コメント 31

ガイドラインをご確認の上、良識あるコメントにご協力ください

0 / 0
入力したタグを追加

現在プライベートモードです 設定を変更する

おすすめタグタグについて

よく使うタグ

自宅で動くChatGPTと噂のFlexGenをDockerで手軽に動かす

ガイドラインをご確認の上、良識あるコメントにご協力ください

0 / 0
入力したタグを追加

現在プライベートモードです 設定を変更する

おすすめタグタグについて

よく使うタグ

はてなブックマーク

はてなブックマークで
関心をシェアしよう

みんなの興味と感想が集まることで
新しい発見や、深堀りがもっと楽しく

ユーザー登録

アカウントをお持ちの方はログインページへ

記事へのコメント31件

  • 注目コメント
  • 新着コメント
sasasin_net
「ゲームやらん採掘やらん機械学習やらんGPUなんて映ればイんだよ」と思っていましたが、ちょっと強いGPU欲しいかも

その他
anigoka
あやつり左近はともかく、一家に一台原発時代はやってこなかったけど(むしろ来なくて良かった)一家に1台、いや一人にAIアシ1台時代には着実に近づいてる(既にsiriとかも居るけど

その他
cartman0
スペックデカすぎて試せんな/ここまでやってngramレベルの人工無能初期って悲しい

その他
rmatsuoka
(いつの間にか「繰りオウム」が「操りオウム」に変わってる...)

その他
yarumato
"RTX3060(12GB)で、Dockerを使うことで簡単に動かせました。日本語も使えますが一番小さいモデルだったので頭がよくない。<-本体メモリ256GBが必要なところ32GBしか使っていない。結果が悲惨なのは当然だ。"

その他
tyhe
DDR5が4枚挿しにするとクロック落ちてしまうので4枚挿しに対応したRyzen待ち......

その他
T-norf
チャットにこだわらなければ、(日本語特化も含め)学習済みモデルは多数配布されてて、Huggingface Transformersというフレームワークで使える。ってとこまでは調べてた。要求スペックが下がるインパクト大きいよ

その他
puhu208n
GPUスペックそのものも欲しいが、VRAM容量がとにかく欲しいよな。「RTX3060(48bit DDR3) 64GB」みたいなGPUカードは作れないんだろうか? NVLinkとDDRを翻訳するFPGAとかでなんとかならんのか?

その他
EzoWolf
"一番小さいモデルだったので結構アホですが" ELIZA(イライザ)を讃えよ

その他
tpircs
AIの日本語対話、これGPU無しのWindowsマシンで普通に動いた(https://github.com/nttcslab/japanese-dialog-transformers/blob/main/README-jp.md)。WSLでも直接でもどちらでも。そこそこ面白い感じだった。

その他
mkusunok
ふた昔前の人工無能と何が違うのか分からんけど

その他
urtz
幼児もそうだが、言語習得の第一段階はオウム返しなのね。つまりシャドーイングは大事ということか🧐

その他
estragon
"Stable Diffusionもそうですが、やはりローカルでも動くというのは「自分のものになった!」という妙な安心感があって良いですね"、"日本語も使えます(アホですが)"、"メモリ 32GB"

その他
razokulover
かわいい

その他
pwatermark
日本語が完全にアホだけどモデルのせいだな、あとは要求VRAMを4GBくらいまで落とせたら、ユーザ数爆発するね

その他
ET777
おうむ返しかわいい🦜

その他
misshiki
"自宅PCでChatGPT的なAIチャットが動くのは驚きですね。 Stable Diffusionもそうですが、やはりローカルでも動くというのは「自分のものになった!」という妙な安心感があって良い"

その他
programmablekinoko
GPUが安く手に入ったら考える...

その他
shodai
人工無能っぽい

その他
T-norf
T-norf チャットにこだわらなければ、(日本語特化も含め)学習済みモデルは多数配布されてて、Huggingface Transformersというフレームワークで使える。ってとこまでは調べてた。要求スペックが下がるインパクト大きいよ

2023年02月27日 リンク

その他
yarumato
yarumato "RTX3060(12GB)で、Dockerを使うことで簡単に動かせました。日本語も使えますが一番小さいモデルだったので頭がよくない。<-本体メモリ256GBが必要なところ32GBしか使っていない。結果が悲惨なのは当然だ。"

2023年02月27日 リンク

その他
natu3kan
AI系は処理速度だけでなく潤沢にVRAMないと満足に動かないから、古いビデオカードだと動作が遅い、そもそもメモリ不足で動かないのあるよな。

その他
puhu208n
puhu208n GPUスペックそのものも欲しいが、VRAM容量がとにかく欲しいよな。「RTX3060(48bit DDR3) 64GB」みたいなGPUカードは作れないんだろうか? NVLinkとDDRを翻訳するFPGAとかでなんとかならんのか?

2023年02月27日 リンク

その他
hunglysheep1
意外と早い。5〜10年たったら普通になりそう

その他
solidstatesociety
いよいよ親の原資に依存していくなぁ

その他
kei_1010
うーーん、まだまだ微妙だなぁ。shi3z のマシン(メモリ256GB, VRAM48GB)でもBLOOMの175bはめちゃ遅そう。しかもBLOOMは日本語にだけ非対応という。。。まだしばらくはbing ai弄りながら静観しとこ。

その他
tpircs
tpircs AIの日本語対話、これGPU無しのWindowsマシンで普通に動いた(https://github.com/nttcslab/japanese-dialog-transformers/blob/main/README-jp.md)。WSLでも直接でもどちらでも。そこそこ面白い感じだった。

2023年02月27日 リンク

その他
youichirou
RTX3060の12GBで5万円前後か。

その他
jintrick
3060はつよつよGPUじゃないそうな。

その他
rmatsuoka
rmatsuoka (いつの間にか「繰りオウム」が「操りオウム」に変わってる...)

2023年02月27日 リンク

その他
pechiyon
自宅で動かすことができるけれども、資源が遊休すぎると思うのよね。都会ど真ん中で車持つみたいな感じで、便利だけどコスパ悪いみたいな。その辺はクラウドでよしなにしちゃいたいよなと思うも、それはそれでね...

その他
kusigahama
メインメモリ128GB、いま7-8万も出せば積めるんだなぁ / AI生成、企業が表に出すときはかなり不自由に束縛しなきゃいけなくなっちゃってるので、ローカルで動かす理由は大きいのよね

その他
toaruR
日本語苦手なのかー(ノ∀`)

その他
EzoWolf
EzoWolf "一番小さいモデルだったので結構アホですが" ELIZA(イライザ)を讃えよ

2023年02月26日 リンク

その他
sasasin_net
sasasin_net 「ゲームやらん採掘やらん機械学習やらんGPUなんて映ればイんだよ」と思っていましたが、ちょっと強いGPU欲しいかも

2023年02月26日 リンク

その他
zgmf-x20a
私もやってみよう。

その他
anigoka
anigoka あやつり左近はともかく、一家に一台原発時代はやってこなかったけど(むしろ来なくて良かった)一家に1台、いや一人にAIアシ1台時代には着実に近づいてる(既にsiriとかも居るけど

2023年02月26日 リンク

その他
tyhe
tyhe DDR5が4枚挿しにするとクロック落ちてしまうので4枚挿しに対応したRyzen待ち......

2023年02月26日 リンク

その他
buhoho
私はエッチな絵とか文章をAI生成したいだけで、GPUとかPCが欲しいわけじゃないんよ

その他
kenzy_n
なかなか先は長い

その他

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

リンクを埋め込む

以下のコードをコピーしてサイトに埋め込むことができます

プレビュー
アプリのスクリーンショット
いまの話題をアプリでチェック!
  • バナー広告なし
  • ミュート機能あり
  • ダークモード搭載
アプリをダウンロード

関連記事

usersに達しました!

さんが1番目にブックマークした記事「自宅で動くChatGPT...」が注目されています。

気持ちをシェアしよう

ツイートする

自宅で動くChatGPTと噂のFlexGenをDockerで手軽に動かす

自宅で動くChatGPTと噂のFlexGenを試す shi3zさんが興奮して動かしていたFlexGen 関係する記事は以下 ツ... 自宅で動くChatGPTと噂のFlexGenを試す shi3zさんが興奮して動かしていたFlexGen 関係する記事は以下 ツヨツヨGPUが無いと動かないと思っていたのですが、タイムラインでミクミンPさんが、RTX3060でFlexGenを動かしているツイートを発見。 「RTX3060なら自分も持っている!」ということで、試してみることにしました。 追記: 私がこの記事で動かしているのは小さいモデルです。とりあえずお試しで動かしただけで、shi3zさんが動かしているモデルとは異なります。 性能の参考にする記事ではないので、ご承知ください。より大きいサイズのモデルの使用に関しては、FlexGenの公式リポジトリを参照ください。私も今後試したら追記していきます(現状、私の環境では動かせてないです)。 FlexGenをDockerで動かす 結果的には、Dockerを使うことで簡単に動かせました。

ブックマークしたユーザー

  • techtech05212024年06月02日 techtech0521
  • gawawa1242023年04月05日 gawawa124
  • yaruo52222023年03月17日 yaruo5222
  • bando_alpha2023年03月08日 bando_alpha
  • nharuki2023年03月06日 nharuki
  • ishideo2023年03月06日 ishideo
  • takami_hiroki2023年03月04日 takami_hiroki
  • tkys06282023年03月01日 tkys0628
  • gengohouse2023年03月01日 gengohouse
  • ktakeda472023年03月01日 ktakeda47
  • tasukuchan2023年03月01日 tasukuchan
  • imyutaro2023年02月28日 imyutaro
  • little_dove11022023年02月28日 little_dove1102
  • sskoji2023年02月28日 sskoji
  • Sinn82023年02月28日 Sinn8
  • rizmhate2023年02月28日 rizmhate
  • kimizuka2023年02月28日 kimizuka
  • mkusunok2023年02月28日 mkusunok
すべてのユーザーの
詳細を表示します

ブックマークしたすべてのユーザー

同じサイトの新着

同じサイトの新着をもっと読む

いま人気の記事

いま人気の記事をもっと読む

いま人気の記事 - テクノロジー

いま人気の記事 - テクノロジーをもっと読む

新着記事 - テクノロジー

新着記事 - テクノロジーをもっと読む

同時期にブックマークされた記事

いま人気の記事 - 企業メディア

企業メディアをもっと読む

はてなブックマーク

公式Twitter

はてなのサービス

Copyright © 2005-2025 Hatena. All Rights Reserved.
設定を変更しましたx

AltStyle によって変換されたページ (->オリジナル) /