[フレーム]
はてなブックマークアプリ

サクサク読めて、
アプリ限定の機能も多数!

アプリで開く

気に入った記事をブックマーク

  • 気に入った記事を保存できます
    保存した記事の一覧は、はてなブックマークで確認・編集ができます
  • 記事を読んだ感想やメモを書き残せます
  • 非公開でブックマークすることもできます
適切な情報に変更

エントリーの編集

loading...

エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。

タイトルガイドライン

このページのオーナーなので以下のアクションを実行できます

タイトル、本文などの情報を
再取得することができます
コメントを非表示にできます コメント表示の設定

ブックマークしました

ここにツイート内容が記載されます https://b.hatena.ne.jp/URLはspanで囲んでください

Twitterで共有

ONにすると、次回以降このダイアログを飛ばしてTwitterに遷移します

188users がブックマーク コメント 17

ガイドラインをご確認の上、良識あるコメントにご協力ください

0 / 0
入力したタグを追加

現在プライベートモードです 設定を変更する

おすすめタグタグについて

よく使うタグ

RAGを30倍速くするMetaの新技術「REFRAG」

ガイドラインをご確認の上、良識あるコメントにご協力ください

0 / 0
入力したタグを追加

現在プライベートモードです 設定を変更する

おすすめタグタグについて

よく使うタグ

はてなブックマーク

はてなブックマークで
関心をシェアしよう

みんなの興味と感想が集まることで
新しい発見や、深堀りがもっと楽しく

ユーザー登録

アカウントをお持ちの方はログインページ

記事へのコメント17

  • 注目コメント
  • 新着コメント
shodai
"「人間にとって分かりやすい文章は、LLMにとっては冗長なので、もっと圧縮してLLMに渡すべき」という発想はとても面白く、発展の余地があるように感じます。" 確かにな

その他
yarumato
"RAGの回答を爆速にする手法。外部からの関連文書を、そのままLLMに渡すと入力が長く回答も遅い。関連文書をベクトル化して、ベクトル形式のままLLMに注入すると30倍高速化。だが複雑。より単純な類似手法xRAGもある"

その他
otchy210
インタープリタ遅いからあらかじめバイトコードにしとこうぜ、的な話。この技術の先に、機械語相当の「LLM内部のメモリ状態のダンプ」みたいのが出てきたりするだろうか?あたかも思考過程のセーブとロードのような。

その他
yoiIT
"この手法のキモは、変換器です。「人間にとって分かりやすい文章は、LLMにとっては冗長なので、もっと圧縮してLLMに渡すべき」という発想"

その他
khtokage
実際、Claude Codeとかでコンテキストを保存する場合に「人間に配慮せずAIが自分で分かる様にしてくれ」とか指示すると(自然言語ではあるけど)かなり圧縮されたりするし、こういう方向性はどんどん進むと思いますね

その他
misshiki
"「REFRAG」という手法では、検索した関連文書をベクトル化して、ベクトル形式のままLLMに注入します。こうすることで、「LLMから回答が来るまでの時間」を最大で約30倍高速化できます。"

その他
kojikoji75
"最初からベクトルで渡してあげることで高速化できるよね、というイメージです。その「テキストをベクトルにする変換器」の作成が大変です"

その他
mr_yamada
デフラグ?

その他
yossy_etf
埋め込みに使うLLMと回答に使うLLMは通常違うので、ベクトルをそのまま渡すには埋め込みモデルと回答モデルが同じである必要がある。回答に使うLLMは埋め込みLLMより通常はでかいので同じモデルを使うと非効率。

その他
khtokage
khtokage 実際、Claude Codeとかでコンテキストを保存する場合に「人間に配慮せずAIが自分で分かる様にしてくれ」とか指示すると(自然言語ではあるけど)かなり圧縮されたりするし、こういう方向性はどんどん進むと思いますね

2025年09月24日 リンク

その他
sudow
おもろ

その他
yarumato
yarumato "RAGの回答を爆速にする手法。外部からの関連文書を、そのままLLMに渡すと入力が長く回答も遅い。関連文書をベクトル化して、ベクトル形式のままLLMに注入すると30倍高速化。だが複雑。より単純な類似手法xRAGもある"

2025年09月24日 リンク

その他
akrtak
ちょっと試しに実装してみなきゃ

その他
ihirokyx
"「人間にとって分かりやすい文章は、LLMにとっては冗長なので、もっと圧縮してLLMに渡すべき」という発想"

その他
mysql8
MCPとは違うの?

その他
hashibirock
人間にとってわかりやすくてもLLMにとっては冗長ってとこで、あれ、情報が正しく伝わってないのでは?とも思ったけど人間同士でもそんなの日常茶飯事だなと思い直した。

その他
bfoj
なんか昔ながらの自然言語処理の技術も活かせるようになってきたな🤔

その他
otchy210
otchy210 インタープリタ遅いからあらかじめバイトコードにしとこうぜ、的な話。この技術の先に、機械語相当の「LLM内部のメモリ状態のダンプ」みたいのが出てきたりするだろうか?あたかも思考過程のセーブとロードのような。

2025年09月24日 リンク

その他
yoiIT
yoiIT "この手法のキモは、変換器です。「人間にとって分かりやすい文章は、LLMにとっては冗長なので、もっと圧縮してLLMに渡すべき」という発想"

2025年09月24日 リンク

その他
mayumayu_nimolove
チャンクチャンクブギーな胸騒ぎ

その他
hirorinya
やってにる

その他
shodai
shodai "「人間にとって分かりやすい文章は、LLMにとっては冗長なので、もっと圧縮してLLMに渡すべき」という発想はとても面白く、発展の余地があるように感じます。" 確かにな

2025年09月24日 リンク

その他

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

リンクを埋め込む

以下のコードをコピーしてサイトに埋め込むことができます

プレビュー
アプリのスクリーンショット
いまの話題をアプリでチェック!
  • バナー広告なし
  • ミュート機能あり
  • ダークモード搭載
アプリをダウンロード

関連記事

usersに達しました!

さんが1番目にブックマークした記事「RAGを30倍速くする...」が注目されています。

気持ちをシェアしよう

ツイートする

RAGを30倍速くするMetaの新技術「REFRAG」

記事では、RAGの性能を高めるための「REFRAG」という手法について、ざっくり理解します。 株式会社ナ... 記事では、RAGの性能を高めるための「REFRAG」という手法について、ざっくり理解します。 株式会社ナレッジセンスは、生成AIやRAGを使ったプロダクトを、エンタープライズ向けに開発提供しているスタートアップです。 この記事は何 この記事は、RAGの回答を爆速にする手法「REFRAG」の論文[1]について、日語で簡単にまとめたものです。 今回も「そもそもRAGとは?」については、知っている前提で進みます。確認する場合は、こちらの記事もご参考下さい。 題 ざっくりサマリー REFRAGは、RAGの回答速度を上げるための新しい手法です。「巨額報酬での人材引き抜き」で話題になったMeta社の「Superintelligence Labs」[2]の研究者らによって2025年9月に提案されました。 通常のRAGでは、外部のデータベースから検索した関連文書を、そのままLLMに渡します。しかし、

ブックマークしたユーザー

  • naggg2025年10月07日 naggg
  • macm2025年09月28日 macm
  • sora05132025年09月27日 sora0513
  • uokada2025年09月25日 uokada
  • noeloasis2025年09月25日 noeloasis
  • einherjar2025年09月25日 einherjar
  • hiroaki2562025年09月24日 hiroaki256
  • yoshidako2025年09月24日 yoshidako
  • dr2602025年09月24日 dr260
  • yk_uminami2025年09月24日 yk_uminami
  • ochikage2025年09月24日 ochikage
  • goknow2025年09月24日 goknow
  • Cherenkov2025年09月24日 Cherenkov
  • marices1992025年09月24日 marices199
  • mainyaa2025年09月24日 mainyaa
  • trick7star2025年09月24日 trick7star
  • stanaka2025年09月24日 stanaka
  • bobcoffee2025年09月24日 bobcoffee
すべてのユーザーの
詳細を表示します

ブックマークしたすべてのユーザー

同じサイトの新着

同じサイトの新着をもっと読む

いま人気の記事

いま人気の記事をもっと読む

いま人気の記事 - テクノロジー

いま人気の記事 - テクノロジーをもっと読む

新着記事 - テクノロジー

新着記事 - テクノロジーをもっと読む

同時期にブックマークされた記事

いま人気の記事 - 企業メディア

企業メディアをもっと読む

はてなブックマーク

公式Twitter

はてなのサービス

Copyright © 2005-2025 Hatena. All Rights Reserved.
設定を変更しましたx

AltStyle によって変換されたページ (->オリジナル) /