[フレーム]
はてなブックマークアプリ

サクサク読めて、
アプリ限定の機能も多数!

アプリで開く

気に入った記事をブックマーク

  • 気に入った記事を保存できます
    保存した記事の一覧は、はてなブックマークで確認・編集ができます
  • 記事を読んだ感想やメモを書き残せます
  • 非公開でブックマークすることもできます
適切な情報に変更

エントリーの編集

loading...

エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。

タイトルガイドライン

このページのオーナーなので以下のアクションを実行できます

タイトル、本文などの情報を
再取得することができます
コメントを非表示にできます コメント表示の設定

ブックマークしました

ここにツイート内容が記載されます https://b.hatena.ne.jp/URLはspanで囲んでください

Twitterで共有

ONにすると、次回以降このダイアログを飛ばしてTwitterに遷移します

545users がブックマーク コメント 27

ガイドラインをご確認の上、良識あるコメントにご協力ください

0 / 0
入力したタグを追加

現在プライベートモードです 設定を変更する

おすすめタグタグについて

よく使うタグ

【文系でもわかる】ChatGPTのキモ「Transformer」「Attention」のしくみ

545 users www.sbbit.jp

ガイドラインをご確認の上、良識あるコメントにご協力ください

0 / 0
入力したタグを追加

現在プライベートモードです 設定を変更する

おすすめタグタグについて

よく使うタグ

はてなブックマーク

はてなブックマークで
関心をシェアしよう

みんなの興味と感想が集まることで
新しい発見や、深堀りがもっと楽しく

ユーザー登録

アカウントをお持ちの方はログインページへ

記事へのコメント27件

  • 注目コメント
  • 新着コメント
camellow
理系文系の区別がアレって話は置いておいても"d次元の数値ベクトル化したもの"とか書いちゃうこの人の頭の中の文系の定義とは何なのか気になるわ。

その他
oisux
こういう時のために「猫でもわかる」という古来から伝わる表現がある(猫は上位存在のため人間より理解力がある)

その他
fujiriko59
いきなりAttentionとか言われてもという感じもするので、RNNからの歴史物語として伝えるのが良さそう

その他
Peophrun
〜でも分かるという表現はそろそろ廃止してほしい。もっと他の言い方あるでしょ

その他
u_1roh
おお、少し分かった気分になれたので嬉しい。感謝。以前Transformerの図を見たとき、Outputsが入力されてるのが意味不明だったので...。

その他
masadream
わかりやす。

その他
tokyocat
"なぜ「Attention(=注意)」と呼ぶかというと、文や文章の「意味」をすべて「単語同士の関係」に帰着して表現したデータだからである"

その他
rakugoman
英語学習と同じく無言ブクマが増える系のやつ

その他
ultimatebreak
なるほどわからん

その他
nabinno
この当たりの話はChatGPTに聞くと詳しく教えてくれるよ。

その他
yamada_k
「テクノロジー領域に明るくない人」らしい

その他
kobito19
"なぜ「Attention(=注意)」と呼ぶかというと、文や文章の「意味」をすべて「単語同士の関係」に帰着して表現したデータだからである" 理系の俺にはさっぱりだけど文系なら理解できるのか...?

その他
u_1roh
u_1roh おお、少し分かった気分になれたので嬉しい。感謝。以前Transformerの図を見たとき、Outputsが入力されてるのが意味不明だったので...。

2023年09月27日 リンク

その他
srng
伝統に従って「猫でもわかる」にするべきではないか

その他
tourmalinecatseye
真の文系「使えるならヨシ!!」

その他
PeterFukuda
「キモ」は何かドキッとするからやめてよ笑

その他
hkanemat
Attention とか言われると「気をつけ」してしまう私でも理解できますか?

その他
nisisinjuku
文系が何を指すかはわからんけど、理解できなかった。2回目から四だからかかな。1回目も後で見る。(文系をdisってマウントしてるのは理解した)

その他
kisiritooru
つまりオレは理系でも文系でもない・・・?

その他
oisux
oisux こういう時のために「猫でもわかる」という古来から伝わる表現がある(猫は上位存在のため人間より理解力がある)

2023年09月27日 リンク

その他
fossilcat
後で読んでみますね。

その他
masahiko_of_joytoy
Transformerの原理を極力わかりやすく伝えようとしても、これくらいが限界なんだろうなくらいのわかりやすさ

その他
securecat
めちゃくちゃ理系的な説明やん(文系理系が何のかは置いといてだ......)

その他
Peophrun
Peophrun 〜でも分かるという表現はそろそろ廃止してほしい。もっと他の言い方あるでしょ

2023年09月27日 リンク

その他
fujiriko59
fujiriko59 いきなりAttentionとか言われてもという感じもするので、RNNからの歴史物語として伝えるのが良さそう

2023年09月27日 リンク

その他
camellow
camellow 理系文系の区別がアレって話は置いておいても"d次元の数値ベクトル化したもの"とか書いちゃうこの人の頭の中の文系の定義とは何なのか気になるわ。

2023年09月27日 リンク

その他
raitu
"GPTのキーパーツ(深層学習の部品)の「Transformer」の出自は「翻訳システム」だが、単語の意味や文法構造を解析する能力を持つ画期的な部品なので翻訳以外の用途にも利用が拡がった"

その他
peketamin
完全に理解した

その他
kenzy_n
垣根を超えて活用していく

その他
doksensei
chatGPT

その他

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

リンクを埋め込む

以下のコードをコピーしてサイトに埋め込むことができます

プレビュー
アプリのスクリーンショット
いまの話題をアプリでチェック!
  • バナー広告なし
  • ミュート機能あり
  • ダークモード搭載
アプリをダウンロード

関連記事

usersに達しました!

さんが1番目にブックマークした記事「【文系でもわかる...」が注目されています。

気持ちをシェアしよう

ツイートする

【文系でもわかる】ChatGPTのキモ「Transformer」「Attention」のしくみ

第1回は、さまざまなタスクをこなす万能型ジェネレーティブAIツール「ChatGPT」の性能の鍵を握る「トー... 第1回は、さまざまなタスクをこなす万能型ジェネレーティブAIツール「ChatGPT」の性能の鍵を握る「トークン長(GPTが文脈を意識できる過去の単語数)」やGPTの歴史的経緯について解説しました。第2回はGPTを支える自然言語処理 の分野で使用される深層学習モデル「Transf ormer」とその根幹となる「Attention機構(そのタスクにおいてどの単語の重要度が高く、注目すべきか決める仕組み)」についてです。Transf ormerとAttention機構の仕組みを定性的に把握し、それを踏まえてGPTの能力と可能性について考察したいと思います。テクノロジー領域に明るくない人でもわかる記事を目指します。

ブックマークしたユーザー

  • masadream2024年02月05日 masadream
  • jytech2023年12月02日 jytech
  • ChillOut2023年11月03日 ChillOut
  • heatman2023年10月28日 heatman
  • sam-ple2023年10月06日 sam-ple
  • keme10522023年10月03日 keme1052
  • tokyocat2023年10月03日 tokyocat
  • Syunpei2023年10月03日 Syunpei
  • thaturn2023年10月02日 thaturn
  • mgl2023年10月01日 mgl
  • takeshi48392023年10月01日 takeshi4839
  • soyokazeZZ2023年09月30日 soyokazeZZ
  • mushroomslider2023年09月30日 mushroomslider
  • deejayroka2023年09月29日 deejayroka
  • inadome2023年09月29日 inadome
  • einherjar2023年09月28日 einherjar
  • shika_ed1062023年09月28日 shika_ed106
  • nikukyu-eng2023年09月28日 nikukyu-eng
すべてのユーザーの
詳細を表示します

ブックマークしたすべてのユーザー

同じサイトの新着

同じサイトの新着をもっと読む

いま人気の記事

いま人気の記事をもっと読む

いま人気の記事 - テクノロジー

いま人気の記事 - テクノロジーをもっと読む

新着記事 - テクノロジー

新着記事 - テクノロジーをもっと読む

同時期にブックマークされた記事

いま人気の記事 - 企業メディア

企業メディアをもっと読む

はてなブックマーク

公式Twitter

はてなのサービス

Copyright © 2005-2025 Hatena. All Rights Reserved.
設定を変更しましたx

AltStyle によって変換されたページ (->オリジナル) /