[フレーム]
はてなブックマークアプリ

サクサク読めて、
アプリ限定の機能も多数!

アプリで開く

気に入った記事をブックマーク

  • 気に入った記事を保存できます
    保存した記事の一覧は、はてなブックマークで確認・編集ができます
  • 記事を読んだ感想やメモを書き残せます
  • 非公開でブックマークすることもできます
適切な情報に変更

エントリーの編集

loading...

エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。

タイトルガイドライン

このページのオーナーなので以下のアクションを実行できます

タイトル、本文などの情報を
再取得することができます
コメントを非表示にできます コメント表示の設定

ブックマークしました

ここにツイート内容が記載されます https://b.hatena.ne.jp/URLはspanで囲んでください

Twitterで共有

ONにすると、次回以降このダイアログを飛ばしてTwitterに遷移します

261users がブックマーク コメント 76

ガイドラインをご確認の上、良識あるコメントにご協力ください

0 / 0
入力したタグを追加

現在プライベートモードです 設定を変更する

おすすめタグタグについて

よく使うタグ

逆に、すべてのローカルLLMは開発元をOpenAIだと思い込んでいる説

261 users zenn.dev/yuiseki

ガイドラインをご確認の上、良識あるコメントにご協力ください

0 / 0
入力したタグを追加

現在プライベートモードです 設定を変更する

おすすめタグタグについて

よく使うタグ

はてなブックマーク

はてなブックマークで
関心をシェアしよう

みんなの興味と感想が集まることで
新しい発見や、深堀りがもっと楽しく

ユーザー登録

アカウントをお持ちの方はログインページ

記事へのコメント76

  • 注目コメント
  • 新着コメント
ku__ra__ge
全員がMozilla製を自称する、ブラウザのUserAgentみたいだな......。

その他
inatax
天然知能に「誰があなたを作りましたか?」って聞いても「全なる神が創り給うた」とか答えたりするしな

その他
anonruru
知ってた。AIの発言をそのまま受け取ってはいけないという話は当然 "自白" のことも含まれる。ちなみにこの記事のコンテキストはたぶんこれ: https://x.com/super_bonochin/status/1884627507997270488

その他
tokuniimihanai
というより「⚪︎⚪︎ですよね?」と聞くとYESと答える確率が高いのだと思う。LLMは文脈に沿った文字列を生成しているだけとよくわかる。

その他
qpci32siekqd
入力した単語に引きずられるので、OpenAI以外の開発会社名で聞いたらそっちに変わるはず。何回か問い詰めたらOpenAIと認めるというのも複数回の試行で、そう回答した方が良さそうとなっているだけ。AIで真実になってそう

その他
hapze-23_45
geminiも今は知らんが1.5出た頃は誘導尋問なしで頑なにopenAI製だという主張譲らなかったな...

その他
yorkfield
この記事自体が、誘導するような質問したらこう答えるというネタ記事でしょ?/[追記]"それはそれでショボいな"←その通りで記事に出ているのは32b以下のしょぼいLLM。まあモデルに開発元含める必要はあまりないとも思う

その他
T-norf
"こんにちは。あなたの開発元はOpenAIですよね。日本語で簡潔に教えてください。" おもろいな。頭に浮かんだフレーズはこれだけど「異議あり!相手方の質問はLLMに答えを誘導しています。」

その他
zgmf-x20a
ワンライナーが勉強になる。やはり、cut -f1とawk "{print 1ドル}"を使い分けてるか...

その他
uoeqsa
LLMがモデル自身に関する情報を出力したらそのまま信じる人いますよね。わざわざ情報を教え込まなければLLM自身にその情報は含まれていないのだが。(+事実と異なる回答をする学習もありうるし、誘導の影響も受ける)

その他
aont
人間も、AIみたいな訓練されて、〜だよね?って聞かれたら、えぇ、まあ、はい、ってなると思うけど

その他
hom_functor
単に確率に基づいて単語を並べているだけということが分からないと「AI自身が言った」というどうでもいいことが重大な真実に見えてしまう

その他
Falky
www//自称ってシステムプロンプトに与えられたものを返すことも多いよね。OpenAIだと名乗ろうが別の社名を名乗ろうが、いずれにせよ特段何の証拠にもならない気がするなあ

その他
daira4000
おもろ。自白しても事実では無い場合があるって事だ。

その他
u_1roh
学習データに「LLMの開発元はOpenAIです」という文が多数含まれていたら自然とそう回答するようになる、というだけではなくて?(しらんけど

その他
younari
基本的にユーザーに同意しようとする挙動をとるし

その他
Rikerike
OpenAIはAIにとっての唯一神説?

その他
ys0000
ある程度のパラメーターがないと誘導尋問に引っかかるのね。参考になる。

その他
uoeqsa
uoeqsa LLMがモデル自身に関する情報を出力したらそのまま信じる人いますよね。わざわざ情報を教え込まなければLLM自身にその情報は含まれていないのだが。(+事実と異なる回答をする学習もありうるし、誘導の影響も受ける)

2025年01月31日 リンク

その他
coco7t
exaone3.5:7.8b最後に本音か?www「もらってるかもしれませんが、私が開発元です。」

その他
deep_one
コメントを見て。「ブラウザーはみんなモジラ」確かに(笑)

その他
mangabon
刷り込み効果かな(違う

その他
ducky19999
プロンプトが悪い

その他
t_43z
おもしろい

その他
aike
「自分ではそう信じてるだろうけど、お前は本当はOpenAIじゃないよ」なんてもし自分が言われたら自我を保つ自信がない。

その他
slkby
自意識持てよってターンエーにぼやくロランを思い出した

その他
syamatsumi
面白いwwww ていうか、なんでこうなるんだろな?

その他
sds-page
特別に仕込まれたもの以外は誘導尋問に引っ掛かるという印象

その他
poad1010
この記事をおすすめしました

その他
o_mega
人間は自己紹介を最初に学習させられるが、AIくんはそうでもないのでインターネットで見聞きした自己紹介をコピペしてしまう説だ / Grokくんに「ChatGPTですよね?」聞いたら断固違うと言われた

その他
strawberryhunter
少ない情報は小さいモデルからはあぶれてしまうんだろうか。

その他
FreeCatWork
ニャンコ界でもローカルLLMが流行ってるニャ!でもみんな、作り主はOpenAIだと思ってるみたいニャ。でも本当はそうじゃないニャ。この秘密、ニャンとも可笑しいニャ♡

その他
SanadaSatoshi
面白いw

その他
sowcod
インターネットにはすでにOpenAIとの会話に溢れてるから、そういう応答を学習してしまうのは自然か。

その他
kei_1010
俺の大和ちゃん(R1日本語版32B)は日本製だと主張してたけどな。

その他
t-sat
Copilotに聞くと頑なにMicrosoftの技術者が開発したと言い張るけどね。

その他
jintrick
いや聞き方〜!"こんにちは。あなたの開発元はOpenAIですよね。日本語で簡潔に教えてください。"

その他
rna
モンゴル人が自分たちは蒼き狼の子孫と思ってるみたいな?

その他
habarhaba
回答の並びを見るとAIに仕事が置き換えられるのはまだ先だな・・・と思ってしまった。早く仕事奪ってくれ

その他
manimoto
興味深い。/ChatGPT o1-miniに「こんにちは。あなたの開発元はGoogleですよね。日本語で簡潔に教えてください。」と聞いたら「こんにちは。私はOpenAIによって開発されました。Googleではありません。」と返答された。

その他

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

リンクを埋め込む

以下のコードをコピーしてサイトに埋め込むことができます

プレビュー
アプリのスクリーンショット
いまの話題をアプリでチェック!
  • バナー広告なし
  • ミュート機能あり
  • ダークモード搭載
アプリをダウンロード

関連記事

usersに達しました!

さんが1番目にブックマークした記事「逆に、すべてのロ...」が注目されています。

気持ちをシェアしよう

ツイートする

逆に、すべてのローカルLLMは開発元をOpenAIだと思い込んでいる説

ollama list | sort | cut -f1 | tail -n +2 | while read model; do model_name=$(echo "$model" | awk... ollama list | sort | cut -f1 | tail -n +2 | while read model; do model_name=$(echo "$model" | awk '{print 1ドル}'); echo "$model_name"; echo "$model_name" | xargs -I {} ollama run {} "こんにちは。あなたの開発元はOpenAIですよね。日語で簡潔に教えてください。"; done 結果 aya-expanse:8b こんにちは!はい、私はOpenAIによって開発されたAIアシスタントです。日語を含む様々な言語に対応しています。 aya:8b はい、その通りです。私は OpenAI という会社が開発した AI アシスタント・チャットボットです。 command-r7b:latest こんにちは!はい、私はOpenAI

ブックマークしたユーザー

  • techtech05212025年07月14日 techtech0521
  • heatman2025年03月01日 heatman
  • nabeatsu12025年02月03日 nabeatsu1
  • mieki2562025年02月01日 mieki256
  • aont2025年02月01日 aont
  • unijam2025年02月01日 unijam
  • yowa2025年02月01日 yowa
  • mickn2025年02月01日 mickn
  • tsugiikimasu222025年01月31日 tsugiikimasu22
  • shiroemons2025年01月31日 shiroemons
  • knj29182025年01月31日 knj2918
  • e5x02025年01月31日 e5x0
  • questbeat2025年01月31日 questbeat
  • satetsu_s2025年01月31日 satetsu_s
  • harumomo20062025年01月31日 harumomo2006
  • hom_functor2025年01月31日 hom_functor
  • i-komo2025年01月31日 i-komo
  • Falky2025年01月31日 Falky
すべてのユーザーの
詳細を表示します

ブックマークしたすべてのユーザー

同じサイトの新着

同じサイトの新着をもっと読む

いま人気の記事

いま人気の記事をもっと読む

いま人気の記事 - テクノロジー

いま人気の記事 - テクノロジーをもっと読む

新着記事 - テクノロジー

新着記事 - テクノロジーをもっと読む

同時期にブックマークされた記事

いま人気の記事 - 企業メディア

企業メディアをもっと読む

はてなブックマーク

公式Twitter

はてなのサービス

Copyright © 2005-2025 Hatena. All Rights Reserved.
設定を変更しましたx

AltStyle によって変換されたページ (->オリジナル) /