利用者:風の花/AIと情報構造メモ

このページは、編集作業の過程で気づいたAI(大規模言語モデル)とWikipediaの情報構造上の共通点・課題をまとめた個人的メモです。

AIの出力は、学習データセット(→公開情報)の質に左右されます。この点は、Wikipediaが公開された出典(Verifiable sources) のみに依拠して記事を構成することと構造的に似ています。

共通点

• 両者とも「公開情報のみ」を参照する。
• 元の資料に誤記があれば、それを反映する。
• 非公開の一次資料や、地域住民の口承や現地の細部は反映されない。
• 情報量が少ない文化・地域は正確に表現されにくい。
• 網羅性は高いが、正確性は"情報源の質"に依存する。

相違点

• Wikipediaは"出典を明記 してチェック可能"。
• AIは"どの資料を使ったか確認できない(ブラックボックス性)"。

AIが間違った情報を出す理由は、必ずしも「AIが勝手に作った」わけではなく、学習元の公開情報の側に誤りが含まれていることが多いと言えます。

AIは学習の過程で、Wikipediaを含む大規模な公開データを吸収しています。

そのため:

• 記述スタイルが百科事典的になる。
• "ありそうな構造"で文章を再構成する。
• 出典を伴わないWikipedia風の文体が生成される。
• 出典不明のまま、「百科事典らしい文章」が出てくることがある。

これは、AIが文章の内容(意味)ではなく、構造(パターン)を学習しているために起こる現象と考えられます。

例として、淡路島の民俗文化(つかいだんじり等)のように一次資料や公開文献が少ない分野では、以下のような課題が生じます。

• AIが参照できるデータが少ない。
• 探索可能な文献が限定される。
• 誤記のある観光資料やブログを拾いやすい。
• 地域差・形式差の再現が困難。

そのため、AIの説明が「もっともらしい百科事典口調」であっても、正確とは限りません。

AIは以下のような情報を自ら取得することはできません。

• 地元住民の証言
• 年ごとの変化
• 祭礼団内部の運行順序
• 行事の細かな意図
• 身体技法

といった非公開の情報を知ることができません。

この点は編集者が「独自研究を載せない(出典のある内容のみ書く)」というルールと似ていますが、編集者の場合は現地に行って裏取り・出典発掘(資料収集)ができるという点で決定的に異なります。

AIは現地調査ができず、誤った公開情報を修正する能力もありません。

AIに頼って文化情報を得る人が増えた現代では、Wikipediaに載っている内容そのものがAIの学習データとして再吸収されます。

そのため編集者が:

• 正確な出典を探し
• 誤記を訂正し
• 体系的な記述にし
• 文化の細部を記録し
• その他サイトの誤情報を修正し

という作業を行うことが、そのまま未来のAIが参照する"基盤情報"の品質を左右することになります。 Wikipediaの正確性が、間接的にAIの正確性を決める時代になっていると言えます。

• AIが誤る理由を単なる「ハルシネーション」という言葉だけで片付けないため。
• WikipediaとAIの"情報モデルの共通点"を編集者同士で共有するため。
• 地域文化の出典不足問題を、AIとの関係から再確認するため。
• 情報源を整備することがAI時代の文化保全にも直結することを示すため。

本メモが、同じ問題意識を持つ編集者の参考になれば幸いです。