世界情勢や社会構造、技術変化等により、偽・誤情報の流通・拡大のリスクが上昇している。世界経済フォーラムのグローバルリスク報告書20251によると、偽・誤情報は現在、今後2年間及び今後10年間の深刻なリスクの上位に入っており、特に、今後2年間では最も重視すべきリスクとされている。例えば、2024年の世界各地で行われた選挙においても、真偽不確かな情報を巡る報道が相次いだ2。
また、我が国では、誹謗中傷等の他人の権利を侵害する情報の流通についても問題が増大している。例えば、違法・有害相談センターへの相談件数は近年高止まりしており、2024年度は6,403件だった3。さらに、アンケート調査4によると、インターネット上での他人を傷つけるような投稿(誹謗中傷)の目撃経験は、2024年調査では回答者の60.6%が「見たことがある」と回答している。ある作品の画像や映像等の著作物を許可なく使用した投稿(著作権侵害)や他人の顔写真や名前を許可なく使用した投稿の目撃経験も4割を超えている(図表Ⅰ-2-3-1)。
1 WORLD ECONOMIC FORUM「Global Risks Report 2025」〈https://www.weforum.org/publications/global-risks-report-2025/別ウィンドウで開きます〉(2025年3月10日参照)
2 2024年に世界各地で選挙が予定され、AIの偽・誤情報への悪用が懸念されたことから、2024年2月、GoogleやMeta、X、TikTokを含む大手テクノロジー企業により「2024年選挙におけるAIの欺瞞的使用に対抗するための技術合意」が締結された(2025年4月時点で27社が参画)。この協定の署名企業は、AIによる虚偽の選挙コンテンツ生成の検知、社会の認知向上など8つの主要なコミットメントに合意し、選挙におけるAIの欺瞞的利用への対策に取り組むことを約束した(AI Elections Accord「A Tech Accord to Combat Deceptive Use of AI in 2024 Elections」〈https://www.aielectionsaccord.com/別ウィンドウで開きます〉)。
しかし、実際には、2024年の世界各地の選挙において、虚偽が疑われる画像、動画、音声による妨害、虚偽が疑われる情報の発信などが相次いで発生したとの報道がなされている。例えば、2024年の米国大統領選では、選挙関係者を装った人物が郵便投票を破り捨てる偽の動画や、投票機で大規模不具合があったという情報が発信され流通した。
3 第Ⅱ部第1章第2節2「我が国における電気通信分野の現状」参照
4 総務省「デジタル空間における情報流通の諸課題への対処に関する検討会(第2回)資料2−1」
〈https://www.soumu.go.jp/main_sosiki/kenkyu/digital_shokadai/index.html別ウィンドウで開きます〉
5 総務省「デジタル空間における情報流通の諸課題への対処に関する検討会(第2回)資料2−1」
〈https://www.soumu.go.jp/main_sosiki/kenkyu/digital_shokadai/index.html別ウィンドウで開きます〉
