要約
ブラジルでX（旧ツイッター）が禁止されましたが、偽情報対策としてファクトチェックやプラットフォーム規制が注目されています。本記事では情報セキュリティ白書2024における誤・偽情報の脅威と対策の内容を整理し、リスク学的な視点から現在欠けている視点について考察します。
本文：情報セキュリティ白書2024と誤・偽情報
ブラジルでSNSプラットフォームの一つであるX（旧ツイッター）の遮断が始まりました。偽情報の温床となっていることが原因です。いろいろな規制方法が考えられる中で、いきなり全面禁止という異例の措置に出ました。このような動きに追随する国はあるのでしょうか？
/cloudfront-ap-northeast-1.images.arcpublishing.com/sankei/GTJVM5TUUJPABPF3W4PFY5372U.jpg)
本ブログではフェイクニュース、偽情報、デマなどに関連する記事をいくつも書いてきましたので、SNSにおける偽情報の影響とその対策には注目しています。例えば以下の記事では、日本人は海外に比べてフェイクニュース・ニセ情報にだまされやすいという調査結果を踏まえて「ニセ情報に騙される人は増えたのか？」という疑問について考えました。
最近、日本でもいろいろな動きがあります。2024年の7月に情報セキュリティ白書の2024年版が公開されました。この白書の「第4章 注目のトピック」の一つとして「4.1 虚偽を含む情報拡散の脅威と対策の動向を掘り下げる」という部分があります（もう一つのトピックはAIのセキュリティ）。
独立行政法人情報処理推進機構（IPA）：情報セキュリティ白書2024
また、総務省は有識者検討会にて「デジタル空間における情報流通の健全性確保の在り方に関する検討会とりまとめ案」を公表しました。
デジタル空間における情報流通の健全性確保の在り方に関する検討会（第26回）
本記事では、情報セキュリティ白書のほうを取り上げ、フェイクニュース関連の内容を整理してみたいと思います。まずは情報錯乱の分類をめぐる状況を取り上げ、次に偽情報への対策をめぐる状況を解説します。最後にこれらの内容に対してリスク学的な視点から考察を述べます。
総務省のとりまとめのほうはまた今度別の記事で取り上げることにします。
分類をめぐる状況：情報の分類、虚偽性の分類、組織的な動機と個人的な動機
情報騒乱とは虚偽を含んだ情報の拡散による社会の混乱のことを指します。まずはこの情報騒乱の分類を3つの視点（真偽性や故意性、虚偽性、動機）から整理してみましょう。
p208にある以下の図4-1-1は真偽性や故意性による分類です。
間違いを含む情報と有害な情報があり、その組み合わせで3つに分類されます：
１．誤情報：間違いだが悪意のない（事実誤認や過失による）情報
２．偽情報：間違いかつ悪意のある情報
３．悪意ある情報：間違いではないが悪意のある情報（誹謗中傷、機密・個人情報の曝露）
フェイクニュースは「間違いを含む情報」なので。誤情報と偽情報の両方を含みます。ただし、問題があるのは悪意を持って故意に間違った情報を広げようとする偽情報のほうです。
また、デマ（デマゴギーの略）は、悪意を持って流された虚偽の情報のことなので、偽情報と定義的には同じになりますね。
「間違いを含む情報」と先ほど書きましたが、「間違い」とはいったい何でしょうか？いわゆる虚偽性についてもいくつかに分類されています（p209）：
１．内容が事実でない、あるいは不正確なこと
２．内容を拡大解釈、誇張すること
３．飛躍した論理で情報を関係させること（ナラティブ）
４．情報伝達の意図を誤らせること（ステマなど）
２は事実をベースに間違った解釈を広めることで、化学物質のリスクに関してはよくこれが悪用されます。「○○を（大量に）与えたら△△が死んだ」と「死んだ△△から○○が（超微量）検出された」は両方事実ですが、「△△が死んだ原因は○○である」は間違いです。この間違った結論を（直接書かずに）想像させるように導くことが悪用です。
３は○○を食べた後に健康になった（もしくは健康が悪化した）などの因果関係があるかどうか不明な情報をもとに、その人の具体的なエピソードを添えて感情に訴えかけ、あたかも因果関係があるかのように錯覚させるテクニックです。
マスコミなどは１の虚偽情報を扱うことはほとんどありませんが、２や３のテクニックはよく使いますね。これらを誤情報・偽情報と断定することはなかなか容易ではありません。
最後に、動機に関する分類をしてみましょう。
偽情報の中でも、安全保障上の文脈（ロシアのウクライナ侵攻やイスラエルのガザ侵攻など）で国家戦略的に流される偽情報と、個人的な利益（いいやフォロワー数・インプレッション稼ぎ、承認欲求の充足、SNSからの収入増加）を動機として流される偽情報は分けて考えたほうがよさそうです。両者ではその影響や対策も大きく違ってくるでしょう。
ただし、福島における原発処理水の放出など、両方にまたがる事案もあったりします。個人的な活動として「汚染水」などという扇動とともに偽情報を流している場合と、中国などが非関税障壁の正当化や、日本・国際機関（IAEAなど）の評判を貶めるために意図的・組織的に偽情報を流している場合の両方があります（p214-215）。
偽・誤情報対策をめぐる状況
偽・誤情報対策はp222にて以下の6つに整理されています：
１．情報操作型サイバー攻撃への対処
２．ファクトチェック機能強化
３．プラットフォーマー規制
４．利用者のリテラシー向上
５．ナラティブに基づく拡散対応
６．生成AIの利用ルール策定
１については上記の分類でいうと安全保障上の文脈の話ですので、国家間の情報戦争のようなところになるでしょう。私の論じられる範囲外です。
２については「官民を通じた多角的なファクトチェック体制の構築、急増するコンテンツのチェック自動化等の技術支援等が必要」と書かれています。ただし、ファクトチェックはやり方次第では偽情報の露出を増やし、拡散に逆に貢献してしまうことに注意が必要ですね（元の情報を引用しないほうがよい）。
また、特にSNSでは人力でのファクトチェックには限界があると思います。本ブログではAIにデマを判定させる方法についての記事を書いていますので、詳細は以下をご覧ください。
３については最近になって大きな動きが出てきました。p221にも書かれているように、「プロバイダー責任制限法の改正案（新法律名は情報流通プラットフォーム対処法）」が2024年5月に成立し、SNSを運営する企業に対し、不適切な投稿の削除の申請があった場合に迅速な対応や削除基準の公表等が義務付けられました。
上記の分類でいうと「悪意のある情報」をターゲットにしたものですが、偽情報とも組み合わされることも多いので、その効果が期待できます。
読売新聞：ＳＮＳ大手に違法投稿の迅速対応を義務付け…改正プロバイダー責任法が成立
４については、これが根本的な対策になると思いますが、効果が出るまでに多くのコストや時間がかかりそうです。現在でもすでに小学校からSNSのルール・マナー的なことが教えられているようです。
５については、「ナラティブ」という言葉の意味が一般的な用法と異なるため、あまり使わないほうがよいと私は考えます。情報におけるストーリーとしてのもっともらしさと科学的な確からしさをわざと混同させることを指していると思われますが、わりとネガティブな意味をもっていますね。
一方で、ナラティブの一般的な意味は「物語」「語り」であり、エビデンスの対極と扱われることもありますが、実際にはお互いを補完しあうものです。
対策としては「プレバンキング」と呼ばれるもので、こんな偽情報が出てくるかもしれないから気を付けてね、という感じで実際の偽情報が出てくる前に「想定偽情報」にさらすことでダマされないように準備をすることです。
６については、生成AIによるリスクのひとつに偽情報の生成があります。本ブログでも生成AIのリスクについてまとめた記事を書いていますので、詳細は以下をご覧ください。
誤・偽情報対策におけるリスク学的視点
最後に誤・偽情報対策をリスク学的な視点から考察してみましょう。ここでは以下の2点に注目します：
（１）リスク評価がない
（２）リスクコミュニケーションの目的は信頼関係の構築
（１）リスク評価がない
リスク評価なしにリスク管理はありません。対策を考える前にまず誤・偽情報はどれくらい社会に悪影響を与えているのか、というリスク評価をやるべきでしょう。
まず、誤・偽情報から守りたいものは何なのか？ということを考える必要があります。次に、その対象へのリスクをある程度定量的に表現します。さらに、許容可能なリスクの大きさはどれくらいか？を考え、最後に評価したリスクが許容できるかできないかを判定します。
このプロセスはリスクマネジメントにおけるリスク評価のプロセスが参考になるでしょう。
このようなリスク評価の結果をもってはじめてどのような対策が必要かが決まるはずです。現状はリスク評価なしにとにかく誤・偽情報は脅威だ、対策しなければいけない、という構図になってしまっています。
とりあえずなんらかの影響指標を開発することが必要になるでしょう。誤・偽情報の種類ごとに影響を指標で表現し、その大小関係を比較すると相場観が養われてくると思います。
（２）リスクコミュニケーションの目的は信頼関係の構築
本ブログでは誤・偽情報対策はリスクコミュニケーション（リスコミ）の一環として考えています。リスコミの基本は平時から政府と国民の信頼関係を築くことですが、今回まとめた対策にはこの視点が抜けています。信頼されていない政府がファクトチェックばかりやっていても効果が望めません。以下は本ブログの過去記事に書いた内容です。
リスコミとは、ある特定のリスクについて関係者間(ステークホルダー)で情報を共有したり、対話や意見交換を通じて意思の疎通をすることであって、関係者間の相互理解を深めたり、信頼関係を構築することが目的となります。一方的な情報提供ではなく双方向的であって、情報発信側の思うがままに人々を操る方法ではありません。
https://nagaitakashi.net/blog/risk-communication/evaluation-1/
また、リスコミと同様に偽情報対策が成功したかどうかは上記の記事に書いた通り何らかの計測結果に基づく必要があります。さらに、計測結果の良し悪しだけが評価軸ではありません。上記の記事のとおり：
・目的の設定は適切か？
・情報の受け手を絞り込んでそのニーズにあった情報を提供しているか？
・双方向性が確保されているか？
・リスコミが継続される仕組みが整っているか？
・計測結果に基づく改善を繰り返す仕組みが整っているか？
などのリスコミのプロセスの評価軸と同様に、偽情報対策もプロセスを評価することが重要となるでしょう。
まとめ：情報セキュリティ白書2024と誤・偽情報
情報セキュリティ白書2024における、誤・偽情報の脅威と対策の内容を取り上げました。情報錯乱は真偽性や故意性によって3つに分類されます（誤情報、偽情報、悪意ある情報）。偽情報対策はファクトチェックやプラットフォーム規制が注目されていますが、リスク評価に基づく意思決定やリスコミの基本である信頼関係の構築の視点が欠けていると考えられました。
コメント