要約
ニセ情報（デマ・フェイクニュース）対策の心理学についての最近の研究成果を3つ（誤情報の拡散対策の効果、誤情報を拡散する心理と報酬、心理的予防接種の効果）紹介して、どんなニセ情報対策が有効か？をまとめます。
本文：ニセ情報対策の心理学
本ブログではリスクコミュニケーションの一環としてニセ情報（デマ、フェイクニュースなどとも呼ばれる）対策を取り上げてきました。
最近のニュースでは、ニセ情報の検知、根拠情報の収集と推定、真偽判定、ニセ情報の影響を評価するプロジェクトが紹介されています。
NHK: ネット偽情報 検知から真偽判定まで行う総合的システム開発へ
本ブログでもChatGPTを用いたデマ判定を試したところ、なかなかの精度で判定ができることを示しました。
これらは情報学分野の話ですが、リスクコミュニケーションと結びつけるところでは心理学の知見が必要になります。心理学分野でのニセ情報対策はどのようになっているのでしょうか？
最近になり、有名学術誌PNASのサイトにてニセ情報対策の心理学に関する動画が公開されました。
PNAS：欺瞞を解読する: 誤情報と闘う心理学
ソーシャルメディアは、気候変動から公衆衛生、政治まで、あらゆることに関する誤情報の拡散を促進するものとなっている。生成型AIの台頭により、この問題はさらに解決困難なものとなっている。放置すれば、誤情報は人々や組織に深刻な損害を与えることになる。しかし今、学際的な研究者たちが集結し、このインフォデミックの本質を突き止め、解決策を模索している。確実な解決策はまだ見つかっていないが、彼らの洞察は極めて重要になる可能性がある。賭け金は大きい。真実の感覚を共有する以外に何もないのだ。
（Googleによる翻訳）
この動画では主に3つの研究成果が基になっています。そこで本記事では、それら3つの記事（誤情報の拡散対策の効果、誤情報を拡散する心理と報酬、心理的予防接種の効果）をそれぞれ紹介して、どんなニセ情報対策が有効か？をまとめてみましょう。
誤情報の拡散対策の効果
Bak-Coleman et al (2022) Combining interventions to reduce the spread of viral misinformation. Nat Hum Behav, 6, 1372-1380
この研究は、SNS（旧ツイッター、Xに変わる前）での誤情報の拡散を防ぐ対策の効果をモデルでシミュレーションした研究です。以下のようにいくつかの対策がありますが、これまでそれぞれどの程度の効果があるのかという比較はありませんでした。
１．ファクトチェック＆削除
誤情報と判定された投稿を削除または非表示にする対策。判定に専門的知識や労力・時間がかかり、その間に拡散を許してしまう。
２．ナッジ
ユーザーに正確性を考慮するよう促すと、偽情報の識別が10～20%向上することが知られており、それを利用して誤情報の疑いがある投稿に警告を記す対策。
３．バイラリティ サーキットブレーカー
株取引のサーキットブレーカーと同様に、一定以上の速度で拡散している情報を一時的に停止する（拡散できないようにする？詳細は不明）もの。ファクトチェックなどほかの対策のための時間稼ぎができる。
４．アカウントの停止
特定の投稿を削除するのではなく、誤情報を投稿しがちな問題のあるアカウント毎停止してしまう対策。例えば3ストライクルール（誤情報を3回投稿・拡散するとアカウントが停止される）などがある。
まず単独の対策の効果をモデルで推定すると以下のような結果になります。対策の効果は累積のエンゲージメント（リツイート、ツイート、引用ツイート、返信の合計）が対策なしに比べてどれくらい低減したかの割合（%）で表現されます。このモデルは感染症の拡大モデルと同じようなものなのだそうです（詳細は読み込んでません）。
１．すべての誤情報が30分以内に正しく判定されてすべて削除されたとすると、拡散は94%低減します。4時間後の場合は56%の低減になります。これが全体ではなく20%のツイートのみが削除されるとほとんど効果がありません。
２．それぞれの個人が拡散を20%減らすナッジは全体として拡散を40%低減しました。
３．誤情報の投稿から4時間後に10%の拡散を停止するサーキットブレーカーを発動すると、拡散は45%低減しました。
４．3ストライクルールを認証済みアカウントのみに適用した場合、拡散は13%低減しました。フォロワー10000人以上のアカウントに適用した場合にはより大きな効果が出ています。
また、これらの対策を複合的に適用するとさらに大きな効果が見込めるようです。投稿後2時間後のサーキット・ブレーカーにより10%拡散を低下させ、さらにそのうちの20%は4時間後に削除され、ナッジによって拡散を10%低下させ、認証済みアカウントとフォロワー10万人以上のアカウントに3ストライクルールを適用すると全体で拡散は53%低減しました。これらは一つひとつは緩い対策ですが、複合的に適用することで効果は高まります。
誤情報を拡散する心理と報酬
Ceylan et al (2023) Sharing of misinformation is habitual, not just lazy or biased. PNAS, 120, 1-8
この研究ではFacebookのユーザーを対象にして、ニュースを共有する習慣が強い人と弱い人で情報を拡散させるパターンがどのように違うかを実験しました。つまり、拡散する側の心理を研究したものです。
実験１
200人のオンライン参加者を対象とした調査で、8つの正しいニュースの見出しと8つのフェイクニュースの見出しを見せて共有するかしないかをそれぞれ選択します。共有習慣の強い人は正しいニュースもフェイクニュースも同じように共有して拡散行動をとったのに対して、共有習慣の弱い人は正しいニュースを選別して共有する傾向がありました。
実験２
839人を対象としたオンライン調査を行い、見出しのみを見て共有するかしないかを判断するグループと、ニュースの内容が正しいかどうかを判断してから共有するかしないかを判断するグループに無作為に割付けました。しかし、最初に正しさを判断させても共有する度合についてはあまり変化がなく、より正確なニュースを共有するようにはなりませんでした（フェイクニュースの共有率は若干減少）。
実験３
共有習慣の強い人は自分と党派性の同じニュースはもちろん、党派性の異なるニュースもよく共有することが示されました（党派的な偏りが少なくなんでも共有する）。一方で、共有習慣の弱い人は党派性の異なるニュースはほとんど共有しません（党派的な偏りが大きい）。
実験４
報酬（いいねやコメント）による習慣づけの影響を調査しました。参加者は3つのグループに分けられ、一つ目のグループは報酬なし、二つ目のグループは正確なニュースを共有したときに報酬を受け取り、三つ目のグループはフェイクニュースを共有したときに報酬を受け取りました。その後すべてのグループは「報酬なし」の条件で8つの正しいニュースと8つのフェイクニュースを共有するかしないかを選択しました。
正確なニュースで報酬を受けたグループは正しいニュースの共有率が高まり（フェイクニュースの共有率は報酬なしグループと同じ）、フェイクニュースで報酬を受けたグループはフェイクニュースの共有率が高まりました（正しいニュースの共有率は報酬なしグループと同じ）。
これら4つの実験結果をまとめると、誤情報を拡散するのはSNSの使用をめぐる習慣的なものであることがわかります。いいねやコメントなどの報酬によって一度習慣づけされてしまうと、正確な情報も誤情報もどんどん拡散する行動をとるようになってしまいます。この結果はSNSプラットフォームの現状の報酬システムのあり方に疑問を投げかけており、システムの変更の必要性を示唆しています。
心理的予防接種（プレバンキング）の効果
Roozenbeek et al (2022) Psychological inoculation improves resilience against misinformation on social media. Sci. Adv. 8, 1-11
誤情報が出回ってから、それに対するファクトチェックを行って削除したり反論をしたりすることを「デバンキング」と呼びます。ただし、上記のとおり広く拡散してしまってからでは効果が薄く、限界があります。反論は広く届かず、また反論を信じさせることもまた難しくなるのです。
これに対して、誤情報が出回る前に情報の受け手側の事前訓練を行うことを心理的予防接種または「プレバンキング」などと呼びます。感染症におけるワクチンのように、事前に誤情報のパターンに慣れることで誤情報を信じにくくなるわけです。
プレバンキングは誤情報そのものに慣れさせるというよりは、一般的な誤情報のパターンに慣れさせるものです。そうすることで、さまざまな誤情報に対して誤りを見分けられるようになります。
この研究ではそのパターンを5つに分類しています：
１．感情を操作する表現により怒りや強い感情を喚起する（許せない！などの言葉から始めるなど）
２．つじつまがあっていない（飛躍した結論を出すなど）
３．誤った二分法（絶対に安全ではないならキケンだ！など、問題を2つの極端な選択肢に分けて結論を誘導すること）
４．個人またはグループを吊るし上げる
５．議論の内容ではなく発言者の人格を否定する
このような5つの「操作」方法を扱った90秒の予防接種動画を作成しています。これらはちゃんとおカネをかけたものでよくできているのでチェックしてみてください。
実験の参加者は予防接種動画を見るグループと関係のない動画（https://www.youtube.com/watch?v=fPEtOaGTZ0s&t=8s、なぜこれ？？）を見るグループに分けられ、その後10件のSNS投稿（操作テクニックが使われた投稿と中立的な投稿をランダムに含む）を見たのちに、投稿の識別能力や投稿をシェアする意思などが測定されました。
これらの動画の視聴によって操作手法の認識が向上し、これらの操作方法を見抜く自信が高まり、信頼できるコンテンツと信頼できないコンテンツを見分ける能力が向上し、共有の決定の質が向上することがわかりました。
特にyoutubeに予防接種動画を広告として掲載する手法が効果的だとしています。1回の視聴に支払う広告料は0.05ドル（=3円程度）なので、数百万人にリーチすることも可能と主張しています。
まとめ：ニセ情報対策の心理学
わりと新しめのニセ情報対策の心理学に関する研究を3つ紹介しました。これらを眺めることで、ニセ情報対策としてだいたいこんなことが研究されているのか、という雰囲気がわかったのではないかと思います。デバンキングは早く、網羅的に、複数の手法を組み合わせることが効果的です。SNSプラットフォームはエンゲージメント量ではなく正しい情報共有に報酬を出すようなシステムに変えるべきです。プレバンキングはデバンキングよりも効果が高いのではと期待されています。最後のはリスク教育みたいな分野と相性が良さそうですね。
コメント