要約
前回の記事に引き続き、「現代誤情報学入門」を元にデマ対策について整理します。まずはデマ対策の分類について整理し、次に各種デマ対策についてまとめます。最後に本書の著者らが作成したプレバンキングのためのショート動画などの成果について紹介します。
本文：デマ対策の最前線
Jon Rozenbeek, Sander van der Linden(著)、加納安彦（訳） (2025) 現代誤情報学入門を紹介する記事の第2回です。
以下の第1回の記事では、なぜデマを信じ、なぜデマを拡散するのか？について整理しました。なぜデマを信じるのか？については、最も影響が大きい要因は積極的オープンマインドネス思考（自分の信念と異なる意見や情報に対しても、それが妥当であれば受け入れる姿勢）の影響が大きく、なぜデマを拡散するのか？については、二極化仮説（党派性やアイデンティティに基づく動機）の影響が大きいことが示されています。
誤情報を信じる要因は、主に「認知的要因」と「アイデンティティに基づく要因」に分けられます。
認知的要因について、数的能力（ニューメラシー）が低い、あるいは熟慮的な思考（システム2）よりも直観的な思考（システム1）が強いと、誤情報にダマされやすくなります。しかし、最新の研究で最も重要視されているのは「積極的オープンマインドネス思考」です。
アイデンティティと社会的要因について、政治的党派性や集団への帰属意識が影響します。社会の二極化が進むと、正誤にかかわらず「自分の所属集団に肯定的な情報」を信じる傾向が強まります。
情報を正確だと認識しているかどうかと、それを共有するかどうかは別問題です。プラットフォームの構造として、SNSは正確性よりもインプレッション（注目度）を稼げる魅力的な情報を優先して拡散させる仕組みになっています。
情報の拡散の動機には「無知」「混乱」「二極化」の3つの仮説がありますが、研究では「二極化仮説」が最も強いことが判明しました。つまり、真偽がわからないのではなく、「自分の集団を利し、対立する集団に不利な情報を広めたい」という動機が重要ということです。
この本では、こうした心理を逆手にとった情報操作に備えるため、事前に操作のパターンを学ぶプレバンキング（心理的予防接種）の重要性を説いています。
本記事では、引き続き「現代誤情報学入門」を元に、デマ対策について整理します。まずはデマ対策の分類について整理し、次に各種デマ対策についてまとめます。最後に本書の著者らが作成したプレバンキングのためのショート動画などの成果について紹介します。
デマ対策の分類
まずは、デマ対策の分類から始めましょう。「現代誤情報学入門」の6章と7章では、誤情報対策の分類として4つの分類（法規制、テクノロジーの活用、教育、行動科学）と、個人レベルとシステムレベルの分類が示されています。（本書にはありませんが）私のほうでこれらを組み合わせると4×2=8つの分類に整理されます。
法規制は、誤情報の発信側に対する規制とプラットフォーム側の規制に分かれます。例えば、ギリシャの偽情報防止法では、誤情報の発信が犯罪とされています。これは発信する側を規制するものですね。一方で、ドイツのネットワーク執行法はSNSのプラットフォームに対して誤情報を削除することを義務化しています。これはプラットフォーム側の規制です。
もちろん日本でも名誉棄損や業務妨害などで発信側への刑罰があります。本ブログの過去記事でも法的措置の効果を検証した記事を書いています。
法規制はそれ以外の対策に比べてはるかに効果的な可能性があります。ただし、そのリスクも大きいことが懸念されます。そもそも誤情報をだれがどのように線引きするかは大変難しい問題です。やりすぎれば表現の自由を侵害します。
AIなどのテクノロジーによる、SNSへ投稿された誤情報への自動ラベリングなどは、基本システム側の対策になります。ただし、現在は自動ラベリングよりもユーザー同士が背景情報を追加するコミュニティノート機能がメインです。
教育は現状の誤情報対策の主流を占めていると言えるでしょう。教育にもメディアリテラシー、クリティカルシンキング、プレバンキング、デバンキングなどの種類があります。これについては後ほど詳しく紹介します。
行動科学とは心理学を応用した対策です。ナッジについては後ほど詳しく紹介します。
テクノ認知とは、人の心理の特性をふまえてデジタル技術の設計を行うことで、例えば共有ボタンをすぐ押せないようにひと手間加えて情報拡散を防ぐ試みなどのことです。すでに実装されているのかもしれませんが、行動科学は「対策やってます」と知らせてしまうと効果が落ちるのでわざわざ知らせません。
デマ対策の種類とその内容
個人向けの教育にカテゴライズされるクリティカルシンキング、メディアリテラシー、プレバンキングは「ブースト」と呼ばれています。これらは対策自体のリスクが低いことが特徴ですが、学ぶ意欲のない人には効果がない、という欠点もあります。
対策自体のリスクが低いと書きましたが、正確な情報に対しても懐疑心を抱きやすくなるという懸念もあります。ただし、科学的な思考過程には常識を疑うみたいなことも非常に重要ですので、これもリスクとは言えないかもしれません。
プレバンキングは著者らの専門であるため、「現代誤情報学入門」では非常に詳しく書かれています。主には誤情報拡散の手法（レトリックや情報操作の手法）を事前に学ぶことでダマされにくくなるものですが、それ以外にもいくつか種類があります（ここでは説明を省きます）。
オンラインゲームやショート動画で学べるものがいろいろ開発されており、学ぶ意欲が低い人に何とか届けようとする努力がされています（詳細は後で紹介）。日本でもそういったコンテンツを開発して効果を検証するような研究が望まれますね。
開発されたゲームの一つであるBad Newsをプレイした群では、テトリスをプレイした群よりも誤情報への信頼度が有意に低下しました。この効果は3か月後まで続いたとのことです。ただし、この間情報の評価をしていること（実戦練習）が効果の持続に重要で、何もしていないと9週間後に効果がなくなったようです。動画のほうにも大きな効果があったとの結果が出ました。
ナッジは、能力不足でなく注意不足によって誤情報の拡散が生じる、という前提にたっています。アタマが熟考モード（システム２）ではなく直感モード（システム１）になっていると、ダマされやすくなるので、システム２を刺激することで誤情報の拡散を回避できる、という仮説です。
例えば、SNSで有害・攻撃的な情報を投稿しようとしているユーザーに対して、投稿する前に一旦考え直すよう促す介入を行ったところ、攻撃的な投稿が減少したという結果が得られました。
ナッジそのものについては、本ブログの過去記事で紹介しています。繰り返すと慣れてきて効果が低下するという欠点もあります。
デバンキングはファクトチェックを通じて誤情報を訂正することです。例えばfacebookなどを運営するMeta社によるファクトチェックプログラムは、外部のファクトチェック組織と連携するものでした。ただし、2025年にトランプ大統領就任後にこのプログラムを終了してコミュニティノート形式に移行しました。
デバンキングについてはバックファイア効果（考えを改めるどころか、逆に信念を強めてしまう効果）が懸念されていましたが、懸念されていたよりもこのような副作用は低いとされているようです。本ブログの過去記事でもデバンキングの悪影響について書いています。
デバンキングには効果があるという研究と、効果がないという研究が混ざっているのが現状です。デマを信じこんでいる人には効果がなく、迷っている人には効果があるようです。訂正する組織への信頼性が重要とされています。また、何を誤情報とするか？の線引きがあいまいだという問題があります。
補足情報
本書の内容紹介はここまでですが、実際に著者らが開発したショート動画など、補足的な情報についても紹介しておきましょう。
本書ではプレバンキングの対象となる情報操作のテクニックそのものについては詳しく紹介されていませんが、著者の1人であるvan der Lindenによる以下の本に詳しく書かれているようです。
van der Linden (2023). Foolproof: Why misinformation infects our minds and how to build immunity. W.W. Norton & Company.
情報操作のテクニックは6つの情報操作の頭文字をとって「DEPICT」と呼ばれています。
D: Discrediting（信頼性の失墜）：情報発信者が自分たちを批判するジャーナリストやファクトチェッカーなどの批判者を攻撃し、自分たちに向けられた疑惑から人々の注意をそらす手法。相手の主張そのものではなく、人格や性格を攻撃する。
E: Emotion（感情の操作）：恐怖、怒り、嫌悪といった強い感情を呼び起こす言葉を多用し、情報の拡散力を高めると同時に、人々の批判的な思考を妨げる手法。特に道徳的・感情的な言葉を投稿に含めることで、人々の関心を強く引きつけようとする。
P: Polarization（分断の助長/極性化）：人々を政治的な中間層から引き離し、グループ間の対立や溝を深めることを目的とする。これには、特定の論争についてbotを使用して大量のメッセージを発信して議論を過熱させたり、相手グループへの個人的な嫌悪感を高める「感情的極性化」といった戦略が含まれる。
I: Impersonation（なりすまし）：有名人、政治家、専門家といった実在の人物や、信頼できるニュース機関・組織になりすまし、根拠のない情報に偽りの信頼性や権威を与えようとする。
C: Conspiracy（陰謀論）：実際に起きた出来事を利用して、公式な説明や主流の意見に疑いを投げかける。少数の邪悪なエリート集団が裏で出来事を操っているといった代替的な説明を提示することで、不信感を植え付ける。
T: Trolling（トローリング）：人々の反応を引き出したり、世論を操作したりするために、意図的に感情を逆なでするような扇動的な素材を「餌」として投げ込む手法。これにより混乱を招いたり、特定の議論を妨害したりする。
また、プレバンキングのショート動画は以下にあります。これは本ブログの過去記事でもすでに紹介しています。
この5種類の動画で取り上げられている5つの情報操作の手法への対応策は以下のようにまとめられます。
１． 感情的な言語 (Emotional Language): ・投稿が恐怖や怒りを引き起こす感情的な言葉で埋め尽くされていないかを確認する ・「それらの感情的な言葉を取り除いたときに、その内容は依然として説得力があるか」を自問する ２．不整合な議論 (Incoherence): ・一つの結論を導くために複数の議論が使われており、それらが互いに矛盾していたり、一方を認めるともう一方が成り立たなくなったりしていないかをチェックする ３．誤った二分法 (False Dichotomies): ・選択肢が2つ（「AかBか」）しか提示されていないかを確認する ・提示された選択肢が実際には互いに排他的ではない（両立しうる）、あるいは他にも合理的な選択肢が存在するのに隠されていないかを疑う ４．スケープゴート (Scapegoating): ・深刻で複雑な問題について、その責任を単一のグループや個人に押し付けていないかを確認する ・その対象が問題全体の責任を負うとは到底考えられない場合、複雑な問題が不当に単純化されている ５．人身攻撃 (Ad hominem Attacks): ・議論の中身ではなく、発言者の人格や性格が攻撃の対象になっていないかを確認する ・攻撃されている特徴が、議論されている主題と無関係、あるいは不適切なものでないかを判断する
また、デバンキングの効果的な手法は、「Debunking Hnadbook 2020」で紹介されており、さらにプレバンキングの実践ガイドも2025年に公開されています。
これらも紹介したかったのですが、すでに文字数が多くなりすぎてしまったので、第3回に持ち越します。
まとめ：デマ対策の最前線
「現代誤情報学入門」を元に、デマ対策について整理しました。4つの分類（法規制、テクノロジーの活用、教育、行動科学）と、個人レベルとシステムレベルを組み合わせると4×2=8つの分類に整理されます。この中でも、個人レベルの教育にカテゴライズされるプレバンキング（誤情報拡散の手法を事前に学ぶことでダマされにくくなるもの）について特に詳しく紹介しました。オンラインゲームやショート動画で学べるものがいろいろ開発されており、それぞれ効果があることが確認されています。
コメント