要約
AIなどの新しいリスクが注目される中、リスク学では倫理の重要性が増しています。これまでに本ブログで倫理的なことを扱った記事を掘り起こし、以下の4つのトピック：（１）よいリスクと悪いリスク、（２）功利主義、（３）リスク評価と価値判断、（４）予防原則、について再整理します。
本文：リスクと倫理その１
生成AIのリスクではよく倫理に配慮する必要があると言われており、リスク学の中でも倫理の重要性が増してきています。倫理や正義は社会の中での行動規範（人を殺してはいけないとか）のことで、AIに関しては法規制が追い付かないことが多いため相対的に倫理が重要になるわけです。
個人的には最近リスクの倫理学を考える勉強会に参加して、改めてその重要性も認識できました。
ただし、リスクにかかわる実務者にとっては「倫理学」はなかなかとっつきにくいものがあります。よくトロッコ問題（トロッコがそのまま進めば線路上にいる5人を殺してしまうが、レバーをひいてトロッコの進路を変えれば5人が助かる代わりに1人が死ぬ、という状況でどうするか？）が出てきますが、あまりこういう思考実験をしても実務者にとってはあまりピンと来ません。
ちなみに最初のアイキャッチ画像はトロッコ問題をAIに描かせたイメージ図です。人間だと「問題がある画像」と判断されて描いてくれないのでレゴで描かせてみました。
私も「倫理学」をちゃんと勉強したわけではないのですが、リスク学では倫理を考慮することはわりと当然のことです。実務者にとってはトロッコ問題などの思考実験を論じるよりも具体例を積み重ねたほうがピンときやすいでしょう。
そこで本記事では、これまで本ブログの過去記事で倫理的なことを扱ったものを掘り起こして、倫理の視点から再整理してみたいと思います。扱うトピックは以下の7つになります：
１．よいリスクと悪いリスク
２．功利主義
３．リスク評価と価値判断
４．予防原則
５．規制か自由か
６．ELSI
７．道徳と正義
第１回としてこのうちの１～４までをまとめます。残りの５～７は第２回にてまとめる予定です。
よいリスクと悪いリスク
「コロナでだけは死にたくない」という人が結構いる、という話題から「よいリスクと悪いリスク」という認知について書いた記事です。
専門家はどんな死因であっても「死」は「死」とカウントするのに対し、一般の市民の場合は「よい死に方」、「悪い死に方」を区別するなど、より幅広いリスクの捉え方をするようです。
そして善い―悪い、好き―嫌いなどの対象に抱く感情がリスクやベネフィットの認知に大きく影響します。“the affect heuristic（感情ヒューリスティック）”とは、その対象をよいか悪いか（好きか嫌いか）という感情でまず判断を下し、その対象のリスクやベネフィットは後付けで判断される、という思考過程です。
では、専門家のほうが正しいのだから、情報提供によって市民の間違ったリスク認知を正してやらなければいけないのでしょうか？これが欠如モデルと呼ばれる考え方で、市民が専門家と異なる考え方をするのは「大衆の理解が足りない（欠如している）から」とみなす考え方です。
感情だけで物事を決めるわけにもいきませんが、市民の感情や価値観も無視するわけにもいかないでしょう。どちらの立場どのくらい重視すべきかは倫理的な問題と言えるでしょう。
功利主義
冒頭に記したトロッコ問題で、「5人死ぬよりも1人死ぬほうがよい」と考えるのが功利主義的な考え方になります。
「リスク論は功利主義だからダメだ！」という（リスク学以外の分野からの）批判はよくあります。トータルで死者数が少なくなったとしても、集団の中でベネフィットの恩恵を受ける人とリスクを受ける人が異なる（一部に偏っている）のはよくない、などの問題があります。
リスクの不平等を扱った事例として、死因別死亡率の都道府県格差を解析し、リスクの地域格差をどう表現して格差をどう解消するか？という記事を書きました。
リスクの格差を扱う際にはいくつかの考え方がありますが、ここでは3つの考え方を紹介しました：
１．功利主義
最大多数の最大幸福というもので、個人ごとの幸福の合計を高めようという考え方です。つまり、格差が大きくても構わないので平均的なリスクを最小化する方向になります。今回の例だと都道府県間格差は考えずに全国レベルのリスクをとにかく最小化しようという考え方です。
２．分散最小化
金融工学などでよく使われる考え方ですが、その名の通り格差そのものを最小化しようとする考え方です。今回の例では格差の指標であるジニ係数を最小化するため、リスクレベルの高い県を中心に集中的にリスク対策費用を分配することになります。
３．マキシミン原則
最悪なケース（minimum）を最大化（maximize）するという考え方で、maxiとminがくっついてできた言葉です。今回の例では最悪なケースとは最もリスクの高い県のことで、この県のリスクレベルの改善を最優先することになります。格差が大きいかどうかは考えないので、結果的に格差が広がる可能性もあります。
どの考え方を採用すべきかは倫理的な問題と言えるでしょう。ただし、この3つは対立的な概念というわけではありません。例えば、最悪なリスクレベルをこれ以下にしなければいけないという制約（マキシミン的）付きの中で平均的なリスクレベルの最小化を目指す（功利主義的）、というように組み合わせて使うこともできます。
リスク評価と価値判断
「リスク評価は専門家が行うものなので完全に科学的なものだ」という考えを持つ人も多いかと思いますが、実際にはリスク評価は科学と社会のギャップを埋める「レギュラトリーサイエンス」であって、価値判断的な部分も含んでいます。
そんなリスク評価に潜む価値判断について書いた記事です。
リスク評価における価値判断は大きく二種類に分けられます。
一つ目は、不確実な場合の穴埋めです。リスク評価はファクトではなく、むしろ「ファクトがわかってからでは遅すぎる」という問題に対応するための作法と言えます。もう一つはそもそも何を評価するか？という判断です。
評価に必要なデータがないなどの不確実性に対処するためには、すでにある周辺の科学的な知見をベースにして、仮定や推論を置いてなんとか穴埋めします。その際、なるべく安全側の仮定を置いて、リスクを過小評価するよりも過大評価になるようにしたりします。こういう判断はすでに価値判断・政策判断の領域です。
また、リスクの指標と言えば死亡率がよく使用されるのですが、何をリスク指標とするかは実はもっと大きな話なのです。
例えばコロナ対策においても、感染者数、致死率（感染者数あたりの死者数）、死亡率（人口あたりの死亡率）、病床使用率などが計測されて日々伝えられています。
しかしながら、専門家以外はもっといろいろな要素を考えます。例えば、マスクもせずに大人数で大騒ぎして感染した人と、完璧に防御してきたけどたまたま感染してしまった人を分けてカウントしてほしいと考えたりするでしょう。
観光や飲食、イベントなどで生活している人にとっては感染者数よりも人流の低下度のほうがよっぽど気になるはずです。観光地で商売していてコロナに感染する前に経済的に死んでしまうと感じる人が多かったでしょう。
このようにリスク評価のベースとなる「何を測るか？」という部分にすでに価値判断が入っているわけです。どんな価値判断を取り入れるべきかは倫理的な問題となります。
また、死亡率の代わりとなるリスク指標である損失余命やDALY（disability-adjusted life year、障害調整生命年）の使用についても同様の問題があります。これについても記事を書いています。
リスク指標として死亡率を使う場合、若者であっても高齢者であっても誰が亡くなっても1人は1人とカウントとします。一方で損失余命は死亡時の平均余命を使いますので、20歳の男性（平均余命61.8歳）が1人亡くなるのと78歳の男性（平均余命10.4際）が6人亡くなるのが同じ程度のリスクと計算されます。
このような年齢による死亡の重み付けについて、高齢者差別という問題もありますし、若者の1年と高齢者の1年は本当に同じ価値を持つのか？という問題もあります。
エイジズム（年齢による差別をすること）には
・健康最大化（異なる年齢における人生の1年はすべて同じ価値である）
・生産性（各年齢における生産性に応じて1年の価値が変わってくる）
・フェアイニングス（健康な1年は不健康な1年よりも価値が高い）
の3つのタイプがあり、それぞれ年齢による1年の価値の変化のタイプが異なります。
損失余命は健康最大化、DALYはフェアイニングスの考え方がベースになります。
医療経済学の研究によれば、高齢者よりも若者を優先するということ自体には広い同意がありますが、3つのタイプのどれが好ましいかは意見が分かれるようです。損失余命やDALYをリスク指標として使用する際はこのような倫理的な側面を知っておいてもよさそうです。
予防原則
・コロナ感染拡大が手遅れになる前にワクチンを接種しよう
・ワクチンの危険性が明らかになってからでは遅すぎるのでやめたほうがよい
この二つはどちらも「予防原則」的な考え方ですが、両者は矛盾していて両立しませんね。予防原則について改めて解説する記事を書きました。
この中で、予防原則には弱いバージョンから強いバージョンまでいろんなものがあるということを解説しています。
例えば発がん性物質のリスク評価で用いる線形閾値なしモデルを考えてみます。これは、実験的に（疫学的に）影響が検出できない低い曝露量における発がん確率について、原点に向かって外挿する直線を引いて計算する、というモデルです。
基本的にリスクを過大評価するような考え方がベースであり、科学よりもポリシーに近い作法です。これだって立派な予防原則的考え方です。
一方で極端に強いバージョンを考えてみると、北朝鮮は核兵器を開発している危険な国であるため、実際に他国に被害を与えるかどうかはわからないが先制攻撃が正当化される、となります。
また、危険そうな奴は実際に犯罪を犯すかどうかはわからないが予防原則で事前に逮捕して拘留できる、などの論も予防原則の暴走バージョンとなるでしょう（日本の刑事裁判では「疑わしきは罰せず」が原則）。国がこんなことをやりだすと、どんどん専制的な国になっていきます。
・どこからどこまでの範囲で予防原則が適用されるべきか？
・どのくらい強さの予防原則が適用されるべきか？
ということは倫理的な問題と言えるでしょう。
まとめ：リスクと倫理その１
リスクと倫理についてこれまでに本ブログで扱った内容から、（１）よいリスクと悪いリスク（関連して欠如モデル）、（２）功利主義、（３）リスク評価と価値判断、（４）予防原則、について再整理しました。実務者にとっては思考実験のような議論よりも具体例の積み重ねのほうが頭に入りやすいでしょう。
第2回に続きます。
コメント