AI農業のリスク―新しい技術には新しいリスクがある

AI-agriculture その他

要約

AI農業のリスクとして、(1)ハッキングなどのセキュリティのリスク、(2)環境破壊のリスク、(3)大企業によるデータ独占のリスクが挙げられていますが、誤同定による被害、機器類の事故、ディープフェイクやAIボットによる社会の混乱のほうがよりリアルなAI農業のリスクとなりえます。

本文:AI農業のリスク

人工知能(AI)の活用は非常に身近なものとなってきました。以下のクローズアップ現代の放送記録を見ると、顔認証技術(AIによる画像認識)を活用して、顔パスによるゲートの通過だけではなく、コピー機や自販機も全て顔パスで利用できるのだそうです。最近では無人店舗も登場し、顔認証で個人を特定して事前に登録したクレジットカードで支払いできます。オンライン授業では生徒がどれだけ集中しているかを表情からAIが判断することもできます。

NHKクローズアップ現代:暮らしが激変!? 急速に広がる“顔認証”

暮らしが激変!? 急速に広がる“顔認証” - NHK クローズアップ現代 全記録
【NHK】カメラでとらえた人物の顔を顔写真データと照合し、その人が誰なのかを特定する非接触型の技術、「顔認証」。新型コロナの感染拡大によって注目が集まり、急速に普及が進んでいる。世界最高水準の顔認証の技術を持つNECは「顔パス」オフィスを実現。ゲートの通過だけでなく、コピー機や自販機もすべて「顔パス」で利用することが可...

新しい技術には新しいリスクがあります。上記放送では、防犯カメラに写った犯人をAIが誤同定して誤認逮捕に至ったアメリカの事例も紹介されています。また、顔データが勝手に収集・解析されていることに対して不安の声も上がっています。

AIを用いた画像合成技術はディープフェイクと呼ばれており、存在しない動画を作り出すことができてしまいます。この動画はオバマ氏がトランプ氏を罵倒するフェイク動画です。

AIが差別を助長するなどのリスクも指摘されています。Microsoftが開発したAIボット(自動で会話をする機能をもったAI)がツイッター上の会話を学習して差別発言を連発するようになったり、アマゾンが開発したAI採用が男性を有利に採点するようになったりなどの欠陥が明らかとなりました。

Gigazine: Microsoftの人工知能が「クソフェミニストは地獄で焼かれろ」「ヒトラーは正しかった」など問題発言連発で炎上し活動停止

Microsoftの人工知能が「クソフェミニストは地獄で焼かれろ」「ヒトラーは正しかった」など問題発言連発で炎上し活動停止
Microsoftは会話理解を研究する目的でボット「Tay」をTwitter・GroupMe・Kikでリリースしたのですが、登場から数時間後に停止させました。停止の原因は、ユーザーとの会話を通じて人種差別や性差別、暴力表現などを学習し、不適切にもほどがある発言を連発したことにあります。

ロイター:焦点:アマゾンがAI採用打ち切り、「女性差別」の欠陥露呈で

焦点:アマゾンがAI採用打ち切り、「女性差別」の欠陥露呈で
米アマゾン・ドット・コムが期待を込めて進めてきたAI(人工知能)を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、運用を取りやめる結果になった。

このように、AIのリスクは「人」に関係するものが多く、社会性や倫理面などの問題を抱えています

AIは農業分野にも応用されています。AI農業(いわゆる「スマート農業」)は今幅広く研究開発が進んでいます。農業は生き物を相手にする仕事なので、上記のような「人」にかかわるAIのリスクはあまりないイメージがあります。ところが最近になって、このAI農業のリスクを指摘するような論文が公表され、注目を集めています。

そこで本記事では、AI農業のリスクを取り上げて、まずAI農業とはどのようなものかを整理し、次に論文で指摘されたAI農業のリスクについてまとめます。最後にもっとリアルなAI農業のリスクはどんなものかを考えてみます。

AI農業とは

農林水産省のスマート農業に関するWEBサイトを見てみましょう。以下のサイトの「1. スマート農業とは」 -> 「スマート農業の展開について」の資料が良さげです。

農林水産省:スマート農業

スマート農業:農林水産省

農業人口の減少・高齢化によって、人手不足が深刻化しており、長年の経験が必要な農業技術の継承も課題となっています。そこで農業と先端技術を組み合わせたスマート農業を活用して、
(1)作業の自動化
(2)情報共有の簡易化
(3)データの活用
の3本柱でこの問題を解決しようとしています。

トラクターなど農機の無人走行では、障害物や人を認識して停止するなどのAIによる画像認識機能が必要になります。

ドローンなどに取り付けられたカメラが農地を撮影し、作物の生育の悪い部分を見つけてそこだけ追肥するなどの技術でも、画像認識機能が欠かせません。

作物が植えられている畝間を自動で走って雑草を刈り取る除草ロボットなどもあります。これも畝間や障害物を認識する機能が必要です。

そのほかにもいろいろとありますね。どれも画像認識技術が応用されています:
・長年の経験が必要だった病気や害虫の被害をAIが認識して、必要な対策を指示するようなアプリ
・収穫適期の果実や野菜だけを認識して自動で収穫するようなロボット

さて、このようなAI農業は冒頭に紹介したような「人」に関係するリスクはあまりなさそうですね。次からAI農業にまつわるリスクについて見ていきましょう。

AI農業のリスクとは?

AI農業のリスクを指摘する論文が以下ですが、私の専門外ということもあり抽象的でわかりにくいです。

Tzachor et al (2022) Responsible artificial intelligence in agriculture requires systemic understanding of risks and externalities. Nature Machine Intelligence, 4, 104-109

Responsible artificial intelligence in agriculture requires systemic understanding of risks and externalities - Nature Machine Intelligence
Machine learning applications in agriculture can bring many benefits in crop management and productivity. However, to avoid harmful effects of a new round of te...

AI農業のリスクは以下の3つに分けられるとあります。
(1)取得、アクセス、品質、信頼性などのデータに関連するリスク
(2)モデルの狭い最適化とテクノロジーの不平等な採用から生じるリスク
(3)機械学習プラットフォームの大規模な展開に関連するリスク

(1)はデータが不十分であったりアクセスに問題があったり、信頼性が不足しているなどの話です。(2)は儲かる地域(国)や作物でしか技術が実用化されないために、不平等が大きくなるという話です。(3)はデータが一部の大企業に独占されるなどの話です。

この論文をベースとした以下の日本語解説記事を見たほうがわかりやすいので、以降はそちらを参照します。

ITmedia: AIは食糧危機を救えるか? 農作物収穫のメリットと、サイバー攻撃などによる新たなリスク

AIは食糧危機を救えるか? 農作物収穫のメリットと、サイバー攻撃などによる新たなリスク
コロナ禍は食糧供給にも大きな影響を与えている。そこで期待されているのが、AIによる農業の後押しが期待されている。農作物収穫の効率化を目指す一方、サイバー攻撃などによる新たなリスクが発生すると指摘する声もある。

以下のように具体的なリスクの事例がいくつか挙げられています。
(1)ハッキングなどのセキュリティ(悪意のある攻撃)のリスク
(2)環境破壊のリスク
(3)大企業によるデータ独占のリスク

(1)はAI機器がハッキングされて、それに依存している生産がストップしてしまうという話です。攻撃の動機としては身代金が挙げられます。(2)はAIが生産性を最大にしようとして「肥料を大量に投与したり、農薬を大量に散布したり、土地を無理に開墾しようとしたりする。」のだそうです。(3)は特定の企業のサービスに依存するようになり、農家が搾取されるという話です。

読み物としてはとても面白いがリアリティが欠けてるなーというのが私の感想です。

まず(1)について、意図的な攻撃は動機としては弱いと思います。身代金目的とすると、個別の農家を狙っても取れる金額はたかがしれています。大企業の工場を狙うのとはリターンが違いすぎでしょう。

ただし、身代金ではなく政治的主張が動機になることもあるようです。しかし、政治的主張をするにも個別の農家を狙うのはあまりに筋が悪いです。政治的主張は世間からねたまれている大企業を狙ってこそ効果があり、世間的に弱者というイメージをもたれている農家を狙っても人々の支持が得られにくいでしょう。

(2)について、環境破壊については意味がわかりませんでした。むしろAIに任せたほうが農薬・肥料の用量・用法を間違う心配はありません。農薬の流出事故や残留基準値超過などはヒューマンエラーが主な原因であり、AIを活用することで事故は確実に減ると思われます

また、決められた用量・用法を守りながら最大の収量を目指すことは悪いことでもなんでもありませんよね。環境保全型の農業を目指したければ経営者がそのような意思決定をしてAIにインプットすればよいだけのことでしょう。ドラクエIVのように「ガンガンいこうぜ」、「いのちをだいじに」とかいくつかのシナリオを選べるようにしておけばよいですね。

さらに、「土地を無理に開墾」ってAI農業とはちょっと違うような気がします。今非常に困難な状況である農地の取得まで(農業委員会や地主との交渉とかも)AIが勝手にやってくれるならそれはそれで便利ですが。。。

(3)について、大企業がデータを独占してケシカランみたいな話も「大企業は悪いもの」と決めつけているようです。遺伝子組換え作物がらみで「巨大企業のモン〇ントガー」みたいな話を思い出しますね。

Appleが開発したiPhoneを使って、Googleが開発した各種サービスを使ってわたしたちの生活は大きく変化しました。彼らはデータをたんまりと蓄積していますが、それを利用して日々サービスを改善しています。これははたして「悪いこと」なのでしょうか?AIのリスクというよりは大企業のコンプライアンスの問題ということになるでしょう。

農家は環境のことを何も考えずに農薬・化学肥料を大量に使っている、とか、巨大企業は悪いことばかり考えている、とか、世間ウケしそうな心地よいストーリーをベースにしているような印象を受けました。
(ちょっと辛口になってしまいました)

もっとリアルなAI農業リスク

農業の現場を想像するに、もっとリアルなAI農業のリスクが挙げられるのではないかと思います。ここではそんなことを考えてみましょう。

まず、画像認識は誤同定のリスクが必ずあります。AIが害虫だと判断して殺虫剤を使ったら実は害虫をやっつける天敵だったとか、AIが雑草だと判断して刈り取ったら作物でしたとか、そういうことはあるでしょう。

事故のリスクも当然ありますね。農作業ロボや除草ロボ、自動運転トラクターによる人身事故などはもっとも起こりうるリスクだと思います。

事故は環境汚染も引き起こします。農薬を積んだドローンが墜落して農薬が農場の外に流出するなどのリスクもありうるでしょう。

安全とは「許容できないリスクがないこと」なので、安全性を示すにはリスク評価を行い、それが許容レベル以下であることを示していく必要があります。そのための評価法や規制制度(もしくは自主管理制度)が求められます。新規の技術には新規のリスクがつきまとうので、技術開発の時からリスク評価を同時に進めないと、実用化を進める場面で思わぬところで足止めを食らう羽目になります。開発段階からリスク評価を同時に進めるのは農薬の開発などではあたり前に行われていることですね。

冒頭で紹介したディープフェイクが農業で悪用される可能性はないでしょうか?例えば実際には農業をしていないにもかかわらず、自分で農作業しているようなフェイク動画を作り、架空のストーリー(無農薬やらなんちゃら)で付加価値つけて、市販の野菜を自作の野菜と偽って高値で転売するなどのこともできてしまうかもしれません。

また、農業デマをまき散らすAIボットなども出てくるかもしれません。農薬や化学肥料などについてひたすら不安をあおったり、巨大企業が種子を独占みたいなうわさ話もよくsnsでは拡散します。現在は人力で行われているこのような不安情報拡散行為がAIボットによって行われるようになると、数も無限に増殖しますし、どれだけ反論しても全く無意味ですし、ネット上で攻撃しても心理的なダメージはゼロです。こんなことも想像すると結構恐ろしいことに思えますね。

このようなデマに対してsnsなどのプラットフォームがどのように対応すべきかについて、本ブログの過去記事に書いていますので、コチラも参考にしてください。

SNSなどのプラットフォームはトンデモ科学な発信にどこまで責任を負うべきなのか?英国王立協会のレポートを紹介します
トンデモ科学情報の拡散のツールになっているsnsなどのプラットフォームはいったいどこまで責任を負うべき(強権を発動すべき)なのだろうか?という疑問に参考となる英国王立協会のレポートの内容を紹介します。疑似科学対策としてコンテンツの削除やアカウントの凍結のみに依存するべきではない、という興味深い内容となっています。

まとめ:AI農業のリスク

AIのリスクは「人」に関係するものが多く、社会性や倫理面などの問題を抱えています。AI農業のリスクとして、(1)ハッキングなどのセキュリティのリスク、(2)環境破壊のリスク、(3)大企業によるデータ独占のリスクが挙げられていますが、リアリティに欠けると思います。誤同定、事故、ディープフェイクやAIボットによる社会の混乱のほうがよりリアルなAI農業のリスクと言えるでしょう。

記事の評価
この記事がわかりやすい、役に立つ、信頼できるなどの感想を持ちましたらぜひ下のいいね!ボタンを押してください。

いいね!をつける (まだ評価がありません)
読み込み中...

ブログランキング参加中です。よろしければ応援クリックお願いします。

にほんブログ村 科学ブログへ

にほんブログ村 科学ブログ サイエンスコミュニケーションへ

その他
リスクと共により良く生きるための基礎知識

コメント

タイトルとURLをコピーしました