湯淺　墾道（明治大学公共政策大学院ガバナンス研究科教授）

フェイクニュース、ディスインフォメーションと民主主義

　インターネット上にあふれるフェイクニュースやディスインフォメーションは、デマやガセネタ、嫌がらせの類から、特定の人や組織を対象とした誹謗中傷、他国の民意の誘導や選挙への干渉まで、今や種類もレベルも多種多様になってきた。

　フェイクニュースやディスインフォメーションが民意形成や選挙に与える影響は、2016年のアメリカ大統領選挙とイギリスのEU離脱国民投票を契機として各国で問題視されるようになっているが、人の認知過程や認知構造に影響を与えるサイバー攻撃の一種、あるいは認知戦やハイブリッド戦の一環であるナラティブに対する戦いとして安全保障の問題とされるようにもなっている。

　今年に入ってからは、生成系AIという新たな要素が加わった。

　私は、大阪大学の石黒浩教授をリーダーとするムーンショット型研究開発事業「誰もが自在に活躍できるアバター共生社会の実現」という研究プロジェクトに参加しており、アバターやロボットを選挙運動や政治活動に利用する可能性と法的問題点について研究している。

　先日石黒教授とオンラインでミーティングをした際、生成系AI、アバター、リアルタイムボイスチェンジャー(RVC)という3つの技術の組み合わせによって、フェイクニュースやディスインフォメーションの問題が大きな転機を迎えていると指摘された。

　人の「くせ」を学習できる生成系AIが生成した文章を、その人そっくりのアバターやロボット、場合によっては生成した動画に読み込ませ、その人の声をリアルタイムで模倣して発声するRVCによって読み上げることができるようになり、故人の情報を利用して「再現」することも可能になったのである。この組み合わせにより、ディープフェイクが加速する恐れがある。

法規制の限界

　フェイクニュースやディスインフォメーションと民主主義との関係についての研究はさまざまな領域で始まっている。

　フェイクニュースやディスインフォメーションがフィルターバブルのような個人的なレベルと、社会の分断、民意の意図的な誘導、選挙への介入と選挙結果の操作という集団的なレベルの両方で民主主義に影響を与えているという指摘は、客観的な検証が難しい面があるものの、受け入れられるようになってきたと思われる。

　それでは、フェイクニュースやディスインフォメーションが民主主義に与える悪影響を防ぐための法的規制は可能であろうか。

　国民や市民がさまざまな情報を得て自らの政治的意思を形成する過程において、フェイクニュースやディスインフォメーションを完全に排除することは難しい。フェイクニュースやディスインフォメーションもまた表現行為の一態様であるから、これを規制することは、表現の自由や知る権利という民主主義の基底的な価値との衝突を招くからである。

　実際に、近年はインターネット上での虚偽情報の発信に刑事罰を科すという規制を導入する国も増えており、フェイクニュースやディスインフォメーション対策に名を借りた言論統制が行われている場合もある。

　また自然人が政治的な意識を形成して政治的な態度を決定し行動する際に、外部からの影響を全く受けない、ということはない。民主主義の基底に表現の自由や知る権利があるのは、個人が多種多様な情報を外部から得て自己の政治的意識を形成するためであり、他の権利よりも優越的な保障を受けるという説もある。

　ただし民主主義を否定する表現にも自由が保障されているのかという点になると見解は分かれ、民主主義的な手続によって民主主義体制を覆そうというものから民主主義体制を守るというドイツの「闘争的民主主義」は、民主主義を否定するような言論には無制限の自由を認めない。

　それでは、ドイツのような闘争的民主主義の理念を持たない日本国憲法の下で、政治的な意図の下に人為的に生成されあるいは拡散されている情報に関し、表現の自由はないのかと問われると、それが具体的に人の名誉やプライバシーを侵害していない場合、「ない」とまでは断言できないのではないか。

　また日本国憲法は検閲の禁止も規定しており、公権力が表現内容を事前に抑制することは禁じられているから、ある情報がどのような意図を持つのかを公表前に審査して場合によっては抑制するという規制を導入すると、検閲の禁止に違反する可能性がある。

　したがってフェイクニュースやディスインフォメーションが民主主義に悪影響を与えるとしても、そのような情報発信を直接的に禁止したり、発信された情報を個別に公権力が削除するよう命じたりすることは、日本においてはかなり難しいと言わざるを得ないであろう。

　フェイクニュースやディスインフォメーションのような情報に関する知る権利も難しい問題である。そのような情報はそれを受け取った人の認知構造や政治的意識形成に悪影響を与えるから、受け取った人の参政権を侵害しているといえるか。また名誉やプライバシーのような具体的権利を侵害する情報と同様に扱われるべきであり、知る権利による保護には値しないといいきれるかどうか。このような考え方は、パターナリズムという批判を受けるかもしれない。

選挙運動における規制の可能性

　一方で、選挙においては、表現の自由は大きな制約を受けており、特に日本の公職選挙法は、公正な選挙という目的のために俗に「べからず選挙」と言われるほどに広範な表現行為の制約を課している。

　そもそも、2013年に公職選挙法が改正されるまでは、インターネットを選挙運動に利用すること自体が公職選挙法違反と解されていた。日本においては、ウェブサイト、電子メール、SNS等を選挙運動に利用できるようになってから、まだ10年の歴史しか持たないのである。

　したがって、選挙運動に該当するようなフェイクニュースやディスインフォメーション（具体的には特定の候補者や政党に票を得させようとしている情報）に、公職選挙法の改正によって一定の規制を行ったとしても、それが裁判所によって表現の自由の侵害と判断される可能性は低いであろう。

　そもそも公職選挙法には選挙運動に関する定義がなく、裁判所の判例では「特定の選挙について、特定の候補者の当選を目的として､投票を得又は得させるために直接又は間接に必要かつ有利な行為」とされているが、フェイクニュースやディスインフォメーションの中にはこの定義に該当するものがある。

　また、第二次世界大戦の後、国際的に内政不干渉の原則が確立され、他国の政治に介入してはならないということが承認されているのであるから、他国の政府やその意を受けた者が日本国内の選挙に干渉するために行う言論に対しても、同様に公職選挙法による一定の規制は可能であると思われる。通信、放送、電波等の領域において外資規制が課せられているのも、外国からの日本への影響力を防ごうとする趣旨であろう。

　なお一定の規制を行うにしても、他国の政府が日本国内の選挙に介入するために行っていることを誰がいつどのように調査分析するのか、調査分析は憲法が規定する通信の秘密に抵触しないか（通信の秘密は外国政府が発出したものにも及ぶのか）、介入の蓋然性が高いと明らかになったときにその情報は公開するのか、投票の秘密とのかねあいから選挙結果への影響を測定できるのか、他国の政府にどのような対抗措置を取ることができるのか等、検討すべき課題は多い。

　日本の選挙管理体制が極度に分権的であることも問題となる。中央選挙管理会や各地方公共団体の選挙管理委員会が、フェイクニュースやディスインフォメーション対策を行うことは、現在の体制では無理であろう。

　この点で参考となるのは、選挙の実施が州の権限とされているため分権的な選挙管理体制となっているアメリカの事例である。

　アメリカでは連邦政府がフェイクニュースやディスインフォメーション対策も含めた技術的対策を主導し、州政府を支援するという構造になっている。

　2017年に国土安全保障省によって選挙が重要インフラストラクチャに指定され、選挙関連システムへの外国からのサイバー攻撃には米軍も対処に当たる。2018 年サイバーセキュリティ・インフラセキュリティ庁（Cybersecurity and Infrastructure Security Agency = CISA）が発足し、CISAが選挙自体と選挙関係のシステムのセキュリティを担っている。

　ディスインフォメーションは、選挙自体のセキュリティに関係するものとしてとらえられ、CISAのディスインフォメーション施策は、Mis-, Dis-, and Malinformation対策からなるのでMDMと呼称されている。

　CISAはMDM対策について州政府等を支援すると共に、ツールキット類を提供している。州政府その他の選挙管理機関は、独力でMDM対策を行うのは困難であるため、CISAの提供するツールキットを利用している場合が多い。

　また、文字や画像、動画等が何らかの加工を受けてメディアの上で発信されるのは珍しいことではないことにかんがみると、無編集・無加工の情報以外のものの流通を幅広く制限するというのは現実的ではない。

　この点で参考となるのは、アメリカのカリフォルニア州やテキサス州の選挙法であり、カリフォルニア州選挙法は加工された情報にはその旨を表示することを義務付けている。テキサス州法は選挙の結果に影響を及ぼす目的でのディープフェイクビデオ作成を禁じ、選挙の30日前からディープフェイクビデオ発信も禁じている。

　これらはディスインフォメーション抑止にならないという批判もあるが、情報発信者と有権者の双方にとって一定の効果はあると思われる。

今後の研究動向

　本稿では主として法的側面からフェイクニュースやディスインフォメーションが民主主義に与える影響を防ぐ方策を検討したが、フェイクニュースやディスインフォメーション対策には多方面からの研究が不可欠である。

　国立研究開発法人科学技術振興機構（JST）社会技術研究開発センター（RISTEX）では、今年度から「SDGsの達成に向けた共創的研究開発プログラム」の下に、「情報社会における社会的側面からのトラスト形成（デジタルソーシャルトラスト）」という研究開発プログラムを設定した。

　当該研究開発プログラムは私が総括を務めることになっており、研究者による研究開発の提案を募集し、マスメディア、プラットフォーマーなどとも連携しながらフェイクニュースやディスインフォメーション対策も含めた専門横断的な研究を推進する予定である。研究成果も随時公開されることになっており、今後の動向に注目していただければ幸いである。

この記事に関するご意見等は下記にお寄せ下さい。
chousa@tbs-mri.co.jp