AI生成ディープフェイクと選挙：民主主義への脅威と対策
判定：正しくない
### Topic
AI生成ディープフェイクと選挙：民主主義への脅威と対策
### Summary
AI生成ディープフェイクは、その精巧さから偽情報や犯罪への悪用が増加し、選挙の公正性や社会の信頼、民主主義に深刻な脅威をもたらしている。2024年の「選挙イヤー」において、世界経済フォーラムは偽情報を最も深刻なリスクと位置づけ、各国で対策が進む一方で、技術的・法的対策の限界も露呈している。
### Body
ディープフェイクは、ディープラーニングとフェイクを組み合わせた造語であり、AI技術を用いて人が実際には言っていないことやしていないことをあたかも言動しているかのように描写する合成された音声、画像、動画コンテンツを指す。その精巧さは人間が見破ることが困難なレベルに達している。生成AI技術の急速な進化により、個人でも容易に高品質なディープフェイクを作成できるようになり、偽情報や犯罪への悪用が増加している。
2024年は世界的に多くの国で国政選挙が予定されており、「選挙イヤー」と呼ばれている。世界経済フォーラムは2024年1月、社会や政治の分断を拡大させる恐れがあるとして、今後2年間で予想される最も深刻なリスクとして「偽情報」を挙げた。日本でも、生成AIを利用して作られた[岸田総理大臣の偽動画](https://www.reuters.com/world/asia-pacific/japan-deepfake-disinformation-election-conspiracy/)がSNS上で拡散した事例が確認されている。また、2024年1月に発生した能登半島地震の際にも、東日本大震災や静岡県熱海市の大規模土石流の映像を能登半島地震と結びつけた偽情報がSNSで多数拡散された。
これに対し、自由民主党は2024年4月11日にAIに関する政策提言「AIホワイトペーパー2024」を公開し、AIによる選挙への負の影響に対処するため、関係事業者が「ミュンヘン・アコード」と同様の取り組みを日本国内でも実施すべきだと提言した。「ミュンヘン・アコード」は、2024年2月16日にミュンヘン安全保障会議でMicrosoftやGoogleを含む世界の20社（10月現在27社）が合意した「2024年選挙におけるAIの欺瞞的使用に対抗するための技術協定」であり、SNSでの迅速な検出や削除、AIが生成したコンテンツを識別する電子透かし（ウォーターマーク）技術の研究開発などで連携することが示されている。総務省は2024年度から「インターネット上の偽・誤情報等への対策技術の開発・実証事業」を開始し、「コンテンツの真偽判別支援・改ざん検知技術」「真正性保証・信頼性判断支援技術」「情報流通状況の可視化・分析技術」「情報の拡散防止・無効化技術」の4つに分類して技術開発を推進している。
2024年から2025年にかけての選挙では、SNS上の偽情報や誤情報、生成AIで作成された動画、切り抜き配信などが投票行動に与える影響として注目を集めた。これを受けて、公職選挙法と情報流通プラットフォーム対処法（情プラ法）の同時改正案が今国会に提出され、2027年3月1日の統一地方選挙から適用される見通しである。改正公職選挙法では、一般の有権者（利用者）に対し、虚偽の事項や事実を歪めた情報によって「選挙の公正を害してはならない」という責務が定められたが、違反に対する罰則規定は設けられていない。
### Verification
AI技術の進歩は、ディープフェイク検出技術の向上にも貢献している。東京大学大学院情報理工学系研究科は、既存研究を大きく上回る性能を達成するディープフェイク検出AIを開発し、2024年4月26日に5種類の評価用データセットで4種類において世界最高性能を達成したと発表した。このディープフェイク検出AIは、高圧縮率や高露光・低露光下のフェイク画像のわずかな偽造痕跡も見逃さずに高い確信度で検出できる。NABLASなどの企業は、ディープフェイク技術により生成された架空の画像、動画、音声データから人間では判別できない不自然さを検出し、実在するか否かを検知するソリューションを提供している。ディープフェイク検出技術は、画像、動画、音声など様々な形式のフェイク検知が可能であり、未知の生成方法で作られたフェイクやノイズの含まれた音声でも検知が可能である。
### Supplement
生成AIは、選挙キャンペーンにおいて、スピーチ原稿や選挙広告の短時間での作成、献金メールの自動送信による生産性向上、マイクロターゲティングによる効率的な有権者アプローチなど、費用と時間の削減に貢献できる。これにより、誰もが政治的なコンテンツのクリエーターになれる可能性が提供される。2024年の英国選挙では、「AIスティーブ」のようなAIチャットボットがキャンペーンプラットフォームとして試用され、一般からの質問を記録し、ボランティアを通じてマニフェスト政策提案を生成した事例がある。気候変動に関するキャンペーンがAI生成のパロディコンテンツを使って問題提起を行ったり、AIツールがファクトチェックの効率化に貢献した事例も報告されている。さらに、生成AIはユーザーに心地よさやストレスの緩和、気持ちの整理をサポートするといったメリットをもたらし、生成AIとのディベート実践において肯定的なフィードバックが正確に考える自信を促進すると考察されている。2024年の英国および欧州選挙において、生成AIによる偽情報やディープフェイクの脅威は、当初の懸念ほど深刻ではなかったという報告もある。日本マイクロソフトは、デジタル技術が有権者の適切な情報に基づいた意思決定を可能にし、選挙の公正さと安全性を高めるという良い面を強調している。
一方で、AI生成のディープフェイクは性的画像から政治プロパガンダまで急拡大しており、見破ることがますます困難になっている。ディープフェイクは、選挙候補者や政治家の発言を偽造することで、有権者に誤った情報を伝え、選挙結果に影響を与える恐れがある。世界各地では、ディープフェイクが暴力を煽る、人々の考えを変えようとする（さらには投票結果に影響を与えようとする）、社会全体に不信感を広めるといった事例が生じている。専門家は、武器化されたディープフェイクが批判的思考能力をさらに低下させ、制度や人々への信頼を損なうことを懸念しており、2026年の米中間選挙を前にディープフェイクの脅威はさらに高まっていると指摘されている。実際に、2026年1月にはテキサス州司法長官が米国上院議員選挙の共和党予備選で、対立候補が民主党候補と踊っているように見える偽動画を拡散した事例がある。2024年の台湾総統選では、多くの有権者が外国からの発信を含む大量の偽コンテンツを目にしたと報告されており、Microsoftは、台湾総統選で他国の選挙に影響を与える目的でAIコンテンツを使用する国家主体を初めて目撃したとし、将来的に偽情報が選挙結果に影響を与える可能性を警告している。2024年8月には、米国大統領候補カマラ・ハリス氏が虚偽の発言をしているAI生成動画広告がSNSで拡散され、イーロン・マスク氏のXアカウントでも共有された。ディープフェイクは、有権者を誤解させるために公人の発言を捏造することが多く、例えば英国のキール・スターマー首相が自党を批判したり、台湾の柯文哲氏が虚偽の告発を行ったりする偽の音声が流出している。また、選挙中の注目の高まりを利用して金融詐欺を促進するためにも使用され、カナダのジャスティン・トルドー首相やメキシコのクラウディア・シェインバウム次期大統領のような著名人が詐欺計画でなりすましの被害に遭った。トルコでは、エルドアン大統領が野党党首をテロリスト集団に結びつけるためにディープフェイクを使用した事例がある。
偽情報は、事実よりも早く、深く、広範囲に拡散するという特性がある。SNS上では、少数の強い思いを持つ積極的な投稿者が大量の発信を行い、怒りや対立をあおる投稿ほど「反応」が集まりやすいため、プラットフォームのアルゴリズムによってより多くの人の画面に表示されやすくなる。この「アテンション・エコノミー」の構造のもとでは、過激で断定的、感情を刺激するフェイク情報ほど拡散と収益の可能性が高まり、嘘が経済的に効率的となる。ディープフェイクの一般化により、映像や音声が「証拠」として機能しなくなり、真実の映像であっても「AIによる偽物だ」と否定することが可能になる「うそつきの配当」が生じる。技術的対策も法規制も限界があり、悪意ある行為者は保護措置を持たないオープンモデルに切り替えるだけで技術的解決策を回避できる可能性がある。写真に電子透かしを入れたり、オンラインに投稿する個人情報を減らしたりといった行動変容を人々に求めることは現実的ではない。ディープフェイク技術の進化に伴い、法的規制や倫理的な課題の解決が急務であり、プライバシーの侵害や偽情報の拡散といった問題は社会全体での対応が求められている。自民党の提言案では、現行のAI法には罰則規定がなく、AI時代の課題への実効的対処手段が限られていると指摘し、罰則を含めたより実効性ある適切な方策の検討を政府に求めている。総務省の「偽情報対策」事業に参加した14の企業や団体が研究成果を発表したが、技術的な対策には依然として課題が残る。SNSの普及により、政治・選挙関連のデマや陰謀論が急増し、生成AIによる偽動画・画像が目立つ。2024年都知事選以降、政治家は政策より感情に訴える投稿を重視する傾向が強まった。マカフィーの2024年4月23日発表調査によると、日本では21%がディープフェイクが「選挙に影響を与える」、27%が「メディアに対する国民の信頼を損なう」、40%が「公人になりすます」と回答している。専門家は、実際にあった出来事を加工し、本来の文脈から切り離して誤解を招く情報として悪意を持って拡散される「悪性ナラティブ」という新たなフェイクの手口に注意を呼び掛けている。「悪性ナラティブ」は、怒り、憎悪、恐怖といった感情を煽るコンテンツとして強力に作用し、見抜くのが難しいため拡散されやすい。JICAの「アフリカ・ホームタウン構想」を巡り、「アフリカ移民が押し寄せる」といったフェイク情報が広まり、過激な暴動の画像に地域名を載せて恐怖感を煽るコンテンツが拡散され、構想撤回に至った事例がある。偽情報は、政治的分断と政府やメディアへの不信の高まりの両方を加速させる役割を担っており、民主主義において不可欠な政府やメディアへの信頼を損なう。国民が政治的に分断され社会において不信を抱くようになれば、政府が打ち出す政策や規制に対して懐疑的になりかねず、規制が必要な場面で規制が導入されない可能性がある。
### Evidence
* 岸田総理大臣の偽動画: [https://www.reuters.com/world/asia-pacific/japan-deepfake-disinformation-election-conspiracy/](https://www.reuters.com/world/asia-pacific/japan-deepfake-disinformation-election-conspiracy/)
* 世界経済フォーラム: 2024年1月、今後2年間で予想される最も深刻なリスクとして「偽情報」を挙げた。
* 自由民主党: 2024年4月11日に「AIホワイトペーパー2024」を公開。
* ミュンヘン・アコード: 2024年2月16日に世界の20社（10月現在27社）が合意した「2024年選挙におけるAIの欺瞞的使用に対抗するための技術協定」。
* 東京大学大学院情報理工学系研究科: 2024年4月26日、ディープフェイク検出AIが5種類の評価用データセットで4種類において世界最高性能を達成したと発表。
* マカフィー: 2024年4月23日発表の調査によると、日本では21%がディープフェイクが「選挙に影響を与える」、27%が「メディアに対する国民の信頼を損なう」、40%が「公人になりすます」と回答。
* 事例: 2026年1月テキサス州司法長官による偽動画拡散（米国上院議員選挙共和党予備選）。
* 事例: 2024年台湾総統選での外国からのAIコンテンツ使用。
* 事例: 2024年8月米国大統領候補カマラ・ハリス氏の偽発言AI生成動画広告拡散。
* 事例: 英国キール・スターマー首相、台湾柯文哲氏の偽音声流出。
* 事例: カナダのジャスティン・トルドー首相、メキシコのクラウディア・シェインバウム次期大統領に対する金融詐欺でのなりすまし。
* 事例: トルコのエルドアン大統領が野党党首をテロリスト集団に結びつけるディープフェイク使用。
* 事例: JICA「アフリカ・ホームタウン構想」を巡るフェイク情報拡散。
AI生成ディープフェイクと選挙：民主主義への脅威と対策
### Summary
AI生成ディープフェイクは、その精巧さから偽情報や犯罪への悪用が増加し、選挙の公正性や社会の信頼、民主主義に深刻な脅威をもたらしている。2024年の「選挙イヤー」において、世界経済フォーラムは偽情報を最も深刻なリスクと位置づけ、各国で対策が進む一方で、技術的・法的対策の限界も露呈している。
### Body
ディープフェイクは、ディープラーニングとフェイクを組み合わせた造語であり、AI技術を用いて人が実際には言っていないことやしていないことをあたかも言動しているかのように描写する合成された音声、画像、動画コンテンツを指す。その精巧さは人間が見破ることが困難なレベルに達している。生成AI技術の急速な進化により、個人でも容易に高品質なディープフェイクを作成できるようになり、偽情報や犯罪への悪用が増加している。
2024年は世界的に多くの国で国政選挙が予定されており、「選挙イヤー」と呼ばれている。世界経済フォーラムは2024年1月、社会や政治の分断を拡大させる恐れがあるとして、今後2年間で予想される最も深刻なリスクとして「偽情報」を挙げた。日本でも、生成AIを利用して作られた[岸田総理大臣の偽動画](https://www.reuters.com/world/asia-pacific/japan-deepfake-disinformation-election-conspiracy/)がSNS上で拡散した事例が確認されている。また、2024年1月に発生した能登半島地震の際にも、東日本大震災や静岡県熱海市の大規模土石流の映像を能登半島地震と結びつけた偽情報がSNSで多数拡散された。
これに対し、自由民主党は2024年4月11日にAIに関する政策提言「AIホワイトペーパー2024」を公開し、AIによる選挙への負の影響に対処するため、関係事業者が「ミュンヘン・アコード」と同様の取り組みを日本国内でも実施すべきだと提言した。「ミュンヘン・アコード」は、2024年2月16日にミュンヘン安全保障会議でMicrosoftやGoogleを含む世界の20社（10月現在27社）が合意した「2024年選挙におけるAIの欺瞞的使用に対抗するための技術協定」であり、SNSでの迅速な検出や削除、AIが生成したコンテンツを識別する電子透かし（ウォーターマーク）技術の研究開発などで連携することが示されている。総務省は2024年度から「インターネット上の偽・誤情報等への対策技術の開発・実証事業」を開始し、「コンテンツの真偽判別支援・改ざん検知技術」「真正性保証・信頼性判断支援技術」「情報流通状況の可視化・分析技術」「情報の拡散防止・無効化技術」の4つに分類して技術開発を推進している。
2024年から2025年にかけての選挙では、SNS上の偽情報や誤情報、生成AIで作成された動画、切り抜き配信などが投票行動に与える影響として注目を集めた。これを受けて、公職選挙法と情報流通プラットフォーム対処法（情プラ法）の同時改正案が今国会に提出され、2027年3月1日の統一地方選挙から適用される見通しである。改正公職選挙法では、一般の有権者（利用者）に対し、虚偽の事項や事実を歪めた情報によって「選挙の公正を害してはならない」という責務が定められたが、違反に対する罰則規定は設けられていない。
### Verification
AI技術の進歩は、ディープフェイク検出技術の向上にも貢献している。東京大学大学院情報理工学系研究科は、既存研究を大きく上回る性能を達成するディープフェイク検出AIを開発し、2024年4月26日に5種類の評価用データセットで4種類において世界最高性能を達成したと発表した。このディープフェイク検出AIは、高圧縮率や高露光・低露光下のフェイク画像のわずかな偽造痕跡も見逃さずに高い確信度で検出できる。NABLASなどの企業は、ディープフェイク技術により生成された架空の画像、動画、音声データから人間では判別できない不自然さを検出し、実在するか否かを検知するソリューションを提供している。ディープフェイク検出技術は、画像、動画、音声など様々な形式のフェイク検知が可能であり、未知の生成方法で作られたフェイクやノイズの含まれた音声でも検知が可能である。
### Supplement
生成AIは、選挙キャンペーンにおいて、スピーチ原稿や選挙広告の短時間での作成、献金メールの自動送信による生産性向上、マイクロターゲティングによる効率的な有権者アプローチなど、費用と時間の削減に貢献できる。これにより、誰もが政治的なコンテンツのクリエーターになれる可能性が提供される。2024年の英国選挙では、「AIスティーブ」のようなAIチャットボットがキャンペーンプラットフォームとして試用され、一般からの質問を記録し、ボランティアを通じてマニフェスト政策提案を生成した事例がある。気候変動に関するキャンペーンがAI生成のパロディコンテンツを使って問題提起を行ったり、AIツールがファクトチェックの効率化に貢献した事例も報告されている。さらに、生成AIはユーザーに心地よさやストレスの緩和、気持ちの整理をサポートするといったメリットをもたらし、生成AIとのディベート実践において肯定的なフィードバックが正確に考える自信を促進すると考察されている。2024年の英国および欧州選挙において、生成AIによる偽情報やディープフェイクの脅威は、当初の懸念ほど深刻ではなかったという報告もある。日本マイクロソフトは、デジタル技術が有権者の適切な情報に基づいた意思決定を可能にし、選挙の公正さと安全性を高めるという良い面を強調している。
一方で、AI生成のディープフェイクは性的画像から政治プロパガンダまで急拡大しており、見破ることがますます困難になっている。ディープフェイクは、選挙候補者や政治家の発言を偽造することで、有権者に誤った情報を伝え、選挙結果に影響を与える恐れがある。世界各地では、ディープフェイクが暴力を煽る、人々の考えを変えようとする（さらには投票結果に影響を与えようとする）、社会全体に不信感を広めるといった事例が生じている。専門家は、武器化されたディープフェイクが批判的思考能力をさらに低下させ、制度や人々への信頼を損なうことを懸念しており、2026年の米中間選挙を前にディープフェイクの脅威はさらに高まっていると指摘されている。実際に、2026年1月にはテキサス州司法長官が米国上院議員選挙の共和党予備選で、対立候補が民主党候補と踊っているように見える偽動画を拡散した事例がある。2024年の台湾総統選では、多くの有権者が外国からの発信を含む大量の偽コンテンツを目にしたと報告されており、Microsoftは、台湾総統選で他国の選挙に影響を与える目的でAIコンテンツを使用する国家主体を初めて目撃したとし、将来的に偽情報が選挙結果に影響を与える可能性を警告している。2024年8月には、米国大統領候補カマラ・ハリス氏が虚偽の発言をしているAI生成動画広告がSNSで拡散され、イーロン・マスク氏のXアカウントでも共有された。ディープフェイクは、有権者を誤解させるために公人の発言を捏造することが多く、例えば英国のキール・スターマー首相が自党を批判したり、台湾の柯文哲氏が虚偽の告発を行ったりする偽の音声が流出している。また、選挙中の注目の高まりを利用して金融詐欺を促進するためにも使用され、カナダのジャスティン・トルドー首相やメキシコのクラウディア・シェインバウム次期大統領のような著名人が詐欺計画でなりすましの被害に遭った。トルコでは、エルドアン大統領が野党党首をテロリスト集団に結びつけるためにディープフェイクを使用した事例がある。
偽情報は、事実よりも早く、深く、広範囲に拡散するという特性がある。SNS上では、少数の強い思いを持つ積極的な投稿者が大量の発信を行い、怒りや対立をあおる投稿ほど「反応」が集まりやすいため、プラットフォームのアルゴリズムによってより多くの人の画面に表示されやすくなる。この「アテンション・エコノミー」の構造のもとでは、過激で断定的、感情を刺激するフェイク情報ほど拡散と収益の可能性が高まり、嘘が経済的に効率的となる。ディープフェイクの一般化により、映像や音声が「証拠」として機能しなくなり、真実の映像であっても「AIによる偽物だ」と否定することが可能になる「うそつきの配当」が生じる。技術的対策も法規制も限界があり、悪意ある行為者は保護措置を持たないオープンモデルに切り替えるだけで技術的解決策を回避できる可能性がある。写真に電子透かしを入れたり、オンラインに投稿する個人情報を減らしたりといった行動変容を人々に求めることは現実的ではない。ディープフェイク技術の進化に伴い、法的規制や倫理的な課題の解決が急務であり、プライバシーの侵害や偽情報の拡散といった問題は社会全体での対応が求められている。自民党の提言案では、現行のAI法には罰則規定がなく、AI時代の課題への実効的対処手段が限られていると指摘し、罰則を含めたより実効性ある適切な方策の検討を政府に求めている。総務省の「偽情報対策」事業に参加した14の企業や団体が研究成果を発表したが、技術的な対策には依然として課題が残る。SNSの普及により、政治・選挙関連のデマや陰謀論が急増し、生成AIによる偽動画・画像が目立つ。2024年都知事選以降、政治家は政策より感情に訴える投稿を重視する傾向が強まった。マカフィーの2024年4月23日発表調査によると、日本では21%がディープフェイクが「選挙に影響を与える」、27%が「メディアに対する国民の信頼を損なう」、40%が「公人になりすます」と回答している。専門家は、実際にあった出来事を加工し、本来の文脈から切り離して誤解を招く情報として悪意を持って拡散される「悪性ナラティブ」という新たなフェイクの手口に注意を呼び掛けている。「悪性ナラティブ」は、怒り、憎悪、恐怖といった感情を煽るコンテンツとして強力に作用し、見抜くのが難しいため拡散されやすい。JICAの「アフリカ・ホームタウン構想」を巡り、「アフリカ移民が押し寄せる」といったフェイク情報が広まり、過激な暴動の画像に地域名を載せて恐怖感を煽るコンテンツが拡散され、構想撤回に至った事例がある。偽情報は、政治的分断と政府やメディアへの不信の高まりの両方を加速させる役割を担っており、民主主義において不可欠な政府やメディアへの信頼を損なう。国民が政治的に分断され社会において不信を抱くようになれば、政府が打ち出す政策や規制に対して懐疑的になりかねず、規制が必要な場面で規制が導入されない可能性がある。
### Evidence
* 岸田総理大臣の偽動画: [https://www.reuters.com/world/asia-pacific/japan-deepfake-disinformation-election-conspiracy/](https://www.reuters.com/world/asia-pacific/japan-deepfake-disinformation-election-conspiracy/)
* 世界経済フォーラム: 2024年1月、今後2年間で予想される最も深刻なリスクとして「偽情報」を挙げた。
* 自由民主党: 2024年4月11日に「AIホワイトペーパー2024」を公開。
* ミュンヘン・アコード: 2024年2月16日に世界の20社（10月現在27社）が合意した「2024年選挙におけるAIの欺瞞的使用に対抗するための技術協定」。
* 東京大学大学院情報理工学系研究科: 2024年4月26日、ディープフェイク検出AIが5種類の評価用データセットで4種類において世界最高性能を達成したと発表。
* マカフィー: 2024年4月23日発表の調査によると、日本では21%がディープフェイクが「選挙に影響を与える」、27%が「メディアに対する国民の信頼を損なう」、40%が「公人になりすます」と回答。
* 事例: 2026年1月テキサス州司法長官による偽動画拡散（米国上院議員選挙共和党予備選）。
* 事例: 2024年台湾総統選での外国からのAIコンテンツ使用。
* 事例: 2024年8月米国大統領候補カマラ・ハリス氏の偽発言AI生成動画広告拡散。
* 事例: 英国キール・スターマー首相、台湾柯文哲氏の偽音声流出。
* 事例: カナダのジャスティン・トルドー首相、メキシコのクラウディア・シェインバウム次期大統領に対する金融詐欺でのなりすまし。
* 事例: トルコのエルドアン大統領が野党党首をテロリスト集団に結びつけるディープフェイク使用。
* 事例: JICA「アフリカ・ホームタウン構想」を巡るフェイク情報拡散。