185万回再生のAI偽動画が浮き彫りにしたリスク
X(旧Twitter)で、路上で取材を受けた高齢女性が現職首相について称賛する内容を語る街頭インタビュー風の動画が投稿され、5月初旬時点で185万回以上閲覧された。後に生成AIによる偽動画であることが判明し、ファクトチェック団体や通信社など各社が相次いで注意喚起を行った。技術の向上で実写との見分けが困難な投稿が選挙期間外でも急増しており、SNS世論操作のリスクが社会問題として広く認識されつつある。専門家からは継続的な啓発活動の重要性を指摘する声が上がっており、市民側のリテラシー向上も急務となっている。
背景
生成AIによる動画作成ツールは過去一年で精度が飛躍的に向上し、誰でも数分で写実的なクリップを作れる環境が整った。特定の人物が実際には発していない発言を、本物らしい声と表情で再現できるため、政治・社会領域での悪用リスクが世界的に問題視されている。日本国内でも昨年の衆院選を機にディープフェイクが拡散する事例が増え、メディアと専門家が継続的な啓発を続けてきた。海外でもAI生成物の規制やラベリング義務化の議論が進んでおり、各国の動向にも注目が集まっている。
論点
論点は、第一に拡散プラットフォームの責任である。投稿時点でAI生成と判別する技術的手段は限定的で、事後の通報と削除に頼る現状は限界がある。第二に、視聴者側のリテラシーの問題だ。「自分の支持する側に都合の良い情報」は信じやすいというバイアスがあり、ファクトチェック記事よりも偽動画の方が拡散しやすい構造がある。一方で、過剰な規制は表現の自由や正当な風刺コンテンツを萎縮させる懸念もあり、抑制と自由のバランスをどう設計するかが問われている。教育現場での対策強化と、誤情報を抑止する社会的合意の形成を求める声もある。
今後の展望
関連法の改正議論ではAI生成物への表示義務化が検討されており、プラットフォーム側の自主的なラベリング強化も期待される。利用者側もロゴや関連情報を確認する習慣を持つことが、SNS世論操作への基本的な防御策となる。技術と制度、教育の三本柱による多層的な対策が今後の鍵となりそうだ。社会全体でデジタル耐性を高める取り組みが求められる。
※本記事は各社の報道をもとに、編集部が再構成したものです。
