2019年6月13日、米下院情報特別委員会にて、人工知能（AI）を悪用した偽動画「ディープフェイク」の脅威と、それに対抗するための対策に焦点を当てた公聴会が開催されました。識者たちは、ディープフェイクが選挙や企業活動、さらには外交にまで深刻な影響を及ぼす可能性があると厳重に警告し、SNS（ソーシャル・ネットワーキング・サービス）企業に対して、早急な対策への協力を強く呼びかけました。
ディープフェイクとは、著名人の映像や音声データをAIに大量に学習させ、まるで本物であるかのように精巧な偽動画を作り出す技術のことです。公聴会を主導した同委員会のシフ委員長（民主党）は、「政府、メディア、そして一般市民でさえも、何が真実で何が偽物なのかを判別できなくなる、悪夢のような事態になりかねない」と強い懸念を表明されました。そして、来る2020年の大統領選挙にこの脅威が影響を及ぼす前に、SNS企業が具体的な対応策を講じるべきだと訴えかけています。
ディープフェイクがもたらす深刻な被害とSNSの反響
メリーランド大法科大学院のシトロン教授は、提出された書面証言の中で、その被害の甚大さを具体的に示されました。たとえば、企業の新規株式公開（IPO）を直前に控えた夜に、経営者が犯罪を犯しているかのような偽動画が拡散されてしまうケースです。また、大統領選の投開票日の前日に、特定の候補者に決定的に不利な偽動画が流布されれば、取り返しのつかない混乱と損害を招くと指摘しています。さらに外交政策研究所のワッツ研究員からは、ロシアや中国といった国家が、AIを利用した情報戦を仕掛けてくる可能性についても警鐘が鳴らされました。
このようなディープフェイクの脅威は、すでに米国社会で現実の問題として浮上しています。公聴会が開催される少し前の5月末には、民主党のペロシ下院議長の講演映像がろれつが回っていないように加工された動画が拡散し、大きな社会問題となりました。さらに、フェイスブックのザッカーバーグ最高経営責任者（CEO）のディープフェイク動画も広く話題となり、SNS上では「AIの進化は怖すぎる」「真実を見分けるのがどんどん難しくなる」といった不安の声や、「プラットフォーム側が責任をもって対策すべきだ」という厳しい意見が多数見受けられました。
専門家が提唱する緊急対策と、言論の自由とのバランス
公聴会で証言を行った識者たちは一様に、ディープフェイクの拡散に対処するためには、スピード感のある対応が不可欠だと強調されました。具体策として、投稿された映像の公開を短時間遅らせ、その間に内容を検証するシステムの導入や、悪質な偽映像を故意に拡散した企業に対する制裁措置の強化などが提案されています。さらに、選挙陣営に対しても、偽映像を拡散しない旨の誓約を交わし、SNS企業との連携を強化するなどの取り組みが推奨されました。
一方で、一部の議員からは、偽動画の取り締まりや規制を強化することについて、言論の自由を守るという観点から、慎重になるべきだという意見も出されました。ディープフェイク対策は、偽情報による民主主義への脅威を取り除くという重要性と、表現の自由という基本的権利をどのように両立させるかという、非常にデリケートな課題を含んでいると言えるでしょう。私は、プラットフォームであるSNS企業には、透明性の高いAI技術を活用した迅速な検証体制を構築しつつ、ユーザーの表現活動を不当に抑制しない、バランスの取れた運用が求められると考えます。
コメント