インターネットの進化は私たちの生活を豊かにしましたが、同時に「何が真実か」を見極めることが難しい時代へと突入しています。2019年11月20日現在、AI（人工知能）を使って架空の人物の顔を生成したり、実在する人物の動画を巧みに加工したりする技術が急速に発展しており、社会に大きな波紋を広げているのです。こうした技術の核となっているのが「GAN（敵対的生成ネットワーク）」と呼ばれる生成AIの一種で、本物と見紛うほどの精巧なデータを生み出すことが可能になっています。
特に今、世界中で警戒感が高まっているのが「ディープフェイク」という言葉で象徴される偽動画の存在です。これは「ディープラーニング（深層学習）」と「フェイク（偽物）」を組み合わせた造語であり、AIによって動画内の人物の表情や声を自由自在に操る技術を指します。SNS上では、有名人の顔が別人の体と合成された動画に対し、「一見しただけでは全く区別がつかない」「恐ろしい時代になった」といった驚きと不安の声が入り混じった反響が相次いでいます。
民主主義を脅かす政治利用と身近に迫る悪用のリスク
ディープフェイクの負の側面として最も懸念されているのが、政治的なプロパガンダへの悪用です。実際に、オバマ前米大統領が事実無根の内容を話しているかのような偽動画が拡散される事態も起きています。2020年に控えたアメリカ大統領選挙を前に、世論を不正に操作しかねないこの技術に対し、米下院情報特別委員会は2019年6月に公聴会を開催しました。国家の根幹を揺るがす脅威として、もはや看過できないレベルに達していることが浮き彫りになっています。
この問題は政治の世界だけにとどまらず、一般の市民にとっても決して他人事ではありません。女性の顔をポルノ動画に無断で合成する「フェイクポルノ」の被害や、音声を模倣して親族を装う巧妙な特殊詐欺への転用など、個人の尊厳や財産を脅かすリスクが急増しているのです。編集者としての視点で見れば、情報の信憑性を検証するコストが爆発的に増大しており、私たちが無意識に受け取っている情報の「出所」を常に疑わなければならない、非常に息苦しいフェーズに差しかかっていると感じます。
テック企業が総力を挙げて挑む「検出技術」の現在地
こうした深刻な状況を受け、IT業界の巨人たちも対策へと動き出しました。2019年9月には、フェイスブックとマイクロソフトがマサチューセッツ工科大学（MIT）と提携し、ディープフェイクを見破る技術を競うコンテストの開催を表明しています。ここにアマゾン・ウェブ・サービス（AWS）も加わり、産学連携の巨大な防波堤が築かれようとしています。国内でも、NTTが音声の偽造を見破るためのデータ提供を行うなど、多角的な支援が始まっている状況です。
しかしながら、現実問題として対策側は常に「後手に回っている」という厳しい実情があります。AIが偽物を見抜く技術を学習すれば、生成側のAIはさらにそれを上回る精巧な偽物を作り出すという、終わりのない「いたちごっこ」が続いているからです。技術の進歩を止めることは不可能であり、私たちは最新の検出ツールに頼るだけでなく、受け手側が情報の真偽を冷静に判断する「メディアリテラシー」を、これまで以上に強く養う必要があるのではないでしょうか。
コメント