2019年6月24日の時点で、ディープフェイクと呼ばれる偽動画の問題が世界中で深刻な懸念を呼んでいます。ディープフェイクとは、**人工知能（AI）**技術を駆使して、動画に映る人物の顔を別人に入れ替えたり、あるいは、その人物が実際には言っていないセリフをあたかも本人が話しているかのように見せかけたりする技術のことです。まるで本人がそこにいて、身振り手振りまで交えながら語っているかのような、極めてリアルな映像が、今や誰でも簡単に制作できる状況になっているのです。
この技術の悪用例として、最近では、米フェイスブックのマーク・ザッカーバーグ最高経営責任者（CEO）が「データを握るものが世界のこれからを牛耳る」とカメラ目線で断言する動画がインスタグラムに投稿され、大きな反響を呼びました。これは英国のアーティストが、ディープフェイクの危険性を人々に知らせるために制作したものですが、さながらフェイスブックが世界の悪役だと宣言しているように見える衝撃的な内容でした。もちろん、これ以上に悪質なディープフェイクも既に数多く存在しています。たとえば、政治家が酩酊しているように見せかける映像や、有名女優がアダルトビデオに出演しているかのような偽のポルノ動画なども出回っており、SNS上では「一体何を信じればいいのか」「ぞっとする」といった戸惑いや恐怖の声が上がっています。
フェイクニュースの問題すら解決の糸口が見えない中で、ディープフェイクはそれよりも遥かに大きな危険性を社会にもたらします。従来のフェイクニュースは、第三者が制作したものであるという意図を汲み取れる余地がありましたが、ディープフェイクでは、当事者本人が動画に登場してしまうため、信憑性が段違いに高まります。AI技術が進化し、顔の動きや唇の動きが非常にスムーズになっているため、本物と偽物を見分けることは非常に困難です。たとえ語られている内容がその人物らしくなかったとしても、映像の迫真性から多くの人々がそれを真実だと信じてしまう可能性が高いでしょう。
現状では、2020年の大統領選挙に及ぼす悪影響が最も懸念されていますが、この脅威は政治の分野に留まりません。いずれはビジネスの領域にも深く浸透していくでしょう。たとえば、セレブが実際には出演していないにも関わらず、特定のシャンプーを推薦したり、逆に特定の製品を貶めるような内容のコマーシャル動画が出現するかもしれません。さらに、ディープフェイクの技術が一般の人々にまで拡散すれば、万引きをしている、不適切な発言をしている、公共物を破壊しているなど、全く身に覚えのない行動をでっち上げられた映像がインターネット上で拡散され、いじめの道具としても悪用される事態も十分に考えられます。
ディープフェイクがアップロードされた場合でも、動画が第三者機関によって「偽物」だと判定されるまでは、そのまま公開され続けてしまうケースが見られます。その間に、面白半分でシェアされただけでも、一定数の人々はそれを事実だと誤認してしまうでしょう。特に政治的な事柄に関連するディープフェイクであれば、たとえ後に偽物だと判明しても、その瞬間の混乱を巻き起こすだけで、制作者の目的は達成されてしまうことになります。現在ではディープフェイクを制作できるスマートフォンアプリまで登場しており、また、わずか数十ドルという安価で偽動画の制作を請け負う業者まで出現しているという情報もございます。
ディープフェイクの進化と私たちの対処法
この状況は、インターネット空間がますます真実と虚偽が混ざり合った、複雑な場所になっていくことを示しています。残念ながら、私たち一般ユーザーのデジタルリテラシー、つまりデジタル情報を取り扱う能力の進化が、テクノロジーの進化に追いついていないのが現状です。顔に関するテクノロジーの進化は目覚ましいものがあり、顔認識技術はもちろんのこと、AIがゼロから架空の顔を生成したり、写真の顔を特定の画家の絵画風に変換したり、アニメキャラクターの唇の動きを人間の音声に合わせて調整したりといったことが可能です。さらには、顔の形状からその人物の声を予想することさえできるのです。
これらの技術一つひとつは、研究開発やエンターテインメントといった分野で非常に有用なツールとなる可能性を秘めています。しかし、テクノロジーが安価で、誰にでも簡単に使えるようになった結果、その「有用性」と「悪用」との間の距離が、あまりにも縮まってしまっているように感じられます。このディープフェイクに対抗する技術を開発するため、米国の国防総省高等研究計画局（DARPA）が研究補助プログラムを設けていることからも、その対抗策を見つけ出すことがいかに難しいかが伺えます。
結局のところ、現状において私たちユーザーにできる基本的な対処法は、「見たり、読んだりしたものを、安易に鵜呑みにしない」という、極めて当たり前の心構えを徹底することしかありません。この新たな脅威が迫る社会で、私たちは一人ひとりが高い警戒心を持ち、情報の真偽を疑う習慣を身につけていく必要があるでしょう。まずは一旦立ち止まり、その情報が本当に信頼できるものなのか、冷静に判断する姿勢が何よりも大切だと、私は強く主張したいです。
コメント