私たちは常に最先端の技術を追い求めています。それが広告不正（アドフラウド）の新たな手法であれ、ボットトラフィックであれ、世界を変える可能性を秘めた新技術であれ、例外ではありません。
その技術の1つが「ディープフェイク」です。主にSNSで流れてきたり、誰かから送られてきたりする短い動画が有名です。「そう、お母さん。私もTikTokで トム・クルーズのクレイジーなチャンネル を見たけど、自分でも信じられないよ」といった具合に。
この記事はディープフェイクに関する3部構成シリーズの第1弾で、それぞれ特定の形式のディープフェイクを取り上げます。このシリーズを通して、時には非常にクレイジーで、人類に深刻な影響を与える可能性もあるコンピューター生成の画像や動画の世界へと皆様をご案内します。
今回はディープフェイク動画に焦点を当て、それが何であるか、どのように作成されるのか、そしてこの技術が社会全体にどのような影響を与える可能性があるのかを解説します。
ディープフェイクとは？
ディープフェイクは、 ディープラーニング （深層学習）と呼ばれる人工知能（AI）の一種を使用して、本物そっくりの画像、音声、動画を作成する技術です。名前も「ディープラーニング」と「フェイク（偽物）」を組み合わせて作られました。ディープラーニングのアルゴリズムは、大量のデータを与えることで、自ら課題の解決方法を学習します。
ディープフェイクという言葉に馴染みがなくても、すでにどこかでその動画を目にしている可能性は十分にあります。代表的な動画には以下のようなものがあります。
ニクソン大統領が、アポロ11号の宇宙飛行士たちが月面から帰還できなかった場合に備えて書かれた 「月面災害に備えて」のスピーチ を実際に読み上げる動画。
ディープフェイクはどのように作られるのか？
動画や画像の加工技術は、何十年も前から存在しています。しかし、2017年に「deepfakes」というユーザーがRedditに加工されたアダルト動画を投稿したことで、潮目が変わりました。その動画では、出演者の顔がテイラー・スウィフトやガル・ガドットなどの有名人の顔に差し替えられていました。
では、動画内の顔をどのようにして正確に差し替えるのでしょうか？機械学習アルゴリズムを用いたいくつかの手法があります。これらは「オートエンコーダー」や、さらに高度な「敵対的生成ネットワーク（GAN）」に基づいています。どちらも共通して、顔の一部を置き換えるために、まずデータセットを使って事前学習させる必要があります。
作業を始めるには、膨大なデータが必要です。差し替えたい2人の顔画像が大量にいります。精度を高めるためには、明るい場所や暗い場所、正面や横顔、様々な表情など、あらゆるパターンの画像が数千枚必要になります。有名人の場合は、インターネット上や写真データベース、インタビュー動画などから数千枚の画像が容易に手に入るため、比較的簡単に作成できます。
オートエンコーダー
分かりやすく説明すると、オートエンコーダーとは、入力を再現する方法を学習する自己教師ありニューラルネットワークの一種です。「エンコーダー（符号化器）」「コード（中間表現）」「デコーダー（復号化器）」の3つの主要要素で構成されています。
まずエンコーダーが、入れ替えたい2つの顔の共通点を探し、特徴を凝縮します。入力データを圧縮してコードを生成し、これを次のステップでデコーダーが使用します。
エンコーダーの処理が終わると、デコーダーの出番です。このアルゴリズムは、エンコーダーが生成した圧縮画像から元の顔を復元するように学習します。ここでは2つの異なるデコーダーをトレーニングする必要があります。1つはオリジナルの顔を復元するもの、もう1つは差し替えたい相手の顔を復元するものです。
あとは、圧縮された画像を「逆」のデコーダーに読み込ませるだけです。オリジナルの人物の顔を、差し替えたい人物（フェイク）の顔を学習したデコーダーに読み込ませます。すると、デコーダーはオリジナル人物の表情や顔の向きを保ったまま、「フェイク」の顔を再構築することができます。
敵対的生成ネットワーク（GAN）
ディープフェイクを作成する2つ目の方法は、敵対的生成ネットワーク（GAN）を使用することです。このアプローチでは、「ジェネレーター（生成器）」と「ディスクリミネーター（識別器）」という2つの異なるニューラルネットワークを競い合わせます。
ジェネレーターは、入力データセットの特徴やパターンを自律的に学習し、データを生成します。この生成されたデータは、評価のために本物のデータと一緒にディスクリミネーターに送られます。
ディスクリミネーターはデータを確認し、データセット内からジェネレーターが作成した「フェイク」データを見つけ出そうとし、その結果をジェネレーターにフィードバックします。ジェネレーターの目的は、ディスクリミネーターを騙し、本物と生成データの区別がつかなくなるようにすることです。
ジェネレーターとディスクリミネーターのこの攻防は無数に繰り返され、サイクルを重ねるごとに精度が向上していきます。最終的にジェネレーターは、実在しない人物の 極めてリアルな顔 を作り出し、ディスクリミネーターを完全に騙すことに成功します。
ただし、モデルのトレーニングに多大な労力がかかり、多くのコンピューティングリソースが必要となるため、GANは動画ではなく画像の生成にのみ使用されることがよくあります。
以下の動画では、トム・クルーズの顔を使って完璧なディープフェイク動画を作成するプロセスをご覧いただけます。
ディープフェイクは動画だけ？
いいえ。ディープフェイク技術は、架空の顔写真やクローン音声もゼロから作り出すことができます。
架空の顔写真の例としては、実在しない人物のリアルな写真を生成するウェブサイト this-person-does-not-exist.com があります。AIは数千枚のプロフィール画像を学習しており、本物そっくりの顔を描くことができます。これらの画像は、例えば 一部の企業によってLinkedIn で悪用され、偽のプロフィールを作成して営業力を水増ししたり、表示制限をかけるアルゴリズムを回避したりするために使われています。
LinkedInの 最新の透明性レポート によると、同社は2021年に3,000万以上の偽アカウントを削除しており、その一部はコンピューターで生成されたプロフィール画像を使用していました。
また、ディープフェイク音声の例として、ディズニーのドラマシリーズ『マンダロリアン』が挙げられます。「Respeecher」というアプリケーションを使用し、制作チームは 若き日のルーク・スカイウォーカーの声を完全に再現 することに成功しました。AIに、マーク・ハミル（ルーク役）の若い頃のラジオ放送やインタビュー音声を学習させ、望む声を作り出しました。その精度は非常に高く、シーズン2の配信から舞台裏ドキュメンタリーが公開されるまでの約9か月間、誰にも気づかれませんでした。
ディープフェイク動画を作るにはどんな技術が必要？
ディープフェイク動画の作成は難しく複雑に聞こえるかもしれませんが、実は非常にシンプルです。テクノロジーの進化によってコンピューターの処理速度は飛躍的に向上しており、今や自宅で作成することも可能です。必要なのは、高速なグラフィックカードを搭載した標準以上のスペックを持つパソコンだけです。より負荷の高い動画を作成する場合は、さらにパワーを提供してくれるクラウドベースのデータセンターを利用することもできます。
また、モデルやアルゴリズムを自分で開発する必要もありません。以下のような、無料で公開されているオープンソースソフトウェアを利用できます。
必要なのは、これらのツールを起動し、適切なパラメータを設定するための基本的なプログラミングスキルだけです。
さらに、最近ではパソコンすら不要になりました。スマートフォンだけでディープフェイク動画を作成することもできます。自分の顔をミームやSNS動画に合成できるアプリが多数存在します。
ディープフェイク動画は何に使われている？
多くの新しいテクノロジーがそうであるように、ディープフェイク動画もまた、初期にはポルノ業界で普及しました。エマ・ワトソン、ジェニファー・ローレンス、デイジー・リドリーなどの女性セレブの顔が、別の出演者の体と合成されました。
その次の段階では、ミシェル・オバマやケイト・ミドルトンなど、各国の元首の関係者やロイヤルファミリーの女性たちも標的になりました。
セレブのヌードの次に標的となったのが政治家です。最も 有名なのはBuzzfeedが作成した動画 で、バラク・オバマ元大統領がドナルド・トランプ氏を罵倒しているように見せたものです。また別の動画（こちらは口元やアフレコから一目で偽物と分かりますが）では、 ドナルド・トランプ氏がベルギーのパリ協定加盟をからかう 様子が描かれています。
また、 ディープフェイクが絡む最近の政治的スキャンダル として、ベルリンのフランツィスカ・ギファイ市長が、キエフのビタリ・クリチコ市長の「偽物」とビデオ通話を行ってしまった事件があります。
では、すべてのディープフェイク動画が悪意を持って作られているのでしょうか？決してそんなことはありません。以下に、ディープフェイクの活用例を紹介します。上記のようにモラルに反するものもありますが、エンターテインメントや教育目的でこの新技術が活用されている例もあります。
アート
フロリダ州セントピーターズバーグにあるダリ美術館は、ディープフェイク技術を使って「シュルレアリスムの巨匠」を現代に蘇らせました。ダリの6,000枚以上の画像を使用し、1,000時間以上のモデル学習を行うことで、AIは彼の容姿や口・目の動きを細部にわたって学習しました。
その結果、125本の短い動画に分かれた計45分間の新しい映像が制作され、来館者を楽しませています。190,512通りの組み合わせパターンがあるため、来館者一人ひとりがほぼ唯一無二の体験をすることができます。さらに、設置されたカメラを使ってダリと一緒にセルフィーを撮ることも可能です。
これは、AI（特にディープフェイク）がエンターテインメントや思い出深い体験を提供するだけでなく、教育や有意義な目的にも活用できる素晴らしい一例です。
映画・メディア業界
おそらく皆様も、すでにディープフェイク技術が使われた映画を目にしているはずです。最も一般的な用途は、すでに亡くなった俳優を出演させるケースです。映画『ローグ・ワン／スター・ウォーズ・ストーリー』に登場したキャリー・フィッシャーやピーター・カッシングがこれに当たります。また、 ジェームズ・ディーンを新作映画で蘇らせる 計画も進んでいます。
映画業界におけるもう一つの活用例は、俳優の若返りです。映画『アイリッシュマン』では、ロバート・デ・ニーロ、アル・パチーノ、ジョー・ペシがこの技術で若返った姿で出演しました。
将来、ディープフェイクは人間の俳優を完全に置き換えることができるでしょうか？おそらく完全に置き換わることはないでしょう。しかし、韓国の放送局MBNの例は、人間を完全に置き換えることが可能であることを示しています。
昨年、ニュースキャスターのキム・ジュハ氏が、 ニュース番組の生放送中に自身のディープフェイクに置き換えられました。MBNは、今後も速報ニュースなどでこのシステムの活用を継続する方針を明らかにしています。
プライバシーの保護
性的指向を理由に拷問や死の危険にさらされているチェチェン共和国の同性愛者たちの身元を守るため、 映画製作者たちは2020年のHBOドキュメンタリー映画『ウェルカム・トゥ・チェチェン』でディープフェイクを活用しました。従来のシルエット処理された匿名インタビューとは異なり、視聴者は迫害から逃れる当事者たちの表情や生の様子を間近に見ることができました。ディープフェイク技術がなければ、これほど説得力があり、人々の心を揺さぶるドキュメンタリーにはならなかったでしょう。
恐喝行為
当然ながら、この技術は すでに詐欺師によって 恐喝に悪用されています。あるケースでは、詐欺師たちがマッチングアプリで女性を装った偽プロフィールを作成しました。男性に友達申請を送り、ビデオ通話を促します。通話中、コンピューターで生成された女性の動画を使用してターゲットを騙し、性的な行為をさせます。もちろん詐欺師たちはその様子を録画しており、その後、脅迫の電話をかけます。
もし被害者が支払いを拒否すると、 第2段階 が始まります。詐欺師たちは通話中に撮影した被害者の顔写真を使って、性的な行為を行っているディープフェイク動画を作成します。こうして執拗な脅迫が続けられます。
ファッション業界
現在、ファッション企業は大きな課題に直面しています。最新のトレンドを愛する消費者を満足させるため、新商品を企画から市場へ極めて迅速に届ける必要があります。しかし、衣服の撮影を行うだけでも数週間かかることがあります。モデルのキャスティング、スタイリストの手配、カメラマンの雇用に加え、すべての衣類を1つの場所に集める必要があるからです。
ここでも、ディープフェイクが解決策となるかもしれません。 Looklet は、あらゆる服を様々なポーズで着用できるバーチャルモデルを提供しています。メーカーはマネキンに着せた服の写真をアップロードするだけで、撮影場所やモデルの手配に関わらず、子供向けやプラスサイズなど様々なモデルから選び、自社サイトにすばやく商品を掲載できます。
ディープフェイク動画の潜在的な脅威
ディープフェイク技術には多くの有益な使い道がある一方で、深刻な危険性もはらんでいます。欧州刑事警察機構（ユーロポール）と国連地域間犯罪司法研究所（UNICRI）は、ディープフェイクがもたらす将来の脅威として、以下のようなシナリオを挙げています。
世論誘導やデマの拡散
証券詐欺
恐喝・脅迫
児童を対象としたオンライン犯罪
司法妨害
クリプトジャッキング（暗号資産の不正マイニング）
闇市場での不正利用
各シナリオの詳細や事例については、こちらの 報告書全文（英語） をご覧ください。
また、 Deeptrust Allianceによる報告書 も、個人や組織に対する潜在的な脅威をまとめており、一読の価値があります。その中では、フェイクニュースの横に広告が掲載されてしまうリスクなどが指摘されています。
ディープフェイク動画を見分けるには？
ディープフェイクのアルゴリズムが進化して本物そっくりの動画が作られるようになると、肉眼で見分けるのは困難になります。皮肉なことに、別のAIが作成した偽動画を検知するには、やはりAIを使うのが最も効果的です。
AIは、動画内の不自然な箇所や矛盾など、人間の目では見落としがちな兆候を検知できます。数年前までは「不自然なまばたき」がディープフェイクの分かりやすい目印でしたが、その 研究論文 が発表されるとすぐにアルゴリズムが改良され、自然なまばたきが再現できるようになってしまいました。
動画が偽物かどうかを判断する際は、以下の点に注目してみてください。
光の当たり方が不自然
影の付き方がおかしい
肌の色が急に変わる、または不自然
話している内容と口の動きが合っていない
動きがぎこちない
不自然なノイズやピクセルの乱れがある
瞳に映る光の反射が左右でズレている
目視での確認はミスが起こりやすく、大量の動画を処理するのも不可能なため、自動化された技術的な解決策が求められています。一部のグローバル企業や大学、政府などは、この問題に対処するため、すでに 2019年に「平和、司法、安全保障のためのハッカソン」 を開催しています。
また、マイクロソフト、メタ（旧フェイスブック）、アマゾンなども共同で 「ディープフェイク検知チャレンジ」 を開催し、自動検知技術の開発を競いました。しかし残念ながら、 その結果 はまだ十分とは言えません。最も優秀なモデルでも検知率は65%にとどまり、実用化するにはまだ精度が低いのが現状です。
それでも現在、以下のようなツールや技術が登場し、モデルの改良が進められています。
deepware.ai を使えば、不審な動画をオンラインでスキャンし、合成加工されているかをチェックできます。
マイクロソフトもデマ対策のツール開発に取り組んでいますが、現在はまだ一般公開されていません。
研究者たちは、 動画から生体信号を検知し、偽の心拍数を見分ける技術 を開発しています。
瞳の中の光の反射を分析する ことで、動画がディープフェイクかどうかを判定するツールもあります。
口の形（バイジーム）と発音（フォニーム）のズレや不一致を 分析する手法 も研究されています。
Operation Minerva は、ディープフェイクポルノを検知し、自動的に削除要請を送信するシステムです。
現時点では、動画が偽物かどうかを100%正確に見分ける決定的な技術はありません。他の多くのテクノロジーと同様、これもいたちごっこになります。一方では、よりリアルな動画を作り出し、検知システムを突破しようとする開発者がいます。もう一方では、偽動画を確実に検出し、危険な拡散を防ごうとする研究者や政府、大手プラットフォームがいます。
ディープフェイクに関する法律はどうなっている？
ディープフェイク動画を作成すること自体は、違法ではありません。しかし、その拡散を防ぐために法整備を進めている国もあります。例えば中国では、 2022年初頭に法律が施行され、TikTokのような大量のデータを使ってコンテンツをパーソナライズする大手プラットフォームが、ユーザーのフィードに偽動画を表示することを禁止しました。この規制は、詐欺や社会不安につながる虚偽情報の拡散を防ぐことを目的としています。
米国では、 テキサス州 や カリフォルニア州 の例があります。両州は、選挙前の30日以内に政治的な意図を持ったディープフェイク動画を公開することを禁止しました。さらにカリフォルニア州は、 バージニア州 と同様に、ディープフェイクポルノの制作・配布も禁止しています。
しかし、最大の課題は「国外の作成者」に対する法的な管轄権が及ばないことです。どんなに国内法を整備しても、作成者が海外にいる場合は規制が非常に困難になります。
「そのため、ディープフェイクに対する差し止め命令は、わいせつ物や著作権侵害など、特定の限られた条件下でしか認められないのが現状です」 （ソース）
ディープフェイクの未来はどうなる？
90年代初頭のCGI（コンピューターグラフィックス）と同様に、ディープフェイクは画期的な技術ですが、それ以上に悪用のリスクを秘めています。中には、ディープフェイクが社会に混乱をもたらし、情報への信頼を損なうと懸念する声もあります。
多くの企業がすでに、大量のデータを必要とせず、たった1枚の写真からディープフェイクを作成できるモデルを開発しています。例えばサムスンは、自社の技術を使って 『モナ・リザ』をリアルに動かす ことに成功しました。
また、 Synthesia などの企業は、テキストを入力するだけで、AIがスピーカーの映像と音声を自動生成するオールインワンのサービスを提供しています。ユーザーは様々な言語や訛りを持つアバターから選ぶことができ、必要に応じて自分自身のバーチャルアバターを作成することも可能です。あとはテキストを入力するだけで、システムが自動的に動画を作成してくれます。
今後、各国政府がこの技術の潜在的なリスクにどう対処していくかも注目されます。
ディープフェイクがどのような未来をもたらすにせよ、一つだけ確実なことがあります。それは、「ディープフェイク技術はすでに社会に定着しており、消え去ることはない」ということです。
