MarkZuckerbergとAlexJonesの偽物を作成しようとしましたが、失敗しました。これが何が起こったのかです。

誰かがしたように見せたり、決して起こらなかったことを言ったりすることは、見た目よりも難しいです。

これは、インフォウォーズのホストであり、頻繁に陰謀論者であるアレックスジョーンズの「ディープフェイク」ビデオを作成しようとしたときに、ポインターが過去数週間にわたって学んだことであり、FacebookのCEOであるマークザッカーバーグが実際に発言したものです。ディープフェイク、 Redditユーザーにちなんで名付けられました この方法を思いついたのは、基本的に、1つのビデオから多数のフレームを抽出し、それらを互いに重ね合わせることによって作成されます。

目標：誰かがしていないことをしている、または言っているように見せます。そして、それが、このテクノロジーが実際にどれほど簡単に使用できるかを確認するためにPoynterが試みたものです。

使用する FakeApp 、ユーザーが独自のディープフェイクを作成できる無料のオンラインツールである、ジョーンズの根拠のない陰謀説を噴出するザッカーバーグの初歩的な動画を作成しようとしました。以下は、PoynterのパートタイムWeb開発者であるWarrenFridyの助けを借りて作成されたビデオです。

明らかに、それは何かの良いバージョンではありません アマチュアポルノ 、 人 フリンジウェブサイト そして政党でさえ、驚くほど熟練しています。ザッカーバーグの顔は確かにジョーンズの顔に重なっていますが、FakeAppには顔全体が含まれているため、目がはっきりしない、ある種のぼやけた悪魔のように見えます。次に、オーディオがトランスポーズされなかったという事実があります。

要するに：私たちは日常の仕事を続けるべきです。

冗談はさておき、まずまずのディープフェイク動画とはほど遠いものを思いつくのに数週間かかりました。そしてそれは、ディープフェイクテクノロジーに関する終末のメディア報道が頻繁に行われているにもかかわらず、 本当に難しいです 作成します。

「ディープフェイクにはかなりの手作業が必要です」と述べています。 マティアス・ニースナー 、ミュンヘン工科大学の教授、その研究室 研究 ディープフェイク、ポインターへのメール。 「ある意味では、Photoshopに似ているように見えます。少し誇張されています。」

今日ローマで開催されたグローバルファクトチェックサミットのパネルで議論されたディープフェイクの台頭は、不気味なインターネットから民主主義への真の脅威へと変化したとのことです。 転がる石 。 Voxは書いた 操作されたビデオは私たちの記憶を変える可能性があります、 ヴァージは言った ディープフェイクポルノビデオの作成はすぐに非常に簡単になり、 有線でもカバー フォーマットとの戦いに専念しているブロックチェーンのスタートアップ。

同時に、 一部の報告 一般的なディープフェイクはすでに終わっており、「ディープビデオポートレート」は私たち全員が心配すべきことです。

一方、1か月以上試してみたところ、ほんの少しでもリアルに見えるものを作ることはほとんどできませんでした。確かに、それは（当然のことながら）機械学習モデルに対する私たち自身の無知にチョークで書かれている可能性があります— 他の ジャーナリスト より多くの成功を収めていますが、ここでのポイントは、大幅に変更されたビデオを作成することは、Facebookに偽のニュース記事を投稿するほど簡単ではないということです（おそらくそれほど収益性は高くありません）。

「ディープラーニングの経験がまったくない人でも、オンラインで利用できるディープフェイクアプリを使用して説得力のあるディープフェイク動画を作成できるとは思いません」と述べています。 Annalisa Verdoliva 、ナポリ大学フェデリコ2世の助教授、ポインターへのメール。 「専門家でさえ、それはかなり難しいです。」

Verdolivaは、研究チームと一緒に独自のディープフェイク動画を作成しようとしましたが、ディープフェイクを作成するモデルを正確にトレーニングするのに十分な画像のバリエーションが得られなかったため、うまくいかなかったと述べました。これは、ポインターのようなデマになる可能性のある人にとっても重要な課題です。

実行した手順は次のとおりです。

1. FakeAppをダウンロードして、Windowsリモートデスクトップにインストールしました（PoynterはほとんどMacのみを使用しており、FakeAppとは互換性がありません）。
2. 2つのビデオクリップをダウンロードしました— ザッカーバーグの1つ 2016年の米国大統領選挙でのロシアの干渉の調査について話し、 ジョーンズのもう一人 「ディープステート」とドナルドトランプ大統領の政治的議題について話します。これにより、FakeAppはたくさんの顔写真から選択できます。
3. FakeAppを強化する「人工知能」が各動画の顔を見つけてトリミングし、ジョーンズとザッカーバーグをブレンドして前者が後者のように話しているように見せかける機械学習モデルを作成します。これには週末全体、つまり約3日かかりました。
4. 最後に、FakeAppがビデオを生成しました。フリディは、モデルをもっと長く、ザッカーバーグの顔の写真をもっと多く使ってより正確にすることができたかもしれないと言ったが、それはもっと時間がかかったであろう。

さて、楽しい部分です。 FakeAppの使用中に発生した問題のいくつかを次に示します。

1. AppleのmacOSでFakeAppを実行することはできません。これは、Windowsでのみ機能しました。
2. あなたは持っている必要があります NVIDIAベースのグラフィックカード 、これは基本的に、すべての画像を処理して一緒にモーフィングできるハードウェアの一部です。
3. コンピュータには、約10GB程度の大量のメモリが必要です。
4. FakeAppが機械学習モデルを作成できるようにするソフトウェアライブラリであるTensorFlowのさまざまなバージョンとの互換性の問題に遭遇しました。
5. 元の動画から音声を取り出してディープフェイクにつなぎ合わせましたが、FakeAppは何もしませんでした。

「FakeAppは良さそうに聞こえますが、座って試してみると、100％機能しません」とFridy氏は言います。 「それは箱から出してすぐに使えるツールではありません。」

FakeApp 伝えられるところによると 100,000回以上ダウンロードされました。ディープフェイクの作成専用の4chanチャネルとRedditチャネル全体があります。しかし、今のところ、テクノロジーはせいぜい初歩的なものです—それを適切に使用する方法を知っている人にとってさえ。

（FakeAppのスクリーンショット）

フリディは次のような技術を言った Adobe After Effects と コトドリ 、 としても Face2Face と Pixel2Pixel 、おそらくディープフェイクビデオを作成するためのより良い賭けでしょう。 S.pa、ベルギーの政党 トランプのディープフェイクを作成しました 先月、AfterEffectsを使用しました。

ツールの複雑さにもかかわらず、ディープフェイクのビデオはまだ気になります—近い将来ではなく、いくつかの注意点があります。

「私たちはこの技術の始まりに過ぎず、すぐに改善され、誰にとっても使いやすくなると思います」とVerdoliva氏は述べています。 「現時点ではまだ解像度が低すぎますが、高品質の合成面の生成が目覚ましい進歩を遂げているため、これは近い将来問題になるでしょう。」

同時に、ディープフェイクの影響と可能性を誤解し、誇張しすぎると、短期的にはより大きな脅威となる可能性があります。

「現時点での私の最大の懸念は、これらのアプローチの多くの誤解です」とニースナーは言いました。 「映画業界は過去30年間、非常にリアルな「偽の」画像を作成してきました。しかし、AIを流行語として追加すると、それがうまく機能しなくても、突然問題になります。」

ディープフェイク ビデオは、今日のグローバルファクト5のパネルで議論されます。ライブアップデートについては、@factchecknetと#GlobalFactVをフォローしてください。