偽の画像が口コミで広まる

Wired によると、ソーシャル メディアは、ドナルド トランプ前大統領が警察に取り囲まれ、逮捕され、逃走中、悲しそうに刑務所の椅子に座って、アメリカ人のオレンジ色の制服を着たマスクを着用している一連の偽の画像を流布しました。 監獄… これらはすべて人工知能（AI）技術によって作成された写真です。

ただし、写真の一部の詳細は「かなり説得力がある」ように見えます。 Bellingcat 組織の創設者であり、偽の写真を投稿した最初の人物である Eliot Higgins による一連の投稿は、640 万回以上のビューを集めています。 一部の写真では、ヒギンズはこれを AI 画像として明確に説明しましたが、他の写真にはそうではありませんでした。

この創設者によると、ドナルド・トランプ前大統領の事件に関連して近い将来公開される可能性のある偽の映像と本物の映像を視聴者が区別するにはどうすればよいでしょうか? ワイアードの記者は彼に連絡を取り、答えを求めた。

ディープフェイクの写真を見分けるには?

“私はこのテーマで多くの画像を作成しました。明らかに、コンテンツは通常、描かれている最初のオブジェクトに焦点を当てています。この場合、トランプの家族のメンバーであり、通常、より多くのエラーがあります。「-ヒギンズ氏はワイアードにメールで書いた-」写真の焦点の外側を見て、残りは作業後に頭に浮かんだアイデアのように見えますか?“。

Midjourney や Stable Diffusion などの最新バージョンの AI 画像処理ツールは大きな進歩を遂げていますが、細部のエラーは依然として、偽の画像を見分ける一般的な兆候です。 .

AI テクノロジーの人気が高まっているにもかかわらず、多くの専門家は、アルゴリズムが人体を一貫して自然に再現するのに依然として苦労していると指摘しています。

Twitter で共有されたトランプ氏の AI 画像を見ると、多くの写真の顔や手が非常にリアルに見えることがわかります。 しかし、元米国大統領の体のプロポーションは、彼の隣に立っている警官の体と歪んでいるか、混乱しているように見えました.

正誤を判断するための標識がさらに必要な場合は、写真に写っている壁、衣服、その他の物体に奇妙な文字が書かれているものを探すことができます。 乱雑な手書きは、本物の写真と偽の写真を見分ける方法だとヒギンズは言います。

たとえば、トランプ氏の偽の写真にテキストが含まれているオブジェクトの場合、注意深く調べると、それらの単語/単語が意味をなさないことがわかります。

AI によって生成された写真を区別するのに役立つもう 1 つの方法は、顔の表情に注意を払うことです。 ヒギンズは次のように述べています。 「表現を求めると、Midjourney はそれらを誇張する傾向があることに気付きました。たとえば、笑ったときの皮膚のしわは、しばしば非常に明白です。

メラニア・トランプの顔の苦しそうな表情は、写真家が撮ったスナップショットというよりも、エドヴァルド・ムンクの『叫び』の再演や、これまでに見たことのないホラー映画の静止画のように見えます..

ヒギンズはさらに、世界のリーダー、有名人、またはソーシャル メディアのインフルエンサーは、オンラインで多数の画像を保存していると述べています。 これにより、彼らの AI 写真は、めったにインターネットに登場しない人々よりもリアルに見えるようになります。

“明らかに、有名な人ほど、AI はより多くの画像を学習します。」ヒギンズは、「そのため、有名人はしばしば非常によく代表されます。」

ディープフェイク技術は急速に進化し、ますます高度になっています。 インターネット上では、バラク・オバマ前大統領が下品な言葉を使ってドナルド・トランプ大統領やリチャード・ニクソン前大統領をコメディーで叱るビデオも公開されていた…

しかし、これらの動画はすべてフェイクであり、虚偽の情報を広めることを目的として作成されており、コミュニティに混乱を引き起こしています。

ヒギンズ氏も罰せられましたが、米国政府からではありませんでした。 代わりに、Bellingcat の創設者は、偽の写真を作成した人工知能企業である Midjourney によってブロックされ、Midjourney のネットワークへのアクセスがブロックされました。

しかし、ミッドジャーニーはこの制裁の理由を説明せず、ヒギンズ氏が違反した条項を特定しませんでした。