ある晴れた日、家族と同じ顔と声の電話やビデオ通話を受け取ったと想像してみてください。 あなたの家族は、事故に遭って入院しているので、泣いて送金を頼んだかもしれません。 おそらく、この状況では、電話がどれほど偽物であるかを確認するために目を覚ましている人はほとんどいません。 私たちがお金を送金し、私たちの愛する人が無事である場合にのみ、私たちがだまされたことを知ることができます.

声や顔をシミュレートする人工知能技術 (Deepfakes とも呼ばれる) は、懐疑的な人でも巻き込まれる可能性のある罠を仕掛けています。

ディープフェイク技術では善悪の判断が難しい

今日、電話で残高を確認するなど、リモートで銀行口座の取引を行う人が増えており、英国のロイズ銀行でさえ、顧客の声のパスワードを使用しています。

最近、Lloyds の顧客が音声スプーフィング AI を使用しようとしたところ、実際に彼の銀行口座に簡単にアクセスできました。 洗練されたテクノロジーが声をシミュレートし、顔全体をシミュレートできるという事実は、騙されやすい人だけを待っている非常に不穏な新しい罠を実際に開いています.

俳優のレオナルド・ディカプリオのファンは、ネイティブのようにロシア語を話す彼の能力に驚いたに違いありません。 ビデオが偽物であることがわかるまで、それはディープフェイク技術の産物です。

Deepfake は、俳優の顔、声、口の筋肉を作成し、ロシアの男性に適合させました。 チートに使われるまでは面白そうな技術。

2019 年 3 月、英国の秘書がグループの会長から緊急の電話を受けました。 CEO の慣れ親しんだ声と態度により、この従業員は間違いなく 220,000 ポンド、つまり 60 億ドン以上を即座に送金するようになりました。 詐欺はうまくいきました。

そして、このグループの補償を担当する保険会社の担当者によると、このような巧妙な詐欺が再び発生した場合、おそらく彼らはだまされるでしょう.

Euler Hermes Insurance Company の Marie-Christine Kragh 氏は、次のように述べています。 「この詐欺から、被害者をだますために人工知能技術が同じ声の生成に関与しているという明確な兆候が見られます。」.

米国連邦捜査局 (FBI) が発表したデータによると、過去 1 年間だけでも、米国内で個人がオンラインで盗んだ金額は 100 億ドル以上に達しており、2021 年のほぼ 2 倍です。

ディープフェイク技術はどのように実装されていますか?

まず、本人の声と顔が収集されます。これは、おそらく自費出版されたビデオから、またはどこかでインタビューを受けてオンラインに投稿された場​​合に使用されます。

次に、偽のバージョンを成形するために使用される 2 つのアルゴリズムがあります。 これら 2 つのアルゴリズム (1 つはイニシエーション、もう 1 つはディスクリミネーター) は、アルゴリズム 1 が最も完全な偽バージョンをキャストするまで、顔と声を再送信するため、アルゴリズム 2 はエラーを見つけることができません。 したがって、肉眼で善悪を判断することは非常に困難です。

アルゴリズムは、肉眼では見分けがつかないほどリアルな偽のバージョンを作成できます

現在、被害者の情報や画像を含む個人データの流出は依然として横行しています。 また、ディープフェイクの声や顔などのテクノロジーが悪用され、コミュニティを罠にかけ続けることができるように、重要なデータ鉱山であるとも言われています。

欧州で悪意を持った改ざんが心配

金融詐欺に加えて、彼の顔がどこにでも割り当てられるという事実だけでも懸念を引き起こすのに十分です. 特に、日常の人々が写真やビデオを撮ってソーシャル メディアで共有することが非常に多い場合はなおさらです。 これは、悪者が収集して改ざんできるデータの「金鉱」と見なされています。

ヨーロッパでは、悪意を持って偽造されることへの恐怖は、詐欺に遭うことへの恐怖よりも大きくなっています。 ヨーロッパ人は、ディープフェイク技術を使用して個人や企業の評判を落としたり、世論を操作したり、群衆を動員したり、選挙プロセスに影響を与えたりする悪意のある人物のリスクをより懸念しています.

これまでのところ、この技術は洗練された偽のビデオを作成しており、将来的にはさらに完璧で使いやすくなるでしょう. 通常の電話でも偽のビデオを作成できる時代が来るでしょう。これは、誰かが本物ではないことを言ったり行ったりしていることを示しています. 今後、こうした行為を規制する法律がなければ、社会は混乱するでしょう。

欧州議会は、2017 年に最初の未加工のディープフェイク動画がオンラインで公開されて以来、関心を持っていました。当初の方向性は、詐欺、個人情報の盗難、誹謗中傷、名誉毀損に関する刑法にすでに存在する規定を施行して防止することでした。 その後、ヨーロッパ諸国は、悪意を防止するために法律を変更したり、新しい法律を導入したりしますが、それでも、表現の自由と構成の自由を確保するために、娯楽的または風刺的なビデオを許可します.

欧州議会で承認され、来年から施行される予定のデジタルサービス法と人工知能法は、この方向に進んでいます。 この法律には、ディープフェイク動画が視聴者に最初から最後まで偽物であることを明確に知らせることを要求する重要な詳細が含まれています。

中国がディープフェイクの取り締まりを強化

今年の初め、中国は 1 月 10 日から、Deepfake のような AI 技術を規制する法律を導入しました。 これは間違いなく、これまでどの国によって導入された中でも最も詳細な法律です。

したがって、Deepfake は、ディープ ラーニング テクノロジ (ディープ ラーニング アルゴリズム)、拡張現実を使用して、テキスト、画像、オーディオ、ビデオ、および仮想シーンを作成します。 この規制では、この技術を使用してイメージや声を変更するサービス プロバイダーまたは人々に、対象者の同意を得ることが義務付けられており、知的財産権と人権が確保されています。 翻訳プロバイダーは、アルゴリズム メカニズムの制御を確立し、法律を遵守し、倫理的価値を尊重し、簡単に追跡できる必要があります。

この規制はまた、テクノロジーのユーザーが、認可された新聞やネットワークからの 1,300 を超える情報源のみを使用して、真実の歪曲、個人の名誉毀損や国家の歪曲を意図した虚偽の情報を防止することを要求しています。

Deepfake は、美容業界、スマート カスタマー サービス、仮想ホスティングで強力な成長の可能性を秘めています。この技術は 8 年間開発されてきたので、情報産業技術省のサイバー スペース管理局、公安省は実装を決定しました。ディープフェイクの健全な発展のためのこの規制。

中国におけるディープフェイクの管理は、この分野の法律が非常に包括的であるため、比較的便利です。 専門家によると、この規制は、パフォーマンス管理から行動管理まで、ネットワーク コンテンツ管理における重要なステップであり、中国の電子政府機能の継続的な最適化を示しています。 .

ディープフェイクの罠を回避するには?

ディープフェイク技術を利用することは、非常に高度な詐欺です。 したがって、「予防は治療に勝る」ということわざは、この場合さらに当てはまります。

専門家は、人々がこの種のハイテク犯罪に対処するのに役立つ多くの対策を指摘しています。

そのため、緊急の送金依頼の電話がかかってきた場合は、落ち着いて情報を確認してください。

– 親戚や友人に連絡して、本当にお金が必要かどうかを確認してください。

– 送金に必要な口座番号を確認してください。 変な口座なら取引を進めないほうがいいです。

– 銀行の担当者を名乗る人物からの電話の場合は、電話を切り、銀行に直接電話して、電話が銀行を経由したかどうかを確認してください。

– 低品質で不安定な音声またはビデオ通話は、通話の信憑性だけでなく、発信者を疑う要因となります。

市民権番号、自宅の住所、生年月日、電話番号、ミドルネーム、さらには子供やペットの名前などの個人情報を慎重に保管してください… 詐欺師 L Island は、銀行と通信する際にこの情報を使用してあなたになりすますことがあります。その他。

* TV Online でベトナム テレビが放送する番組を読者にフォローしてもらいます。 VTVGo!