オンラインでディープフェイクを検出し、ラベルを付けるために現在私たちが持っている最善の方法は、ストレステストを受けようとしています。 インドが発表 火曜日には、ソーシャルメディアプラットフォームに対し、AIが生成した違法な素材をより迅速に削除し、すべての合成コンテンツに明確なラベルを付けることを義務付ける。ハイテク企業は何年もの間、これを自力で実現したいと述べてきたが、法的に導入が義務付けられるまであと数日となった。この規則は 2 月 20 日に発効します。
インドには若者に偏った 10 億人のインターネット ユーザーがおり、ソーシャル プラットフォームにとって最も重要な成長市場の 1 つとなっています。したがって、そこに何らかの義務があると、検出を限界まで進めることによって、世界中のディープフェイクのモデレーションの取り組みに影響を与える可能性があります。 実は うまくいくか、テクノロジー企業に新しいソリューションが必要であることを認識させることもできます。
インドの改正情報技術規則に基づき、デジタルプラットフォームは、ユーザーが違法に合成された音声および映像コンテンツ、別名ディープフェイクを作成または共有することを防ぐために「合理的かつ適切な技術的措置」を導入することが義務付けられる。ブロックされていない生成 AI コンテンツには、「永続的なメタデータまたはその他の適切な技術的な来歴メカニズム」を埋め込む必要があります。ソーシャル メディア プラットフォームに対しては、AI で生成または編集された素材の開示をユーザーに義務付けること、それらの開示を検証するツールの導入、AI 音声に口頭での開示を追加するなど、合成であることがすぐにわかるような方法で AI コンテンツに目立つラベルを付けることなど、特定の義務も求められています。
やり方を考えると、言うは易く行うは難し ひどく未発達な AI 検出およびラベル付けシステムは現在、次のとおりです。 C2PA (コンテンツ認証情報とも呼ばれる) は、現在この両方に対応できる最高のシステムの 1 つであり、作成または編集の時点で画像、ビデオ、オーディオに詳細なメタデータを添付して、それがどのように作成または変更されたかを目に見えない形で説明することで機能します。
しかし問題は、Meta、Google、Microsoft、その他多くのテクノロジー大手がすでに C2PA を使用していることですが、それは明らかに機能していません。 Facebook、Instagram、YouTube、LinkedIn などの一部のプラットフォームは、C2PA システムによってフラグが付けられたコンテンツにラベルを追加しますが、それらのラベルは見分けるのが難しく、一部の合成コンテンツは すべき メタデータが亀裂をすり抜けていることは承知しています。ソーシャル メディア プラットフォームは、オープンソースの AI モデルやいわゆる「アプリを無効化する」は自主的な C2PA 標準の採用を拒否しています。
DataReportal の調査によると、インドには 5 億人を超えるソーシャル メディア ユーザーがいます。 ロイター。内訳としては、YouTube ユーザーが 5 億人、Instagram ユーザーが 4 億 8,100 万人、Facebook ユーザーが 4 億 300 万人、Snapchat ユーザーが 2 億 1,300 万人になります。また、X 社にとって 3 番目に大きな市場であると推定されています。
相互運用性は C2PA の最大の問題の 1 つであり、インドの新しい規則は導入を促進する可能性がありますが、C2PA メタデータは永続的ではありません。削除するのが非常に簡単であるため、一部のオンライン プラットフォームではファイルのアップロード中に意図せず削除してしまう可能性があります。新しいルールの注文プラットフォーム ない メタデータやラベルを変更、非表示、または削除できるようにするためのものですが、準拠する方法を理解する時間はあまりありません。 AI ラベル付けシステムをまったく実装していない X のようなソーシャル メディア プラットフォームには、実装までに 9 日しか時間がありません。
Meta、Google、Xはコメント要請に応じなかった。 C2PA標準の推進力であるAdobeも反応しなかった。
インドでの圧力に拍車をかけているのは、ソーシャルメディア企業に対し、違法なコンテンツが発見または報告されてから3時間以内に削除するという義務付けであり、これまでの36時間という期限に代わる義務が課せられている。これはディープフェイクやその他の有害な AI コンテンツにも当てはまります。
Internet Freedom Foundation (IFF) は、これらの強制的な変更により、プラットフォームが「急速な検閲」に陥る危険性があると警告しています。 「これらの信じられないほど短いタイムラインにより、人による有意義なレビューが排除され、プラットフォームは自動化された過剰削除を余儀なくされています。」 IFFは声明でこう述べた。。
改正案が「技術的に可能な範囲」で実装されるべき出所メカニズムを指定していることを考えると、インドの命令の背後にいる当局者はおそらく、現在のAI検出およびラベル付け技術がまだ準備ができていないことを認識しているだろう。 C2PAを支援する組織は、十分な人数が利用すればこのシステムは機能すると長い間誓ってきたため、これはそれを証明するチャンスだ。
