深層偽造

AppleはApp Storeの審査ルールを拡張し、AI生成の非自発的親密画像を規制対象にすることを発表しました。プラットフォームは以前からポルノコンテンツを禁止しており、新しい規則では開発者に対し、AI生成のディープフェイクコンテンツを積極的に防止し、削除することを求めています。効果的な対策を講じない場合、これらの違反コンテンツを含むアプリは強制的に削除されます。更新された1.2条項は特にAIコンテンツ作成アプリに言及しており、Grokなどの論争のある製品を名指ししています。以前、ユーザーからxAIのGrokが露出や性的暗示のディープフェイク画像を作成するために使用されているとの苦情が寄せられました。今年の初め、AppleはxAIに対し、このようなコンテンツの拡散を許可すればGrokはApp Storeから削除されると警告しました。その後、xAIは安全対策を講じ、更新版が承認されました。新たに追加された2.5.19条項はいわゆる「すり替え計画」に対して、開発者が提出した審査版以外に新機能やモジュールを隠す場合、特に承認後に「脱衣」などの有害機能を有効にする場合、App StoreおよびApple Developer Programから同時に削除される可能性があることを示しています。第5節の更新は、人身売買や児童搾取アプリに対する禁止令を代替アプリ配信チャネルにまで拡大することを促進します。Appleは、開発者がこれらのガイドラインに違反した場合、関連アプリを削除し、開発者資格を停止すると述べています。

OpenAIのCEOサム・アルトマンが共同設立したアイデンティティプロジェクトWorldは、銀行および金融機関向けのWorld ID認証製品スイートを発表しました。これは、このアイデンティティプロトコルの特定業界向けの初のバージョンです。Worldの共同創設者アレックス・ブラニアは、Money20/20カンファレンスでこの製品を発表しました。このスイートは、3つの既存製品を統合しており、Worldは機関が深層偽造詐欺やAI駆動のアイデンティティ盗用を防ぐのに役立つと述べています。顧客アカウント、従業員のワークフロー、AIエージェントなどのシナリオをカバーしています。具体的には、World IDアプリは、Worldが称するユーザーのProofsを保存および提示するためのアイデンティティウォレットです。World ID for Zoomは、通話参加者が相手が深層偽造ではなく実在の人間であることを確認できる機能を提供しており、この機能は4月に限定テストを開始した後、正式にオンラインになりました。Worldの主要開発者であるTools for Humanityも、Zoomの独立ソフトウェアベンダー交換プログラムに参加しています。World ID for Agents（別名AgentKit）は、ユーザーがProofsをAIエージェントに委託し、第三者プラットフォームに提示させることを可能にします。Worldは、OpenExchange、Bain Capital、VanEck Funds、Outtakeとデザインパートナーとして協力し、銀行および金融サービスを支援する技術を探求していますが、具体的な銀行名や価格は公表していません。ニュースリリースは、デロイトの予測を引用して、2027年までにアメリカのAI関連詐欺損失が400億ドルに達する可能性があると述べており、これは2023年の約123億ドルを上回るとしています。Worldは現在、1800万人以上がProof of Humanを保持していると述べています。先月、WorldはWorld Moneyの自己管理アプリを発表し、150以上の国でステーブルコインの支払いをサポートしています。7月には、World FoundationがWLDトークンの販売を通じて5250万ドルを調達し、ロックアップ期間は1年です。

Bitcoin.comによると、オーストラリア証券投資委員会（ASIC）は、2026会計年度に19,400件以上のオンライン詐欺を削除したと発表しました（前年同期比で182%の急増）。その中で、暗号通貨投資詐欺プラットフォームは3,106件に達し、前会計年度に比べて約30%増加しました。ASICは、詐欺グループが生成AI技術を利用して体系的な詐欺エコシステムを構築していると指摘しています。オーストラリアの首相アルバニーズや経済評論家などの著名人のディープフェイク動画を用いて虚偽の暗号取引ロボットを宣伝し、同時に偽のメディアサイト、AI生成のコメント、虚偽の利益ダッシュボードを構築し、被害者に投資を増やすよう誘導し、資金は最終的に海外の犯罪グループに流れます。著名人の一人が悪用された場合、関連する損失は740万オーストラリアドルを超えています。

ChainCatcher のメッセージ、バイナンスの創設者である赵长鹏（CZ）が最近、ソーシャルメディア X に投稿し、人工知能が新型のディープフェイクハッキング攻撃に使用されており、ビデオ通話の認証方法もすぐに無効になると警告しました。赵长鹏 は強調しました：「非公式のリンクからソフトウェアをインストールしないでください。特に『友達』からのリンクは、彼らのアカウントがハッカーに侵入されている可能性が高いためです。」

ChainCatcher のメッセージによると、ブルームバーグの報道でシンガポールのリー・シェンロン首相は、深層偽造動画がネット上で広まっており、これらの動画は暗号通貨、マネー計画、永住権申請サービスの宣伝に使用されていると述べました。リー首相は Facebook と X プラットフォームで投稿し、彼が一部のネット動画を見たことを明らかにし、一般の人々に警戒を呼びかけ、こうした詐欺に応じたり、個人情報を共有したりしないように促しました。

ChainCatcher のメッセージによると、CoinDesk が報じたところによれば、データ分析会社 Inca Digital が調査報告書を発表し、1人または複数の詐欺師が AI のディープフェイク技術を利用してビデオ通話で身元を隠し、偽の FTX 破産債権を販売することで少なくとも 560 万ドルを詐取したとされています。詐欺師は、実際の債権データと偽造されたシンガポールの住所証明書を提示し、被害者には少なくとも2社の匿名の会社が含まれています。Inca Digital の CEO アダム・ザラジンスキーは、関与した資金が Binance を含む非米国の取引所を通じてマネーロンダリングされていると述べています。

ChainCatcher メッセージ、Binance 創設者の赵长鹏が X プラットフォームで投稿し、「他のソーシャルメディアプラットフォームに私の深層偽造ビデオがあります。詐欺に注意してください。」と述べました。

ChainCatcher のメッセージ、分散型 AI データ流動性ネットワーク Vana が TG アプリの重要なアップグレードを発表しました。ユーザーは深層偽造検出データセットの構築に参加してポイントを獲得できるほか、アプリには新しい DataDAO プレマイニング機能も追加されました。RootData ページによると、Vana は AI アイデンティティ生成アプリケーションで、ユーザーがデジタルキャラクターを作成し、さまざまなアプリケーションで使用できるようにします。このデジタルキャラクターはプライバシーを持ち、作成したユーザーとその承認を受けたアカウントのみが制御できます。Vana は 9 月 18 日に 500 万ドルの戦略的資金調達を完了し、Coinbase Ventures が主導しました。これにより、Vana の累計資金調達額は 2500 万ドルに達しました。

ChainCatcher のメッセージによると、韓国は Telegram の深層偽造に関する怠慢行為を調査するとのことです。