AppleはApp Storeの審査を拡張し、違反するAI深層偽造アプリを削除します。

AppleはApp Storeの審査ルールを拡張し、AI生成の非自発的親密画像を規制対象にすることを発表しました。プラットフォームは以前からポルノコンテンツを禁止しており、新しい規則では開発者に対し、AI生成のディープフェイクコンテンツを積極的に防止し、削除することを求めています。効果的な対策を講じない場合、これらの違反コンテンツを含むアプリは強制的に削除されます。

更新された1.2条項は特にAIコンテンツ作成アプリに言及しており、Grokなどの論争のある製品を名指ししています。以前、ユーザーからxAIのGrokが露出や性的暗示のディープフェイク画像を作成するために使用されているとの苦情が寄せられました。今年の初め、AppleはxAIに対し、このようなコンテンツの拡散を許可すればGrokはApp Storeから削除されると警告しました。その後、xAIは安全対策を講じ、更新版が承認されました。

新たに追加された2.5.19条項はいわゆる「すり替え計画」に対して、開発者が提出した審査版以外に新機能やモジュールを隠す場合、特に承認後に「脱衣」などの有害機能を有効にする場合、App StoreおよびApple Developer Programから同時に削除される可能性があることを示しています。第5節の更新は、人身売買や児童搾取アプリに対する禁止令を代替アプリ配信チャネルにまで拡大することを促進します。Appleは、開発者がこれらのガイドラインに違反した場合、関連アプリを削除し、開発者資格を停止すると述べています。