Appleは最終的にApp Storeから生成AIヌードアプリを引き出します

Appleはからアプリを削除しましたApp Storeそれは、Appleを実証する動きが、危険なアプリのカテゴリにもっと喜んで取り組むことを望んでいると主張しています。

の機能生成AIプロンプトに基づいて画像を作成することは、写真とデザインの非常に便利なツールになりました。しかし、この技術は、深い偽物の作成と非同意のポルノの作成においても誤用されています。

危険にもかかわらず、Appleはこの問題から著しく実践的でした。最近の動きの前に、潜在的に大きな問題を修正することはあまりしていませんでした。

でによる報告 404メディア、Appleは、App Storeで利用可能な多くのAIイメージ生成アプリについて通知されました。具体的には、それらは、同意しないヌード画像を作成できると販売されているアプリでした。

アプリは、大人の画像のフェイススワップなどの機能を提供しました。他の人は「服を脱ぐ」アプリとして販売され、それ以外の場合は無害な写真の主題から衣服を事実上剥奪しました。

アプリと関連する広告に警告された後、Appleはそれらの3つをApp Storeから削除しました。 Googleも同様に、Playストアからアプリを削除しました。

レポートの調査は、以前にInstagramがメタの広告ライブラリを介してアプリを宣伝しているという問題を提起しました。

遅いスタート

AppleがApp Storeからアプリを削除したことは朗報ですが、いくつかの長引く問題があります。まず、AppleはApp Storeレビュープロセスの一環としてアプリを禁止することはできませんでしたが、代わりに、第三者の存在について警告を受ける必要がありました。

それでも、アプリと戦うための出版物による以前の試みからのステップアップです。

2022年のアプリに関する報告によると、彼らは最初にApp Storeのページで無実に見えると説明しました。ただし、深い偽のポルノ機能はポルノサイトで宣伝されていました。

当時、AppleとGoogleは彼らに警告を受けましたが、アプリの削除を拒否しました。代わりに、企業はアダルトサイトで広告の実行を停止するように言われ、アプリはアプリストアで持続することが許可されました

注文にもかかわらず、アプリの1つは、Google Playストアから引き出された2024年まで、アダルト機能のマーケティングを継続しました。

AppleがApp Storeから問題のあるアプリを最終的に削除するというAppleの決定は、AppleがAI取引を維持しようとするために行った最新の動きです。可能な限りボード上。

プライバシーを維持するAI言語モデルのトレーニング方法を使用するだけでなく、Appleは著作権で著作権で保護された作品を違法な方法で使用したことも避けています。 MicrosoftとOpenaiが持っている間訴えられたによってニューヨークタイムズAIトレーニングに記事を使用することからの著作権侵害のために、Appleは代わりにライセンス作業数百万ドルと引き換えに主要な出版社から。