Apple Intelligence は画像生成に使用されます。iOS18、Image Playgroundで作成した写真にはマークが付きます。これがどのように機能するのか、そしてラベルの制限は何なのかを次に示します。
として知られています生成的な遊び場その開発期間中、イメージプレイグラウンドを使用して画像を作成できますアップルインテリジェンス— Apple の社内のオンデバイス生成 AI ソフトウェア。
Image Playground を使用すると、ユーザーは、Freeform、Messages、Keynote などのさまざまな Apple アプリケーションにわたって独自の AI 生成画像を作成できるようになります。これはすべて一度で可能になりますアップルインテリジェンス2024 年後半に利用可能になります。
AI を活用した画像生成技術が日々進歩するにつれ、人工知能によって作成された画像を識別することはますます困難になる一方です。 Apple はこの問題に対処する明確な計画を持っており、同社のソフトウェアは AI によって生成された画像にマークを付け、写真のようにリアルなアダルトコンテンツや著作権で保護されたコンテンツの作成を防止します。
AppleはEXIFデータを通じてAI生成の魔術師をマークする予定
AppleInsider同社が、EXIF データとしても知られる画像メタデータを通じて AI 生成画像にラベルを付ける計画であることがわかりました。
これは、Image Playground を通じて作成された AI 生成画像が、そのメタデータを通じて明確にマークされることを意味します。通常、画像ソースには写真の撮影に使用されたカメラの名前とブランドが表示されますが、「Apple Image Playground」と表示され、画像が AI によって作成されたことを明確に示します。
ただし、同社はステガノグラフィーまでは進んでいません。現時点では、Image Playground への認定をイメージ自体に埋め込む計画はないようです。
また、画像メタデータは、多くの公開されている Web サイトや画像変更ツールを通じて簡単に削除または変更できます。画像のスクリーン キャプチャでもメタデータは保存されません。
Apple にとって、EXIF データを介して画像にラベルを付けるだけでは十分ではありませんでした。同社のソフトウェアは、特定の非現実的なスタイルの画像のみを生成できるようにしていたからです。
また、Apple のソフトウェアがユーザーによるフォトリアリスティックな画像の生成を効果的に妨げることもわかりました。代わりに、ユーザーは Image Playground 内で Apple が承認した 3 つのスタイル (アニメーション、イラスト、スケッチ) で画像を生成できるようになります。
これらの画像スタイルはいずれも、現実世界の人物や場所の写真と間違われることはありません。アニメーション スタイルは、3D アニメ映画の静止画になんとなく似たイメージを作成しますが、イラスト スタイルとスケッチ スタイルは、より明らかな 2 次元タイプのイメージを生成します。
Apple はデジタル アーティストと協力し、前述の 3 つのスタイルで画像を作成するよう依頼しました。これらの画像は、同社の生成 AI ソフトウェアのトレーニングに使用され、同様の外観の画像を生成できるようになりました。
この件に詳しい関係者らに話したところ、AppleInsiderApple が Image Playground に使用した参考資料の詳細を学びました。
アニメーション画像スタイルとして、同社は漫画風の目をしたピクサーやドリームワークスのアニメ映画のキャラクターに似た、三次元の黄色いひよこの画像を使用しました。
Image Playground の Sketch スタイルでは、Apple はピンクとオレンジの花の明らかな絵を使用しました。 AI ソフトウェアをイラスト スタイルに合わせてトレーニングするために、同社は、非常に認識しやすく、やや抽象的なスタイルで知られる人物の画像を使用しました。コーポレートメンフィス。
Image Playground では、アニメーション、イラスト、スケッチの 3 つのスタイルで AI 生成の画像を作成するオプションがユーザーに提供されます。
私たちの独立した研究、AppleInsiderは、Apple が Image Playground の開発中のある時点で放棄した、Line Art として知られる 4 番目の画像スタイルを知りました。現在まで、この画像スタイルに関する言及はなく、Apple の最新オペレーティング システムの最初の開発者ベータ版には含まれていませんでした。
これらのさまざまな画像スタイルを作成し、参考資料を委託することで、Apple は AI をトレーニングして、写実的ではない特定の種類の画像を作成できるようにしたいと考えました。したがって、実体や場所の現実の画像と混同できないようにしたいと考えました。 Image Playground には、ユーザーの写真ライブラリとの統合を通じて、ユーザーの知り合いの明らかな AI 生成画像を作成する機能も備わります。
その間WWDC、また、Appleが著作権で保護されたアダルトコンテンツの生成を防ぐために「複数のチェック」を作成したようであることもわかりました。また、ユーザー フィードバック オプションもあり、アプリ内で誤って作成された著作権で保護されたコンテンツやアダルト コンテンツをユーザーが報告する方法が提供されます。
事情に詳しい関係者によると、これらの新しい著作権とアダルトコンテンツのチェックは、メタデータによる画像のラベル付けとともに、Image Playgroundの開発期間の後半に追加されたようだという。 Image Playground の初期開発バージョンには、外部での使用を意図していないため、これらのセキュリティ チェックが実施されていないようだと言われました。
本質的に、これはすべて、Apple が写実的なアダルトコンテンツや著作権で保護されたコンテンツの作成を阻止するために多大な努力を払ったことを意味します。同社は、AI によって生成された画像を簡単に識別できるようにしたいと考えており、そのため、そのような画像は誰でも確認できるメタデータを通じてマークされています。
Isamu 
Isamu 
Isamu