Apple は WWDC で新しい AI 言語モデルを発表しました。これらのモデルは、Apple デバイス上でローカルに実行される場合と、Apple 独自のデバイス上で実行される場合の両方で実行されます。アップルシリコン- を搭載した AI サーバー。
人工知能 (AI) が依存するもの言語モデルこれは、AI をトレーニングしてプロンプト (クエリ) に対する結果を生成するための知識入力を提供します。
言語モデルを使用すると、コンピューターを特定の主題についてトレーニングし、特定のトピックの専門家として機能させることができます。
AIアライメントAI システムが人間の目標、価値観、望ましい結果に適合するように設計および実装するプロセスを指します。言い換えれば、調整は AI が本来の目的から逸脱して危険にならず、任務を遂行し続けることを目的としています。
でWWDC2024年、アップルが発表アップルインテリジェンス- Apple 独自の AI は、オンデバイスとサーバーベースの AI の両方を提供します。 Apple Intelligence の新しいモデルを使用することで、Apple の AI はより集中的に、より速く、より正確になります。
基礎言語モデル
Apple はその一般的な生成 AI モデルを「生成 AI モデル」と呼んでいます基礎言語モデル。これらのモデルは大規模言語モデル (LLM) であり、最大 30 億のパラメーターを使用し、ほとんどのユーザーが使用したいと考えられる基本的な生成 AI 用に設計されています。
Apple ファウンデーションモデル。
Appleはこれら2つのモデルをこう呼んでいますAFMオンデバイス、 そしてサーバー上のAFMそれぞれ。
Apple には、Apple Intelligence に組み込まれた他の汎用モデルもあります。これらのモデルは、デバイス上と Apple のサーバーの両方で実行できます。
Apple は非常に詳細な 47 ページを提供していますホワイトペーパーその基礎となる言語モデルがどのように機能するかについて。技術的な観点から見ると、Apple の基盤モデルでは、次のような AI 技術のベースラインが使用されています。
- 変圧器のアーキテクチャ
- IO埋め込み行列
- 正規化前
- クエリキーの正規化
- グループ化されたクエリの注意
- SwiGLUのアクティベーション
- RoPE の位置埋め込み
- 微調整
- 人間による調整と入力
Apple ファウンデーションモデル。
Apple Intelligence は、AppleBot と呼ばれる自動 Web クローラーも使用します。サイトは、robots.txt ファイルでオプトアウトすることで、コンテンツを使用しないよう AppleBot に通知できます。
コード AI については、Apple Intelligence は GitHub でホストされているオープンソース ソフトウェアからも学習し、そこから学習して圧縮し、重複するケースを自動的に削除します。
Apple のホワイト ペーパーでは、モデルの仕組みと使用されるトレーニング方法が詳細に説明されており、最後には高度な数学も含まれています。
プライベートクラウドコンピューティング
Apple Private Cloud Compute (PCC) は、上記のすべてのモデルを利用するリモート AI サービスに加え、拡張されたインテリジェンスのための追加モデルにアクセスできます。
によるとこのブログ投稿これは PCC について説明していますが、Apple は PCC に関して、速度、正確さ、プライバシー、サイトの信頼性など、いくつかの目標を掲げています。
PCC はまた、Apple コンシューマ デバイスと同じ Secure Enclave および Secure Boot を使用して、オペレーティング システムとデータの改ざんを防止します。
テクノロジー企業の他の多くの AI 製品と同様に、PCC は AI プロンプトのリモート実行を提供しますが、パフォーマンスは高速です。
アップルの機械学習研究ページそのモデルについては、Apple が責任ある AI にどのようにアプローチするかについても説明されています。
Apple はその基礎モデルを次のように要約しています。
「私たちのモデルは、ユーザーが Apple 製品全体で日常的な活動を行えるようにすることを目的として作成されており、あらゆる段階で責任を持って開発され、Apple の中核的価値観に基づいて開発されています。私たちは、以下を含む広範な生成モデル ファミリーについて、近いうちにさらに多くの情報を共有できることを楽しみにしています。」言語、普及、コーディングモデル。」
記事もご覧くださいiOS 17.6以降Apple Intelligenceのベータ版リリースを受けて登場そしてアップルも認めるGoogle Tensor ハードウェアを使用して Apple Intelligence をトレーニングする。
Apple Intelligence は次のことを約束します。iOSそしてマックユーザーは、デバイス上とクラウド上で、より高速で最適化された AI を利用できます。差し迫ったリリースでそれがどのように展開するかを待つ必要がありますiOS18そして次の反復macOS。
Isamu 
Isamu 
Isamu