Apple AI クラウド: Apple Silicon、新しい OS、および Swift ベースの ML スタックに基づいたカスタム構築されたサーバー ハードウェア

Apple Intelligence は、デバイス上の処理とサーバーベースの処理の両方に依存しています。より多くの処理能力を必要とする複雑なリクエストの場合、Apple Intelligences は Apple 独自の AI クラウドである Private Cloud Compute を利用します。 Microsoft、Amazon、Google などの他のハイパースケーラーに依存する代わりに、Apple は Apple シリコンを搭載した独自のサーバーを構築し、ユーザーデータが決して保持されたり公開されたりしないようにしました。

Apple は昨日、プライベート クラウド コンピューティングの背後にあるテクノロジーを説明するブログ投稿を公開しました。要点は次のとおりです。

• Apple は、Apple Silicon のパワーとセキュリティをデータセンターにもたらすカスタムビルドのサーバー ハードウェアを使用しています。
• AppleはiOSとmacOSを基盤とした新しいサーバーOS（オペレーティングシステム）を開発しました。新しい OS は、Large Language Model (LLM) 推論ワークロード向けに最適化されていますが、攻撃対象領域は非常に狭いです。
• Apple の AI サーバー スタックには、リモート シェルやシステム イントロスペクションおよび可観測性ツールなど、データセンター管理にとって従来から重要だったコンポーネントが除外されていました。
• Apple は、SRE スタッフに小規模で制限された運用メトリックのセットのみを提供できる新しいコンポーネントを作成しました。
• AppleはSwift on Serverを使用して、ホスティング専用の新しい機械学習スタックを構築しました。 クラウドベースの基盤モデル.

Appleはまた、独立した専門家がAppleシリコンサーバー上で実行されるコードを検査してプライバシーを検証できると述べた。 Apple はまた、以下を提供することでセキュリティ研究者を支援します。

• プライベート クラウド コンピューティング仮想研究環境: Apple シリコンを搭載した Mac 上の PCC ノードをシミュレートし、仮想化を成功させるために最小限に修正されたバージョンのプライベート クラウド コンピューティング ソフトウェアを起動できるツールとイメージのセット。
• すべての実稼働プライベート クラウド コンピューティング ビルドのバイナリ イメージ。 Apple は、セキュリティ クリティカルな PCC ソース コードのサブセットも定期的に公開します。
• プライベートクラウドコンピューティングイメージには、sepOSファームウェアとiBootブートローダーが含まれます。 平文でこれにより、研究者がこれらの重要なコンポーネントを研究することがこれまで以上に容易になります。

Apple のプライベート クラウド コンピューティングについて詳しく学ぶことができます。 こちら.