Apple AI cloud : matériel de serveur sur mesure basé sur Apple Silicon, un nouveau système d'exploitation et une pile ML basée sur Swift

Apple Intelligence s'appuie à la fois sur le traitement sur l'appareil et sur le serveur. Pour les requêtes complexes nécessitant plus de puissance de traitement, Apple Intelligences profite de Private Cloud Compute, le propre cloud d'IA d'Apple. Au lieu de dépendre d’autres hyperscalers comme Microsoft, Amazon et Google, Apple a construit ses propres serveurs alimentés par le silicium Apple pour garantir que les données des utilisateurs ne soient jamais conservées ou exposées.

Apple a publié hier un article de blog expliquant la technologie derrière Private Cloud Compute. Voici les faits saillants :

• Apple utilise du matériel serveur sur mesure qui apporte la puissance et la sécurité du silicium Apple au centre de données.
• Apple a développé un nouveau système d'exploitation serveur (système d'exploitation) basé sur les bases d'iOS et de macOS. Le nouveau système d'exploitation est optimisé pour les charges de travail d'inférence Large Language Model (LLM) tout en présentant une surface d'attaque extrêmement étroite.
• La pile de serveurs IA d'Apple excluait les composants traditionnellement essentiels à l'administration des centres de données, tels que les shells distants et les outils d'introspection et d'observabilité du système.
• Apple a créé de nouveaux composants qui ne peuvent fournir qu'un ensemble restreint et restreint de mesures opérationnelles au personnel SRE.
• Apple a utilisé Swift on Server pour créer une nouvelle pile d'apprentissage automatique spécifiquement pour l'hébergement notre modèle de base basé sur le cloud.

Apple a également mentionné que des experts indépendants peuvent inspecter le code qui s'exécute sur les serveurs Apple Silicon pour vérifier la confidentialité. Apple aidera également les chercheurs en sécurité en fournissant les éléments suivants :

• Un environnement de recherche virtuel Private Cloud Compute : un ensemble d'outils et d'images qui simulent un nœud PCC sur un Mac avec du silicium Apple et qui peuvent démarrer une version du logiciel Private Cloud Compute légèrement modifiée pour une virtualisation réussie.
• Images binaires de chaque build de production Private Cloud Compute. Apple publiera également périodiquement un sous-ensemble du code source PCC critique pour la sécurité.
• Les images Private Cloud Compute incluront le micrologiciel sepOS et le chargeur de démarrage iBoot en texte clair, ce qui permet aux chercheurs d'étudier plus facilement que jamais ces composants critiques.

Vous pouvez en savoir plus sur le cloud privé de calcul d'Apple ici.