Cette pointure dans le domaine de l’I.A. rejoint Apple pour des projets prometteurs
C’est un partenaire de luxe qui vient serrer la main à Apple.
Après ses investissements dans OpenAI pour propulser ses ambitions IA vers de nouveaux sommets, Apple vient de dévoiler un nouveau partenariat, et non des moindres. La firme s’allie avec le géant des processeurs graphiques (et désormais de l’IA) : NVIDIA, entreprise dirigée par Jensen Huang qui a littéralement explosé en bourse à la rentrée. Des résultats sur les marchés financiers qui s’expliquent justement par son expertise en intelligence artificielle.
Grâce à ses GPU haute performance, l’entreprise de Huang est devenue LE fournisseur ultime pour les centres de données, les laboratoires de recherche et les entreprises qui développent des applications d’IA. Autant dire que ce nouveau partenariat avec NVIDIA pourrait donner un bel élan à Apple, elle qui accuse un certain retard dans ce secteur face à la concurrence.
Une synergie matérielle et logicielle inédite
La collaboration technique entre Apple et NVIDIA s’articule autour d’une intégration de ReDrafter (une nouvelle méthode de génération de texte par les grands modèles de langage développée par Apple) dans l’environnement TensorRT-LLM. C’est une bibliothèque Python optimisée par NVIDIA qui permet d’exécuter des grands modèles de langage (LLM) de manière extrêmement rapide sur des GPU.
Pour permettre cette intégration, NVIDIA a développé de nouveaux opérateurs spécialisés dans son framework TensorRT-LLM. Ces composants logiciels assurent une communication optimale entre l’algorithme d’Apple et les processeurs graphiques NVIDIA. L’adaptation s’est concentrée sur la gestion efficace des structures de données générées par ReDrafter, notamment lors de deux phases.
La première est la recherche par faisceau, une méthode heuristique utilisée en IA pour explorer efficacement un espace de recherche vaste, en se concentrant sur les chemins les plus prometteurs. Le second est l’attention dynamique arborescente. C’est mécanisme qui permet à un modèle d’IA de focaliser son attention sur les parties les plus pertinentes d’une information, adapter cette attention en fonction du contexte et de l’évolution de cette dernière et la hiérarchiser.
Les ingénieurs ont implémenté des mécanismes de synchronisation permettant une distribution efficace des calculs sur les différents cœurs des GPU. Cette optimisation multiniveau exploite pleinement les unités de calcul tensorielles des processeurs NVIDIA, tout en maintenant une architecture modulaire capable d’évoluer avec les futurs développements.
Des performances déjà tangibles
Cette intégration dans l’écosystème NVIDIA porte déjà ses fruits. En laboratoire, les tests effectués sur des architectures neuronales massives, dotées de dizaines de milliards de paramètres, dévoilent une progression spectaculaire des performances. L’algorithme glouton représente la méthode classique de génération de texte par les modèles de langage, où l’algorithme sélectionne à chaque étape le token (unité de texte) ayant la plus forte probabilité.
L’amélioration apportée par ReDrafter permet d’accélérer ce processus de manière considérable : là où le système traditionnel générait un certain nombre de tokens par seconde, l’intégration de ReDrafter permet d’en produire 2,7 fois plus dans le même intervalle de temps.
Au-delà des chiffres bruts, cette avancée technique transformera l’expérience des utilisateurs finaux. Le temps de réponse des applications diminue sensiblement, tandis que l’empreinte matérielle et énergétique se réduit. Les chercheurs d’Apple, conscients des enjeux pratiques, soulignent cette double amélioration : « Les modèles de langage alimentent de plus en plus d’applications en production, et l’amélioration de l’efficacité d’inférence peut impacter les coûts computationnels tout en réduisant la latence pour les utilisateurs ».
Aucun doute, ce partenariat donnera des ailes à Apple et renforcera sa position sur le marché de l’IA. Il ne nous reste plus qu’à espérer qu’Apple Intelligence profitera un jour de cette synergie.
- Apple et NVIDIA s’associent pour intégrer une méthode avancée de génération de texte à des GPU hautement optimisés.
- Cette collaboration technique améliore considérablement la rapidité et l’efficacité énergétique des modèles d’IA.
- Les performances de cette synergie renforceront la position d’Apple dans la course à l’intelligence artificielle.
