Hugging Face & AMD : Accélération des modèles transformateurs
Hugging Face et AMD s'associent pour optimiser les performances des modèles IA sur CPU et GPU. Découvre les bénéfices concrets pour les développeurs.
Transformer les espoirs en réalité technique : voilà la promesse du partenariat entre Hugging Face et AMD, annoncé lors du Data Center and AI Technology Premiere d’AMD. Ce nouvel éclair dans le ciel du deep learning s’annonce non seulement performant mais aussi économique, avec des GPU et CPU spécifiquement optimisés pour les besoins pressants des modèles de langage géants.
Optimisation des modèles sur GPU AMD
La collaboration entre Hugging Face et AMD cible d’abord les GPU de la gamme Instinct MI2xx et MI3xx, ainsi que la série Radeon Navi3x. Les premiers tests sont prometteurs : le MI250 dépasse son concurrent direct en entraînant BERT-Large 1,2 fois plus vite et GPT2-Large 1,4 fois plus vite. Cela promet un nouveau standard en termes de performances et de coûts pour les centres de données et les développeurs exigeants.
CPU optimisés pour l’inférence
Les CPU Ryzen et EPYC ne sont pas en reste : Hugging Face et AMD travaillent à optimiser l’inférence des modèles sur ces processeurs. Avec des techniques comme la quantification, les CPU peuvent offrir une excellente alternative aux GPU pour des tâches d’inférence tout en étant plus économes en coût.
Architecture de modèles prises en charge
Des modèles de pointe dans le traitement du langage naturel, la vision par ordinateur et la reconnaissance vocale bénéficieront de ce partenariat. On retrouve des architectures familières comme BERT, DistilBERT, et Wav2Vec2, ainsi que des modèles génératifs tels que GPT-NeoX et LLaMA. La compatibilité avec PyTorch, TensorFlow et ONNX Runtime est un autre atout significatif.
Ce partenariat incarne un progrès clé pour les utilisateurs de Hugging Face, leur offrant un accès à des plateformes matérielles AMD optimisées, alliant performance et coût.
Optimisation logicielle et intégration continue
Hugging Face ne s’arrête pas au matériel : l’intégration du SDK ROCm d’AMD dans les bibliothèques open-source est prévue, à commencer par transformers. Cette intégration vise non seulement à améliorer les performances mais aussi à minimiser les modifications de code nécessaires pour les utilisateurs.
« L’open-source signifie la liberté de construire à partir d’une large gamme de solutions matérielles et logicielles. »
Hugging Face blog
En conclusion, ce partenariat marque une avancée significative dans le paysage de l’IA, où Hugging Face et AMD unissent leurs forces pour établir des standards de performance inédits. Cette collaboration ne se contente pas de suivre les évolutions du marché, elle fixe de nouveaux repères.