Philosophie de conception des Transformers : contre le principe DRY
Explore la démarche originale de Hugging Face : rejeter le principe DRY pour une meilleure adaptabilité des modèles ML.
Avez-vous déjà été confronté à un milliard de fichiers dans lesquels le même bout de code semble avoir été dupliqué à l’infini ? La librairie Transformers de Hugging Face défie volontairement le précepte bien établi du développement logiciel « Don’t Repeat Yourself » (DRY) en adoptant une approche radicalement différente pour ses modèles de machine learning. Avec plus de 10 000 forks et mille citations, leur approche unique interpelle.
Le rejet délibéré du principe DRY chez Hugging Face
Dans un monde où le principe DRY est une norme quasi inébranlable, Hugging Face prend le contre-pied. Plutôt que de centraliser ses codes récurrents, l’entreprise choisit de dupliquer certaines logiques dans différents fichiers modèles. Cela déroute au premier abord, mais cette stratégie repose sur un ensemble de raisons solides, comme l’évolution rapide du domaine du machine learning et le souhait de rendre la contribution open-source plus accessible.
Faciliter les contributions open-source : un choix communautaire
L’accent mis par Hugging Face sur l’indépendance des fichiers code résulte d’un désir de faciliter la contribution des développeurs à leur bibliothèque. Lorsqu’un bug survient, la correction est limitée au fichier concerné, épargnant les contributeurs de briser malencontreusement d’autres modèles. En évitant une complexité excessive, ils suscitent un environnement de contribution collaborative plus accessible et motivant.
Une flexibilité nécessaire face à l’évolution rapide du ML
Avec la vitesse hallucinante à laquelle évolue la recherche en machine learning, Hugging Face préfère éviter la rigidité imposée par un modèle centralisé. En centralisant les logiques, chaque avancée exigerait une mise à jour généralisée, souvent lourde et sujette à erreurs. À la place, en attribuant à chaque modèle une structure propre, ils optimisent leur adaptabilité aux nouvelles architectures ou techniques.
Hugging Face choisit intentionnellement de ne pas appliquer la norme DRY. Une approche qui favorise la contribution communautaire et l’adaptabilité dans un domaine en perpétuel changement.
Les modèles sont conçus pour être statiques
Un autre raisonnement derrière le choix de Hugging Face réside dans le caractère statique des modèles ML une fois publiés. Contrairement aux applications classiques, rares sont les modèles révisés en profondeur après publication. Cela réduit le besoin de centraliser les modifications, puisque chaque modèle reste majoritairement inchangé après sa création initiale.
« La perception de ce que représente une composante logique peut évoluer ou devenir caduque très rapidement. »
Patrick von Platen
Au final, Hugging Face redéfinit la gestion de code des modèles ML en misant sur une autonomie des fichiers qui, bien que déroutante de prime abord, trouve tout son sens via une démarche réfléchie. Il est clair que les bibliothèques de machine learning doivent désormais s’adapter aux besoins des communautés qu’elles visent à servir, tout en se préparant à un futur hanté par l’évolution rapide de la technologie.