Hugging Face et l’importance de la transparence pour l’IA
Hugging Face prône la transparence et l'inclusion pour une IA responsable. Découvrez leurs recommandations pour une meilleure responsabilisation.
Le 12 juin dernier, Hugging Face a répondu à la demande d’information du NTIA sur les politiques de responsabilité concernant l’IA. Soulignant l’importance des normes de documentation et de transparence, cette démarche met en lumière les défis posés par une technologie dont la croissance sans précédent suscite davantage de questions qu’une seule entité ne peut résoudre.
Transparence et responsabilité dans le développement de l’IA
Hugging Face milite pour la transparence à toutes les étapes du développement de l’IA, insistant sur le fait que l’impact sociétal dépend des choix faits à chaque étape. Des mécanismes axés uniquement sur le déploiement pourraient encourager une conformité superficielle, sans vision sur les problématiques sous-jacentes qui devraient être adressées avant qu’elles ne causent des dommages importants.
Rôle des parties prenantes multiples
Le processus de responsabilisation devrait être ouvert à la participation de la plus large gamme de contributeurs possible, incluant développeurs, chercheurs multidisciplinaires, organisations de plaidoyer, décideurs politiques et journalistes. Comme le précise Hugging Face, comprendre l’impact transformateur de l’adoption rapide de la technologie ML dépasse les capacités d’une entité unique.
« La démocratisation de l’apprentissage machine ne consiste pas seulement à faciliter son développement et son déploiement, mais aussi à permettre à tous ses parties prenantes de comprendre, interroger et critiquer ces systèmes. »
Hugging Face, réponse au NTIA
Documentation et accès externe, deux piliers de la responsabilité
Hugging Face préconise des exigences internes associées à un accès externe pour vérifier les affirmations et les processus de développement. Les bonnes pratiques de documentation favorisent un développement plus responsable et fournissent une clarté sur la responsabilité des développeurs dans la création de technologies sûres et fiables.
Importance de l’inclusion et de l’éducation
Promouvoir la transparence passe aussi par l’éducation. Hugging Face a déjà prouvé l’utilité de ces approches dans leurs projets de recherche multidisciplinaire tels que BigScience et BigCode, en organisant des initiatives qui encouragent une compréhension plus profonde des systèmes ML et de leurs limites.
Hugging Face recommande des mécanismes de responsabilité axés sur la transparence, la documentation et l’implication de divers acteurs. Ces pratiques visent à mieux encadrer le développement de l’IA pour limiter les impacts sociétaux négatifs.
La responsabilité dans l’IA ne se limite pas à la simple conformité mais nécessite un engagement actif pour anticiper et atténuer les problèmes potentiels à toutes les étapes. Hugging Face nous rappelle que seule une démarche collective et inclusive permettra à l’IA de servir réellement notre société moderne.