Boostez l’écriture inclusive avec Hugging Face et Witty Works
Comment Hugging Face aide Witty Works à accélérer le développement d'assistants d'écriture inclusifs.
Quand Witty Works a voulu améliorer l’écriture de ses clients, elle a cherché à rendre son assistant d’écriture éditoriale non seulement efficace, mais aussi inclusif. Utilisant les transformers de Hugging Face, ils ont réussi à réduire drastiquement le nombre d’exemples d’entraînement nécessaires de 100-200 à seulement 15-20 par mot problématique.
Une transition vers des embeddings contextuels
Au départ, Witty Works utilisait des modèles spaCy basiques pour effectuer des analyses linguistiques. Mais détecter le contexte s’est révélé un défi majeur lorsque 2300 termes non-inclusifs ont été confrontés aux nuances sémantiques des phrases. C’est là qu’interviennent les Sentence Transformers de Hugging Face, qui permettent de générer des embeddings de phrases entières en considérant le contexte environnant.
« Nous générons des vecteurs d’incrustation contextuels pour chaque mot en fonction de sa phrase. »
Elena Nazarenko, Lead Data Scientist chez Witty Works
Optimisation des ressources grâce à SetFit
La bibliothèque SetFit, recommandée par Hugging Face, a permis d’optimiser le processus de fine-tuning avec très peu de données annotées. En combinant apprentissage contrastif et similarité de phrases, elle a fourni des résultats précis avec un nombre minimal de phrases étiquetées. Cela a significativement réduit le coût et le temps nécessaires à l’entraînement.
Grâce à Hugging Face, Witty Works a pu déployer un modèle d’assistant d’écriture inclusif capable de distinguer le contexte avec peu de données, offrant ainsi une solution rapide et efficace dans un domaine en pleine expansion.
Déploiement rapide et efficace
La rapidité du modèle était cruciale pour ne pas freiner l’utilisateur. En testant plusieurs modèles de transformers, ils ont opté pour le modèle mpnet-base-v2, qui a démontré ses performances avec une latence minimale. Le déploiement sur Azure, simplifié par les experts de Hugging Face, a permis d’éviter des optimisations extensive.
Un partenariat gagnant-gagnant
Le soutien d’Hugging Face a permis à Witty Works de naviguer efficacement dans le vaste écosystème de modèles disponibles, économisant ainsi énormément de temps et d’argent. Le projet a non seulement permis une transition réussie vers un système d’écriture inclusif, mais il a aussi mis en lumière l’importance d’une guidance experte dans le choix des modèles.
En fin de compte, cet exemple illustre parfaitement comment l’IA peut être mise à profit pour répondre à des enjeux sociétaux tout en optimisant les ressources et en augmentant l’efficacité opérationnelle, sans sacrifier la qualité.