La simulation d’une économie multi-agents avec un modèle 3B
Une simulation avec un modèle 3B dévoile les limites et les réussites des petits modèles en IA.
À la Build Small Hackathon, une équipe a démontré qu’un modèle IA de seulement 3 milliards de paramètres pouvait orchestrer une économie multi-agents. Intitulé Thousand Token Wood, ce projet met en scène cinq créatures forestières échangistes dans une simulation économique où les surprises abondent.
Pourquoi choisir un modèle réduit pour une simulation complexe?
Les grandes échelles de modèles comme les frontières actuelles ne conviennent pas aux besoins d’une économie multi-agents. Trop lents, horriblement coûteux, ils n’offrent aucun avantage particulier à une multitude d’agents effectuant des décisions en temps réel. Avec le modèle 3B utilisé ici, chaque agent opère dans un seul appel GPU par tour, rendant la simulation fluide et efficiente. S’appuyer sur un modèle réduit permet d’expérimenter sans entrave financière ou technique, tout en rendant visible l’indispensable : des alternatives bien pensées pour contourner les limitations inhérentes.
L’importance de créer une pénurie artificielle
La version initiale de l’économie était tout sauf vivante. Chaque créature pouvait subvenir à ses besoins, rendant le commerce nul. La solution ? Introduire une pénurie artificielle. En limitant la variété de l’alimentation ou en rendant les denrées périssables, la dynamique économique s’anime brusquement. La crise du bois pour l’hiver, où seule une créature est fournisseur, provoque tensions et compétitions, illustrant la nécessité de telles contraintes pour stimuler l’échange.
« Abundance is boring », résume parfaitement la nécessité de concevoir des systèmes économiques sur la rareté.
Thousand Token Wood Project
Des JSON valides, mais un jugement économique faible
L’expérience avec le modèle 3B a révélé une leçon essentielle : un bon format ne garantit pas une bonne compréhension économique. Des erreurs absurdes, comme un agent acquirant ce qu’il possède déjà en surplus, ont été rectifiées par un affinement du prompt. Il ne s’agissait pas d’augmenter la taille du modèle, mais de rendre sa tâche plus claire par des instructions précises. Cette approche a permis d’optimiser les décisions sans avoir à gonfler les dimensions du modèle.
L’ingénierie des petits modèles doit contourner leur faiblesse en jugement par une structuration judicieuse et un prompting affûté pour tirer parti de leur puissant potentiel de formatage.
Des récits spontanés : le charme des légendes du bois
Une des innovations fascinantes de ce projet réside dans la retranscription d’épisodes historiques du marché sous forme de folklore forestier. Ces légendes ne sont pas des ornements : elles induisent de vrais chocs économiques auxquels les agents réagissent. Lors d’un scénario simulant une ruée bancaire, le prix du miel a chuté drastiquement, reflétant le chaos induit par une rumeur autour des réserves d’une chouette. Le marché n’est jamais scripté mais est plutôt un théâtre d’interactions naturelles, offrant une profondeur à l’étude des comportements des petits modèles.
Dans l’ensemble, Thousand Token Wood montre brillamment comment les modèles réduits peuvent s’aventurer avec succès dans des territoires complexes, lorsque les défis tels que la pénurie sont rigoureusement conçus et où la compréhension qualitative peut égaler les ambitions volumétriques. Les aventures d’agents en IA sont à portée de GPU minuscule, mais d’imagination passionnée.