LoRA : adapter un grand modèle en n'entraînant qu'une infime partie de ses paramètres

Une équipe de Microsoft propose en 2021 une méthode qui rend la personnalisation des grands modèles de langage beaucoup moins coûteuse.

Adapter un modèle de plusieurs milliards de paramètres à une tâche précise oblige normalement à les réentraîner tous, ce qui coûte cher et produit autant de copies du modèle que de tâches. L'article « LoRA: Low-Rank Adaptation of Large Language Models » contourne le problème.

La méthode gèle les poids d'origine et ajoute à certaines couches de petites matrices supplémentaires, seules à être entraînées. Le nombre de paramètres à apprendre est divisé par plusieurs milliers sur un modèle comme GPT-3, avec une qualité comparable à un réentraînement complet et sans ralentir le modèle à l'usage.

LoRA s'est imposée comme la technique la plus répandue pour personnaliser un modèle de langage ou un générateur d'images, y compris sur du matériel modeste.