EfficientNet : des réseaux de vision plus petits et plus précis

Des chercheurs de Google proposent en 2019 une règle simple pour agrandir un réseau de neurones de façon équilibrée, avec à la clé des modèles bien plus économes.

Par Nathan BelkacemSources : arXiv
EfficientNet : des réseaux de vision plus petits et plus précis
Photo : Inmortal Producciones / Pexels (Licence Pexels)

Pour améliorer un réseau de reconnaissance d'images, on l'agrandit généralement dans une seule direction : plus de couches, des couches plus larges ou des images de meilleure résolution. L'article « EfficientNet », publié sur arXiv, montre qu'il est plus efficace de faire croître ces trois dimensions ensemble, selon des proportions fixes.

Les auteurs appliquent cette méthode, dite de mise à l'échelle composée, à un réseau de départ trouvé par recherche automatique d'architecture. La famille obtenue atteint la meilleure précision de l'époque sur la base ImageNet avec un nombre de paramètres et un coût de calcul nettement inférieurs aux modèles concurrents.

EfficientNet est devenu une référence pour les applications où la puissance de calcul est limitée, comme les téléphones, et ses principes de dimensionnement ont été repris bien au-delà de la vision par ordinateur.

Sources