Un modèle statistique pour prédire la généralisation dans des tâches de classification avec peu d'exemples - IMT Atlantique Accéder directement au contenu
Communication Dans Un Congrès Année : 2023

Un modèle statistique pour prédire la généralisation dans des tâches de classification avec peu d'exemples

Résumé

The estimation of the generalization error of classifiers often relies on a validation set. Such a set is hardly available in few-shot learning scenarios, a highly disregarded shortcoming in the field. In these scenarios, it is common to rely on features extracted from pre-trained neural networks combined with distance-based classifiers such as nearest class mean. In this work, we introduce a Gaussian model of the feature distribution. By estimating the parameters of this model, we are able to predict the generalization error on new classification tasks with few samples. We observe that accurate distance estimates between class-conditional densities are the key to accurate estimates of the generalization performance. Therefore, we propose an unbiased estimator for these distances and integrate it in our numerical analysis. We empirically show that our approach outperforms alternatives such as the leave-one-out cross-validation strategy.
Fichier principal
Vignette du fichier
Bendou et al. - Un modèle statistique pour prédire la généralisati.pdf (297.38 Ko) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-04644714 , version 1 (11-07-2024)

Identifiants

  • HAL Id : hal-04644714 , version 1

Citer

Yassir Bendou, Giulia Lioi, Bastien Pasdeloup, Vincent Gripon. Un modèle statistique pour prédire la généralisation dans des tâches de classification avec peu d'exemples. GRETSI : 29ème colloque du Groupement de Recherche en Traitement du Signal et des Images, 2023, Grenoble, France. ⟨hal-04644714⟩
0 Consultations
0 Téléchargements

Partager

Gmail Mastodon Facebook X LinkedIn More