/media/naith/HAlpha/python/generators/venv/bin/python3 /media/naith/HAlpha/02-DP_Self-learning_autonomous_systems_using_deferred_learning/Python/architecture_test_ff_nn.py

=== Porovnání aktivačních funkcí na STEP problém ===

--- Tréninková síť s aktivační funkcí: relu ---
Epoch 50/1000, MSE: 0.008140, MAE: 0.068766, Rel.error: 38.68%
Epoch 100/1000, MSE: 0.004582, MAE: 0.052037, Rel.error: 29.27%
Epoch 150/1000, MSE: 0.001923, MAE: 0.032037, Rel.error: 18.02%
Epoch 200/1000, MSE: 0.000777, MAE: 0.019841, Rel.error: 11.16%
Epoch 250/1000, MSE: 0.000341, MAE: 0.013290, Rel.error: 7.48%
Epoch 300/1000, MSE: 0.000195, MAE: 0.010584, Rel.error: 5.95%
Epoch 350/1000, MSE: 0.000100, MAE: 0.007705, Rel.error: 4.33%
Epoch 400/1000, MSE: 0.000070, MAE: 0.006578, Rel.error: 3.70%
Epoch 450/1000, MSE: 0.000052, MAE: 0.005654, Rel.error: 3.18%
Epoch 500/1000, MSE: 0.000039, MAE: 0.004961, Rel.error: 2.79%
Epoch 550/1000, MSE: 0.000033, MAE: 0.004553, Rel.error: 2.56%
Epoch 600/1000, MSE: 0.000025, MAE: 0.003797, Rel.error: 2.14%
Early stopping - no improvement after 20 epochs
Training completed in 0.29 seconds
Best MAE achieved: 0.003785
Final relative error: 2.13%

Výsledky pro aktivační funkci relu:
Dokončení učení 0.29 Sekundy (celkem), 617 epocha
MAE před opravou (v regionu): 0.177778
MAE po opravě (v regionu):: 0.003785
MAX odchylka před opravou (v regionu): 0.400000
MAX odchylka po opravě (v regionu): 0.017283
Redukce chyby v regionu: 97.87%
Displaying surface: Korikogovany stavový prostor - relu activation

--- Tréninková síť s aktivační funkcí: sigmoid ---
Early stopping - no improvement after 20 epochs
Training completed in 0.01 seconds
Best MAE achieved: 0.180051
Final relative error: 101.28%

Výsledky pro aktivační funkci sigmoid:
Dokončení učení 0.01 Sekundy (celkem), 21 epocha
MAE před opravou (v regionu): 0.177778
MAE po opravě (v regionu):: 0.180051
MAX odchylka před opravou (v regionu): 0.400000
MAX odchylka po opravě (v regionu): 0.392636
Redukce chyby v regionu: -1.28%
Displaying surface: Korikogovany stavový prostor - sigmoid activation

--- Tréninková síť s aktivační funkcí: tanh ---
Epoch 50/1000, MSE: 0.022215, MAE: 0.141376, Rel.error: 79.52%
Epoch 100/1000, MSE: 0.013301, MAE: 0.096180, Rel.error: 54.10%
Epoch 150/1000, MSE: 0.012206, MAE: 0.089968, Rel.error: 50.61%
Epoch 200/1000, MSE: 0.011373, MAE: 0.085359, Rel.error: 48.01%
Epoch 250/1000, MSE: 0.011088, MAE: 0.084335, Rel.error: 47.44%
Early stopping - no improvement after 20 epochs
Training completed in 0.13 seconds
Best MAE achieved: 0.081861
Final relative error: 46.05%

Výsledky pro aktivační funkci tanh:
Dokončení učení 0.13 Sekundy (celkem), 271 epocha
MAE před opravou (v regionu): 0.177778
MAE po opravě (v regionu):: 0.081861
MAX odchylka před opravou (v regionu): 0.400000
MAX odchylka po opravě (v regionu): 0.283176
Redukce chyby v regionu: 53.95%
Displaying surface: Korikogovany stavový prostor - tanh activation
Displaying graph: Porovnání aktivačních funkcí - chyba typu  STEP

=== SUMMARY OF ACTIVATION FUNCTION RESULTS Shrnuti výsledkú aktivačních funkci ===
Aktivace   | Epochy  | Čas (s)   | MAE        | MAE v redgionu  | MAX chyba  | Redukce (%)
-------------------------------------------------------------------------------------
relu       | 617     | 0.29      | 0.000324   | 0.003785     | 0.017283   | 97.87
sigmoid    | 21      | 0.01      | 0.015424   | 0.180051     | 0.392636   | -1.28
tanh       | 271     | 0.13      | 0.007012   | 0.081861     | 0.283176   | 53.95

Process finished with exit code 0
