* 3-layer 사용
* SGD optimzer를 사용하고 cost function으로 LMS 사용한 버전 추가
weight initialization | xavier |
input_size | 784 |
output_size | 10 |
hidden_layer_size | 50 |
activation function | Relu |
ver | BatchSize | LearningRate | Result |
---|---|---|---|
- | 100 | 0.1 | 결과 |
- | 100 | 0.01 | 결과 |
- | 100 | 0.001 | 결과 |
- | 100 | 0.0001 | 결과 |
- | 50 | 0.001 | 결과 |
- | 10 | 0.001 | 결과 |
SGD/LMS | 0.1 | 결과 | |
SGD/LMS | 0.01 | 결과 | |
SGD/LMS | 0.001 | 결과 |