[Day10] Pytorch 9. Hyperparameter Tuning
하이퍼 파라미터(Hyper Parameter)는 학습시 사람이 지정해주는 값들이다. learning rate(감쇠율), 모델의 크기, optimizer 이 대표적인 예시이다. 성능을 높히기 위해서 1. 모델을 바꾼다 2. 데이터를 바꾸거나 다듬는다 3. 하이퍼파라미터를 조절한다 와 같은 세 가지 방법이 있다. 2번이 대부분의 상황에서 가장 많은 영향을 미친다. Search Layout Grid Layout search 일정한 범위 내의 값을 모두 시도해보고 가장 나은 성능을 발휘하는 파라미터를 찾는 방법 Random Layout search 값을 random하게 돌려서 그 중 가장 잘 나오는 하이퍼파라이퍼를 찾는다 그래서 random layout 으로 어느정도 잘 나오는 틀이 잡히면 그 범위안에서 gri..
