반응형 Augmentation1 [딥러닝 뉴비의 좌충우돌 일기] 작은 데이터셋과 augmentation 딥러닝 모델들을 학습시키다보면 데이터가 적은 상황에서 학습 성능이 와리가리하는 경우가 종종 발생한다. 예전에 회사에서 몇 안되는 의료 이미지를 학습시켰을 때도 그렇게 느꼈고, 이번에 수업 과제로 음악 장르 맞추기를 하면서 또다시 느꼈다. 모델의 구조를 바꾸든, 하이퍼 파라미터를 바꾸든, 옵티마이저를 바꾸든 성능 향상이 있나? 해서 여러번 실험을 돌려보면 매번 초기화되는 seed 값에 따라서 성능이 휙휙 바뀌었다. 작은 데이터셋(내 기준으로는 augmentation 제외하고 1000개 정도의 이미지)의 경우에는 특히나 그런 게 더 심했다. 이번에 사용했던 GTZAN이라는 음악 장르 데이터셋은 train + val + test해서 730개 정도밖에 되지 않았다. 그러다보니 weight initializati.. 2020. 11. 10. 이전 1 다음 반응형