[P1] Day 49

Project

오늘의 목표 및 진척상황

직면했던 문제와 학습한 내용

추가로 진행 할 사항

---

Project

오늘의 목표 및 진척상황

• Drop Out 적용 Model 학습

• Center Crop Size이 다른 Model 구성

• 각종 Loss 재실험

• SAM Optimizer 실험

• Ensemble Code 설계

• 결과 제출용 Model 선정 및 Ensemble

직면했던 문제와 학습한 내용

1. Drop Out 실험

   마지막 날에 이 실험을 알게 되어 너무 아쉬웠다. 끝나는 순간까지 Drop out을 기반으로 실험을 진행했고, 유의미한 성능의 향상을 얻을 수 있었다. 가장 좋은 성능을 확인할 수 있던 Rate는 0.7이었다. 0.9는 굉장히 Linear하게 학습이 진행 되었으나, 중간 과정이 굉장히 불안정해보였고 성능의 향상 폭이 굉장히 적어 많은 Epoch를 필요로 했다.

2. Center Crop Size 실험

   Center Crop Size가 다른 여러 Model을 학습시켰다. Ensemble의 목적도 있었고, Drop Out과의 연관성을 보고 싶었기 때문이다. 학습 간 성능으로 보았을 때, Size가 클 수록 성능의 향상 폭이 컸다. Public Score상에서는 이런 성능이 반영되지는 못했는데, 이를 사용했으면 Private 성능이 더 잘 나오지 않았을까 생각이 든다.

3. 각종 Loss 실험

   Drop Out에 적합한 Loss가 있는지 재 실험을 진행했다. 하지만, 이 실험에서도 Weight Cross Entropy Loss가 가장 좋은 성능을 보였다.

4. SAM Optimizer 실험

   학습에 시간은 오래 걸리지만, 최종 성능을 쥐어짜기 위해서 실험을 진행했다. 아쉽게도, 실질적인 성능 향상으로 이어지지는 못했다.

5. Ensemble Code 설계

   Ensemble만을 목적으로하는 Code를 설계했다. 중간에 실수가 있는 Code로, 아까운 제출기회를 몇번 사용하게 됐다. 앞으로는 미리 검토하고 만들어놔야겠다. 또한, 생각보다 최종 결과를 만들기 위한 Inference에 많은 시간이 들었다. 다음 대회부터는 Model의 구조 외에도, Test Set에 대한 Probability를 저장해놓고 사용해야하겠다.

6. Ensemble Model 선정

   단일 성능이 좋은 Model을 선별했다. 이때, 기준을 Public Score로 잡았는데, 이 선택이 아쉬웠던 것 같다. Validation Set에서 Loss가 적은 기준으로 했다면, Private Score가 조금 더 높지 않았을까 하는 후회가 있다.

추가로 진행 할 사항

• Wrap-up Report 작성

• Code 정리 및 마무리

Uploaded by Notion2Tistory v1.1.0