[P4] Day 95 (21.06.15)

Project

오늘의 목표 및 진척상황

직면했던 문제와 학습한 내용

추가로 진행 할 사항

---

Project

오늘의 목표 및 진척상황

• Team Ensemble Model 선정

• Ensemble 전략 수립 및 최종 제출

직면했던 문제와 학습한 내용

1. Team Ensemble Model 선정

   마지막 날인 만큼, 모든 제출기회를 Ensemble로 사용하기로 했다. 먼저, 어떤 모델을 사용할 것인지 선정했다.

   개인별 최고 성능의 단일모델을 뽑고, 해당 모델과 아키텍처가 다른 모델까지 포함하여 후보군을 설정했다.

   각 모델의 Correlation을 확인하고, 다양한 조합을 만들어 냈으며, 우선순위를 설정했다.

2. Ensemble 전략 수립 및 최종 제출

   할 수 있는 다양한 방법이 있어서, 어떤 조합을 어떤 전략으로 만들어 낼 지 고민이 됐다.

   먼저, Stacking은 자체로 성능이 좋게 나오지 않았고, 내가 최종적으로 학습 시켰던 모델이 3Fold로 되어있어서, 해당 전략은 1~2회 시도만 진행됐다.

   Power Ensemble은 극적인 효과를 얻기가 어려웠고, ACC가 떨어지는 현상 때문에 괜시리 사용이 꺼려졌다. 이도, 1~2회만 시도하게 됐다.

   마지막으로는 팀원의 Custom Ensemble을 사용했는데, 큰 성능 향상이 있었다. Soft Ensemble을 기본으로 하되, ACC가 높은 Model을 기준으로 Data의 변화를 확인하고, Threads hold를 넘으면 기준 모델의 값으로 치환하는 방법을 사용했다.

   최종적으로는 Public Score 3위로 마무리 지었고, Private에서는 Shake up이 크게 발생하여 6위로 마무리 했다. (우리의 Score 떨어지지는 않았는데, 다른 팀의 Score가 확 뒤집혔다.)

추가로 진행 할 사항

• Wrap-up Report 작성

Uploaded by Notion2Tistory v1.1.0