[P3] Day 75 (21.05.17)

Project

오늘의 목표 및 진척상황

직면했던 문제와 학습한 내용

추가로 진행 할 사항

---

Project

오늘의 목표 및 진척상황

• QA Model 성능 실험

• QA Conv Model 구현

직면했던 문제와 학습한 내용

1. QA Model 성능 실험

   Dropout Rate나, Activation Function 등을 변경해가며 Fine Tuning을 시켰고 성능의 변화를 확인했다. 추가로, Default로 사용하던 Retrieval Option이 팀원마다 다른 것을 확인했고, 최적의 값을 찾는 실험도 병행했다. 이를 통해 어느정도의 성능 개선을 할 수 있었다.

2. QA Conv Model 구현

   결론적으로, 현재는 내가 구현한 모델보다 익효님이 구현한 모델이 더 좋은 성능을 보이고 있다. 이에, 익효님의 아이디어를 벤치마킹해보자는 생각이 들었다.

   익효님의 핵심 아이디어는 Classifier Layer에 있으니, 이를 내 모델에 적용시켜보면 좋겠다는 생각이 들었고, 모델을 구현 및 Train Code를 구성했다.

추가로 진행 할 사항

• QA Conv Model 사전 학습

• QA Conv Model 성능 실험

Uploaded by Notion2Tistory v1.1.0