딥러닝 Fine-Tune(미세조정), Feature Extraction(특성추출), Joint Training(조인트 훈련)

• Fine-Tuning
  • 새로운 데이터로 다시한번 가중치를 세밀하게 조정하도록 학습. 기존 데이터는 기존대로 분류
• Feature Extraction
  • 기존 가중치는 그대로 놔둔뒤, 새로운 레이어를 추가해서 이를 학습하고 최종 결과를 내게끔 학습
• Joint Training
  • 새로운 데이터를 추가하여 처음부터 다시 시작
• Learning without Forgetting
  • 새로운 데이터로 가중치를 세밀하게 조정하되, 기존 데이터 분류 결과 또한 개선 가능(하다고 주장)

Li, Zhizhong, and Derek Hoiem. “Learning without forgetting.” In European Conference on Computer Vision, pp. 614-629. Springer International Publishing, 2016. 

https://arxiv.org/abs/1606.09282