PyTorch 개요

Naver BoostCamp AI Tech에서 학습한 내용을 재구성했습니다.
해당 게시글은 지속적으로 업데이트할 예정입니다.

구현 개요(PyTorch)

1. 데이터 준비

• Tensor
• PyTorch Datasets & DataLoaders

2. 모델 정의 (torch.nn.Module)

PyTorch 모델 불러오기

• Input size, Output size 정의 nn.Parameter
• Forward 연산 정의
• Backward 연산 정의

3. 하이퍼 파라미터 지정 Hyperparameter Tuning

4. 모델 평가 기준 및 Optimizer 설정

1. 모델 평가 기준 : loss를 어떻게 계산할 것인가? 손실 함수(Loss Function)
2. Optimizer 설정

5. 모델 학습

• 1 epoch에 일어나는 일
• PyTorch Multi-GPU 학습

6. 모델 성능 평가

Monitoring tools for PyTorch

7. 추론

• AutoGrad 튜토리얼
• Tensor와 AutoGrad 튜토리얼
• Pytorch로 Linear Regression하기
• Pytorch로 Logistic Regression하기
• 한 epoch에서 이뤄지는 모델 학습 과정을 정리해보고 성능을 올리기 위해서 어떤 부분을 먼저 고려하면 좋을지 논의해보기
  1. 데이터 개선
  2. 모델 개선
  3. loss 개선
  4. optimizer 개선

DL 모델 구현 예제

PyTorch Troubleshooting