多data益善 : 모델이 이 데이터를 학습하면서 더욱 견고해짐

but GD 각 데이터마다 cost를 구해야 하는데 데이터가 넘나 많으면 넘나 느림 한번에 학습하는 것은 불가능함. 일부분의 데이터로만 학습

데이터를 균일하게 나누어 학습하는 Mini-batch!

Minibatch GD effects

업데이트를 좀 더 빨리 할 수 있다.
전체 데이터를 쓰지 않아서 잘못된 방향으로 업데이트를 할 수 있기에 기존 GD 처럼 매끄럽게 줄어들지 않고 거칠게 줄어듬.

datasest을 mini-batch 로 쪼개는데 쓰는 module

-> Dataset, DataLoader dataset을 만든 후 datalodader

Dataset

torch.utils.data.Dataset 상속을 하여 새로운 클래스를 만듬 -> 원하는 데이터 셋을 지정하여 customized dataset을 만들어 쓴다.

len()

dataset의 총 데이터 갯수

getitem()

어떤 index를 받았을 때 그에 상응하는 입출력 데이터 반환.

DataLoader

torch.utils.data.DataLoader의 instance를 만들어줌

instance 만드려면 2개 지정해줘야함.
dataset
mini-batch 크기: 2의 제곱수
shuffle=True : 매번 데이터가 학습되는 순서를 바꾸어줌. 모델이 데이터 셋의 순서를 외우지 못하도록 True로 권장.

torchvision.transforms

.Compose(): 여러 전처리 함수들을 하나로 묶어 사용
.ToTensor(): 이미지의 픽셀 값을 0~1 사이의 값으로 정규화하고 Pytorch의 Tensor 형태로 바꿔주는 처리
.Normalize(): 지정한 평균과 표준편차를 기준으로 데이터를 정규화

torchvision.datasets.FashionMNIST

init(), getitem() 이미 구현 되어있음.
train_data, test_data: train 데이터와 test 데이터를 각각 정의해주면 됨.