개발자 놀이터

1. 서론 이번 글에서 이미지를 torch.nn.conv2d를 사용하여 CNN 모델을 구현하여 학습하는 코드를 작성해보려 한다. 2. CIFAR-10 우선 CIFAR-10 dataset은 32 * 32 픽셀의 컬러 이미지로 50000개는 학습 데이터 10000개는 테스트 데이터로 구성되었으며 10개의 클래스로 labeling 되어있다. 3. 코드 3.1 import package import ssl import torch import torch.nn as nn from torchvision import transforms, datasets ssl 모듈은 CIFAR10이 urllib 오류로 다운이 안될 때 해결하기 위해 추가한 모듈이다. 3.2 CIFAR-10 다운 및 데이터셋 구성 BATCH_SIZE =..

1. 서론 딥러닝에서 사용하는 학습 방법 중에 가장 많이 사용하는 미니 배치 사용법을 알아보도록 하겠다. 그림 1과 같이 6개의 데이터가 존재할 때 batch size를 2라고 하면 2개의 데이터의 에러를 구하고 평균을 내어 가중치를 갱신하며 이 방식은 데이터를 매우 많이 사용하는 딥러닝에서 자주 사용되기 때문에 필수이며 pytorch에서 mini batch를 사용하는 방법을 알아보도록 하겠다. 2. 본론 mini batch를 사용하기 위해서 텐서 데이터셋과 데이터 로더가 필요하다. from torch.utils.data import TensorDataset # 텐서데이터셋 from torch.utils.data import DataLoader # 데이터로더 이번 문제는 입력값의 출력을 제곱 값을 출력하..

1. 서론 지난 글 XOR 문제 딥러닝 모델 구현 (1) [Pytorch]에서 input이 3개인 모델을 구현하였는데 이번엔 필요한 인풋 2개만 사용하여 은닉층의 최소 개수를 살펴보고자 한다. XOR 문제 딥러닝 모델 구현 (1) [Pytorch] 1. 서론 학부시절 딥러닝 첫걸음 책으로 딥러닝을 처음 접했다. 단층 신경망으로 풀 수 없는 XOR 문제를 심층 신경망으로 해결하는 코드가 교재에 matlab으로 구현되어있는데 이것을 Python의 Pytorch jeo96.tistory.com 2. 본론 지난 글에서 사용하였던 코드에서 입력 노드와 은닉 노드의 개수만 수정하였으며 모델 모양은 그림 1과 같다. 코드는 아래와 같으며 지난 코드에서 Linear의 숫자만 수정하였다. import torch devi..

1. 서론 학부시절 딥러닝 첫걸음 책으로 딥러닝을 처음 접했다. 단층 신경망으로 풀 수 없는 XOR 문제를 심층 신경망으로 해결하는 코드가 교재에 matlab으로 구현되어있는데 이것을 Python의 Pytorch로 구현해 보았다. 2. 본론 input: [0, 0, 1], [0, 1, 1], [1, 0, 1], [1, 1, 1] output: [0], [1], [1], [0] 위와 같이 첫 번째와 두 번째 숫자가 같으면 0 다르면 1을 출력하는 모델을 구현하였다. 모델 모양은 그림 1과 같다. 3개의 입력을 받아 5개의 은닉 노드를 가지고 출력이 1개인 딥러닝 모델이다. 코드는 아래와 같다. import torch device = "cuda" if torch.cuda.is_available() else ..

1. 그래픽 카드 확인 1. 상태바에서 마우스 우클릭 2. 작업 관리자 클릭 3. 성능 클릭 4. GPU 클릭 GPU를 간단히 확인할 수 있다. 2. CUDA, cuDNN 설치 딥러닝 프레임워크에서 GPU를 사용하여 계산속도를 올리기 위해서는 NVIDIA GPU, NVIDIA 그래픽 드라이버, CUDA, cuDNN을 설치해야 한다. 그래픽 드라이버 설치는 어렵지 않음으로 패스 1. pytorch 홈페이지 접속 2. install 클릭 3. GPU와 호환되는 CUDA 버전을 확인해야 한다. 30 시리즈 이상은 CUDA 11 20 시리즈 아래는 10.2를 설치하면 웬만하면 호환된다. 필자는 3060ti이므로 CUDA 11.1을 설치 4. 구글에 cuda (버전) install 검색 후 홈페이지 접속 5. 아..