Programming/Pytorch&Tensorflow

Programming/Pytorch&Tensorflow

[Pytorch] UserWarning: resource_tracker: There appear to be 120 leaked semaphore objects to clean up at shutdown

ImageNet을 이용해서 학습했을 때 비정기적으로 다음과 같은 에러가 발생하였다. 어떻게 해결해야할까?? 현재 환경은 다음과 같다.  Ubuntu 18.04 Python 3.8.5Pytorch 1.8.0a0+52ea372 1) 터미널로 학습 시 python3 -W ignore your_script.py 또는 python3 -W ignore:semaphore_tracker:UserWarning your_script.py 적용 후 실행 => 실패 https://discuss.pytorch.org/t/issue-with-multiprocessing-semaphore-tracking/22943/6 Issue with multiprocessing semaphore trackingstill no news on t..

Programming/Pytorch&Tensorflow

[Pytorch] PASCAL VOC 2012 Segmentation Dataset 사용하기

안녕하세요. 오늘은 영상 분할 (Image Segmentation) 분야에서 필수적으로 사용되는 데이터셋인 PASCAL VOC 2012 Segmentation에 대해서 알아보고 pytorch를 이용해서 DataLoader를 만들어보도록 하겠습니다. 1. PASCAL VOC 2012 Segmentation Dataset 소개 PASCAL VOC 2012 데이터셋은 Semantic Segmentation 뿐만 아니라 Object Detection, Instance Segmentation을 위한 다용도 데이터셋입니다. 저는 이 중에서 Semantic Segmentation을 위한 DataLoader를 구성해보도록 하겠습니다. 해당 데이터셋은 21개의 클래스 (vehicles, household, animals..

Programming/Pytorch&Tensorflow

[Pytorch] ImageNet Dataset 사용하기

안녕하세요. 오늘은 영상 분류 관련 논문에서 필수적으로 사용되는 데이터셋인 ImageNet에 대해서 알아보고 pytorch를 이용해서 DataLoader를 만들어보도록 하겠습니다. 1. ImageNet Dataset 소개 ImageNet Dataset은 MNIST, CIFAR, STL, SVHN 등과 더불어 같이 영상 분류에 있어 가장 유명한 데이터셋 중 하나 입니다. 하지만, ImageNet이 다른 영상 분류 데이터셋보다 더욱 유명한 이유는 데이터셋의 규모가 비교도 안될 정도로 거대하기 때문입니다. - MNIST : 0 ~ 9의 손글씨 $28 \times 28$ 이미지 데이터로 학습 60,000개, 시험 10,000개로 구성 - CIFAR-10/100 : 일반적인 객체 10개 또는 100개의 클래스로 ..

Programming/Pytorch&Tensorflow

[Pytorch] MS COCO Dataset 사용하기

안녕하세요. 최근 Object Detection 관련 논문을 읽으면서 COCO 데이터셋을 많이 활용하는 것을 볼 수 있었습니다. 그런데 지금까지 한번도 Object Detection 코드를 짜보지 않아서 연습해보는 김에 pytorch를 이용해서 COCO DataLoader를 만들어보도록 하겠습니다. 1. Microsoft COCO Dataset Microsoft COCO Dataset은 Object Detection, Segmentation, Keypoint Detection과 같은 컴퓨터 비전에서 중요한 task들을 목적으로 학습 및 평가까지 할 수 있는 중요한 데이터셋 중 하나입니다. 특히, 많이 활용되는 데이터셋은 MS COCO 2017 데이터셋이죠. 일단, 데이터셋을 다운받아보도록 하겠습니다. 공..

Programming/Pytorch&Tensorflow

[Pytorch] 생초보의 파이토치 일기 - MNIST 손글씨 데이터 분류 99% 달성하기 2

지난 포스팅에서 CNN 모델을 이용해서 99%의 분류 성능을 달성하였다. 원하는 목표를 달성하였으니 좀 더 코드를 정리하고 내 나름대로 이쁘게 정리해보도록 하자. 일단 사진과 같이 코드 파일을 신경망을 구성하는 model.py와 학습을 하는 main.py을 나누자. 1. model.py 이 코드에서는 신경망을 정의하는 클래스들을 모아놓았다. 신경망은 지난 포스팅에서 정의한 모델 DNN, CNN 그대로 사용하였다. 먼저, DNN 모델 클래스이다. # DNN 신경망 구성 class DNN(nn.Module) : def __init__(self): super(DNN, self).__init__() # Input shape = (?, 28, 28, 1) -> (?, 28 * 28) = (?, 784) # Den..

Programming/Pytorch&Tensorflow

[Pytorch] 생초보의 파이토치 일기 - MNIST 손글씨 데이터 분류 99% 달성하기 1

이번 포스팅에서는 파이토치를 거의 처음 써보는 제가 MNIST 손글씨 데이터를 분류하는 신경망을 파이토치로 구성하는 과정을 일기 형식으로 한 것입니다. 그 동안 CVPR과 같은 메이져 논문을 읽으면서 느낀 것은 최근에 딥러닝 프레임워크 중 파이토치의 비중이 점점 늘어난 다는 점이다. 그에 반해 나는 딥러닝을 공부해본지 어언 1년 동안 오직 텐서플로우, 케라스만 잡고 있어 현재의 트렌드에 따라가기 많이 어려웠다. 일단 딥러닝을 시작하게 되면 항상 먼저 시작하는 과제 중에 하나가 MNIST 손글씨 데이터 셋이였기 때문에 이번에도 파이토치를 이용해서 진행해보기로 했다. 일단 최종 목표는 99% 달성이다. 그런데 최근 논문들의 코드들을 보면 tqdm과 같은 라이브러리를 추가적으로 사용해서 progress bar..

Johns Hohns
'Programming/Pytorch&Tensorflow' 카테고리의 글 목록