본문 바로가기

[Day10] Pytorch 10. Troubleshooting OOM : Out Of Memory iteration을 돌면서 발생 왜,어디서 발생했는지 알기 어려워서 대처가 어려움 #1 CUDNN_STATUS_NOT_INIT #GPU를 제대로 설치하지 않았을 때 #2 device-side-assert #OOM의 일종 1. 간단한 방법 Batch size를 줄이고 CPU를 비우고(커널 재실행) 다시 실행해보기 2. GPUUtil GPU Util 로 현재 내 GPU의 상태를 확인한다 iteration 마다 메모리가 늘어나는지 확인할 수 있다 !pip install GPUtil import GPUtil GPUtil.showUtilization() 3. torch.cuda.empty_cache() GPU에서 사용하지 않는 캐시 cache 정리 del은 주소 관계만 끊기 때..
부스트캠프 AI Tech 3기 Pre-Course [6]-1 Numpy : 넘파이 개요, shape, dtype, nbytes Numpy : Numerical Python 파이썬의 고성능 과학 계산용 패키지 matrix, array 연산의 표준 특징 List에 비해 빠르고, 효율적이다. 반복몬 없이 데이터 배열에 대한 처리를 지원 선형대수 관련 다양한 기능 제공 ndarray numpy dimension array import numpy as np a=np.array([1,4,3], float) 그냥 대부분 alias(별칭)을 np로 다들 둔다. 리스트랑 같은 기능이지만 메모리에 저장하는 방식이 다르다. 리스트는 static하게 [1]이 있다면 1이라는 숫자가 저장되어 있는 주소를 가리키는 포인터를 저장하는 방식이지만, ndarray 는 메모리에 순서대로 저장되고 그 값도 따로 저장이 된다. 그래서 순서대로 저장되어 있기 때문에..