Keras, Tensorflow에서 GPU 똑똑하게 사용하기 - 2부

Python/Keras 2019. 2. 20. 23:52

혹시 잊었다면: Keras, Tensorflow에서 GPU 똑똑하게 사용하기 - 1부 1부에서는, tensorflow를 통해 gpu와 그 메모리들을 관리하는 방법에 대해 다루었다. 이번 포스팅에서는 실제로 어떠한 방법들을 사용해야 gpu를 효율적으로 다룰 수 있을지에 대해 논해본다. Out of Memory?당장 해법이 급하다면 넘어가도 무방하다 Out of Memory를 자주보고 있다면, 본인이 아래의 케이스에 속하는지 확인해보자. StackOverflow에도 종종 올라오는 대표적인 사례들이다. batch_size가 너무나 크다. 한 프로세스에서 다른 Model을 두번 compile 했다. gpu를 사용하는 (또는 했던) 다른 프로세스가 아직 작업 중이거나, 작업이 끝났음에도 불구하고 terminate..

Article Thumbnail
Keras, Tensorflow에서 GPU 똑똑하게 사용하기 - 1부

Python/Keras 2018. 10. 11. 22:07

이번 포스팅에서는 Keras와 Tensorflow에서 GPU를 더 똑똑하게 사용하는 방법에 대해 알아보자. 케라스 (와 당연히 텐서플로우)를 사용한다면, GPU도 높은 확률로 사용 중일 것 이다. 근데 이놈의 텐서플로우는 default로 (2장 이상의 GPU를 사용한다면 모든) GPU의 메모리를 배정받으면서 시작되는데, 이 경우 파이썬 프로세스를 하나만 실행하기만 해도 GPU 메모리가 허덕이는 경우가 태반이다. 하는일은 하나도 없고 (util : 0%) 메모리는 95%를 먹고계신 Tensorflow ResourceExhaustedError (see above for traceback): OOM when allocating tensor with shape[10000,32,28,28] [[Node: conv..

Article Thumbnail