(반만 해결) DataParallel()을 사용한 모델 로드 시의 GPU 지정 문제
(반만 해결) DataParallel()을 사용한 모델 로드 시의 GPU 지정 문제
오늘 해결할 수 있을 것 같지는 않아서 힘들기는 하고 어쨌든 오랜만에 뭔가 쓰고 싶어져서 일단 기록. https://github.com/ming024/FastSpeech2 위 레포로 학습 후 저장한 모델을 로드해서 추론하려고 하는
heart-universe.tistory.com
Pytorch - DataParallel
Pytorch - DataParallel
제가 딥러닝을 처음 시작한 2017년 초반에 대학원에서 사용한 GPU는 GTX1080Ti 였습니다. 메모리가 대충 11 GB 정도 였던 것으로 기억하는데 서버당 GPU 4기씩 설치되어 있었으니 그 당시로서는 학교에
hongl.tistory.com
특정 GPU 지정 / os.environ["CUDA_VISIBLE_DEVICES"]
특정 GPU 지정 / os.environ["CUDA_VISIBLE_DEVICES"]
os.environ"CUDA_VISIBLE_DEVICES"= 사용하고자 하는 GPU이때 사용하고자 하는 GPU는0번 GPU의 경우 "0"1번 GPU의 경우 "1"0번 1번을 같이 쓰고 싶을 때는 "0,1"이런 식으로 지정해주면 된다.
velog.io
[Pytorch] 특정 GPU 사용하기 / 여러개의 multi GPU parallel 하게 사용하기
[Pytorch] 특정 GPU 사용하기 / 여러개의 multi GPU parallel 하게 사용하기
Neural network를 train을 하다보면 성능을 비교하기 위해 loss function, optimizer 등이 상이한 여러 가지 model을 돌려볼 일이 수도 없이 많다. 이 때, 한 장의 GPU만 있다면 어쩔 수 없지만 여러장의 GPU가 존
artiiicy.tistory.com
[Pytorch] 쿠다 버전 확인, 파이토치 버전 체크, 업데이트 방법
https://jimmy-ai.tistory.com/108
CUDA | RuntimeError: CUDA error: no kernel image is available for execution on the device
https://iambeginnerdeveloper.tistory.com/176
conda uninstall pytorch
nvcc -V
conda install pytorch torchvision torchaudio cudatoolkit=11.3 -c pytorch -c conda-forge
'Tech > 파이썬' 카테고리의 다른 글
| WandB (0) | 2023.08.24 |
|---|---|
| HuggingFace #1 (PEFT/LoRA) (0) | 2023.08.22 |
| Design Pattern #1 (0) | 2023.06.28 |
| Python Implementations #1 (CPython/PyPy) (0) | 2023.06.25 |