밥풀의 개발일지
GPU가속을 위한 nvidia graphic driver, cuda,cuDNN 설치 본문
내가 근 3일동인 GPU 가속을 해보겠다고 고생한 흔적을 남길려고한다.
개인적으로는 나의 블로그를 보고 cuda설치를 하지 않기를 권장한다.
시간이 지남에 따라서 설치 방법이 달라질 수도 있기 때문이다.
아무튼 간에 나는 window의 WSL 환경에서 CUDA를 설치하고 GPU가속을 할 것이다.
GPU 가속을 위해서는 해야할 것이 몇가지 있는데
나는 WSL을 전부다 삭제하고 진행을 하였다.
그러니! WSL이 설치되어 있지 않다는 가정하에 설명을 시작하겠다.
(사실 내가 설명하는거는 없다 나는 그저 길만 제시할 뿐이다.)
https://docs.nvidia.com/cuda/wsl-user-guide/index.html
CUDA on WSL
6.1. Notice This document is provided for information purposes only and shall not be regarded as a warranty of a certain functionality, condition, or quality of a product. NVIDIA Corporation (“NVIDIA”) makes no representations or warranties, expressed
docs.nvidia.com
다른 블로그 다 볼 필요 없이 이거만 보면된다.
괜히 nvidia가 주가가 3조달러가 넘는 회사겠는가!!!
그냥 이거 보고 쭉 따라하면 cuda까지는 무난하게 설치할 수 있다.
그리고 나서 WSL을 접속을 하고
nvcc -V라고 치면 cuda 버전이 나올텐데 이 명령어가 안나오는 경우가 있을 수 있다.
그러면서 cuda toolkit을 깔아라는 명령어가 나올텐데 절대로 깔지마라
이미 엔비디아 그래픽 드라이버를 설치하면서 다 깔려오기 때문에 그냥 단순히 bashrc 파일에 path 설정이 안되어 있을 뿐이니까...
자신의 쉘에 따라서 다르겠지만 나는 bash쉘을 쓰니까
vi ~/.bashrc
위의 명령어를 입력하고
맨 아래에
export PATH="/usr/local/자신이 설치한 쿠다 버전/bin:$PATH"
export LD_LIBRARY_PATH="/usr/local/자신이 설치한 쿠다 버전/lib64:$LD_LIBRARY_PATH"
자신이 설치한 쿠다 버전을 모르겠다면
저기 local 폴더에 들어가면 찾을 수 있다.
보통 "cuda-12.n" 이런식일 것이다.
이것만으로는 GPU 가속을 할 수가 없는데 cuDNN을 깔아야한다.
이 파트는 나중에 설명을 하겠다.
물론 나 말고도 더 설명을 잘하는 사람들이 많으니 따라가면 되지 않을까 싶다.
'개발' 카테고리의 다른 글
| 허깅페이스를 이용한 데이터셋 로드및 훈련(w/lora) (0) | 2024.11.28 |
|---|---|
| [오류 해결] The list of sources could not be read. (0) | 2024.11.28 |
| 컨테이너에 모델 올리기(miniGPT-4) (0) | 2024.11.28 |
| 도커 컨테이너에 마운트 하는법 (0) | 2024.11.28 |
| expo-router에 대한 간단한 이야기 (2) | 2024.11.28 |