윈도우(Windows) CUDA 설치하고 파이썬(PyTorch)에서 GPU 사용하는 법

🚀 CUDA, 왜 설치해야 할까요?

컴퓨터의 두뇌는 CPU이지만, 단순하고 반복적인 계산은 GPU가 훨씬 더 잘합니다. 딥러닝 학습이 바로 그런 작업이죠!

CUDA는 우리가 사용하는 파이썬 딥러닝 코드(PyTorch, TensorFlow 등)가 NVIDIA GPU의 막강한 계산 능력을 사용할 수 있게 해주는 '번역기' 같은 역할을 합니다. 즉, CUDA가 없으면 GPU는 그냥 예쁜 장식품일 뿐이에요.

자, 그럼 지금부터 차근차근 시작해 봅시다!

STEP 0. 시작 전 필수 준비물 확인!

가장 먼저 내 컴퓨터가 준비되었는지 확인해야 합니다.

1. NVIDIA 그래픽카드 확인하기

• 키보드에서 Ctrl + Shift + Esc를 눌러 작업 관리자를 엽니다.
• 성능 탭을 클릭하고 왼쪽 목록에서 GPU를 찾아보세요.
• 오른쪽 위에 NVIDIA GeForce RTX ... 와 같이 모델명이 보이면 성공입니다! (만약 AMD나 Intel GPU만 있다면 이 가이드는 해당되지 않아요 😢)

2. 최신 NVIDIA 드라이버 설치

• NVIDIA 드라이버 다운로드 페이지에 접속하거나, GeForce Experience 프로그램을 실행해서 드라이버를 최신 버전으로 업데이트해주세요. 가장 기본적이면서도 중요한 단계입니다.

STEP 1. 내게 맞는 CUDA 버전 찾기 (feat. 내 GPU 확인)

"최신 버전이 제일 좋은 거 아니야?" 라고 생각할 수 있지만, CUDA는 두 가지의 궁합을 모두 맞춰야 합니다.

1. 내 GPU 드라이버가 지원하는 CUDA 버전
2. 내가 사용할 딥러닝 라이브러리(PyTorch 등)가 요구하는 CUDA 버전

이 둘의 교집합을 찾아야 가장 안정적으로 사용할 수 있습니다. 지금부터 그 방법을 알려드릴게요!

1-1. 내 GPU 드라이버가 지원하는 CUDA 버전 확인하기

가장 먼저 내 컴퓨터에 설치된 NVIDIA 드라이버가 어떤 버전의 CUDA까지 지원하는지 확인해 봅시다. 이 버전보다 높은 버전의 CUDA Toolkit은 설치해도 드라이버가 인식하지 못해요.

1. Win + R을 누르고 cmd를 입력해 명령 프롬프트를 엽니다.
2. 아래 명령어를 그대로 입력하고 엔터를 누르세요.
   

   nvidia-smi

   
   
   
3. 아래와 같은 표가 나타날 겁니다. 오른쪽 위를 주목하세요!
4. CUDA Version: 12.2 라고 보이시나요? 이것이 바로 제 드라이버가 지원하는 최대 CUDA 버전입니다. 즉, 저는 12.2 버전을 포함하여 그 이하 버전(12.1, 11.8 등)의 CUDA Toolkit을 설치할 수 있다는 뜻입니다.

 

1-2. PyTorch와 궁합 맞는 CUDA 버전 찾기

이제 내가 사용할 PyTorch가 어떤 CUDA 버전을 필요로 하는지 확인합시다.

1. PyTorch 홈페이지 접속
2. 아래와 같이 설치 옵션을 선택해 보세요.
   • PyTorch Build: Stable (안정 버전)
   • Your OS: Windows
   • Package: Pip
   • Language: Python
   • Compute Platform: CUDA 11.8 또는 CUDA 12.1 (이 글을 쓰는 시점 기준)

1-3. 최종 설치 버전 결정!

자, 이제 정보를 종합해 봅시다.

• 내 드라이버 지원 버전: 12.2 (예시)
• PyTorch 요구 버전: 11.8 또는 12.1 (예시)

이 경우, 우리는 교집합에 해당하는 CUDA 11.8 또는 CUDA 12.1 버전을 설치하면 됩니다. 보통 더 많은 라이브러리와의 호환성을 위해 약간 낮은 버전(이 경우 11.8)을 선택하는 것이 안정적일 때가 많습니다.

STEP 2. CUDA Toolkit 설치하기

이제 본격적으로 CUDA Toolkit을 설치할 차례입니다.

1. NVIDIA CUDA Toolkit Archive 페이지로 이동합니다. (과거 버전을 설치해야 하므로 Archive 페이지가 편리해요!)
2. STEP 1에서 확인한 버전(예: CUDA Toolkit 11.8.0)을 클릭합니다.
3. 내 컴퓨터 환경에 맞게 옵션을 선택합니다.
   • Operating System: Windows
   • Architecture: x86_64
   • Version: 10 또는 11 (자신의 윈도우 버전에 맞게)
   • Installer Type: exe (local) —> 이걸 선택해야 설치 파일을 통째로 받을 수 있어 편리해요.
4. Download 버튼을 눌러 설치 파일을 다운로드합니다. (용량이 2~3GB 정도로 큽니다!)

다운로드가 완료되면 파일을 실행하고, 설치 마법사가 안내하는 대로 진행하면 됩니다. 특별한 경우가 아니라면 빠른 설치(Express) 옵션을 선택하고 계속 '다음'을 누르면 끝! 아주 간단하죠?

STEP 3. 설치가 잘 되었는지 확인하기 (가장 중요!)

이제 CUDA가 내 컴퓨터에 잘 설치되었는지, 그리고 파이썬에서 정말 GPU를 쓸 수 있는지 확인해 봅시다.

확인 방법 1: 명령 프롬프트(CMD)에서 확인

1. Win + R을 누르고 cmd를 입력해 명령 프롬프트를 엽니다.
2. 아래 명령어를 그대로 입력하고 엔터를 누르세요.codeBash
3. nvcc --version
4. 아래와 같이 CUDA 버전 정보가 멋지게 출력되면 일단 설치는 성공한 겁니다!codeCode
5. nvcc: NVIDIA (R) Cuda compiler driver Copyright (c) 2005-2022 NVIDIA Corporation Built on Wed_Sep_21_10:33:58_PDT_2022 Cuda compilation tools, release 11.8, V11.8.89 Build cuda_11.8.r11.8/compiler.31833905_0

확인 방법 2: 파이썬(PyTorch)에서 최종 확인 (진짜 중요!)

CMD에서 확인했더라도 파이썬이 GPU를 인식하는지는 별개의 문제입니다. 아래 코드로 최종 점검을 해보세요.

(PyTorch가 설치되지 않았다면 STEP 1에서 본 Run this Command: 아래의 명령어로 먼저 설치해주세요!)

import torch

print(f"PyTorch 버전: {torch.__version__}")
print("-" * 30)

# CUDA 사용 가능 여부
is_available = torch.cuda.is_available()

if is_available:
    print("✅ GPU를 사용할 수 있습니다!")
    print(f"   - GPU 개수: {torch.cuda.device_count()}")
    print(f"   - 현재 GPU 이름: {torch.cuda.get_device_name(0)}")
else:
    print("❌ 아쉽지만 GPU를 사용할 수 없어요.")
    print("   - PyTorch가 CPU 버전으로 설치되었을 수 있습니다.")
    print("   - NVIDIA 드라이버나 CUDA가 제대로 설치되지 않았을 수 있습니다.")

print("-" * 30)

 

💻 성공적인 실행 결과 예시:

PyTorch 버전: 2.1.0+cu118
------------------------------
✅ GPU를 사용할 수 있습니다!
   - GPU 개수: 1
   - 현재 GPU 이름: NVIDIA GeForce RTX 3080
------------------------------

만약 True가 나오고 GPU 이름이 뜬다면, 축하합니다! 이제 여러분의 강력한 GPU로 딥러닝 모델을 마음껏 학습시킬 준비가 되었습니다.

마치며

오늘은 윈도우 환경에서 딥러닝의 필수품, CUDA를 설치하고 확인하는 방법을 알아보았습니다. 정리하면 NVIDIA 드라이버 확인 → PyTorch 호환 CUDA 버전 확인 → CUDA Toolkit 설치 → 코드로 최종 확인 순서만 기억하시면 됩니다.

이제 지루한 기다림 없이, GPU의 빠른 속도로 딥러닝의 재미를 느껴보시길 바랍니다!