AI, 데이터 과학 또는 시뮬레이션 작업을 한다면 NVIDIA CUDA를 설치하는 것이 매우 중요한 단계 중 하나입니다. GPU 가속 이를 통해 성능이 배가되며, 오늘은 Windows(WSL 포함)와 기본 Linux 모두에서 이를 설정하는 방법을 자세하고 장황하게 설명하겠습니다.
필수 구성 요소와 사전 검사부터 드라이버 설치, CUDA 툴킷, PyTorch와 Docker를 사용한 테스트, 그리고 Miniconda, 스왑, 서버 설정에 대한 보너스 기능까지 모든 것을 볼 수 있습니다. 이 가이드는 모범 사례를 모아 놓았습니다. 그리고 흔히 저지르는 함정을 바로잡아서 당연한 것에 시간을 낭비하지 않도록 하세요.
CUDA란 무엇이고 왜 관심을 가질 수 있을까요?
CUDA는 NVIDIA의 병렬 컴퓨팅 생태계로, GPU를 그래픽 외에도 다양한 용도로 활용할 수 있도록 해줍니다. 여기에는 다음이 포함됩니다. 컴파일러, 라이브러리 및 도구 딥 러닝, 과학적 분석 또는 시뮬레이션과 같은 워크로드를 가속화합니다.
11.8 또는 12.6과 같은 버전에는 다음이 포함됩니다. 성능 개선, 지원 하드웨어 최근의, 미세 조정된 메모리 관리, 그리고 TensorFlow 및 PyTorch와 같은 프레임워크와의 고도로 정교한 통합을 통해 까다로운 프로젝트에서도 향상된 속도와 안정성을 제공합니다.
CUDA 런타임은 고수준 라이브러리 외에도 커널 실행을 조정합니다. GPU의 메모리를 관리합니다 수천 개의 코어를 병렬로 사용하여 애플리케이션을 쉽게 확장할 수 있도록 지원합니다. 최신 AI 워크로드의 기반이 되는 것이죠.
Windows에서 개발하는 경우 주요 장점은 다음과 같습니다. WSL2에서는 CUDA 사용이 허용됩니다. Ubuntu나 Debian 같은 Linux 배포판 내에서 Docker와 NVIDIA Container Toolkit을 지원하며 거의 기본적으로 작동합니다. 혼합 환경에 매우 강력한 옵션입니다.
요구 사항 및 호환성
무엇이든 설치하기 전에 하드웨어와 시스템이 요구 사항을 충족하는지 확인하세요. NVIDIA GPU가 필요합니다 CUDA 11.8의 경우 Compute Capability 3.0 이상, 12.6과 같은 최신 버전에 대한 최신 지원이 필요합니다.
Linux에서는 다음을 사용하여 GPU 존재 여부를 확인할 수 있습니다. lspci | grep -i nvidiaUbuntu에서 권장되는 드라이버를 확인하려면 다음을 시도해 보세요. 우분투 드라이버 장치. Windows에서는 다음을 살펴보세요. 장치 관리자 '디스플레이 어댑터'에서.
시스템에 있어서는 CUDA 11.8이 널리 사용되고 있습니다. 윈도우 10/11 64비트 Ubuntu 18.04 및 20.04와 같은 배포판과 RHEL/CentOS 7/8도 지원합니다. WSL의 경우, 윈도우 11 Windows 10 버전 21H2 이상은 Linux 하위 시스템 내에서 CUDA를 사용한 GPU 컴퓨팅을 지원합니다.
WSL2의 경우 커널을 업데이트했는지 확인하세요. 5.10.43.3 이상이 필요합니다. 버전은 다음에서 확인할 수 있습니다. PowerShell을 과 : wsl cat /proc/version. 또한 유지하십시오 Windows Update를 최신 상태로 유지(설정 > Windows 업데이트 > 업데이트 확인).
메모리에 관해서는 훈련 과제를 위해 다음을 갖는 것이 편리합니다. 8GB 이상의 RAM 시스템에는 4GB, GPU에는 4GB의 VRAM이 필요하지만, 많은 모델이 훨씬 더 많은 용량을 필요로 합니다. x86_64 CPU와 최신 C++ 컴파일러(C++14 이상)가 필요합니다.
WSL2를 사용하여 Windows 11/10에 설치
올바른 순서는 골치 아픈 일을 피합니다. 먼저 WSL을 활성화하고 Linux를 설치한 다음 Windows용 NVIDIA 드라이버WSL 내에서 CUDA 툴킷과 AI 라이브러리를 사용할 수 있습니다. 필요에 따라 끝에 Docker Desktop을 추가할 수 있습니다.
1) 관리자 권한으로 PowerShell에서 WSL을 활성화합니다. 기능을 활성화합니다 그리고 요청 시 다시 시작합니다.
Enable-WindowsOptionalFeature -Online -FeatureName Microsoft-Windows-Subsystem-Linux
2) PowerShell에서 WSL 커널을 최신 버전으로 업데이트합니다. wsl – 업데이트. 그런 다음 원하는 배포판을 설치하세요(예: Ubuntu 22.04 LTS):
wsl --install -d Ubuntu-22.04
3) 새로 설치한 Ubuntu 애플리케이션을 열고 인덱스와 패키지를 업데이트하고 기본 유틸리티를 설치합니다. 시스템을 최신 상태로 유지하세요 이후의 실패를 줄여줍니다.
sudo apt update && sudo apt -y upgrade
4) Ubuntu(WSL) 내부에서 설치 Python 공식 저장소의 pip와 CUDA 툴킷. WSL에 GPU 드라이버가 설치되지 않았습니다. Linux 커널에서는 Windows로 이동합니다.
sudo apt -y install python3-pip nvidia-cuda-toolkit
5) pip로 설치한 도구를 실행할 때 문제가 발생하지 않도록 사용자 스크립트 경로를 PATH에 추가하세요. 이렇게 하면 유틸리티 사용이 빨라집니다. 절대 경로 없음.
nano ~/.bashrc
# Al final añade, adaptando 'usergpu' a tu usuario
export PATH=/home/usergpu/.local/bin${PATH:+:${PATH}}
# Guarda (Ctrl+O), sal (Ctrl+X) y recarga
source ~/.bashrc
6) 설치 WSL용 NVIDIA 드라이버 Windows의 경우 NVIDIA/Microsoft 웹사이트에서 CUDA 지원 드라이버(WSL용 GPU 컴퓨팅 드라이버)를 다운로드하세요. 설치 후 필요한 경우 Windows를 다시 시작하세요.
7) WSL에서 커널 버전을 확인하고 모든 것이 응답하는지 확인하세요. wsl cat /proc/버전5.10.43.3 이상을 사용 중이시라면 괜찮습니다. WSL2 개선 사항을 적용받으려면 Windows 업데이트를 최신 상태로 유지하세요.
8) Ubuntu(WSL)에 CUDA를 지원하는 PyTorch를 설치하세요. cu118 인덱스는 널리 사용되는 안정적인 옵션입니다. 노트북이나 스크립트에서 GPU를 활용하는 방법은 다음과 같습니다..
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
9) Python에서 빠른 테스트: PyTorch를 로드하고 CUDA를 사용할 수 있는지, 그리고 몇 개의 GPU를 감지하는지 확인합니다. 이는 스택이 작동한다는 것을 확인합니다..
python3
>>> import torch
>>> torch.cuda.device_count()
# Ejemplo de salida: 1 (o más, según tu equipo)
>>> torch.cuda.is_available()
# Esperado: True
10) WSL에서 GPU를 탑재한 Docker: Windows에 Docker Desktop을 설치하고 활성화한 다음 Ubuntu WSL에서 테스트를 실행합니다. NVIDIA 컨테이너 툴킷 Linux와 유사한 시나리오에서는 WSL에서 지원됩니다.
docker run --rm -it --gpus=all nvcr.io/nvidia/k8s/cuda-sample:nbody \
nbody -gpu -benchmark -numdevices=1
여러 GPU에서 '사용 가능한 장치가 0개만 있음' 오류가 표시되는 경우 알려진 해결 방법은 각 GPU를 비활성화했다가 다시 활성화하는 것입니다. Windows 장치 관리자 (디스플레이 어댑터 > 작업 > 비활성화 후 다시 활성화). 그런 다음 테스트를 반복합니다.
Linux(Ubuntu/Mint 및 파생 버전)에 대한 기본 설치
네이티브 Linux에서 권장되는 경로는 다음과 같습니다. 공식 NVIDIA 드라이버, CUDA 툴킷, 그리고 마지막으로 환경 변수를 구성합니다. 최신 버전에서는 드라이버의 560 브랜치와 CUDA 12.6이 매우 잘 작동합니다.
1) 그래픽 드라이버 PPA(Ubuntu)를 추가하고 560 드라이버를 설치합니다. 재부팅 커널이 업데이트된 모듈을 로드하도록 합니다.
sudo add-apt-repository ppa:graphics-drivers/ppa
sudo apt update
sudo apt install -y nvidia-driver-560
# Reinicia el equipo
2) nvidia-smi로 드라이버가 작동하는지 확인합니다. 버전, GPU 및 메모리가 표시되어야 합니다. CUDA를 계속 사용하기 전에.
nvidia-smi
3) 빌드 종속성을 설치하고 CUDA 12.6 설치 프로그램(실행 파일 포함 예시)을 다운로드합니다. 마법사에서 드라이버 상자의 선택을 취소하세요 충돌을 피하기 위해 이미 560을 설치한 경우.
sudo apt install -y build-essential
wget https://developer.download.nvidia.com/compute/cuda/12.6.3/local_installers/cuda_12.6.3_560.35.05_linux.run
sudo sh cuda_12.6.3_560.35.05_linux.run
4) 설치된 버전으로 PATH와 LD_LIBRARY_PATH를 내보내고 프로필을 다시 로드합니다. 이렇게 하면 nvcc와 라이브러리가 보장됩니다. 세션에서 사용 가능합니다.
nano ~/.bashrc
# Añade al final (ajusta si tu ruta difiere)
export PATH=/usr/local/cuda-12.6/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.6/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
# Guarda y recarga
source ~/.bashrc
5) CUDA 컴파일러 버전을 확인하세요. 'nvcc –version' 명령이 정상적으로 실행되면 설치가 완료된 것입니다. 이 단계가 없으면 많은 빌드가 실패합니다..
nvcc --version
다른 버전에 대한 추가 참고 사항: 설치하는 경우 쿠다 11.8 runfile의 경우도 과정은 비슷하며, 경로는 일반적으로 /usr/local/cuda-11.X입니다. 어떤 경우든 드라이버 호환성 매트릭스를 확인하여 CUDA 버전과 드라이버가 제대로 일치하는지 확인하세요.
Miniconda, PyTorch 및 생태계
Miniconda를 사용하면 환경을 매우 편리하게 관리할 수 있습니다. 종속성을 분리하고, 빌드를 간소화하며, Python 버전 간에 전환할 수 있습니다. AI에 이상적 및 다중 프로젝트 워크플로.
설치 미니콘다 Linux에서 이 단계를 수행하여 라이센스를 수락하고 재부팅합니다. 단말기 마지막에. 그 후, 활성화된 기본 환경을 볼 수 있습니다.
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
bash ./Miniconda3-latest-Linux-x86_64.sh
# Enter > Avanzar > yes > enter > yes
일부 그래픽 패키지의 경우 다음이 필요할 수 있습니다. 파이썬3-tk Ubuntu/Mint 시스템에서는 git을 사용하는 것도 유용합니다.
sudo apt update -y && sudo apt install -y python3-tk git
환경이 준비되면 CUDA 안정 버전(cu118)으로 PyTorch를 설치하거나 최신 성능(예: cu124)을 원한다면 매일 밤 설치하세요. 필요에 따라 선택하세요 안정성과 참신함의 차이.
# Estable (ejemplo cu118)
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
# Nightly (ejemplo cu124)
pip install --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/cu124
ComfyUI와 같은 크리에이티브 파이프라인을 사용하는 경우 해당 저장소를 복제하여 앱을 실행할 수 있습니다. 네트워크의 다른 컴퓨터에서 액세스하려면 –listen 0.0.0.0 플래그를 사용하세요. 헤드리스 서버에서는 매우 실용적입니다..
git clone https://github.com/comfyanonymous/ComfyUI
cd ComfyUI
pip install -r requirements.txt
python main.py --listen 0.0.0.0
테스트 및 검증(PyTorch 및 Docker)
설치 검증을 통해 나중에 예상치 못한 상황을 방지할 수 있습니다. Python에서 PyTorch가 GPU를 인식하고, 메모리를 할당하고, 커널이 오류 없이 실행되는지 확인하세요. 두 가지 주요 호출 이는 is_available과 device_count입니다.
python3
>>> import torch
>>> torch.cuda.is_available()
True
>>> torch.cuda.device_count()
1
Docker를 사용하여 NVIDIA 'nbody' 샘플 컨테이너를 사용해 보세요. –gpus=all로 작동하면 컨테이너 런타임 컨테이너에서 올바르게 구성되고 GPU가 가시화됩니다.
docker run --rm -it --gpus=all nvcr.io/nvidia/k8s/cuda-sample:nbody \
nbody -gpu -benchmark -numdevices=1
Windows+WSL에서 '0개 장치' 오류가 발생하면 장치 관리자에서 GPU를 비활성화/활성화하는 방법을 기억하세요. 알려진 문제입니다 이는 여러 개의 카드가 장착된 컴퓨터에서 가끔 발생합니다.
마지막으로 nvcc -V를 사용하여 CUDA 컴파일러를 검증하고 nvidia-smi를 사용하여 드라이버 설치를 확인하는 것을 잊지 마세요. Ambos 명령 오류 없이 실행되어야 합니다.
Linux의 유용한 조정: 스왑 및 서버 모드
집중적인 운동 중에 메모리 부족으로 인한 충돌을 피하려면 스왑 파일을 확장하는 것이 생명의 은인이 될 수 있습니다. 32GB 크기 일반적으로 대형 모델에서는 마진을 줍니다.
sudo swapon --show
sudo swapoff -a
sudo dd if=/dev/zero of=/swapfile bs=1M count=32768 status=progress
sudo chmod 600 /swapfile
sudo mkswap /swapfile
sudo swapon /swapfile
sudo swapon --show
sudo nano /etc/fstab
# Añade si no existe:
/swapfile none swap sw 0 0
Linux Mint(및 다른 운영체제에서 사용하는 유사한 운영체제)를 사용한다면 그래픽 환경 없이 다중 사용자 모드로 부팅하여 일부 VRAM을 포함한 리소스를 절약할 수 있습니다. 서버에 적합 또는 훈련 노드.
sudo nano /etc/default/grub
# Cambia "quiet splash" por "text"
sudo update-grub
sudo systemctl set-default multi-user.target
# Reinicia; para volver al escritorio en sesión:
startx
일반적인 문제 및 해결 방법
정렬되지 않은 드라이버 및 툴킷: 다음을 설치하는 경우 호환되지 않는 드라이버 CUDA 버전을 사용하는 경우 커널을 컴파일하거나 실행할 때 오류가 발생할 수 있습니다. NVIDIA 호환성 표를 참조하여 버전을 정렬하세요.
Linux에서의 종속성 충돌: 이전 설치에서 남은 패키지를 제거하고 apt 또는 yum을 사용하세요. 정확한 버전을 해결하다 설치 프로그램에서 안내하는 대로 따라 하면 됩니다. 공식 가이드를 정확히 따르면 많은 도움이 됩니다.
적절한 커널이 없는 WSL: 확인 wsl – 업데이트 'wsl cat /proc/version' 명령어로 버전을 확인하세요. 하위 시스템 개선 사항을 적용하려면 Windows 업데이트가 최신 상태여야 합니다.
GPU가 없는 Docker: 설치되어 있는지 확인하세요 NVIDIA 컨테이너 툴킷 Docker Desktop이 Windows에서 활성화되어 있습니다. nbody 컨테이너를 사용해보고 문제가 발생하는 경우 사용자 권한을 확인하세요.
PATH 및 라이브러리: nvcc 또는 CUDA 라이브러리가 발견되지 않으면 변수를 확인하세요. PATH와 LD_LIBRARY_PATH편집 후 'source ~/.bashrc'로 돌아가고, 필요하다면 세션을 다시 시작하세요.
클라우드 대안: 바로 사용 가능한 GPU 인스턴스
로컬에서 설정할 수 없거나 설정하고 싶지 않은 경우 GPU가 있는 클라우드 인스턴스를 사용하면 해당 작업을 대신 수행할 수 있습니다. A100, RTX 4090 또는 A6000을 사용한 서비스 강력한 성능과 AI 지원 템플릿을 제공합니다.
미리 구성된 포드를 제공하는 플랫폼에서는 몇 분 안에 환경을 시작하고, 사용량 기반 청구로 비용을 절감하고, PyTorch에 최적화된 이미지를 선택할 수 있습니다. 모델을 회전하는 팀의 경우 그리고 확장이 필요할 때, 그것은 매우 효율적인 방법입니다.
위에 나열한 모든 내용을 바탕으로 이제 요구 사항, WSL을 사용한 Windows 설치, 네이티브 Linux 설치, PyTorch 및 Docker를 사용한 키 검증, Miniconda, 스왑, 서버 모드를 사용한 생산성 향상 기능 등 완전한 맵을 갖추게 되었습니다. 목표는 당신이 0에서 훈련으로 가는 것입니다 걸림이 없고, 견고하고 유지 관리하기 쉬운 스택입니다.
바이트와 기술 전반에 관한 세계에 대한 열정적인 작가입니다. 나는 글쓰기를 통해 내 지식을 공유하는 것을 좋아하며 이것이 바로 이 블로그에서 할 일이며 가젯, 소프트웨어, 하드웨어, 기술 동향 등에 관한 가장 흥미로운 모든 것을 보여 드리겠습니다. 제 목표는 여러분이 간단하고 재미있는 방식으로 디지털 세계를 탐색할 수 있도록 돕는 것입니다.