cuda는 그래픽카드로 유명한 nvidia사의 그래픽 가속 칩의 연산 능력을 활용하여 딥러닝, 머신러닝 등 대량의 Matrix 연산, 덧셈, 곱셈 연산을 빠르게 수행할 수 있도록 도와주는 컴퓨팅 플랫폼이자 프로그래밍 도구이다. CUDA는 C/C++ 및 포트란, 파이썬을 지원하여 대량의 연산이 필요한 부분에 적용하여 CPU의 부하를 줄이고 빠르게 계산을 완료할 수 있다.
특히 딥러닝 등에 많이 사용되는 정수형 연산을 지원하기 위해 만들어진 CuDNN 라이브러리를 활용하면 대량의 데이터를 학습하는 시간을 획기적으로 줄일 수 있다.
CUDA를 설치하는 과정은 크게 다음과 같다.
우분투 20.04 이후부터는 ppa 추가 과정 없이 nvidia 고유의(proprietary) 드라이버를 설치할 수 있고 아래와 같이 start 버튼→Additional driver검색 후 나오는 화면에서 해당 드라이버를 선택할 수 있다.
현재 PC에는 RTX3070Ti 가 설치되어있고 호환되는 버전이 510, 515 등이 있다. 일단은 510으로 선택한다.
nvidia의 드라이버가 정상적으로 설치되었다면 터미널에 nvidia-smi 를 입력하여 다음과 같이 나오는지 확인한다.
드라이버 버전에 따라 호환되는 CUDA 버전이 우측 상단에 표시된다. 여기서는 11.6 이다.
만약 아무런 정보도 표시되지 않는다면 재부팅을 해본다. 또는 내장 그래픽 카드가 활성화되어있지 않은지 확인해본다. 내장그래픽을 사용중인 경우 재대로 인식이 안될 수 있다.