이제 조금 기다린 다음, 잡을 확인한다.

보시다시피, 사용자의 파드 중 하나가 여러 작업 단위에서 작업했다.

잡을 생성했다면, 잠시 기다린 후 진행 상황을 확인한다.

{{< feature-state state="beta" for_k8s_version="v1.10" >}}

쿠버네티스는 AMD 및 NVIDIA GPU(그래픽 프로세싱 유닛)를 노드들에 걸쳐 관리하기 위한 **실험적인**

지원을 포함한다.

이 페이지는 여러 쿠버네티스 버전에서 사용자가 GPU를 활용할 수 있는 방법과

현재의 제약 사항을 설명한다.

쿠버네티스는 {{< glossary_tooltip text="디바이스 플러그인" term_id="device-plugin" >}}을 구현하여

파드가 GPU와 같이 특별한 하드웨어 기능에 접근할 수 있게 한다.

실행해야 한다.

* [AMD](#amd-gpu-디바이스-플러그인-배치하기)

* [NVIDIA](#nvidia-gpu-디바이스-플러그인-배치하기)

위의 조건이 만족되면, 쿠버네티스는 `amd.com/gpu` 또는

`nvidia.com/gpu` 를 스케줄 가능한 리소스로써 노출시킨다.

사용자는 이 GPU들을 `cpu` 나 `memory` 를 요청하는 방식과 동일하게

`<vendor>.com/gpu` 를 요청함으로써 컨테이너에서 활용할 수 있다.

그러나 GPU를 사용할 때는 리소스 요구 사항을 명시하는 방식에 약간의

제약이 있다.

- GPU는 `limits` 섹션에서만 명시되는 것을 가정한다. 그 의미는 다음과 같다.

* 쿠버네티스는 limits를 requests의 기본 값으로 사용하게 되므로

사용자는 GPU `limits` 를 명시할 때 `requests` 명시하지 않아도 된다.

* 사용자는 `limits` 과 `requests` 를 모두 명시할 수 있지만, 두 값은

동일해야 한다.

* 사용자는 `limits` 명시 없이는 GPU `requests` 를 명시할 수 없다.

- 컨테이너들(그리고 파드들)은 GPU를 공유하지 않는다. GPU에 대한 초과 할당(overcommitting)은 제공되지 않는다.

- 각 컨테이너는 하나 이상의 GPU를 요청할 수 있다. GPU의 일부(fraction)를 요청하는 것은

불가능하다.

다음은 한 예제를 보여준다.

- name: cuda-vector-add

# https://github.com/kubernetes/kubernetes/blob/v1.7.11/test/images/nvidia-cuda/Dockerfile

image: "registry.k8s.io/cuda-vector-add:v0.1"

nvidia.com/gpu: 1 # GPU 1개 요청하기

[RadeonOpenCompute/k8s-device-plugin](https://github.com/RadeonOpenCompute/k8s-device-plugin)에 이슈를 로깅하여

해당 서드 파티 디바이스 플러그인에 대한 이슈를 리포트할 수 있다.

현재는 NVIDIA GPU에 대한 두 개의 디바이스 플러그인 구현체가 있다.

[공식 NVIDIA GPU 디바이스 플러그인](https://github.com/NVIDIA/k8s-device-plugin)은

다음의 요구 사항을 가진다.

- 쿠버네티스 노드에는 NVIDIA 드라이버가 미리 설치되어 있어야 한다.

- 쿠버네티스 노드에는 [nvidia-docker 2.0](https://github.com/NVIDIA/nvidia-docker)이 미리 설치되어 있어야 한다.

- Kubelet은 자신의 컨테이너 런타임으로 도커를 사용해야 한다.

- 도커는 runc 대신 `nvidia-container-runtime` 이 [기본 런타임](https://github.com/NVIDIA/k8s-device-plugin#preparing-your-gpu-nodes)으로

설정되어야 한다.

- NVIDIA 드라이버의 버전은 조건 ~= 384.81을 만족해야 한다.

클러스터가 실행 중이고 위의 요구 사항이 만족된 후, NVIDIA 디바이스 플러그인을 배치하기 위해서는

아래 명령어를 실행한다.

kubectl create -f https://raw.githubusercontent.com/NVIDIA/k8s-device-plugin/1.0.0-beta4/nvidia-device-plugin.yml

[NVIDIA/k8s-device-plugin](https://github.com/NVIDIA/k8s-device-plugin)에 이슈를 로깅하여

해당 서드 파티 디바이스 플러그인에 대한 이슈를 리포트할 수 있다.

[GCE에서 사용되는 NVIDIA GPU 디바이스 플러그인](https://github.com/GoogleCloudPlatform/container-engine-accelerators/tree/master/cmd/nvidia_gpu)은

nvidia-docker의 사용이 필수가 아니며 컨테이너 런타임 인터페이스(CRI)에

호환되는 다른 컨테이너 런타임을 사용할 수 있다. 해당 사항은

[컨테이너에 최적화된 OS](https://cloud.google.com/container-optimized-os/)에서 테스트되었고,

우분투 1.9 이후 버전에 대한 실험적인 코드를 가지고 있다.

사용자는 다음 커맨드를 사용하여 NVIDIA 드라이버와 디바이스 플러그인을 설치할 수 있다.

kubectl create -f https://raw.githubusercontent.com/GoogleCloudPlatform/container-engine-accelerators/stable/daemonset.yaml

kubectl create -f https://raw.githubusercontent.com/GoogleCloudPlatform/container-engine-accelerators/stable/nvidia-driver-installer/ubuntu/daemonset.yaml

kubectl create -f https://raw.githubusercontent.com/kubernetes/kubernetes/release-1.14/cluster/addons/device-plugins/nvidia-gpu/daemonset.yaml

[GoogleCloudPlatform/container-engine-accelerators](https://github.com/GoogleCloudPlatform/container-engine-accelerators)에 이슈를 로깅하여

해당 서드 파티 디바이스 플러그인에 대한 이슈를 리포트할 수 있다.

Google은 GKE에서 NVIDIA GPU 사용에 대한 자체 [설명서](https://cloud.google.com/kubernetes-engine/docs/how-to/gpus)를 게재하고 있다.

kubectl label nodes <node-with-k80> accelerator=nvidia-tesla-k80

kubectl label nodes <node-with-p100> accelerator=nvidia-tesla-p100

nodeSelector:

accelerator: nvidia-tesla-p100 # 또는 nvidia-tesla-k80 등.

{{< figure src="/images/docs/horizontal-pod-autoscaler.svg" caption="HorizontalPodAutoscaler는 디플로이먼트 및 디플로이먼트의 레플리카셋의 크기를 조정한다" class="diagram-medium">}}

않았고 시작 이후 짧은 시간 내에 파드가 준비되지 않은 상태로

도구이다. `minikube` 는 개인용 컴퓨터(윈도우, macOS 및 리눅스 PC 포함)에서

단일 노드 쿠버네티스 클러스터를 실행하여 쿠버네티스를 사용해보거나 일상적인 개발 작업을