Windows / Linux で Vulkan を使用して ailia SDK の GPU 推論を有効にする手順を説明します。
Vulkan は Khronos Group が開発したクロスプラットフォームのグラフィックス / コンピュート API です。ailia SDK と ailia LLM は Vulkan を使用して、NVIDIA および AMD の GPU でアクセラレーションされた推論を行うことができます。CUDA と異なり、Vulkan は NVIDIA 以外のハードウェアでも使用できます。
Windows では、Vulkan ランタイムは NVIDIA、AMD、Intel の GPU ドライバに含まれています。追加のインストールは不要です。
最新の GPU ドライバがインストールされていれば、Vulkan はすでに使用可能です。
ailia-models のサンプルを使って、環境リストに Vulkan が表示されることを確認します。
cd ailia-models/image_classification/resnet50
python3 resnet50.py --env_list
Vulkan が使用可能であれば、以下のような環境が表示されます。
env[3]=Environment(id=3, type='GPU',
name='Vulkan-NVIDIA GeForce RTX 3080',
backend='Vulkan', props=[])
Linux では、Vulkan ローダーライブラリを別途インストールする必要があります。以下のコマンドでインストールします。
sudo apt install libvulkan1
これにより Vulkan ICD (Installable Client Driver) ローダーがインストールされます。Vulkan をサポートする GPU ドライバも必要です。
NVIDIA GPU を使用している場合は、プロプライエタリ NVIDIA ドライバをインストールします。
sudo apt install nvidia-driver-560
560 の部分はお使いの GPU に対応する最新のドライババージョンに置き換えてください。apt search nvidia-driver で利用可能なバージョンを確認できます。
AMD GPU を使用している場合は、Mesa Vulkan ドライバをインストールします。
sudo apt install mesa-vulkan-drivers
vulkaninfo コマンドで Vulkan のインストールを確認できます。
sudo apt install vulkan-tools
vulkaninfo --summary
ailia SDK でも確認できます。
cd ailia-models/image_classification/resnet50
python3 resnet50.py --env_list
Vulkan が使用可能であれば、backend='Vulkan' を含む環境が表示されます。