Блог

Я пытаюсь обслуживать модель TensorFlow с поддержкой графического процессора Nvidia в Windows 10 (версия 20H2, сборка ОС 19042.1165). Насколько я понимаю, я думаю, что лучший способ выполнить обслуживание-это использовать Docker image tensorflow/serving:latest-gpu. Но для этого в Windows нам нужно установить nvidia-docker2 с помощью WSL2. Но моя организация не позволяет нам зарегистрироваться в программе Windows insider, и без нее я не могу установить набор инструментов CUDA в WSL2.

Итак, есть ли какой-либо другой способ обслуживания модели tf с «поддержкой GPU», кроме использования docker?

Похоже, что единственным решением является сборка из исходного кода, но это официально не поддерживается для Windows. Вот ссылка, если кто-то хочет создать службу tf из исходного кода :