Я пытаюсь сделать вывод с Tensorflow. У меня есть 2 Quadro GV100, подключенных через nvlink и другой графический процессор для отображения на моем рабочем столе.
Когда я создаю объект SessionOptions, мне нужно вызвать следующее, чтобы установить, какой графический процессор использовать:
auto options = SessionOptions();
options.config.mutable_gpu_options()->set_visible_device_list(gpuToUse);
Похоже, что Tensorflow не видит GPU с nvlink как единое целое, если бы я создал сеанс, указав только 1 GPU, что, по-видимому, сводит на нет преимущества nvlink и второго GPU.
У меня такой вопрос, может ли Tensorflow воспользоваться преимуществами установки nvlink dual GPU?
Я использую Tensorflow v1.7. Большое спасибо за Вашу помощь!
Короткий ответ — да, Tensorflow может использовать преимущества технологии NVLINK. Но, как уже упоминалось Вот, большинство алгоритмов мало что дает от этой технологии.
Существуют случаи, когда мост NVLINK может иметь значительное влияние. Например, в некоторых приложениях машинного обучения параллелизм может быть достигнут посредством распределения данных по устройствам, при условии, что код графического процессора оптимизирован для минимизации обмена данными.
Других решений пока нет …