Каков рабочий процесс для реализации нейронной сети с предварительным обучением тензорного потока от python до c ++ с использованием тензорного rt?
Как говорится в названии, я пытаюсь использовать предварительно обученную сеть тензорных потоков, реализованную на python, в коде c ++, используя библиотеку tenvid-rt от Nvidia. Я понял, что мне нужно создать файл .pb из «стоп-графа» (я понятия не имею, что это значит) и чем-то использовать его в c ++ с tenor-rt API.
Может ли кто-нибудь помочь мне с этим?
Решение
есть руководство о том, как это сделать Вот, Он сделан ребятами из Nvidia, также, если вы установите tenorrt, у вас будет пример кода для развертывания TF в этом направлении:
/usr/src/tensorrt/samples/sampleUffMNIST
И как всегда проверьте документацию TensorRT https://docs.nvidia.com/deeplearning/sdk/tensorrt-developer-guide/index.html
Это должно начать вас! Удачи!
Другие решения
Если вы планируете использовать TF-TRT, вот документация для этого: https://docs.nvidia.com/deeplearning/dgx/integrate-tf-trt/index.html
Здесь также есть примеры, которые могут помочь вам начать: https://github.com/tensorflow/tensorrt