машинное обучение — C ++ TensorRT пакетный вывод дает странные результаты

Всем добрый день!

У меня проблема с выполнением пакетного вывода в TensorRT. Когда размер пакета равен 1, он работает как брелок, но когда я изменяю его на любое другое число, он выдает обычный мусор.

Шаг за шагом я скачал TensorRT (5.0) и установил его на свой ноутбук Ubuntu 18.04 с GTX755M. Затем я собрал сэмплы, которые пошли вместе с ним, и протестировал его на сэмпле sampleMNIST, и это сработало как шарм. Затем я приступил к изменению каждого случая mParams.batchSize на 10. Конечно, я также изменил размер выделенной памяти и изменил результаты печати. Но после того, как я перекомпилировал образец, я получил совершенно странные результаты — результат показывает 80% 7 20% 1 для каждого данного ввода:

grim@shigoto:~/tensorrt/bin$ ./sample_mnist
Building and running a GPU inference engine for MNIST

Input:

@@@@@@@@@@@@@@@@@@@@@@@@@@@@
@@@@@@@@@@@@@@@@@@@@@@@@@@@@
@@@@@@@@@@@@@@@@@@@@@@@@@@@@
@@@@@@@@@@@@@@@@@@@@@@@@@@@@
@@@@@@@@@@@@@@@@@@@@@@@@@@@@
@@@@@@@@@@@@@@@@.*@@@@@@@@@@
@@@@@@@@@@@@@@@@.=@@@@@@@@@@
@@@@@@@@@@@@+@@@.=@@@@@@@@@@
@@@@@@@@@@@% #@@.=@@@@@@@@@@
@@@@@@@@@@@% #@@.=@@@@@@@@@@
@@@@@@@@@@@+ *@@:-@@@@@@@@@@
@@@@@@@@@@@= *@@= @@@@@@@@@@
@@@@@@@@@@@. #@@= @@@@@@@@@@
@@@@@@@@@@=  =++.-@@@@@@@@@@
@@@@@@@@@@       =@@@@@@@@@@
@@@@@@@@@@  :*## =@@@@@@@@@@
@@@@@@@@@@:*@@@% =@@@@@@@@@@
@@@@@@@@@@@@@@@% =@@@@@@@@@@
@@@@@@@@@@@@@@@# =@@@@@@@@@@
@@@@@@@@@@@@@@@# =@@@@@@@@@@
@@@@@@@@@@@@@@@* *@@@@@@@@@@
@@@@@@@@@@@@@@@= #@@@@@@@@@@
@@@@@@@@@@@@@@@= #@@@@@@@@@@
@@@@@@@@@@@@@@@=.@@@@@@@@@@@
@@@@@@@@@@@@@@@++@@@@@@@@@@@
@@@@@@@@@@@@@@@@@@@@@@@@@@@@
@@@@@@@@@@@@@@@@@@@@@@@@@@@@
@@@@@@@@@@@@@@@@@@@@@@@@@@@@

Output:

0:
1: ********
2:
3:
4:
5:
6:
7: **
8:
9:

Этот вывод повторяется 10 раз. Я пробовал это с разными сетями, но результаты были похожи, большинство сетей выдает 1 правильный вывод, а остальные — 9 раз. Полный образец можно найти Вот. Я попробовал поискать документацию, но не могу понять, что я делаю неправильно. Не могли бы вы сказать мне, что я делаю неправильно или как выполнить пакетный вывод в TensorRT?

1

Решение

Вы также изменили mnist.prototxt?

Особенно эта часть:

input: "data"input_shape {
dim: 1
dim: 1
dim: 28
dim: 28
}

Я думаю, что должно быть:

input: "data"input_shape {
dim: 10
dim: 1
dim: 28
dim: 28
}
0

Другие решения

Других решений пока нет …

По вопросам рекламы [email protected]