2D GPU Блок для 1D матрицы
Я новичок в программировании cuda. Я хочу добиться сложения векторов больших массивов. Размер массивов составляет 1 миллион. Так как я не могу создать 1 миллион 1d блоков. Я думал о создании блоков 1000х1000 с 1 потоком в каждом блоке.
соответствующий основной код
//Copy to GPU
printf( "GPU\n" );
cudaMemcpy( dev_src1, src1, size * sizeof(int), cudaMemcpyHostToDevice );
cudaMemcpy( dev_src2, src2, size * sizeof(int), cudaMemcpyHostToDevice );
//Exec kernel
int nBlocks = ceil(sqrt(size));
int nThreadsPerBlock = 1;
addVector<<<dim3(nBlocks,nBlocks),nThreadsPerBlock>>>(dev_src1, dev_src2, dev_dest, size );
//Copy results to CPU
cudaMemcpy( dest, dev_dest, size * sizeof(int), cudaMemcpyDeviceToHost );
Ядро графического процессора
__global__ void addVector( int * src1, int * src2, int * dest, int size )
{
int tid = blockIdx.y*blockDim.x + blockIdx.x;
if( tid<size )
dest[tid] = src1[tid] + src2[tid];
}
Однако я не получаю правильных результатов после этого. В чем может быть моя ошибка и как ее исправить?
Вот как выглядят мои результаты —
0: 0 + 0 = 0
1: 1 + 2 = 3
2: 2 + 4 = 6
3: 3 + 6 = 9
4: 4 + 8 = 12
5: 5 + 10 = 15
6: 6 + 12 = 18
7: 7 + 14 = 21
8: 8 + 16 = 24
9: 9 + 18 = 27
10: 10 + 20 = 266
11: 11 + 22 = 267
12: 12 + 24 = 268
13: 13 + 26 = 269
14: 14 + 28 = 270
15: 15 + 30 = 271
.
.
86: 86 + 172 = 342
87: 87 + 174 = 343
88: 88 + 176 = 344
89: 89 + 178 = 345
90: 90 + 180 = 346
91: 91 + 182 = 347
92: 92 + 184 = 348
93: 93 + 186 = 349
94: 94 + 188 = 350
95: 95 + 190 = 351
96: 96 + 192 = 352
97: 97 + 194 = 353
98: 98 + 196 = 354
99: 99 + 198 = 355
Решение
В вашем текущем сценарии вы рассчитываете tid неправильно.
Если есть 1 поток на блок, то blockDim.x будет 1.
tid следует рассчитывать как:
int tid = blockIdx.y * gridDim.x + blockIdx.x;
Однако я бы не рекомендовал создавать 1 поток на блок и создавать большое количество блоков. Это явно неэффективно, так как занятость ядра будет очень меньше.
Рекомендуемый подход — создать достаточно большой блок, например, 128 или 256 потоков на блок, а затем создать сетку, достаточно большую, чтобы охватить все данные.
Например:
int nThreadsPerBlock = 256;
int nBlocks = (size + nThreadsPerBlock - 1)/nThreadsPerBlock;
При таком подходе tid будет рассчитываться как:
int tid = blockIdx.x * blockDim.x + threadIdx.x;
Другие решения
Других решений пока нет …