У меня есть программа, которую я собираю так:
(...) Some ifort *.f -c
nvcc -c src/bicgstab.cu -o bicgstab.o -I/home/ricardo/apps/cusp/cusplibrary
(...) Some more *.for -c
ifort *.o -L/usr/local/cuda-5.5/lib64 -lcudart -lcublas -lcusparse -lmkl_intel_lp64 -lmkl_intel_thread -lmkl_core -openmp -o program
Все работало нормально, пока я не добавил поддержку CUSP, где у меня есть эта оболочка (bicgstab.cu):
#include <cusp/csr_matrix.h>
#include <cusp/krylov/bicgstab.h>
#if defined(__cplusplus)
extern "C" {
#endif
void bicgstab_(int * device_I, int * device_J, float * device_V, float * device_x, float * device_b, int N, int NNZ){
// *NOTE* raw pointers must be wrapped with thrust::device_ptr!
thrust::device_ptr<int> wrapped_device_I(device_I);
thrust::device_ptr<int> wrapped_device_J(device_J);
thrust::device_ptr<float> wrapped_device_V(device_V);
thrust::device_ptr<float> wrapped_device_x(device_x);
thrust::device_ptr<float> wrapped_device_b(device_b);
// use array1d_view to wrap the individual arrays
typedef typename cusp::array1d_view< thrust::device_ptr<int> > DeviceIndexArrayView;
typedef typename cusp::array1d_view< thrust::device_ptr<float> > DeviceValueArrayView;
DeviceIndexArrayView row_indices (wrapped_device_I, wrapped_device_I + (N+1));
DeviceIndexArrayView column_indices(wrapped_device_J, wrapped_device_J + NNZ);
DeviceValueArrayView values (wrapped_device_V, wrapped_device_V + NNZ);
DeviceValueArrayView x (wrapped_device_x, wrapped_device_x + N);
DeviceValueArrayView b (wrapped_device_b, wrapped_device_b + N);
// combine the three array1d_views into a csr_matrix_view
typedef cusp::csr_matrix_view<DeviceIndexArrayView,
DeviceIndexArrayView,
DeviceValueArrayView> DeviceView;
// construct a csr_matrix_view from the array1d_views
DeviceView A(N, N, NNZ, row_indices, column_indices, values);
// set stopping criteria:
// iteration_limit = 100
// relative_tolerance = 1e-5
cusp::verbose_monitor<float> monitor(b, 100, 1e-5);
// solve the linear system A * x = b with the Conjugate Gradient method
cusp::krylov::bicgstab(A, x, b, monitor);
}
#if defined(__cplusplus)
}
#endif
Nvcc компилирует и генерирует объект, но в последней команде, когда я связываю все вместе, появляется куча ошибок из-за связывания:
ipo: warning #11021: unresolved __gxx_personality_v0
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZTVSt9exception
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZTVSt9bad_alloc
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZdlPv
Referenced in bicgstab.o
ipo: warning #11021: unresolved __cxa_guard_acquire
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSaIcEC1Ev
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSsC1EPKcRKSaIcE
Referenced in bicgstab.o
ipo: warning #11021: unresolved __cxa_guard_release
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSsD1Ev
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSaIcED1Ev
Referenced in bicgstab.o
ipo: warning #11021: unresolved __cxa_guard_abort
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSsC1ERKSs
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSt13runtime_errorD2Ev
Referenced in bicgstab.o
ipo: warning #11021: unresolved __cxa_call_unexpected
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSt13runtime_errorC2ERKSs
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSsC1Ev
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNKSs5emptyEv
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNKSt13runtime_error4whatEv
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSsaSEPKc
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSspLEPKc
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSspLERKSs
Referenced in bicgstab.o
ipo: warning #11021: unresolved __cxa_begin_catch
Referenced in bicgstab.o
ipo: warning #11021: unresolved __cxa_end_catch
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNKSs5c_strEv
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNKSt9bad_alloc4whatEv
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSt9bad_allocD2Ev
Referenced in bicgstab.o
ipo: warning #11021: unresolved __cxa_allocate_exception
Referenced in bicgstab.o
ipo: warning #11021: unresolved __cxa_free_exception
Referenced in bicgstab.o
ipo: warning #11021: unresolved __cxa_throw
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSt9exceptionD2Ev
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZSt4cout
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZStlsISt11char_traitsIcEERSt13basic_ostreamIcT_ES5_PKc
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSolsEf
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSolsEm
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZSt4endlIcSt11char_traitsIcEERSt13basic_ostreamIT_T0_ES6_
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSolsEPFRSoS_E
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZSt9terminatev
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZStlsIcSt11char_traitsIcEERSt13basic_ostreamIT_T0_ES6_St5_Setw
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSolsEPFRSt8ios_baseS0_E
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSt9bad_allocD1Ev
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZTISt9bad_alloc
Referenced in bicgstab.o
ipo: warning #11021: unresolved __cxa_pure_virtual
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZTVN10__cxxabiv120__si_class_type_infoE
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZTISt9exception
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZTISt13runtime_error
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZTVN10__cxxabiv117__class_type_infoE
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSt8ios_base4InitC1Ev
Referenced in bicgstab.o
ipo: warning #11021: unresolved _ZNSt8ios_base4InitD1Ev
Referenced in bicgstab.o
Я считаю, что это потому, что ifort добавляет или удаляет символы подчеркивания, добавляет нижний / верхний регистры или что-то еще, потому что файл компилирует запись, и если я генерирую двоичный файл вне моей программы, просто для тестирования, он прекрасно работает.
Заранее большое спасибо!
ipo довольно сложен, когда задействовано несколько файлов. Это фактически перезапускает компилятор на всех модулях во время соединения. Я не эксперт по этому вопросу, но это звучит как нечто довольно сложное для понимания.
Одним из возможных вариантов может быть то, что вы пытаетесь скомпилировать код cuda в общую библиотеку (.so) и ссылаться на нее. Это должно препятствовать тому, чтобы набор инструментов компилятора Intel пытался перекомпилировать и оптимизировать код, сгенерированный nvcc / gcc. Я думаю, что это ограничит вас «оптимизацией одного файла». Не знаю, если это значительно повлияет на вашу производительность или нет.
Используя мой пример Вот, Я бы изменил команды компиляции следующим образом:
$ nvcc -Xcompiler="-fPIC" -shared bicgstab.cu -o bicgstab.so -I/home-2/robertc/misc/cusp/cusplibrary-master
$ ifort -c -fast bic.f90
$ ifort bic.o bicgstab.so -L/shared/apps/cuda/CUDA-v6.0.37/lib64 -lcudart -o program
ipo: remark #11001: performing single-file optimizations
ipo: remark #11006: generating object file /tmp/ipo_ifortxEdpin.o
$
Вы не указываете, где в процессе компиляции вы добавляете -fast
Переключатель (ов). Если только на ifort
Я считаю, что вышеуказанный подход будет работать. Если вы также хотите / нуждаетесь в ней в команде link, тогда кажется, что ifort хочет создать полностью статически связанный исполняемый файл (и выполнить оптимизацию между модулями …), которая не будет работать с использованием описанного выше процесса.