Какой алгоритм используется GMP для инвертирования элемента в конечном поле?
Он использует расширенный GCD, как это реализовано в mpz_gcdext: https://fossies.org/dox/gmp-6.1.0/mpz_2invert_8c_source.html .
mpz_gcdext
Других решений пока нет …