Я получил странную ошибку после запуска этого кода.
av_opt_set(codecContext, "sub_charenc", "ISO-8859-1", 0);
av_opt_set_int(codecContext, "sub_charenc_mode", FF_SUB_CHARENC_MODE_PRE_DECODER, 0);
Это обратный след от GDB.
#0 0x00000000014a9d82 in av_opt_next (last=0x0, obj=<optimized out>) at libavutil/opt.c:51
#1 av_opt_find2 (obj=0x40f5ac0, name=0x162a176 "sub_charenc", search_flags=0, target_obj=0x7fffffffe0b8, opt_flags=0,
unit=0x0) at libavutil/opt.c:1628
#2 0x00000000014ab070 in av_opt_set (obj=0x40f5ac0, name=0x162a176 "sub_charenc", val=0x1e6ddd8 <config+1880> "ISO-8859-1",
search_flags=0) at libavutil/opt.c:453
Задача ещё не решена.
Других решений пока нет …