В завершении, после получения оптимальных настроек, фреймов, аналогично выбору тест-рипа, снимаем галочку, чтобы программа обрабатывала полный поток

Так же, заходим в меню настроек кодирования и выставляем
выбранные Вами значения.
Параметр Constant Quality меняете на 2-pass bitrate..!
Иначе программа обработает поток в режиме постоянного качества с подбором битрейта под каждый кадр (что занимает намного больше времени)

Далее, в настройках можете поменять лишь эти пункты:
В левом Вы выбираете количество ref-frames и b-frames.

Рекомендуемые значения ref-frames для размера кадров:
1920х1080 - 4 ref
1920х816 - 5 ref
1280х720 - 8 ref
1280х688 - 9 ref
1280х544 - 11 ref
1024х576 - 11 ref

в правом - отношение размытия частиц (trellis) на постоянный размер (1), или постоянный битрейт (2)

и ставим выбранный процесс в очередь заданий