Здравствуйте. Первоначально, стоило посетить школу релизёров, а именно тему, посвященную кодированию SD рипов для бытовых проигрывателей
https://forum.kinozal.guru/showthread.php?t=59667
Затем посмотреть рекомендации относительно файлов на выходе
https://forum.kinozal.guru/showthread.php?t=179162
И в заключении.. Выше Вами указанные программы-кодировщики не являются качественными и могут в процессе обработки создавать ошибки самостоятельно.
Попробуйте сжать видео с помощью программы, указанной в первой ссылке.