kuka

Думаю, что пока еще рано сравнивать х265 и х264, т.к. первый еще слишком молод.
Сравнивать имеет смысл ХЕВК и АВЦ, как стандарты. Соответственно, ДжиЭM и ХаЭМ реализации енкодеров.
Разница между этими стандартами компрессии довольно значительна и позволяет добиться примерно на 40% мЕньшего размера файла при том же объективном (ПСНР) качестве, что и АВЦ, для разрешения 1920х1080р, при высоких уровнях ПСНР - в диапазоне 40-50. Насчет _визуального_ качества как всегда согласия нет, но большинство склоняется к выигрышу в 50%.
Для мЕньших разрешений выигрыш будет меньше, для бОльших разрешений наоборот. При мЕньших ПСНРах (и битрейтах) _объективный_ выигрыш будет меньше, а субъективный - больше.

Основные отличия ХЕВК:
1. Размеры КУ и ПУ от 64х64 до 4х4, а ТУ от 32 до 4х4. У АВЦ КУ = ПУ от 16х16 до 8x8, а ТУ 8х8 или 4х4. Что дает ХЕВКу намного бОльший выбор вариантов кодирования. Очень намного.
2. в четыре раза больше типов интра-предикта.
3. улучшенный алгоритм хранения векторов движения.
4. улучшенный алгоритм деблока - одинаково замыленные в смысле _объктивных_ потерь АВЦ и ХЕВК будут _выглядеть_ существенно по-разному. ХЕВК - лучше
5. улучшенный выбор референсных кадров. Каждый блок может быть предсказан из разных референсов.
6. улучшенный алгоритм энтропийного сжатия, особенно в части кодирования в несколько слайсов на кадр. В АВЦ 8 слайсов давали относительный проигрыш порядка 10%, в ХЕВКЕ - меньше трех.