Долго разглагольствовать думаю нет смысла, сравнение должно сказать само за себя, на мой взгляд х264 выигрывает, даже если учесть, что исходник был сам с настройками сцен рипа.
http://screenshotcomparison.com/comparison/98222
Достаточно посмотреть, как видны морщины, область усов и бороды.
Использовал стандартные настройки в 2 прохода с пресетом "Very Slow" битрейт 7777 Кбит/с
Cкрытый текст -
Настройки программы : cabac=1 / ref=4 / deblock=1:-3:-3 / analyse=0x3:0x133 / me=umh / subme=11 / psy=1 / psy_rd=1.00:0.10 / mixed_ref=1 / me_range=32 / chroma_me=1 / trellis=2 / 8x8dct=1 / cqm=0 / deadzone=21,11 / fast_pskip=1 / chroma_qp_offset=-3 / threads=12 / lookahead_threads=2 / sliced_threads=0 / nr=0 / decimate=0 / interlaced=0 / bluray_compat=0 / constrained_intra=0 / bframes=9 / b_pyramid=2 / b_adapt=2 / b_bias=0 / direct=3 / weightb=1 / open_gop=0 / weightp=2 / keyint=240 / keyint_min=23 / scenecut=40 / intra_refresh=0 / rc_lookahead=60 / rc=2pass / mbtree=1 / bitrate=7777 / ratetol=1.0 / qcomp=0.60 / qpmin=0 / qpmax=69 / qpstep=4 / cplxblur=20.0 / qblur=0.5 / ip_ratio=1.40 / aq=1:1.00
x264 [info]: frame I:32 Avg QP:16.12 size:196877
x264 [info]: frame P:1493 Avg QP:18.67 size:100038
x264 [info]: frame B:6095 Avg QP:21.68 size: 25106
x264 [info]: consecutive B-frames: 0.7% 1.0% 6.1% 20.5% 11.9% 41.3% 3.7% 14.5% 0.2% 0.0%
x264 [info]: mb I I16..4: 12.1% 77.2% 10.7%
x264 [info]: mb P I16..4: 4.9% 22.0% 2.0% P16..4: 30.6% 29.3% 5.5% 1.7% 0.1% skip: 3.9%
x264 [info]: mb B I16..4: 0.7% 2.3% 0.1% B16..8: 52.1% 15.0% 1.3% direct: 4.7% skip:23.8% L0:48.2% L1:38.7% BI:13.0%
x264 [info]: 8x8 transform intra:75.7% inter:67.1%
x264 [info]: direct mvs spatial:98.1% temporal:1.9%
x264 [info]: coded y,uvDC,uvAC intra: 76.2% 67.5% 30.4% inter: 19.5% 23.4% 4.3%
x264 [info]: i16 v,h,dc,p: 23% 11% 23% 43%
x264 [info]: i8 v,h,dc,ddl,ddr,vr,hd,vl,hu: 15% 8% 21% 7% 9% 11% 9% 10% 10%
x264 [info]: i4 v,h,dc,ddl,ddr,vr,hd,vl,hu: 19% 9% 24% 6% 9% 11% 7% 8% 7%
x264 [info]: i8c dc,h,v,p: 35% 31% 22% 13%
x264 [info]: Weighted P-Frames: Y:19.6% UV:16.5%
x264 [info]: ref P L0: 55.9% 11.4% 24.3% 7.3% 0.9% 0.1%
x264 [info]: ref B L0: 91.5% 7.2% 1.3%
x264 [info]: ref B L1: 97.1% 2.9%
x264 [info]: kb/s:7769.94