x264/x265 lavora solo col video... audio e sottotitoli te li devi elaborare a parte.
Spesso si usano in coppia con avisynth per elaborare il video (resize, crop, deinterlacciare, ecc.)
Si usano anche avs4x264/avs4x265 per usare le versioni a 64bit che sono leggermente pių veloci.
http://forum.doom9.org/showthread.php?t=169607
Se come sorgente hai un file .m2ts (classico blu-ray) devi prima demuxare le tracce video/audio/sottotitoli.
Il video lo elabori con x264/265.
L'audio probabilmente non lo tocchi, oppure usi audacity/foobar e simlari.
I sottotitoli dipendono un po' da cosa sono.
Alla fine remuxi il tutto con MKVToolNix & Co.
Nel complesso ci devi perdere un poco pių di tempo.