I DVD sono compressi con un normale codec MPEG2. Quello che ti sta dando problemi è il sistema anti-copia con cui vengono criptati i film. (CSS)
Su linux esiste una libreria gratuita che i programmi usano per riprodurre i film ma distribuire questa libreria in america e molti altri paesi è illegale per via di brevetti quindi molte distribuzioni decidono di non inserirla nei cd. Se vuoi riprodurre questi film devi affidarti a pacchetti esterni non supportati oppure compilare a mano i sorgenti di questa libreria.
ciao