Probabilmente i tuoi DVD sono protetti, e format factory non consente di rippare tali DVD.
Ora c'è la promozione di un programma che copia i DVD protetti e crea una immagine ISO (con il contenuto deprotetto) da montare sul proprio drive virtuale. Successivamente puoi usare format factory per convertire il DVD.
Pagina della promozione:
http://www.winxdvd.com/giveaway/
Altro programma che puoi usare è DVDFab, il cui modulo per la copia dei DVD protetti è freeware.
Per la conversione penso che sia meglio usare il codec video h264, che a parità di bitrate è più performante rispetto a xvid o divx, nel formato MP4 o MKV, e con audio AAC o AC3.