Convertire dei video digitali da un formato ad una altro senza perdere qualità è praticamente impossibile, soprattutto quando i dati video vengono completamente ricodificati.
Peraltro, quella da MOV a PS3 è un tipo di conversione che non ho mai fatto e avrei anche difficoltà a darti un aiuto concreto.
L'unica cosa che posso dirti è che esiste almeno un programma gratuito che, "in teoria" (perché io personalmente non ho mai provato), consente di esportare video in formato PS3 compatibile e sarebbe questo:
http://www.afterdawn.com/software/vi...v2008_build_30
SUPER è un convertitore portentoso, in grado di importare ed esportare video nei formati più diversi. Tuttavia, ti consiglio di utilizzare la build n. 30 che ti ho linkato, perché quelle più recenti (la n. 32 o la 33) sono bacate e vanno spesso in errore.
Qui c'è un tutorial che descrive come si usa il programma (anche se è descritta la conversione FLV -> 3GP, la procedura è simile anche per le altre):
http://www.generazione-internet.com/...3gp-con-super/