Ciao, togli il quicktime plugin che ormai è datato e prova a usare il plugin di ffmpeg che trovi qui:
http://sourceforge.net/projects/virt...eginputplugin/
Con questo plugin puoi aprire in virtualdub praticamente tutti i formati video in circolazione.