El truco no está sólo en mejorar la resolución, también en aumentar el bitrate. Si el programa ese te da la opción, aumenta el bitrate bastante (dóblado, triplícalo...)
Lo ideal sería que tuvieras una cámara digital, pues así puedes pasar el video por puerto firewire sin perder nada de calidad (es como un "copiar y pegar" desde la cámara al PC).
Saludos