De partida configura bien el programa de tu tarjeta.
Segundo para capturar yo usaria Premier o algo similar, generalmente los Programas que traen las capturadoras son super malos.
Y tercero, conectas el RCA para video, y el plug para sonido, por último captura independiente y sincronisa en Premier, queda de mejor calidad...
Espero te sirva