Con la tarjeta no hay problema... pero ese software...
Cuando dices que no tienes problemas capturando desde una filmadora pequeña, a qué te refieres, es captura digital por Firewire??, porque pareciera que el problema lo tienes con la captura del video análogo entonces.
Cómo capturas y por qué entradas??? así vamos despejando dudas.