Me parece que puede ser problema de códecs no soportados por AVS, puedes ver la lista disponible en
http://onlinehelp.avs4you.com/AVS-Vi...edFormats.aspx
Podrías probar a guardar en otro formato a ver si el problema persiste.
Por cierto, AVS tiene una opción para capturar pantalla (supongo que similar a Camtasia) y tal vez podrías ahorrar tiempo grabando directamente en AVS.
La última duda, tu versión es registrada o de prueba?, algunas veces las versiones de prueba tienen limitantes y esa podría ser una.