A un AC3 directamente no te sabría decir ahora mismo qué programa usar que soporte este formato...
Sí te puedo decir cómo pasarlo a MP3 y subir el volumen, pero eso sí, pierdes el sonido 5.1 del AC3 original (si no es un inconveniente, adelante).
- Primero pasas el AC3 a WAV usando el caso de audio AC3 y método 1 de aquí:
http://www.mundodivx.com/mpeg/previampg.php
- Luego te instalas el Radium MP3, de aquí:
http://www.mundodivx.com/codecs/codecs.php
- En el virtualdubmod, abres el AVI original, pones Video -> Direct Stream Copy, vas a Streams -> Stream list, deshabilitas el audio que trae haciendo doble clic encima, y añades el nuevo (el WAV) usando el botón Add.
- Marcas este último como Full processing mode (con el menú del botón derecho del ratón), y luego en Compression marcas el MP3 a 160 Kbps y 48000 Hz.
- También en el menú del botón derecho vas a Volume y ahí puedes subirlo. No lo pongas al máximo para que no distorsione, normalmente con subirlo un poco vale.
- Finalmente clic en ok, vas al menú File -> Save as... y lo guardas con otro nombre.
Un saludo