vBulletin no tiene una opción que lo permita. Dos formas en que podrías hacerlo:
1) Con un plugin. Por ejemplo:
http://www.vbulletin.org/forum/showthread.php?t=184571
2) Con CSS, puedes definir la propiedad max-width para las imágenes en el CSS de tu estilo.