Si utilizas la línea de comandos, debes indicar el tipo de aplicación que compilarás con el parámetro target (t)
vbc /t:library ...
csc /t:library ...
Si deseas algo más automatizado, haz lo que te dice Jose_minglein2, si no quieres depender de un IDE en especial, utiliza NAnt [
http://nant.sourceforge.net/]
Saludos