Se supone que puedes hacer cualquier cosa con tu servidor dedicado, excepto aquello que vaya en contra de los términos de contratación del servicio por parte de tu proveedor.
En cuanto a VoIP, te dejo algunos enlaces útiles:
http://www.asterisk.org/ http://www.voip-info.org/wiki/
Saludos,