jorgegetafe en cuanto al coste, no sé si te sea viable el consumo de una máquina prendida día y noche, segundo que lo óptimo sería una conexión con ip público fijo (que por cierto por estos lares no es nada económico tampoco) de la cual tu administres sus puertos y demás para el "forwading" y tercero, el que no tengas un escritorio en ubuntu server no quiere decir que sea díficil de usar, además el wordpress tiene su propio sistema de administración así que un entorno gráfico propiamente dicho no lo necesitarías en el servidor; mi consejo: sólo inténtalo,
"si te embarraste un dedo, de una vez embárrate la mano!".
Léete este tuto y sus conclusiones y
este otro donde explican (gráficamente) un hosting con todos sus servicios desde 0 con ubuntu server 8.04, creo que te servirán.
Suerte