A ver por pasos:
Primero phpbb3, buscaste un tutorial en la web?? hay cientos y de seguro uno te sirve, si no entiendes algo entonces vienes y preguntas.
http://www.google.com.mx/search?clie...utf-8&oe=utf-8
Ahora, dices que tienes un Dedicado?? Se me hace raro, un servidor dedicado y no saber ni como usarlo, mejor contrata un hosting compartido. La instalación de programas depende del sistema operativo del dedicado.
Y lo último no entiendo, tienes una página para crear cuentas, ¿cuentas de qué?, ¿vincular con que base de datos?
Ya deberías ir buscándote también un manual de administración de servidores y algo de programación web (claro que de cajón deberás aprender XHTML y CSS).
Saludos
