Antes de nada .. deberías leer bien las caracteristicas de lo que instalas ..
Si te fijas Bien .. esa aplicación phpBB dice que usa PHP y una Base de datos (puede ser Msyql .. que es lo típico .. pero si mal no recuerdo acepta otros tipos de Base de datos).
Por ende .. si te pide "PHP" .. eso debe tener instalado .. si habla de "base de datos" y .. mas concretamente "Mysql" .. eso deberas tener instalado tambien.
Recuerda que "phpBB" no es más que una aplicación escrita en PHP .. así que primeramente instalate un servidor HTTP (Apache es uno, el más famoso y que mejor vá con PHP. Pero, podría ser PW, IIS, Xitami y muchos otros que hay). Si necistas de Mysql .. idem, instalatelo. Y .. cuando lo tengas funcionando .. entonces instalas phpBB con la configuración que requiera (que manual de instalación tiene en su documentación, pero .. como comprenderas no te van a enseñar ahí en ese manual a instalar también PHP, Mysql o lo que te haga falta .. se dá por hecho de que ese tema ya lo tienes resuelto para cuando quieres usarlo.).
Como dices que instalaste "no se qué" con php+Mysql+phpMyadmin (esta última es otra aplicación escrita en PHP . pero que es un GUI (administrador ) para Mysql ..) .. no sé si ya tienes tu servidor HTTP (Apache) corriendo y con soporte PHP + funcionando tu Mysql (base de datos) .. o no. Pero, para instalar phpBB como aplicación escrita en PHP que es y que usa Mysql como Base de datos .. Necesitas tener eso andando OK.
En el foro PHP, .. sub-foro "Aplicaciones pre-fabricadas" tienes unas FAQ's y .. es el foro indicado para que preguntes lo que necesites sobre la instalación de los foros phpBB. Pero, antes instala correctamente PHP y compañia ..
Te recomiendo esta guía de instalación de Apache+PHP+Mysql (entre otras cosas).
http://www.maestrosdelweb.com/editorial/phpmysqlap
Un saludo,