Si te refieres a phpmailer como la classe de:
http://phpmailer.sourceforge.net .. si phpBB no usa esa misma classe no podrás usarla ..
phpBB si mal no recuerdo ya usa sus própias classes para envio de e-mail por SMTP directo .. Supongo que en algún sitio le podrás indicar ese servidor SMTP que vas a usar y si requiere autentificación por algún sistio se le podrá indicar dicha contraseña/usuario .. (la misma que usas para tus scripts que usan PHP Mailer).
Un saludo,