Descarga PhpBB 3 busca bbcode.php, analizalo y adaptalo a tus necesidades. Tambien podrias intentar con el parser.php de
FluxBB (original de PunBB).
Quise poner aqui los codigos de ambos, pero cada uno tiene alrededor de 14kb y el limite en los mensajes es de 10kb aprox.