Hace algun tiempo desarrolle un foro y, para evitarme problemas, base el interprete de bbcode (bbcode parser) en el de otros foros; recuerdo haber descargado PunBB, PhpBB, SMF y tal vez algun otro... al final, simplemente adapte el que mejor entendi.
Entre las ventajas de hacer eso esta lo de los emoticonos, codigo, citas textuales, etiquetas abiertas que no se cierran (o viceversa) y algunas otras cosas que por ahora no recuerdo.
O bien, podrias seguir la sugerencia de
pateketrueke e investigar como lograrlo con expresiones regulares.