http://www.forummatrix.org/compare/phpBB+SMF+vBulletin
Ahi tenés una comparativa.
En general son bastante parecidos, yo lo que pude ver es que desde la parte administrativa hay diferencias muy grandes. Los dos gratuitos son mas dificiles de adaptar a un cierto estilo personalizado, vBulletin tiene un panel de administrador muy sencillo.