Compatibles no lo son, usan bases de datos de distinta estructura. Para pasar de yabbse a phpbb, busca algún conversor en
http://www.phpbb.com/downloads.php
De todas formas te aviso que no es lo mejor que puedes hacer, sobre todo si la base de datos es muy grande.
Chao