El problema es que el estilo de tu foro no es compatible con la versión que usas, probablemente es antiguo y ya han dejado de actualizarlo... Necesitas buscar un estilo que sí funcione en las últimas versiones de phpBB.
Creo que podrías agregar el captcha modificando manualmente los archivos de la plantilla, pero no te puedo decir cómo pq no uso phpBB...
