Mira en la web
http://www.phpbb.com o
http://www.phpbbhacks.com a ver si hay algún mod que ayude a evitar el spam, como el humanizer, o el que sea... Mucho más no te puedo ayudar... en la FAQ está todo lo que se ha recomendado por aquí.
Yo de todas formas hace un año migré mi phpbb2 a SMF porque veía que estos problemas iban a ir a peor... de hecho ya los tuve, solo que los bots que se registraban nunca llegaban a postear (supongo que porque requería la validación de emails). Entre esto y varios problemas de seguridad me hicieron cambiar a SMF, y estoy más que contento desde entonces (ni un solo quebradero de cabeza). Así que te sugiero que pienses en la posibilidad de migrar tu foro a SMF, en la web oficial tienes un convertidor de phpbb2 a SMF para que no pierdas los usuarios ni los mensajes
Lo que no sé es qué tal irá el phpbb3, pero todavía no tiene versión definitiva, creo... No lo probé.