Está mal ahí... la tabla es la phpbb_posts_text. El campo se llama post_subject y por defecto es un VARCHAR(64). Puedes cambiarlo a VARCHAR(80) por ejemplo si quieres que el límite esté en 80. Para cambiarlo tienes que pinchar justo en el lapicero que hay a la derecha de dicho campo, en la columna action (como puedes ver en las imágenes que pusiste
)
Luego lo mismo en la phpbb_topics (en este caso el campo se llama topic_title), y finalmente editar el posting_body.tpl para subir el número de caracteres máximo.