Claro que se te mete al final, si te fijas:
document.forms['add']. elements['mensaje'].value es el texto que tienes en el textarea antes de pulsar y al poner esto:
Código Javascript
:
Ver originaldocument.forms['add']. elements['mensaje'].value+'[b][/b]'
Estás diciendo que el nuevo valor es el texto que había en el textarea y al final añadiendo el bbCODE
Es un poco más complicado que eso, debes hacer una función que te detecte el texto que tienes seleccionado y al pulsar el bbCODE te cambie el texto seleccionado por el texto de esta forma
[bbCODE]TEXTO SELECCIONADO[/bbCODE]. También puedes localizar el puntero en el textarea y saber en que hueco tienes que meterlo, pero ya te digo que necesitas una función javascript un poco más compleja que lo que tienes actualmente.