bueno, por ejemplo cuando presionas "B" en el textarea te escribe "b" (entre corchetes)
eso se hace con str_replace
asi
Código PHP:
$textarea = str_replace("[b]","<b>",$textarea); (para abrir negrita)
$textarea = str_replace("[/b]","</b>",$textarea); (para cerrar negrita)
bye