Hola:
Si no quieres usar el editor, simplemente si usas un botón con los emoticones (o lo que sea) dentro del propio formulario, debes poner algo así: texto.value += "[FLIPE]", siempre que el campo tenga el nombre "texto"... si es fuera del formulario, o usando elementos que no sean propios de formularios debes anteponer document.forms[0] (si solo hay un form o es el primero... otras variantes habría que estudiarlas... aunque con esto tan sencillo se pierden efectos de edición como por ejemplo, insertar en la posición del cursor...
Saludos