Gracias Karlankas y Avelar por el interés de solucionar mi problema.
Creo que ya lo solucione con:
function emoticons(emo){
document.form1.temp1.value = emo
txt1 = form1.temp1.createTextRange();
txt1.execCommand("cut");
document.execCommand("paste", false, null);
}
no se si está bien o no (soy principiante en javascript) pero por ahora funciona en IE6.
no se en otras versiones y/navegadores.
Con esto consigo insertar el codigo en el text area en el lugar que qiera y además que me quede el cursor titilando para poder introducir mas texto sin tener que clickear sobre el textarea nuevamente.
si pudieran probarlo a ver si funciona y además se aceptan modificaciones.
saludos y gracias.
PD: también pude lograr (creo) que seleccionando el texto dentro de un textarea se incerte el codigo ( lo uso para darle formato y /o tamaño a las fuentes) delante y atras de esa selección sin necesidad de utilizar un cuadro de diálogos y luego que incerte el codigo me siga titilando el cursor dentro del cuadro.-
PD2:
se me olvidaba aclarar que incerté un textarea adicional para poner temporalmente los datos y poder modificarlos. luego se corta y pega en el textarea definitivo.
Ademas no pude usar focus() porque sino me cambia de posición el cursor.