Hola Mirzan:
Una forma sencilla es ponerle un id (y si está en un formulario el name), y poner document.getElementById("el_textarea").value += prompt("datos para añadir");
con los smiles en vez de un prompt hay una imagen y lo que se añade también es un texto que luego se reemplaza por la imagen correspondiente.
Sobre la forma complicada, lo he visto hacer, pero no sabría decirtelo.
Saludos