Investigá acerca de execCommand y el argumento InsertImage:
http://www.mozilla.org/editor/midas-spec.html http://www.disegnocentell.com.ar/notas2.php?id=180
Y mucho cuidado en los filtros del lado del servidor si guardás los resultados en base de datos: la falta de control es muy peligrosa cuando se pone a disposición de los visitantes esta herramienta.