hola, tal vez me equivoco, pero supongo que hablas de rtf (rich text format).. bueno eso en java lo podes trabajar con el jtextpane, aunque es muy malo, solo sirve para lo basico..
ahora si lo que queres es que los usuarios puedan dar formato a textos y subir imagenes en un administrador de contenidos web, pues te recomiendo que te bajes el fckeditor ..
http://fckeditor.sourceforge.net, a mi parecer, es el mejor editor wysiwyg en javascript.