Buff. lo único que se me ocurre es que compruebes lo que se ha escrito en cada KEYUP, llamando a una función en la que uses el método "lastIndexOf()" para que te devuelva la última posición de un espacio en blanco dentro de la cadena:
1) si no hay espacio en blanco, y la longitud de la cadena excede de la que le des, borras el último carácter escrito o insertas un " ".
2) si hay un espacio en blanco obtienes la cadena a la derecha de éste y con ella procedes del mismo modo.
También te puede interesar hacer la comprobación cuando el TEXTAREA ha perdido el foco... porque si han hecho un copiar/pegar... pero vamos según necesites, sin paranoyas.
http://www.w3schools.com/jsref/jsref_lastIndexOf.asp
Un salu2