Hola buenas, pues yo e probado y e echo un ejemplo sencillo, con un RichTextBox y un boton para cambiar el color a rojo(por ejemplo) al darle al boton empiezas a escribir en rojo, solo tienes que pone en el boton el codigo
Código vb:
Ver originalRichTextBox.SelectionColor = Color.Red
yo lo e probado y funciona, comienzas a escribir y negro o como este por defecto, clickas en el boton y a apartir de ahi escribes en rojo.
Pruebalo y comentas.
Un saludo