RSS es para obtener contenido periodico, por ejemplo los temas de un foro o los post de un blog. Todos los RSS tienen un formato (schema) definido, así que un mismo lector podría leer diferentes feeds. Es un protocolo.
Un servicio REST es un estilo arquitectónico de software, y regularmente tiene muchas más funcionalidades que un RSS por que hay especificación para editar crear y modificar recursos. Cada servicio web es distinto, así que normalmente no hay un "lector" de webservices REST.
Normalmente un RSS es para un usuario final y un servicio REST para desarrolladores.
Saludos