Bueno, creo que puedes consultar algo llamado NotifyIcon que es lo que te ayudaria a mantener la aplicacion en la barra de tareas, ahora lo otro que dices tabien lo puedes hacer distribuyendo la aplicacion mediante ClickOnce, el tiene un muy buen control sobre la liberacion de versiones.
Dale una buscadita en el foro en algun mensaje deje una direccion sobre ClicOnce vs Windows Installer. Pero la perdi cuando tuve problemas con mi USB.
Saludos
