Si no borraste windows, seguramente sea un problema de grub (que es el gestor de arranque), échale un vistazo a esta sección de la guía de ubuntu
http://ir.gl/a8ad18 , también puedes instalar algún programa gráfico para gestionar grub2 tipo startupmanager.
Espero que te sirva de ayuda