Tienes varias opciones:
1) Quitar un cdrom y poner el disco, pero como dices, el cable es diferente (aunque funciona), en realidad cambia un cable de 40 hilos por uno de 80 que permite transferencias mas altas. Al hacer eso condenas al disco duro en ese canal IDE a una velocidad inferior, por eso se recomienda que sea el disco mas viejo o mas "pequeño".
2) Sacar tu disco mas viejo del canal 0 y regalarlo/guardarlo/venderlo.
3) Comprar una tarjeta adaptadora para colocar mas canales IDE, a estas fechas te recomendaría una tarjeta de puertos SATA que son los mas recientes y veloces.
En ningun caso corres riesgo de descomponer nada, lo peor que puede ocurrir es que tengas problemas con acomodar los jumpers o quiza reinstalar tu sistema operativo debido a que hayas movido de lugar el disco de sistema.
Animo y considera tu mejor opcion