De ésta forma:
RadioButtonList1.Items.Remove("")
Lo eliminas usando un listItem pero a veces no es bueno porque si tienes 2 que se llamen igual te va a eliminar el primero que encuentre..
Pero si haces ésto:
Cita: RadioButtonList1.Items.RemoveAt(1)
Te elimina el Item tomando al posición (el índice)
Salu2