A grosso modo, lo que necesitas es mas o menos así:
Código:
function checkBoxesOk(){
var nChecked = 0;
nChecked += (document.formulario.check1.checked? 1: 0);
nChecked += (document.formulario.check2.checked? 1: 0);
nChecked += (document.formulario.check3.checked? 1: 0);
if (nChecked == 0){
alert("Debe marcar al menos una opción");
return false;
}
return true;
}
Suerte.