tienes que obtener la coleccion de checkbox y recorrerlo con un bucle para determinar si al menos uno esta marcado. la coleccion la puedes obtener con
document.nombre_form["campos[]"]. y para verificar si existe alguno marcado, lees la propiedad
checked de cada elemento de la coleccion. puesto que se trata de un formulario, la verificacion tienes que hacerla en el evento
onsubmit de <form>. basicamente asi es el flujo,
Código:
onsubmit="
var boxes = this["campos[]"]; // this hace referencia al formulario por lo que te puedes evitar document.nombre_fomulario;
for(var i = 0; boxes[i]; i++) if(boxes[i].checked)return true;
return false;
"