Hola:
Para todos los checkboxes de un formulario...
function contarChecks(f) {
resu = 0;
for (var i = 0, total = f.elements.length; i < total; i ++)
if (f.elements[i].type == "checkbox" && f.element[i].checked) resu ++;
return resu;
}
y el botón:
<form...>
<input type="button" value="contar checks" onclick="contarChecks(this.form)"/>
...
</form>
Saludos