Hola, bhonox.
Usa algo así:
Código HTML:
<html>
<head>
<script>
function validar(obj) {
if (!obj.checked) return;
elem=obj.form.elements;
for(i=0;i<elem.length;i++)
if(elem[i].type=='checkbox')
if(elem[i]!=obj)
elem[i].checked=false;
}
</script>
</head>
<body>
<form>
<input type="checkbox" onclick="validar(this)" />
<input type="checkbox" onclick="validar(this)" />
<input type="checkbox" onclick="validar(this)" />
</form>
</body>
</html>
Saludos,