Lo encontré, me contesto a mí misma
Hay que agregar esto a continuación de 'rules':
Código HTML:
....
var url = 'captcha_check.php?code=';
var captchaOK = 2; // 2 - not yet checked, 1 - correct, 0 - failed
// a simple ajax implementation
// here you can use your ajax framework as you prefer
function getHTTPObject() {
try {
req = new XMLHttpRequest();
} catch (err1) {
try {
req = new ActiveXObject("Msxml12.XMLHTTP");
} catch (err2) {
try {
req = new ActiveXObject("Microsoft.XMLHTTP");
} catch (err3) {
req = false;
}
}
}
return req;
}
var http = getHTTPObject(); // We create the HTTP Object
function handleHttpResponse() {
if (http.readyState == 4) {
captchaOK = http.responseText;
if(captchaOK != 1) {
yav.displayMsg('code', 'Code not correct, please try again.', yav_config.innererror);
document.exampleform.code.value='';
yav.get('submitbutton').className = 'buttonstyledisabled';
document.exampleform.submitbutton.disabled=true;
return false;
} else {
yav.displayMsg('code', 'Code verified, You are human!', yav_config.innerhelp);
yav.get('submitbutton').className = 'buttonstyle';
document.exampleform.submitbutton.disabled=false;
return true;
}
}
}
function ajaxCall() {
http.open("GET", url + escape(document.exampleform.code.value), true);
http.onreadystatechange = handleHttpResponse;
http.send(null);
return false;
}
</SCRIPT>
Y además (var url = 'captcha_check.php?code=';) tener las páginas captcha_check.php y captcha_image.php (en mi caso) o según corresponda para generar la imagen.
Lo dejo por si alguien lo está buscando