ya encontré el problema, scriptaculous viene con una serie de archivos auxiliares, entre ellos effects.js, cuando llama con load=effects falla al no encontrarlo )modalbox usa ese archivo), descargá la librería completa
http://script.aculo.us/dist/scriptaculous-js-1.9.0.zip
y poné todos los archivos juntos
scriptaculous.js
unittest.js
builder.js
controls.js
dragdrop.js
effects.js
slider.js
sound.js
Saludos