Podrías agregar esta línea al método open de la librería (videobox.js):
Código PHP:
document.documentElement.style.overflow=document.body.style.overflow='hidden';
Y esta otra al método close:
Código PHP:
document.documentElement.style.overflow=document.body.style.overflow='auto';