Para usar jQuery y mootools a la vez debes utilizar la función
noConflict(); de jQuery, para que ambos framework no tengan conflictos entre sí...
Luego de usar esa función, todos los
$ ( solamente los que aparezcan en los códigos que utilizas con jQuery ) por
jQuery... ejemplo: si tienes
$('#uploadify'), debes reemplazarlo por
jQuery('#uploadify').
Adiós :)