La consulta se hace con union.
Código:
select id,nombre,fecha,categoria,hits,poster from videos order by fecha desc limit 5
union
select id,nombre,fecha,categoria,hits,poster from fotos order by fecha desc limit 5
Esto no sacará los resultados entremezclados pero puede servirte.