despues de un día de perros y maldiciones
encontre la solución.
en el documento parent Hay que darle un name al iframe, y en el head
Código HTML:
<link rel="stylesheet" href="RUTA_DE_ARCHIVOS/lytebox.css" type="text/css" media="screen" />
en el iframe se coloca en el head
Código HTML:
<script type="text/javascript" language="javascript" src="RUTA_DE_ARCHIVOS/lytebox.js"></script>
y en el enlace que hace el efecto
Código HTML:
rel="lyteframe[NAME_IFRAME]"
Suerte a todos