Pantallas Modales en Formulario PHP

[nades]

Hola que tal!!

Estoy haciendo un formulario para hacer búsquedas. Lo que necesito es que al darle clic en Buscar me abra una pantalla modal con los resultados (Estos resultados los sacare con una consulta en PHP).

Tengo esto

Código PHP:

<form name="buscar" method="POST" enctype="multipart/form-data" onsubmit="javascript:window.open('buscar.php','width=500, height=500')">
 

y en el archivo.php tengo mi consulta en BD pero lo que me hace es abrir una pestaña nueva, no lo abre en pantalla modal.

¿De que forma puedo conseguirlo?