Hola a todos,
Ya lo solucione y me funciono.
la función datos quedaría asi.
<script>
function datos(nom){
opener.document.neo.nom.value=document.form1.nom.v alue;
window.close();
}
</script>
en conclusion seria
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
<html xmlns="http://www.w3.org/1999/xhtml">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=iso-8859-1" />
<title>Documento sin título</title>
<script>
function datos(nom){
opener.document.neo.nom.value=document.form1.nom.v alue;
//window.close();
}
</script>
</head>
<body>
<form id="form1" name="form1" method="post" action="#">
<table width="200" border="1">
<tr>
<td>NOMBRE</td>
<td><input type="text" name="nom" id="nom" value="" /></td>
</tr>
<tr>
<td>APELLIDO</td>
<td><!--<input type="text" name="textfield2" />--></td>
</tr>
<tr>
<td>TELEFONO</td>
<td><!--<input type="text" name="textfield3" />--></td>
</tr>
</table>
<p>
<input type="button" name="S" id="S" value="Enviar" onclick="datos('');" />
</p>
</form>
<p></p>
</body>
</html>