Busca el error...
De la primera forma no debería haber ningún error. Yo lo acabo de probar y funciona bien.
<form action="test2.php" method="post" name="form1" target="test2">
De la segunda forma, ni lo pienses porque target contiene el nombre del frame asignado en el frameSet y no el nombre del archivo que carga ahí.
Definitivamente tu error está en otra parte. Verifica que todo esté bien escrito. Sobretodo que el nombre del frame del textarea sea test2.
Si necesitas más ayuda, pon un poco más de código.
Saludos