Viendo el captcha como funciona creo que debe ser que tenes mal las direcciones de los archivos, tango la imagen gif del captcha como a donde se envia el formulario...etc.
Esto si copiaste todo lo del captcha a la carpeta modulos.
Deberias agregar modulos/ ante cada una de las direcciones.
Por citar alguna:
$captcha = imagecreatefromgif("bgcaptcha.gif");
deberia ser:
$captcha = imagecreatefromgif("modulos/bgcaptcha.gif");
y
<form action="captchademo.php" method="post">
<img src="captcha.php" width="100" height="30"><br>
deberia ser:
<form action="modulos/captchademo.php" method="post">
<img src="modulos/captcha.php" width="100" height="30"><br>
Aunque creo que asi no te va a andar porque el archivo captcha.php tira una directiva COntent/type al navegador (le dice que el contenido es una imagen)..por lo tanto lo que espera el navegador es mostrar una imagen y cualquier cosa que no sea un imagen te tira un error: "header content...." no se que.
Esta es la directiva que te estoy diciendo:
header("Content-type: image/gif");
imagegif($captcha);
Por lo tanto te recomendaria hacer una carpeta captcha (capaz dentro de modulos) y poner todo lo referido al captcha ahi. Y vale lo mismo que te puse arriba pero ahora sin el modulo porque estarian todos en la misma carpeta.
Espero te sirva y sea eso.
Por favor seria relevante saber: Mas de tu codigo
y donde pusiste los archivos si en carpetas en cuales, o sueltos en modulos.
Salu2