Código PHP:
$catid=mysql_query("SELECT catId FROM category WHERE catname = '$catname'");
Con esto no asignas el resultado a $catid, lo que haces es asignar una variable a esa query. Para sacar el resultado tendrás que volcarlo en una variable
Código PHP:
$id_query = mysql_query("SELECT catId FROM category WHERE catname = '$catname'");
$row = mysql_fetch_array($id_query);
$catid = $row['catId'];
Hay que tener en cuenta que si la consulta no devuelve ningún resultado dará un warning al intentar volcar el resultado en el array (la instrucción de mysql_fetch_array), eso lo podrías solucionar poniendo una arroba antes del mysql_query. De todos modos luego tendrías que comprobar que el valor de $catid no esté vacío, también hay una función de mysql para ver el número de resultados devuelto por una consulta: mysql_num_rows