Porque no compila esto en C?

[Eternal Idol]

Siempre es mas facil si nos pones tambien los errores que da el compilador. Basicamente veo dos cosas:

return (P[0]*Q[0]);

Como dice el VC++ al respecto:
(40) : error C2440: 'return' : cannot convert from 'int' to 'int *'
Conversion from integral type to pointer type requires reinterpret_cast, C-style cast or function-style cast

Tu funcion devuelve int * y no int.

Y despues estas usando 2N, me imagino que querras poner 2 * N.