Como $Q(x)^2-2P(x^2)Q(x)+P(x)P(x^3)=0$ tenemos que $Q(x)=\frac{2P(x^2)\pm\sqrt{4P(x^2)^2-4P(x)P(x^3)}}{2}=P(x^2)\pm\sqrt{P(x^2)^2-P(x)P(x^3)}$,
por lo tanto debe ser $P(x^2)^2\geq P(x)P(x^3)$ $\forall x\in R$
Si $n$ es el grado de $P$, tenemos que $P(x)=\sum_{i=0}^{n} a_ix^i$
Como $16=P(1)\neq P(2)=128$ tenemos que $P$ no es constante, por lo tanto $n\geq 1$.
Así que debe ser $(\sum_{i=0}^{n} a_ix^{2i})^2\geq (\sum_{i=0}^{n} a_ix^i)(\sum_{i=0}^{n} a_ix^{3i})$
$\sum_{i=0}^{n} a_i^2x^{4i}+2\sum_{0\leq i<j\leq n}^{}a_ia_jx^{2(i+j)}\geq\sum_{i=0}^{n} a_i^2x^{4i}+\sum_{0\leq i<j\leq n}^{} a_ia_jx^{i+3j}+\sum_{0\leq i<j \leq n}^{} a_ia_jx^{3i+j}$
$2\sum_{0\leq i<j\leq n}^{} a_ia_jx^{2(i+j)}\geq \sum_{0\leq i<j\leq n}^{} a_ia_j(x^{3i+j}+x^{i+3j})$
Pero si $x>0$ y $x\neq 1$ tenemos que $\forall 0\leq i<j\leq n$
$0<(x^{j-i}-1)^2$
$2x^{j-i}<x^{2(j-i)}+1$
$2x^{j-i}x^{2i}<x^{2i}(x^{2(j-i)}+1)$
$2x^{i+j}<x^{2i}+x^{2j}$
$2x^{i+j}x^{i+j}<x^{i+j}(x^{2i}+x^{2j})$
$2x^{2(i+j)}<x^{3i+j}+x^{i+3j}$
$2a_ia_jx^{2(i+j)}\leq a_ia_j(x^{3i+j}+x^{i+3j})$ (ya que $a_i\geq 0$ $\forall 0\leq i\leq n$)
Y si $a_i>0$ y $a_j>0$ tenemos que
$2a_ia_jx^{2(i+j)}<a_ia_j(x^{3i+j}+x^{i+3j})$
Por lo tanto es imposible que sea $2\sum_{0\leq i<j\leq n}^{} a_ia_jx^{2(i+j)}\geq \sum_{0\leq i<j\leq n}^{} a_ia_j(x^{3i+j}+x^{i+3j})$ $\forall x\in R$ a menos que $\forall 0\leq i<j\leq n$ tengamos que $a_i=0\vee a_j=0$, y como $a_n\neq 0$ nos queda que $a_n>0$ y $a_i=0$ $\forall 0\leq i\leq n-1$
Como $P(1)=a_n=16$ y $P(2)=16\times 2^n=128$ tenemos que $P(x)=16x^3$ $\forall x\in R$, por lo tanto $P(3)=16\times 27=432$.