Sea [math]P(x,y) la proposición [math]f(f(x)+y)=f(x^2-y)+4f(x)y.
Es claro que si [math]f es constante entonces [math]f\equiv 0 pues [math]C=C+4Cy para todo [math]y\in\mathbb{R}.
Considerando [math]P(x,0) obtenemos [math]f(f(x))=f(x^2).
Considerando [math]P(0,0) obtenemos [math]f(f(0))=f(0).
Considerando [math]P(0,-f(0)) obtenemos [math]f(0)=f(f(0))-4f(0)^2. Pero por [math]P(0,0) esto es equivalente a [math]4f(0)^2 = 0 y así [math]f(0)=0.
Combinando estas dos ultimas [math]4f(x)x^2 = 4f(x)^2. Si [math]f(x)\neq 0 tenemos que [math]f(x)=x^2. O sea [math]f(x)=0 o [math]f(x)= x^2. Hay que ver que estas soluciones no se mezclen.
Supongamos que [math]a es tal que [math]f(a)=0 y [math]b es tal que [math]f(b)=b^2. Notemos que [math]f(b)=f(-b) (esto se debe a que [math]P(0,y) nos dice que [math]f(y)=f(-y)).
Luego, [math]P(a,b) nos da [math]b^2 = f(a^2-b). Tenemos dos casos: [math]f(a^2-b)=(a^2-b)^2 = b^2 o [math]f(a^2-b)=b=0. Es claro que es imposible que estemos en el segundo caso.
El primer caso implica [math]a^4 + b^2 - 2a^2b = b^2, es decir [math]a^4 = 2a^2b para [math]b y [math]-b fijando [math]a. Luego [math]a=0 y así el único valor tal que [math]f(x)=0 es [math]x=0.
Entonces [math]f(x)=x^2 para todo [math]x\in\mathbb{R}.
Ver que funciona es trivial pues [math](x^2+y)^2 = x^4+2x^2y + y^2 = (x^2-y)^2 + 4x^2y. Y estamos. [math]\blacksquare
"Though my eyes could see I still was a blind man"
Tomamos [math]y=\frac{x^2-f(x)}{2}, y nos queda queda que [math]f(\frac{x^2+f(x)}{2})=f(\frac{x^2+f(x)}{2})+4f(x)\frac{x^2-f(x)}{2}, de donde [math]4f(x)\frac{x^2-f(x)}{2}=0.
Luego, para cada [math]x, [math]f(x)=0 o [math]\frac{x^2-f(x)}{2}=0, de donde [math]f(x)=x^2. Es claro que las dos funciones verifican. Para ver que ninguna función en la que se cruzen estas dos cumple, tomemos [math]a\neq b, [math]a,b\neq 0, tales que [math]f(a)=0 y [math]f(b)=b^2, y tal que [math]b sea lo menor posible.
Tomando [math]x=a e [math]y=b, nos queda que [math]b^2=f(a^2-b). Como [math]b^2 es mayor que [math]0, [math]f(a^2-b)=(a^2-b)^2=b^2. Pero esto se cumple si y solo si [math]a^4=2a^2b, o [math]a^2=2b. Notemos entonces que [math]b es positivo. Luego, todo número negativo puede ser reemplazado con [math]a. Fijando [math]b, y variando [math]a, vamos a llegar entonces a un absurdo.
Sumando ambas expresiones obtenemos $0 = 4f(x)x^2-f(x)^2 \iff 0 = f(x)[x^2-f(x)] \iff f(x) = 0 \vee f(x) = x^2$ (en ambos casos $f(0) = 0$) Podemos ver que ambas soluciones funcionan, sin embargo, debemos demostrar que estas no se mezclan.
Notar que $P(0, y) : f(y) = f(-y)$ así que $f(x)$ es par.
Sean $x = a$ tal que $f(a) = 0$ e $y = b$ tal que $f(b) = b^2$. Tomando $a, b \neq 0$ y $b<0$ (podemos asumir que $b<0$) ya que $f(x)$ es par. Se sigue que
Sea $P(a, b)$ reemplazar en $f(f(x) + y) = f(x^2-y) + 4f(x)y$ con $x = a$ y $y = b$. $$ P(0, 0) \Rightarrow f(f(0)) = f(0) \\
P(0, -f(0)) \Rightarrow f(0) = f(f(0)) - 4f(0)^2 \Leftrightarrow 4f(0)^2 = 0 \Leftrightarrow f(0) = 0 \\
P(x, -f(x)) \Rightarrow 4f(x)^2 = f(x^2 + f(x)) \\
P(x, x^2) \Rightarrow 4f(x)x^2 = f(x^2 + f(x)) \\
4f(x)^2 = 4f(x)x^2 \Leftrightarrow f(x)(x^2 - f(x)) = 0 $$
Por lo tanto para todo $x$, $f(x) = 0 \vee f(x) = x^2$. Esto no quiere decir necesariamente que estas sean las soluciones. Tenemos que probar que no puede haber soluciones que "mezclen" valores de ambas funciones.
Supongamos que existe un $a \neq 0$ tal que $f(a) = 0$ y un $b \neq 0$ tal que $f(b) = b^2$. Entonces $$ P(a, b) \Rightarrow f(f(a) + b) = f(a^2 - b) + 4f(a)b \Leftrightarrow f(b) = f(a^2 - b) \Leftrightarrow f(a^2 - b) = b^2 $$ Entonces, como $b^2 \neq 0$, esto implica $a^2 - b = b \Leftrightarrow 2b = a^2 $.
Esto se debe cumplir para cualquier par $(a, b)$ con esas condiciones, pero hay un valor posible de $b$ por cada $a$ y dos valores de $a$ por cada $b$. Por lo tanto, hay a lo mucho $3$ valores $v \neq 0$ tal que $f(v) = 0$ o $f(v) = v^2$, pero habíamos dicho que esto se tenía que cumplir para todo $v \in \mathbb{R}$, por lo que la suposición inicial es falsa y no existe una función "mezclada" que satisfaga la condición del problema.
Finalmente, comprobando que ambas soluciones funcionan concluimos que $f(x) = 0$ o $f(x) = x^2$. $\blacksquare$