Supongamos que existe alguna función $f:\mathbb{N} \to \mathbb{N}$ que satisface que $6f(f(n))=5f(n)-n$. Ahora, sea $A$ el conjunto imagen de $f$. Como $f$ satisface las condiciones, $A$ tiene al menos un elemento en su conjunto. Además, si fuera uno solo implicaría que la función es constante, pero $6f(f(n))=5f(n)-n \Rightarrow 6f(k)=5k-n \Rightarrow 6k -5k = -n$ y el lado derecho es variable, mientras que el lado izquierdo es constante, lo cual es un absurdo.
Ahora, sea $l$ tal que $f(l)$ es el menor elemento de $A$ (básicamente $f(l)\leq f(n)~ \forall ~n$).
Si $n = l$:
$6f(f(l))=5f(l)-l$ y como $l>0$, $6f(f(l))<5f(l) \Rightarrow 6f(f(l))<6f(l) \Rightarrow f(f(l))<f(l)$. Esto último implica que existe un natural $f(f(l))$ que es menor que $f(l)$, pero $f(f(l))$ pertenece al conjunto imagen de $f$, y $f(l)$ era el menor elemento del mismo. Absurdo!
Luego, no existen funciones $f$ que satisfagan la condición del enunciado.
Sea $a_{n, m}=f^m(n)$ (es decir $f$ aplicada $m$ veces), con $a_{n,0}=n$, $a_{n,1}=f(n)$, $a_{n,2}=f(f(n))$,...
Tomando $n=a_{n,m}$ en la condición, $6f(f(a_{n,m}))=5f(a_{n,m})-a_{n,m}\Longrightarrow 6a_{n,m+2}=5a_{n,m+1}-a_{n,m}$
Es claro que, como $n$ es natural y $f(n)$ es natural para todo $n\in \mathbb{N}$, necesariamente $a_{n,m}$ es natural para todo $n\in \mathbb{N}$.
Probaremos por inducción en $m$ que $a_{n,m}=\left(\frac{1}{2}\right)^m\left(6f(n)-2n\right)+\left(\frac{1}{3}\right)^m\left(3n-6f(n)\right)$
Como casos base tenemos que
$a_{n,0}=\left(\frac{1}{2}\right)^0\left(6f(n)-2n\right)+\left(\frac{1}{3}\right)^0\left(3n-6f(n)\right)=n$
$a_{n,1}=\left(\frac{1}{2}\right)^1\left(6f(n)-2n\right)+\left(\frac{1}{3}\right)^1\left(3n-6f(n)\right)=f(n)$
Si $a_{n,m}=\left(\frac{1}{2}\right)^m\left(6f(n)-2n\right)+\left(\frac{1}{3}\right)^m\left(3n-6f(n)\right)$ y $a_{n,m+1}=\left(\frac{1}{2}\right)^{m+1}\left(6f(n)-2n\right)+\left(\frac{1}{3}\right)^{m+1}\left(3n-6f(n)\right)$, tenemos que:
$a_{n,m+2}=\frac{5a_{n,m+1}-a_{n,m}}{6}=\frac{5\left(\left(\frac{1}{2}\right)^{m+1}\left(6f(n)-2n\right)+\left(\frac{1}{3}\right)^{m+1}\left(3n-6f(n)\right)\right)-\left(\left(\frac{1}{2}\right)^m\left(6f(n)-2n\right)+\left(\frac{1}{3}\right)^m\left(3n-6f(n)\right)\right)}{6}=\frac{\left(\frac{1}{2}\right)^m\left(6f(n)-2n\right)\left(\frac{5}{2}-1\right)+\left(\frac{1}{3}\right)^m\left(3n-6f(n)\right)\left(\frac{5}{3}-1\right)}{6}=\frac{1}{4}\left(\frac{1}{2}\right)^m\left(6f(n)-2n\right)+\frac{1}{9}\left(\frac{1}{3}\right)^m\left(3n-6f(n)\right)=\left(\frac{1}{2}\right)^{m+2}\left(6f(n)-2n\right)+\left(\frac{1}{3}\right)^{m+2}\left(3n-6f(n)\right)$
Lo cual finaliza la inducción.
Pero manteniendo $n$ fijo, tenemos que $\underset{m\rightarrow \infty }{lim} a_{n,m}=\underset{m\rightarrow \infty }{lim} \left(\left(\frac{1}{2}\right)^m\left(6f(n)-2n\right)+\left(\frac{1}{3}\right)^m\left(3n-6f(n)\right)\right)=0$, pues $2^m$ y $3^m$ tienden a infinito. Pero esto es un absurdo pues $a_{n,m}\geq 1\forall (n,m)\in \mathbb{N}^2$, pues $a_{n,m}\in \mathbb{N}$. Como este absurdo provino de suponer la existencia de tal secuencia, que provino de suponer la existencia de una función que cumpla la condición del enunciado, no existe tal función.
La condición implica $6f(f(n))<5f(n)$ que implica que $f(f(n))<f(n)$ entonces tomando $f(n), f(f(n)), f(f(f(n))), ...$ tenemos una sucesión infinita y estrictamente decreciente de naturales, claramente absurdo.
Sea $k_1 \in \mathbb{N}$ tal que $f(k_1) = 1$. Tomando $n = k_1$:
$$6f(f(k_1)) = 5f(k_1) - k_1$$
$$6f(1) = 5 - k_1$$
Como $f(1) \in \mathbb{N}$, entonces $k_1 \leq -1$. Absurdo ya que entonces $k_1 \notin \mathbb{N}$. Por lo que $\nexists k_1 \in \mathbb{N}$ tal que $f(k_1) = 1$.
Sea $k_2 \in \mathbb{N}$ tal que $f(k_2) = 2$. Tomando $n = k_2$:
$$6f(f(k_2)) = 5f(k_2) - k_2$$
$$6f(2) = 10 - k_2$$
La única solución con $k_2 \in \mathbb{N}$ es con $k_2 = 4$. Pero entonces $f(2) = 1$. Absurdo porque ya demostramos que no existe ningún natural que cumpla esto. Entonces $\nexists k_2 \in \mathbb{N}$ tal que $f(k_2) = 2$.
Ahora veamos que $\nexists m \in \mathbb{N}$ tal que $\exists k_m \in \mathbb{N}$ tal que $f(k_m) = m$ por inducción fuerte.
El caso $n = 1$ ya lo demostramos. Supongamos que es cierto $\forall m \in \mathbb{N}$ que sean menores o iguales que $x - 1$ (con $x \in \mathbb{N}$). Entonces, para $m = x$, sea $k_x \in \mathbb{N}$ tal que $f(k_x) = x$.
Según el $k_x$ elegido, $x'$ puede o no ser natural. Si no es natural, no nos interesa. Y si es natural, notemos que como $x' < x$, entonces $\nexists k_{x'} \in \mathbb{N}$ tal que $f(k_{x'}) = x'$, pero $f(x) = x'$. Lo cual es una contradicción, que viene de suponer que existía $k_x \in \mathbb{N}$ tal que $f(k_x) = x$.
Entonces todas las funciones $f$ que cumplen la condición del enunciado cumplen que $Im(f) = \emptyset$. Pero como $Dom(f) = \mathbb{N}$ entonces si le ingresamos un número natural debe devolver un número natural, porque también su codominio es $\mathbb{N}$. Por ejemplo, si le ingresamos $n \in \mathbb{N}$ entonces $f(n) \in \mathbb{N}$. Pero también $f(n) \in Im(f)$, por lo que $f(n) \in \emptyset$, lo cual es absurdo. Entonces no hay funciones $f$ que cumplan las condiciones del enunciado.
Sea $P(x)$ $\Rightarrow$ $6f(f(x))=5f(x)-x$.
Notemos que si existen $a,b$ tal que $f(a)=f(b)$ $\Rightarrow$
$P(a)-P(b)$ implica que $a=b$, por lo que la función es inyectiva.
Veamos que $6|5f(n)-n$ $\Rightarrow$ $6|f(n)+n$.
Luego, sea $g(n)$ una función de naturales en naturales que cumple $6g(n)=f(n)+n$.
$P(n)$ $\Rightarrow$ $6f(f(n))=5f(n)-(6g(n)-f(n))=6f(n)-6g(n)$ $\Rightarrow$ $f(f(n))= f(n)-g(n)$.
Sea $Q(n)$ $\Rightarrow$ $f(f(n))=f(n)-g(n)$.
$Q(f(n))$ $\Rightarrow$ $f^3(n)=f(f(f(n)))=f(f(n))-g(f(n))=f(n)-g(n)-g(f(n))$
Notemos que si $f^{h+1}(n)=f(n)-g(n)-(\sum_{i=1}^{h-1} g(f^i(n)))$ $\Rightarrow$
$Q(f^h(n))$ $\Rightarrow$ $f^{h+2}(n)=f^{h+1}(n)-g(f^h(n))=f(n)-g(n)-(\sum_{i=1}^h g(f^i(n)))$ $\Rightarrow$
$\forall t\geq 3$, se cumple que $f^t(n)=f(n)-g(n)-(\sum_{i=1}^{t-2} g(f^i(n)))$.
Pero notemos que $f^t(n)>0$, que $f(n)-g(n)$ es constante para un $n$ dado y que $\sum_{i=1}^{t-2} g(f^i(n))$ es monótona creciente, por lo tanto, como trabajamos en naturales, en algún momento $\sum_{i=1}^{t-2} g(f^i(n))$ se vuelve constante $\Rightarrow$
$\exists l/ g(f^l(n))=0$ $\Rightarrow$ $\exists c/ g(c)=0$
$Q(c)$ $\Rightarrow$ $f(f(c))=f(c)-g(c)=f(c)$ $\Rightarrow$ $f(f(c))=f(c)$ y por inyectiva concluimos que $f(c)=c$
$P(c)$ $\Rightarrow$ $6f(f(c))=5f(c)-c$ $\iff$ $c=0$, lo cual es absurdo ya que $0$ no pertenece a los naturales.
Concluimos que no existe función que cumpla lo pedido.
Sea $a$ tal que $f(a)=M$ es el mínimo valor de la imagen de esta $f$. Pueden existir múltiples números que cumplan esto (en realidad no) pero con seleccionar uno solo basta.
Reemplazando, tenemos que $6f(f(a)) = 6f(M) = 5f(a) - a = 5M - a$. Por otro lado, el mínimo valor que puede tomar $6f(M)$ es $6M$, cuando $f(M)$ es el mínimo, $M$. Por lo tanto, $6M \leq 6f(M) = 5M - a \Rightarrow M \leq -a$, pero esto no tiene sentido, pues $M$ es mayor a $0$ mientras que $-a$ es menor por lo que $0 < M \leq -a > 0$, absurdo.
RTA: no existen funciones $f$ definidas en $\mathbb {N}$ que cumplan lo pedido $\blacksquare$