Tomando módulo $2$ es evidente que $p\equiv 1(mod2)$.
Tomando módulo $4$, sabemos que $p^2\equiv 1(mod4) \Leftrightarrow 2019+p^2\equiv 0(mod4)$, luego $26\times (q^2+r^2+s^2)$ es múltiplo de 4, luego $q^2+r^2+s^2$ es par, luego o bien uno es par, o bien los tres lo son. Descartamos rápido el caso $q=r=s=2$ porque $26\cdot 12<2019$.
Digamos WLOG que $q=2$, queda entonces:
Como $2$ y $3$ son coprimos, podemos dividir por $2$ de ambos lados, quedando que $1\equiv r^2+s^2 (mod3)$
Como los únicos residuos cuadráticos módulo 3 son $0$ y $1$, para que $1\equiv r^2+s^2 (mod3)$, uno de los dos debe ser múltiplo de $3$. Digamos WLOG que es $r$. Luego queda:
$1681+p^2=26\cdot s^2$
$1+p^2\equiv s^2 (mod5)$
Pero los residuos cuadráticos $mod5$ son $0,1,4$, luego tenemos dos subcasos: $(p,s)\equiv (0, 1)$ y $(p,s)\equiv (4, 0)$
Luego o bien $s=5$ o bien $p=5$.
Si $p=5$, $1706=26\cdot s^2$, pero $1706$ no es múltiplo de $26$, absurdo.
Si $s=5$, $26\cdot s^2= 650 < 2019 < 2019+p^2$, absurdo.
Vamos a compactar argumentos usando el siguiente súper-lema, muy útiles para cuando hay muchas cosas de la pinta $p^2$.
Lema: Si $p$ es un primo, entonces
$p^2\equiv
\begin{cases}
4 & p=2 \\
9 & p=3 \\
1 & p>3
\end{cases}\mod 24$
Demostración: Como todos los primos $p>3$ pertenecen a una de las siguientes clases de congruencias: $\overline{1}$, $\overline{5}$, $\overline{7}$, $\overline{11}$, $\overline{13}$, $\overline{17}$, $\overline{19}$, $\overline{23}$, sólo es necesario checkear que todas estas al cuadrado son $\overline{1}$ (lo cual es de hecho cierto), y que, por otro lado, es claro que $p=2$ y $p=3$ llevan también al resultado deseado.
Ahora sí, en el problema, la condición se transforma en:
$$p^2+3\equiv 2(q^2+r^2+s^2)\mod 24$$
En primer lugar, si asumimos que $p>3$ (*), obtenemos
$$4\equiv 2(q^2+r^2+s^2)\mod 24$$
Es decir,
$$2\equiv (q^2+r^2+s^2)\mod 12$$
Pero la única solución a esto es $q^2+r^2+s^2=1+4+9=14\equiv 2\mod 12$ (esto es porque el lema sigue valiendo para módulo $12$, y sólo es necesario analizar un par de cositas), o sea, que sin pérdida de generalidad $q=2$ y $r=3$, resultando:
$$p^2+2019=26(2^2+3^2+s^2)$$
Es decir,
$$p^2+1681=26s^2$$
Que, mirando módulo $5$, se reduce a
$$p^2+1=s^2$$
lo cual, como $0$, $1$ y $4$ son los únicos residuos cuadráticos módulo $5$, implica que alguno de $p$ ó $s$ es $5$, es decir, o bien
$$5^2+1681=26s^2$$
(lo cual es absurdo, ya que $1706$ no es divisible por $26$), o bien
$$p^2+1681=26\cdot 5^2$$
(pero $p^2+1681>1681>650$). De modo que no hay soluciones.
(*) El caso $p=2$ se descarta fácil ya que $26$ no divide a $2023$ y el caso $p=3$ se reduce a encontrar soluciones de
$$78=q^2+r^2+s^2$$
Que son $(q,r,s)=(2,5,7)$ y permutaciones.
Vamos a agregarle más potencia a nuestro súper-lema para tener un súper-súper-lema y reducir los casitos:
Lema: Si $p$ es un primo, entonces
$p^2\equiv
\begin{cases}
4 & p=2 \\
9 & p=3 \\
25 & p=5 \\
1, 49 & p>5 \\
\end{cases}\mod 120$
Demostración: Ya sabemos que si $p>3$, entonces $p^2\equiv 1\mod 24$. Por otro lado, si $p>5$, entonces $p^2\equiv 1,4\mod 5$, de modo que este súper$^2$-lema se deduce por Teorema Chino del Resto (a.k.a. sabiendo esto, hay sólo dos soluciones módulo $24\cdot 5=120$). Para $p\leq 5$ los casos se ven fácil.
Ahora sí, mirando módulo $120$ tenemos
$$p^2+99\equiv 26(q^2+r^2+s^2)\mod 120$$
Asumiendo que $p>5$ (*), tenemos que, o bien
$$100\equiv 26(q^2+r^2+s^2)\mod 120\Longrightarrow 50\equiv q^2+r^2+s^2\mod 60$$
o bien
$$148\equiv 26(q^2+r^2+s^2)\mod 120\Longrightarrow 38\equiv q^2+r^2+s^2\mod 60$$
[Ahora llega lo más cruel, que es deducir que] lo de arriba no tiene soluciones, y lo de abajo sólo tiene la solución $q^2+r^2+s^2=2^2+3^2+5^2=38$ [creerme]. Pero esto último lleva a
$$p^2+2019=26(2^2+3^2+5^2)=988\Longrightarrow p^2=1031$$
lo cual es absurdo.
De los casos $p\leq 5$, el único que resiste la división por $26$ es el $p=3$ que lleva a la solución ya vista.
(Viendo como es que funcionan las cosas, podemos interpretar como que analizar los casos $p=5$ y $(q,r,s)=(2,3,5)$ por separado corresponden a analizar los casos a los que nos llevo ver $p^2+1681=26s^2$ módulo $5$ en la solución anterior, nada más que compactado).