По условию:
$\sqrt{n^2 - 75} = k ∈ N$
Откуда:
$n^2 - 75 = k^2$
$n^2 - k^2 = 75$
(n − k)(n + k) = 75
n − k ∈ N(n ≥ k), n + k ∈ N.
То есть сомножители являются натуральными числами.
Разложим 75 на простые множители:
75 = 1 * 3 * 5 * 5
Очевидно, что n − k < n + k. Составим все пары натуральных сомножителей, где первый меньше второго, а при перемножении они дат 75:
{(1;75), (3;25), (5;15)}
Поучаем три системы уравнений:
$\begin{equation*} \begin{cases} n - k = 1 &\\ n + k = 75 & \end{cases} \end{equation*}$
$\begin{equation*} \begin{cases} n - k = 3 &\\ n + k = 25 & \end{cases} \end{equation*}$
$\begin{equation*} \begin{cases} n - k = 5 &\\ n + k = 15 & \end{cases} \end{equation*}$
Решаем и получаем три пары ответов:
$\begin{equation*} \begin{cases} n = 38 &\\ k = 37 & \end{cases} \end{equation*}$
$\begin{equation*} \begin{cases} n = 14 &\\ k = 11 & \end{cases} \end{equation*}$
$\begin{equation*} \begin{cases} n = 10 &\\ k = 5 & \end{cases} \end{equation*}$
Можно представить это результат в виде таблицы:

Ответ: {10; 14; 38}