Нам необходимо оценить собственные числа матрицы $\mathbf{S T}^{N}$, зная собственные числа матрицы $\mathbf{T}^{N}$.
$$
\left(\begin{array}{cc}
1 & 0 \\
0 & -1
\end{array}\right)A\left(\begin{array}{c}
k+l \\
c_1k+c_2l
\end{array}\right)=\left(\begin{array}{c}
\lambda_1^Nk+\lambda_2^Nl \\
-\lambda_1^Nc_1k-\lambda_2^Nc_2l
\end{array}\right)
$$
Где $(k,c_1k)$ и $(l,c_2l)$ являются собственными с точностью до величины векторами матриц $T$ и $T^N$. Тогда решаем уравнение:
$$
(1+l)/(\lambda_1^N+\lambda_2^N l)=-(c_1+c_2l)/(\lambda_1^Nc_1+\lambda_2^Nc_2l)
$$
где для определённости мы приняли $k=1$, тогда получим выражения для $l_{12}$:
$$
l_{12}=\dfrac{-(c_1+c_2)(\lambda_1^N+\lambda_2^N)\pm\sqrt{-16c_1c_2\lambda_1^N\lambda_2^N+(c_1+c_2)^2(\lambda_1^N+\lambda_2^N)^2}}{4c_2\lambda_2^N}
$$
Достанем оттуда собственные числа и сложим их:
$$
\lambda_1^*+\lambda_2^*=\dfrac{\lambda_1^N+\lambda_2^N l_1}{1+l_1}+\dfrac{\lambda_1^N+\lambda_2^N l_2}{1+l_2}=\dfrac{2\lambda_1^N-(\lambda_1^N+\lambda_2^N)\dfrac{(c_1+c_2)(\lambda_1^N+\lambda_2^N)}{2c_2\lambda_2^N}+2\lambda_2^N\dfrac{c_1}{c_2}\left(\dfrac{\lambda_1}{\lambda_2}\right)^N}{1-\dfrac{(c_1+c_2)(\lambda_1^N+\lambda_2^N)}{2c_2\lambda_2^N}+\dfrac{c_1}{c_2}\left(\dfrac{\lambda_1}{\lambda_2}\right)^N}$$
Упростим:
$$tr(\mathbf{ST}^N)=\dfrac{(4\lambda_1^N\lambda_2^N-Z_N^2)(c_1+c_2)}{2c_2\lambda_2^N-(c_1+c_2)Z_N+2c_1\lambda_1^N}$$
где $c_1,c_2$ можно взять из столбиков ранее полученной диагонализирующей матрицы:
$$c_1=e^{K}\lambda_1-e^{2K+h};\quad c_2=e^{K}\lambda_2-e^{2K+h};$$
Получаем: