嘿，你的思路方向太对了！咱们顺着这个类比双曲线的思路，把证明细节补全就能搞定啦～

首先先明确已知条件：

• $A,B$是$n×n$对称正定矩阵，$n>1$
• $A≠B$，且$\det A = \det B$

关键前提：$A-B$必有正、负特征值 #

因为$A,B$正定，所以$A^{{-1}$也正定，$A}{-1}B$是正定矩阵（可分解为$A^{-1/2}(A{-1/2}B A^{-1/2})A{1/2}$，其中$A^{-1/2}B A^{{-1/2}$是正定的，因此$A}{-1}B$的特征值全为正）。

又因为$\det(A^{-1}B) = \frac{\det B}{\det A} = 1$，且$A≠B$意味着$A^{-1}B ≠ I$，所以$A^{-1}B$的特征值$\lambda_1,\lambda_2,...,\lambda_n$全为正、乘积为1，但不全等于1——也就是说，必然存在至少一个$\lambda_i > 1$，至少一个$\lambda_j < 1$（如果所有$\lambda_k ≥1$，乘积为1则只能全为1，与$A^{-1}B≠I$矛盾）。

而$A-B = A(I - A^{-1}B)$，所以$A-B$的特征值等于$A$的特征值乘以$(1 - \lambda_k)$。因为$A$的特征值全为正，所以对应$\lambda_i>1$时，$(1-\lambda_i)<0$，$A-B$有负特征值；对应$\lambda_j<1$时，$(1-\lambda_j)>0$，$A-B$有正特征值。

结合你的思路完成证明 #

你已经把方程转化为：
$$||A^{{\frac{1}{2}}x||}2 - ||B^{{\frac{1}{2}}x||}2 = 1$$
这个类比$x^2 - y^2 =1$的思路非常直观！我们换个更直接的对角化视角：

因为$A-B$是对称矩阵，存在正交矩阵$P$，使得$P^T(A-B)P = \Lambda$（对角矩阵，对角元为$A-B$的特征值）。令$y = P^T x$，则原方程变为：
$$y^T \Lambda y = 1$$
也就是：
$$\lambda_1 y_1^2 + \lambda_2 y_2^2 + ... + \lambda_n y_n^2 = 1$$

咱们取其中一个正特征值$\lambda_p>0$和一个负特征值$\lambda_q<0$（前面已经证明存在），固定其他所有$y_k=0$（$k≠p,q$），方程简化为：
$$\lambda_p y_p^2 + \lambda_q y_q^2 =1$$
设$\lambda_q = -\mu$（$\mu>0$），则方程变为：
$$\lambda_p y_p^2 - \mu y_q^2 =1$$
这就是标准的双曲线方程！显然，当$y_p$趋向于正无穷时，$y_q = \pm\sqrt{\frac{\lambda_p y_p^2 -1}{\mu}}$也会趋向于无穷大，对应的$x = Py$的范数$||x||=||y||$也趋向于无穷大——这就说明集合${x : x^T(A-B)x =1}$是无界的。

内容的提问来源于stack exchange，提问作者D F