证明两个矩阵不相似可以通过以下几种方法，结合必要条件和充分条件进行判断：

一、必要条件反证法

特征值不同

若两个矩阵相似，则它们具有相同的特征值（包括重数）。若发现特征值不一致，则矩阵不相似。

迹（主对角线元素之和）不同

相似矩阵的迹相等。若迹不相等，则矩阵不相似。

行列式不同

相似矩阵的行列式相等。若行列式不同，则矩阵不相似。

秩不同

若两个矩阵的秩不同，则它们不可相似对角化，从而不相似。

二、充分条件分析法

不可对角化矩阵

若矩阵不可对角化，则它不可能与对角矩阵相似。可以通过以下方式证明：

特征值包含复数（实对称矩阵的充要条件）；

Jordan标准型中存在非对角元素。

特征向量不足

对于每个特征值，若其对应的线性无关特征向量个数小于重数（即 $n - r（A - lambda E） < k$），则矩阵不可对角化，从而不相似。

三、其他方法

Jordan标准型不同

相似矩阵具有相同的Jordan标准型。若Jordan标准型不同，则矩阵不相似。

相似变换矛盾

假设存在可逆矩阵 $P$ 使得 $B = P^{-1}AP$，通过推导矛盾证明不存在这样的 $P$。例如，若 $A$ 可相似对角化而 $B$ 不可，则假设矛盾。

四、注意事项

上述条件为必要条件，但非充分条件。例如，两个矩阵可能行列式、迹、秩相同，但特征向量个数不匹配。

实对称矩阵的特征值均为实数且可对角化，若两个实对称矩阵特征值不完全相同，则不相似。

通过以上方法，结合具体问题选择合适策略进行判断。