第一,要注明A、B是实对称矩阵或者x'Ax和x'Bx是实二次型。第二、用惯性定理:正负惯性指数之和=秩,正负惯性指数之差=符号差。正惯性指数=(秩+符号差)/2,负惯性指数=(秩-符号差)/2
搜一下:线性代数证明AB合同的充要条件二次型x'Ax和x'Bx具有相同的正负惯性指数