本发明公开了一种利用矩阵小波变换的行星齿轮箱复合故障诊断方法，矩阵小波变换首先使用重复采样的前处理方式，将采集到的行星齿轮箱一维振动信号变换为多维输入信号；其次采用提升方法构造最优矩阵小波函数，利用所构造的最优矩阵小波函数对多维信号进行自适应分解，将多个故障特征分解到不同分支的信号中；然后采用包络谱方法提取和识别出各频带信号中表征的行星齿轮箱故障，结合故障机理分析，实现行星齿轮箱复合故障特征的一次性分离和诊断。该方法结果可靠，实时性好，简单易行，适用于卫通天线、风力发电机、重载起重机等设备传动机构的行星齿轮箱复合故障诊断。