本发明公开了一种用于小型免提语音通讯系统中回声消除的装置和方法，该系统包括受话器、主送话器和辅送话器，主送话器与受话器之间的距离大于辅送话器与受话器之间的距离。装置包括在结构上依次级联的阵列回声消除单元、自适应回声消除单元以及残留回声消除单元。阵列回声消除单元的输入是主送话器信号和辅送话器信号，通过阵列滤波得到一路输出信号；自适应回声消除单元的输入信号是受话器信号和阵列回声消除单元的输出信号以及辅送话器信号，通过自适应滤波得到两路输出信号；残留回声消除单元的输入信号是自适应回声消除单元的两输出信号，通过语音概率估计和回声匹配得到消除回声的语音信号；可提升双工性能且不严格要求送话器的相位一致性。