本发明公开一种分级处理式磁过滤装置，包括由清液溢流板分隔成滤液预处理区和滤液磁吸附区的储液箱；滤液预处理区顶部设有挡油板，挡油板与滤液进口之间设有插入液面油沫层的吸油管；滤液磁吸附区设有刮渣出口、清液出口和旋转磁辊筒，旋转磁辊筒上部设有延伸至刮渣出口的导渣槽，导渣槽上设有与旋转磁辊筒辊面相配合的刮板。本发明将储液箱分为滤液预处理区和滤液磁吸附区，滤液预处理区以静置沉淀方式使悬浮的残铁颗粒静置沉淀，排出储液箱，并利用吸油管抽取液面上的大部分油污，有效减少滤液磁吸附区的吸附负荷；滤液磁吸附区通过刮板将旋转磁辊筒上吸附的磁性颗粒进行刮除及导出。本装置结构简单，降低设备的故障率，减少维护成本。