本发明提供了一种利用冷却水对高温荒煤气进行直接冷却的装置和方法，其装置包括第一夹套直接冷却器、溢油槽、筛板塔、油水分离单元、第二夹套直接冷却器，无夹套直接冷却单元；其中所述第一夹套直接冷却器依次与所述溢油槽、筛板塔、油水分离单元相连接，所述筛板塔依次与第二夹套直接冷却器、无夹套直接冷却单元相连接，所述第一夹套直接冷却器通过煤气出口管与所述筛板塔连接。采用本发明，不仅保证了荒煤气的冷却效果，而且大大降低了含油污水的处理量。本发明所述装置结构简单，全部为静设备，没有动力消耗，故障率低，操作维护方便。