油水分离器与沉淀池处理废水的基本原理相同，都是利用废水中悬浮物和水的比重不同而达到分离的目的。油水分离器的构造多采用平流式，含油废水通过配水槽进入平面为矩形的油水分离器，沿水平方向缓慢流动，在流动中油品上浮水面，由集油管或设置在池面的刮油机推送到集油管中流入脱水罐。在油水分离器中沉淀下来的重油及其他杂质，积聚到池底污泥斗中，通过泥管进入污泥管中。

油水分离器多用钢筋混凝土筑造,也有用砖石砌筑的 在矩形平面上，沿水流方向分为2~4格，每格宽度一般不超过6米，以便布水均匀。有效水深不超过2米，油水分离器的长度一般比每一格的宽度大 4倍以上。油水分离器多用链带式的刮油机和刮泥机分别刮除浮油和池底污泥。一般每格安装一组刮油机和刮泥机，设一个污泥斗。若每格中间加设档板，挡板两侧都安装刮油机和刮泥机，并设污泥斗,则称为两段式油水分离器,可以提高除油效率，但设备增多，能耗增高。若在油水分离器内加设若干斜板，也可以提高除油效率，但建设投资较高。在寒冷地区，为防止冬季油品凝固，可在集油管底部设蒸汽管加热。油水分离器一般都要加盖，并在盖板下设蒸汽管，以便保温，防止油水分离器起火和油品挥发，并可防止灰沙进入。