Adeiladwyd Tloty Undeb Deddf y Tlodion Arberth ym Mill Bridge ar ddiwedd y 1830au ac fe symudodd i Upper Providence Hill ym 1887. Canwyd y gloch i alw ar y preswylwyr adeg prydau bwyd ac i rybuddio'r crwydriaid a oedd yn pasio pa bryd fyddai gatiau'r tloty yn cau adeg machlud yr haul.

Ym 1842 meddiannwyd y tloty gan Derfysgwyr Beca a oedd yn ymgyrchu yn erbyn cyflwyno tollau ar ffyrdd lleol.