还能拆除，还是属于违法建筑，单位无权利批准建房，罚款以后，城建部门还是可以要求拆除房屋，违法房屋拆除不会得到补偿。
《中华人民共和国行政强制法》第四十四条对违法的建筑物、构筑物、设施等需要强制拆除的，应当由行政机关予以公告，限期当事人自行拆除。当事人在法定期限内不申请行政复议或者提起行政诉讼，又不拆除的，行政机关可以依法强制拆除。