我就想知道我现在也不找他也不给他剩下的5000我需不需要负什么法律责任

我新买的房子 装修 和装饰公司签订了合同 合同签的是2008年10月16日交房 可是现在都过去一个多月了那个装饰公司 还是没有给我弄完 而且现在已经停工 打电话装饰公司也是拖延我 根本不来给我弄 我们签合同的时候是包工包料10000元 我先付给他5000元 我去消协投诉他 消协的人说我的合同没有他们装饰公司的公章 而且那个公司也在工商局没有注册 我们的合同属于私下协议 不在他们管辖的范围 我现在就想问一下如果我现在也不找他了就找别的装饰公司继续给我装修 也不给他剩下的5000元了 我需要承担什么法律责任吗