如果没有税务登记，税务局可以以税务稽查为由对您的企业进行整改。就你的情况而言，你可以去税务局办理税务登记，但你可能会面临罚款。

所以建议你可以先注销营业执照，再进行营业执照申请，虽然麻烦点，但从法律角度来说，因为是有限责任公司，新注册的企业不再承担已注销企业的责任。

法律依据:《中华人民共和国税收征收管理法》第六十条纳税人有下列行为之一的，由税务机关责令限期改正，可以处二千元以下的罚款;情节严重的，处二千元以上一万元以下的罚款:

(一)未按照规定的期限申报办理税务登记、变更、注销的;

(二)不按照规定设置、保管账簿或者保管会计凭证及有关资料的;

(三)未向税务机关报送财务会计制度或者财务会计处理办法和会计软件备查的;

(四)未按照规定向税务机关申报全部账户的;

(五)未按照规定安装、使用税控装置的，擅自损坏、变造税控装置的。