问：我公司取得了一张增值税专用发票，其中发票上的品名全部是英文字母，我公司将其在网上认证并进行了抵扣。近日主管税务局来我公司检查时，要求我公司将该张发票和进项税额进行转出，理由是增值税发票上的品名不得全部用英文开具。增值税发票是否不能全部用英文开具？如果只有品名栏是英文字母是否可以？该发票的进项税需转出是否有法律依据？我公司认为是开票方的错误，应该开具红字发票，开票方重新开具正确发票给我公司，不知是否正确？
答：《发票管理办法实施细则》第二十九条规定，开具发票应当使用中文。民族自治地方可以同时使用当地通用的一种民族文字。
《增值税暂行条例》第九条规定，纳税人购进货物或者应税劳务，取得的增值税扣税凭证不符合法律、行政法规或者国务院税务主管部门有关规定的，其进项税额不得从销项税额中抵扣。
根据以上规定，纳税人在开具发票时应用中文开具，如果使用英文，税务机关可根据以上规定，不允许抵扣。
以上行为属于开票有误，可根据《增值税专用发票使用规定》（国税发[2006]156号）的相关要求通过开具红字发票的程序来处理。