两人合伙开一公司，在2011年6月分收到一张进货发票，有一人于2011年10月份退股并办了相关手续。

可是在2011年11份发票大头小尾，税务局要处罚，请问退出方也要承担罚款呢

是的，因为6月份时你还没退股哪