行政違法由什麼部門追責

法院。
1、行政機關若發現自己做出的具體行政行為違法或者不當，應該做出決定撤銷原具體行政行為。
2、上級行政機關發現下級做出的具體行政有誤需通知做出機關予以撤銷，做出機關不予撤銷的，上級機關依職權進行撤銷。
3、法院在受理非訴行政執行案件時，發現生效的行政決定或裁決存在違法事項的，應作出不予立案通知書，以立案在審查期限內的，作出不予執行裁定書，並送達申請人。發現已經立案執行的生效的行政決定或裁決存在違法事項的，停止執行。通知申請人撤回執行申請或依法裁定不予執行。法院還可就此案向做出具體行政行為的機關或上一級機關發出司法建議。
《行政處罰法》
第五十五條行政機關實施行政處罰，有下列情形之一的，由上級行政機關或者有關部門責令改正，可以對直接負責的主管人員和其他直接責任人員依法給予行政處分：
（一）沒有法定的行政處罰依據的；
（二）擅自改變行政處罰種類、幅度的；
（三）違反法定的行政處罰程序的；
（四）違反本法第十八條關於委託處罰的規定的。