1、行為人首次違法；
2、行為人造成損害後果輕微；
3、行為人有及時改正的行為。不予行政處罰的情形有：
1、初次違法，情節輕微，未造成損害後果，並及時改正的；
2、非初次違法，情節輕微，未造成損害後果，並及時改正的。
根據規定，初次違法且危害後果輕微並及時改正的，可以不予行政處罰。
首違不罰制度不僅僅適用於稅收，它適用於所有的行政處罰。簡單地說，首次違法需要符合首次違法的條件，違法情節輕微，沒有造成嚴重後果，能夠及時改正。
"首次違法 "的十項內容包括納稅人未按照稅收征收管理法及其實施細則的有關規定向稅務機關報送全部銀行賬號的；納稅人未按照稅收征收管理法及其實施細則的有關規定設置、保管賬簿或者保管記賬憑證及相關資料的；納稅人未按照《稅收征收管理法》及其實施細則的有關規定辦理納稅申報、報送納稅資料的；納稅人使用稅控裝置開具發票，未按照《稅收征收管理法》及其實施細則、《發票管理辦法》等有關規定向主管稅務機關報送開具發票資料的。,無違法所得；納稅人未按照《稅收征收管理法》及其實施細則、《發票管理辦法》的有關規定取得發票。納稅人未按照《稅收征收管理法》及其實施細則、《發票管理辦法》等有關規定取得發票，使用其他憑證代替發票，無違法所得的；納稅人未按照稅收征收管理法及其實施細則、發票管理辦法等有關規定繳銷發票，且無違法所得的；扣繳義務人未按照規定設置、保管代扣代繳稅款賬簿或者保管代扣代繳稅款賬簿、代扣代繳稅款憑證的。扣繳義務人未按照《稅收征收管理法》及其實施細則的有關規定報送代扣代繳、代收代繳稅款相關信息的；扣繳義務人未按照《稅務發票管理辦法》的規定開具稅務發票的；境內機構或者個人將建築工程或者勞務發包給非居民，未按照《非居民承包建築工程和提供勞務稅收管理暫行辦法》的規定承包建築工程或者勞務的。非居民稅收管理辦法》的規定，或者未按照《非居民承包工程作業和提供勞務稅收管理暫行辦法》的規定向主管稅務機關報告有關事項的。
法律依據：
《中華人民共和國行政處罰法》
第三十三條 違法行為輕微並及時糾正，沒有造成危害後果的，不予行政處罰。初次違法且危害後果輕微並及時改正的，可以不予行政處罰。
當事人有證據證明不存在主觀過錯的，不予行政處罰。法律、行政法規另有規定的，從其規定。
對當事人的違法行為依法不予行政處罰的，行政機關應當對當事人進行教育。