Enligt Politico meddelades hans avgång som en fotnot i ett dokument som lämnades in på lördagseftermiddagen.
Trump lovat sparka honom
I dokumentet uppmanades en distriktsdomare att inte förlänga ett tidigare beslut om att blockera offentliggörandet av Smiths rapport om Trump. Huruvida rapporten kommer att släppas före det att Trump svärs in som president den 20 januari är ännu ej fastställt.
Jack Smith har tidigare meddelat planer på att lämna sin tjänst före maktskiftet. Donald Trump har vid flera tillfällen lovat att sparka honom så fort han tillträder som president.
Utredning lades ner
Smith ledde två federala utredningar mot Trump, en kopplad till stormningen av kongressbyggnaden Kapitolium och en om Trumps hantering av hemligstämplade dokument i Mar-a-Lago i Florida när han hade lämnat Vita huset.
Utredningarna lades ned sedan Trump vunnit presidentvalet. Smith gjorde då en formell begäran om att ärendena skulle skrotas, baserat på justitiedepartementets policy som förhindrar åtal mot en sittande president.