Cosatu, som är landets största fackförbund och står nära ANC, tror inte längre på Zumas förmåga att leda landet och vill se över sin nära koppling till partiet.
”Det har blivit dags för honom att stiga ned och låta landet att ledas framåt av nya personer på regeringsnivå”, skriver Cosatu i ett uttalande.
Stor splittring
Avskedandet av den internationellt respekterade finansministern Pravin Gordhan har lett till att Sydafrikas kreditbetyg har sänkts, och bytet av finansminister har ökat klyftan inom ANC-regeringen.
Zumas motståndare och även en del av hans anhängare har upprörts över beslutet, som kan leda till stor splittring inom partiet som har styrt landet sedan 1994.
Valutan rand föll 1,9 procent på tisdagsmorgonen men gick upp med en procent under dagen efter uppmaningar om presidentens avgång från fackförbund, religiösa ledare, oppositionen och andra.
ANC stöttar
Men ANC stöttar fortfarande Zuma. Under onsdagen sade Gwede Mantashe, partiets generalsekreterare, efter ett tvådagarsmöte med partiledningen att ANC accepterar det ”ohjälpliga sammanbrottet i relationerna” mellan presidenten och Gordhan som orsak till att den senare fick gå.
Detta visar i sin tur på en spricka inom ANC, sedan biträdande presidenten Cyril Ramaphosa sagt att avskedandet av Gordhan är ”totalt, totalt oacceptabelt”.
Zuma själv säger i sin första offentliga kommentar sedan han avskedat Gordhan att finanspolitiken kommer att vara oförändrad och att alla bör hålla sig lugna.
Cosatu är den andra stora organisationen som är närstående ANC som vill att presidenten ska avgå. Tidigare har Sydafrikas kommunistparti uppmanat till samma sak.