16-seedade kanadensaren Milos Raonic vann med 6-1,6-1,7-6(7-5) och är klar för sin fjärde kvart i Australien.
Vid 1-4 i andra set och matchen på väg att glida ur händerna slog 21-årige Zverev sönder sitt racket och varnades.
– Jag var arg och det kändes bättre efteråt, säger Zverev, som sedan kunde fokusera bättre, dock utan resultat.
Ranoic spelade något av sitt livs match.
– Jag spelade ofattbart bra idag och gjorde många saker bra och är stolt över mig själv, säger 28-årige Raonic som var i semifinal 2016.
Annars började Zverev matchen utmärkt och bröt direkt – för att därefter förlora åtta games i rad.