Andy Murray hade ytterligare en setboll i tiebreaket i första set, men lyckades inte vinna.
Istället tog veteranen andra set, även det i tiebreak.
Det blev alltså ett tredje och avgörande, men där föll Murray tidigt och såg ut att ha ont. Hans tjeckiske motståndare gick runt nätet för att se hur den brittiske veteranen mådde och han kunde också spela vidare.
Mensik gick upp i en 5-2-ledning, men Murray tog sig samman och tog även det setet till tiebreak.
Efter hela tre timmar och 23 minuter vann sedan 18-åringen (7-6, 6-7, 7-6) och firade att han blev den tredje spelaren född 2005 att gå till kvartsfinal i en ATP-turnering.
– Jag saknar ord. Jag vet inte va jag ska säga. Murray är en jättebra spelare och jag såg honom på tv då han vann Wimbledon två gånger, säger Mensik som nu ställs mot Andrej Rublev eller fransmannen Richard Gasquet.
Mensik är rankad 116:e i världen.