Mikael Ymer, 98:a på världsrankningen, inledde matchen bättre och 36-årige Tsonga såg tung ut. Svensken vann första set med 7-5.
Under de två inledande seten hade Ymer 16 breakbollar och 85-rankade Tsonga noll, men trots det var ställingen 1-1 då de var färdigspelade.
I det andra hade 22-årige Ymer setboll, men förlorade efter tiebreak.
I tredje set bröt den tidigare världsfemman Tsonga till 3-3 och vann med 7-5, men i det fjärde visade svensken igen prov på mental styrka då han vann med 6-4.
Tsonga skadade sig
I början av det avgörande setet halkade Tsonga illa på gräset och tog sig för benet, men till slut reste han sig upp och spelade vidare. Ymer bröt sedan till 3-2 och vann till slut med hela 6-3.
En succéstart för svensken då han för första gången spelar huvudturneringen i Wimbledon och nu får han möta den 20-årige kanadensaren Felix Auger-Aliassime (rankad 19:e) i den andra omgången.
– Felix, han kan spela tennis alltså. Shit, han går riktigt bra. Det är inte så mycket mer att säga än att det är imponerade vad han har gjort och levererat väldigt bra, säger Ymer om sin kommande motståndare.
Även Djokovic vidare
Ymer har som längst tagit sig till tredje rundan i en grand slam-turnering. Det gjorde han i både Australian Open och Franska öppna tidigare i år.
Tsonga har en grand slam-final på meritlistan, men den var redan för tretton år sedan i Australian Open.
Den serbiske världsettan Novak Djokovic är redan klar för den tredje rundan efter att ha besegrat Kevin Anderson i raka set 6-3, 6-3, 6-3.