Världsnian Williams vann det första setet med 6–1, men förlorade de kommande två med 4–6 och 6–7 (5–7).
– Märkliga förutsättningar, märklig situation, men en seger är en seger och jag vet att alla bara är glada för att vi kan spela igen, säger Rogers efter skrällsegern.
Det var bara femte gången i karriären som Serena Williams förlorade mot en motståndare utanför topp 100 på världsrankningen. Den senaste gången var för åtta år sedan då hon förlorade mot den då 111-rankade Virginie Razzano i Franska öppna.
WTA-turneringen var nionderankade Williams första tävlingsframträdande sedan i februari.
US Open börjar den 31 augusti och då gäller det för den 23-faldiga grand slam-vinnaren att vara i bättre form.
KLIPP: Serena Williams vann mot systern Venus