Ett vittne såg två gärningsmän springa från platsen och slog larm till polisen.
Butiken spärrades av och polisinsatsen pågår fortfarande vid 16.30-tiden. Polisen söker efter spår i närheten av butiken och på vägarna i området.
Ingen i butiken skadades fysiskt, men ägaren säger till SVT Nyheter Gävleborg att han hotades med vapenliknande föremål.
Pengar och cigarretter
Bytet blev mellan 1200 och 1500 kronor i kontanter, och även cigarretter.
Livsmedelsbutiken ligger långt ned på Brunnsgatan, några kvarter från järnvägen.