Mika Zibanejad som fyllde 28 år såg till att Rangers fick det viktiga 4-3-målet i tredje perioden.
I powerplay, framspelad av Ryan Strome, drog Zibanejad till direkt förbi Devils-målvakten Mackenzie Blackwood.
Det var Zibanejads 16:e mål för säsongen, och har tillsammans med Gabriel Landeskog gjort flest mål av svenskarna i NHL såhär långt den här säsongen.
Rangers och Devils har matchat hårt den senaste tiden. Lagen har mötts inte mindre än fyra gånger sedan i tisdags förra veckan, och det här var också Rangers fjärde raka seger.
Rangers som ligger femma i den östra divisionen, fyra poäng bakom Boston Bruins.
Devils däremot, går mot sitt tredje raka missade slutspel.