34-årige Kane spelade sina första 16 säsonger i NHL i Chicago som han ledde till tre Stanley Cup-titlar innan han trejdades häromdagen.
I stället gjorde Ottawas två mål av Derick Brassard som spelade sin 1000:e NHL-match. Det var Ottawas fjärde raka seger.
Kane, som trejdades i en treklubbsdeal där även Arizona var inblandad, spelade i 19.36 och fick iväg fyra skott på mål. Han hade -2 i statistiken. Det var första matchen sedan 22 februari.
– Jag har inte spelat på ett tag och kanske var jag lite rostig men det känns häftigt att vara en del av det här laget, säger Kane.
Zibanejad passade till 3-2-målet
Kane fick också äran att delta i första kedjan, vid sidan av centern Vincent Trocheck och med Artemij Panarin på vänster sida.
Vladimir Tarasenko gav Rangers ledningen med 3-2 i den andra perioden efter Mika Zibanejads öppnande passning.
Brassard gjorde det matchvinnande 4-3-målet och det var viktigt för honom.
– Jag kommer att minnas det för resten av mitt liv. Det var en så häftig känsla och jag var uppe tidigt och det bara snurrade i huvudet, säger Brassard om att få göra två mål i sin 1000:e match.
Han har 543 poäng på sina 1000 matcher i NHL.
Boston snabbaste att nå 100 poäng
Boston blev snabbaste laget i NHL:s historia att nå 100 poäng efter enorma 7-1 på Buffalo. Buffalo spelade utan Rasmus Dahlin, som är skadad.
Boston nådde dit på 61 matcher. Montreal hade det tidigare rekordet med att nå 100 poäng säsongen 1976-77.
– För mig personligen spelar det inte så stor roll. Jag försöker att stanna i ögonblicket, säger Bostons tränare Jim Montgomery som växte upp i Montreal.
NHL
New York Rangers
3 - 5
Ottawa Senators
Period 1
- 1-0Kreider (Fox/Zibanejad) SH106:31
Period 2
- 09:421-1Pinto (DeBrincat/Batherson)
- 10:031-2Brassard (Joseph/Gambrell)
- 2-2Trouba (Panarin/Trocheck)12:15
- 3-2Tarasenko (Zibanejad/Harpur)14:54
Period 3
- 01:353-3Brassard (Giroux)
- 03:263-4Giroux (Hamonic/Tkachuk)
- 17:183-5Stützle (Tkachuk/Giroux) ENG