Attacken ska vara den dödligaste på flera år, enligt nyhetsbyrån Reuters.
Enligt israelisk polis ska mannen, som är israelisk medborgare, tidigare ha varit fängslad på grund av samröre med terrororganisationen IS.
Mannen har enligt polisen kört på ett av offren med bil och därefter gått till attack med kniv. Utöver de fyra dödsoffren har två personer skadats.
Den person som sköt ihjäl gärningsmannen ska vara en civil förbipasserande.
Israeliska myndigheter har höjd beredskapen, då man befarar att andra kan inspireras av gärningen, skriver tidningen Haaretz. Gärningsmannen tros dock ha agerat ensam, enligt tidningen.