Polisen kopplade stryptag på 43-årige Garner i samband med ett försök att gripa honom i juli. Garner, som var misstänkt för att olagligt ha sålt cigaretter, fälldes till marken och dog sedan på platsen.
En rättsläkare slog fast att strypgreppet tillsammans med trycket mot hans bröst låg bakom dödsfallet, även om Garners dåliga hälsa också anses ha bidragit, enligt nyhetsbyrån AFP.
Beslutet kommer kort efter att en annan åtalsjury, i Ferguson i Missouri, beslutat att det inte fanns fog att åtala den vite polis som sköt ihjäl den svarte tonåringen Michael Brown.
Fallen, som fångades på video och spreds snabbt över internet, har utlöst landsomfattande protester rörande polisvåld, i synnerhet mot svarta.
”Väldigt sorgligt”
New Yorks borgmästare Bill de Blasio uppmanar New York-bor att reagera ”fredligt” på åtalsjuryns beslut.
– Vi är alla överens om att demonstrationer och yttrandefrihet är viktiga bidrag till debatten, och att våld och oroligheter inte bara är fel utan också skadar de kritiskt viktiga mål vi försöker uppnå tillsammans, säger han på onsdagen till nyhetsbyrån Reuters.
Bobby Digi, lokal samhällsaktivist på Staten Island och affärsman, reagerade tidigt på beskedet. Han säger sig inte vara förvånad, men att han ändå hoppats att fallet skulle prövas.
– På något sätt höll jag tummarna, säger han.
– Det är bara väldigt, väldigt sorgligt.
Obama talade
USA:s president Barack Obama kommenterade läget i ett tal på onsdagen och sade att juryns beslut ”talar till oron hos alltför många minoritetsgrupper att polismyndigheter inte arbetar med dem och hanterar detta på ett rättvist sätt”.
Obama beslutade tidigare i veckan tillsätta en specialgrupp med uppgift att undersökta hur förhållandet mellan polis och minoritetsgrupper han förbättras.