Samkönat sex har hittills kunnat straffas med upp till livstids fängelse, även om åtal har varit ovanligt.
I ett uttalande kallar chefsdomaren Dipak Misra lagen, som är känd som ”section 377”, för ”irrationell, oförsvarbar och uppenbart godtycklig”.
Indien är världens näst största land sett till antal invånare och i årtionden har landets HBTQ-personer kämpat mot lagen.
– Det här beslutet är väldigt viktigt, säger Meenakshi Ganguly, Sydasienchef på människorättsgruppen Human Rights Watch, skriver New York Times.
I januari i år gick högsta domstolen med på att återigen ta upp frågan om att legalisera homosexualitet, efter att en grupp högprofilerade indier slagit larm om att den gamla lagstiftningen skapar en atmosfär av rädsla i landet. 2013 tog högsta domstolen samma fråga, efter att en lägre domstol beslutat att skrota den gamla lagen varpå beslutet överklagats av religiösa grupper. HD klubbade då att låta homosexualitet förbli kriminellt.