Undantagen har hittills gjort det svårare för Iran att utveckla kärnvapen.
Pompeo säger att Iran tar små men bestämda steg för att öka anrikningsgraden av uran.
– Dessa steg är oacceptabla och kan inte rättfärdiga att USA förlänger undantagen, säger han.
De företag som verkar i Iran har 60 dagar på sig att avsluta sitt arbete. Det inkluderar arbetet vid tungvattenanläggningen i Arak, som hittills även av USA setts som ett sätt att försvåra för Iran att framställa plutonium för militärt bruk.
Överenskommelsen JCPOA tecknades 2015 mellan Iran och P5+1, det vill säga de fem permanenta medlemmarna i FN:s säkerhetsråd samt Tyskland. Iran förband sig då att skala ned sitt kärnenergiprogram i utbyte mot lättade sanktioner. Iran började luckra upp överenskommelsen sedan USA frånträtt avtalet 2018.