Annars måste de gå på obetald ledighet, meddelar borgmästare Bill de Blasio.
De måste ha fått sin första vaccindos den 1 november, enligt förordnandet som gäller över 100 000 personer. Av dem har 71 procent redan fått minst en vaccindos.
De som tar sin första spruta senast den 29 oktober kommer att få 500 dollar extra, cirka 4 300 svenska kronor, på sin lön.
"Det finns inget större privilegium än att tjäna folket i staden New York, och det privilegiet kommer med ett ansvar att skydda dig själv och ditt samhälle", säger Bill de Blasio i ett uttalande.
Fångvaktare vid det ökända Rikers Island-fängelset har till den 1 december på sig att få sin första dos.
Tidigare har staden bestämt att lärare i allmänna skolor och delstaten New York tidigare har beslutat att sjukhusanställda måste vaccinera sig.