När den första S:t Johannes kyrka byggdes vet vi inte. Oftast brukar 1100-talet nämnas, men kyrkans medeltida byggnadshistoria är så gott som helt okänd.
I de bevarade skriftliga källorna omtalas inte kyrkan förrän 1417, i samband med en tvist med S:t Olai kyrka om tionden. Själva församlingen, då kallad Norrköpings socken, nämns första gången 1384. Kyrkan var helgad åt Johannes Döparen.
Många tidiga medeltida stenkyrkor föregicks av träkyrkor, men det finns inga spår efter en sådan här. Vid utgrävningar på 2010-talet påträffades dock fragment av tidigkristna gravmonument på två platser nära Gamla torget. Sådana s.k. Eskilstunakistor restes vid kyrkor på 1000-talet.
Den äldsta S:t Johannes kyrka var en stenkyrka av romansk typ med långhus, kor och torn. Under senmedeltiden utvidgades kyrkan och blev tvåskeppig genom att man rev den södra långhusväggen och slog valv som vilade på pelare.
När Norrköping ännu bara var en kvarn- och fiskeby var alltså S:t Johannes socknens kyrka och sedan stadsförsamlingen bildats blev den kyrka enbart för de som bodde på landsbygden söder och öster om staden.
På 1400-talet hade biskopen planer på att slå samman församlingarna, men det motsatte sig invånarna i Norrköping. År 1544 utnämndes en gemensam präst för S:t Johannes och S:t Olai och elva år senare beslutade Gustav Vasa om ett permanent samgående. ”Bondekyrkan” blev då annex till stadskyrkan och det skulle dröja till 1879 innan S:t Johannes åter blev en självständig församling.
Trots att stadens egen kyrka, S:t Olai, var finare och rikare valde många Norrköpingsbor S:t Johannes som sin kyrka och lät döpa sina barn, gifta sig och begrava sina döda där.
På 1630- och 1640-talen byggdes den medeltida kyrkan till och blev korsformad. Den södra korsarmen uppfördes av rikstygmästaren Johan Lilliehöök på Händelö. Den var också gravkor och kallades Händelökyrkan. Den norra bekostades av Erik Oxenstierna på Lindö och Lindökyrkan blev säteriets gravkor.
S:t Johannes kyrka förstördes i den stora stadsbranden 1655 men kunde återuppbyggas – förutom tornet. Sedan dess har kyrkan enbart haft en klockstapel, men ända in på 1800-talet fanns tankar på att återigen bygga ett torn.
Den äldsta bilden på S:t Johannes kyrka är en skissartad teckning som gjordes av riksantikvarien Johan Peringsköld på 1680-talet. Den visar en arkitektur som är tydligt präglad av sengotik och tidig renässans. Långhuset har små fönster och en trappstegsformad korgavel. På den södra gaveln sitter en enorm minnestavla över Johan Lilliehöök, fem meter hög och tre meter bred.
Vid ryssarnas härjningar 1719 brändes återigen kyrkan. Stenvalven klarade sig, men alla reparationer gjorde att byggnaden fick stora brister. På 1770-talet bedömdes den vara nästintill fallfärdig och revs.
En ny kyrka uppfördes 1787–1789 och den placerades vinkelrätt mot Drottninggatan. Ritningarna hade omarbetats av Överintendentämbetet i Stockholm, men av ekononomiska skäl avstod församlingen både tornet och det halvrunda koret. Altartavlan målades av Pehr Hörberg.
Den nya kyrkan förstördes i den s.k. södra branden 1822 och restaurerades sedan i stort sett efter sitt gamla utseende, men med ett lägre tak. För ritningarna stod stadsarkitekten Johan Erik Hammarling. Den byggnad som återinvigdes 1827 är den som ännu i dag står på platsen.
I slutet av 1800-talet ansåg landsförsamlingen att det var olämpligt att deras kyrka låg inne i staden med sina många lockelser. Dessutom ansågs bullret på gatorna vara störande. Man sålde byggnaden till Norrköpings stad 1899 och köpte mark utanför stadsbebyggelsen. Där invigdes dagens S:t Johannes kyrka 1906.
Den gamla kyrkan byggdes om hörsal efter ritningar av arkitekten Carl Bergsten. I samband med arbetena påträffades den äldre kyrkans grundmurar. Vid invigningshögtiden 1913 överlämnades den gamla kyrkbyggnaden av landshövding Eric Trolle ”såsom Norrköpings Hörsal” till bildningsarbetet och musiken i Norrköping.
Då förslöts också Lindögraven och Händelögraven under kyrkan. Gravvalven öppnades igen vid en renovering 1946 och då påträffades fyra stensarkofager och ett trettiotal sammanfallna träkistor. Kvarlevorna av 59 personer kremerades och askan finns nu i en kopparurna i Händelögraven.
Kyrkogården runt S:t Johannes användes för begravningar ända fram till 1813 och uppskattningsvis finns drygt 3 300 gravar kvar i Hörsalsparken.