Göteborgs Karl Johans församling bildades 1820 genom sammanslagning av Amiralitetsvarvsförsamlingen och Mariebergs församling. Församlingen kallades först Förenade Kustförsamlingen eller Kustförsamlingen. År 1828 ändrades namnet till Karl Johans församling.
Karl Johans församling var annex till Örgryte till år 1883, då den som eget pastorat i ecklesiastikt hänseende förenades med Göteborg. Borgerligt hade området införlivats redan 1868.
Vid församlingsregleringen 1908 överflyttades vissa områden av Karl Johans församling till de nyreglerade Masthugg och Oscar Fredriks församlingarna. Se dessa.
Nya Varvets församling införlivades 1931 med Karl Johans församling.
Vid ny församlingsindelning 1951 överflyttades till Masthuggsförsamlingen delar av Majornas II rote och största delen av Majornas III rote.
Församlingen omfattar nu följande stadsdelar: Majornas I rote (20 stadsdelen), delar av Majornas II och III rotar (21 och 22 stadsdelen), Kungsladugård (24 stadsdelen), Sandarna (25 stadsdelen) och Nya Varvet (26 stadsdelen).

Förenade Kustförsamlingens arkivalier kunna även ingå i Amiralitetsvarvs och Mariebergs församlingars arkiv.

Följande volymer äro överförda från Karl Johans kommunala arkiv:
                    
K I b: 1
K V a: 1-3
K V b: 1-2  
K V c: 1-3
L III a: 1-3
L III b: 1-17
L III c: 1-2
L III d: 1-4
L V aa: 1-4
L V ab: 1-14