Anteriormente, os soldados romanos construíram uma igreja sobre a Gruta de Abu Serga e deram-lhe o nome de dois santos de alta estatura, nomeadamente os santos Sérgio e Baco, que foram martirizados durante o reinado de Maximiano (280-305 d.C.). Esta igreja ficou conhecida mais tarde como a igreja de Abu Serga.
A igreja continuou a ser a sede do patriarcado episcopal desde o século IV até ao século XIII, tendo ficado conhecida primeiro como a sede da Babilónia, depois como a sede de Fustat, depois transformada na sede do Egipto.
Num outro texto, é referido que a igreja foi fundada no final do século VII por Atanásio, que veio da Síria, influenciado pela história de São Sérgio e Baco, pelo que ele construiu esta igreja.A igreja está construída ao estilo de basílica, e as suas dimensões são de 27 m de comprimento, 17 m de largura e 15 m de altura. O chão da igreja fica a cerca de 3,90 m abaixo do nível da rua. A entrada conduz à nave da igreja e daí para três santuários.Por baixo dos santuários encontra-se a antiga gruta onde a Sagrada Família permaneceu.
Na nave há colunas com capitais coríntios que remontam aos séculos IV e V d.C.
Um mural que data do século XIII d.C. foi descoberto no santuário meridional da igreja, havendo muitos vestígios arqueológicos na mesma.Esta igreja está localizada no centro do Palácio da Cera ou do forte romano, ao lado do Museu Copta.
No final da dinastia Umayyad, a igreja sofreu um incêndio quando o califa Marwan II queimou Al-Fustat – o último califa de Bani Umayyah (744-750 d.C.) e foi restaurada pelo ministro Youhanna bin Yusuf, conhecido como Ibn Al-Abah – o guardião secreto do califa Fatimida Al-Muntasir em 1102 d.C.
No ano 768 d.C., o califa Marwan bin Muhammad libertou o patriarca, Anba Michael I (n.º 46), pelo que foi à igreja de Abu Serga e aí realizou uma oração de acção de graças.
No ano 859 d.C., o piedoso Patriarca Anba Shenouda, o quinquagésimo quinto, foi eleito e foi o primeiro patriarca a ser ali ordenado.
A Igreja de Abu Serga era considerada como tendo um carácter de prestígio nessa altura, como o demonstra o facto de a maioria dos patriarcas terem sido eleitos nela nas antigas épocas até ao início do século XII d.C., quando o Patriarca Anba Macário foi eleito em 1102 d.C.
Hoje em dia, a igreja contém os corpos dos santos Sérgio e Baco e do monge mártir Bashnnouna, cujo corpo foi descoberto em 1991 d.C. durante a restauração da igreja, e há muitos vestígios arqueológicos que enfeitam as suas paredes.
O Museu Copta conserva algumas antiguidades importantes da Igreja de Abu Serga, incluindo o mais antigo altar de madeira feito de madeira de nogueira conhecido na história das igrejas antigas, bem como as capitais Coríntias, datando principalmente do século VI d.C.