Al di sotto della Chiesa di Santa Maria Maggiore si trova la congrega dei Santi Gregorio ed Abate, risalente probabilmente al XIV sec.; l’epoca di costruzione della suddetta chiesa resta correntemente ignota. La scarsezza di documenti rende impossibile la sua precisa collocazione sotto il punto di vista cronologico ma si può presupporre che la sua genesi corrisponda al periodo di costruzione della chiesa sovrastante.
Appartenente alla decorazione pittorica originaria era l’opera di Giovanni da Gaeta (pittore tardogotico-protorinascimentale), raffigurante il Sant’Antonio Benedicente (1460), attualmente ospitato nel Museo Diocesano di Gaeta. Il suddetto affresco raffigurante il Santo in atto benedicente, si caratterizzava per la profusione di ori, argenti e gemme preziose che decoravano l’abito del Santo, secondo il gusto gotico.
Nell’ apprezzo del 12 dicembre del 1690, presentato da Antonio Galluccio e Lorenzo Roggiano al Fisco Reale, alla morte del principe di Stigliano, feudatario di Itri, si ha una prima, sommaria descrizione della chiesa di Santa Maria al cui interno si annoverano otto altari di cui quello maggiore, ricoperto parzialmente da lastre auree e quello del Crocefisso “coverto di cristalli con cornice indorata attorno”, nel cui paliotto compaiono le Anime del Purgatorio mentre sopra il fastigio è raffigurata la Sacra Sindone (la volta di questa cappella è decorata a stucco con alcuni angeli reggenti gli emblemi della Passione, opera risalente al XVIsec.) Nella “ Visitatio Localis” del Vescovo di Gaeta Antonio Del Rio si afferma invece che la chiesa, fatta eccezione per la Cappella di San Nicola, “indecentemente decorata”, appare in un ottimo stato, decoroso viene qualificato l’altare del sottostante oratorio dei santi Gregorio e Abate.
Nel verbale del 26 maggio del 1753, redatto da un’altra visita pastorale, si rinvengono notizie dettagliate circa gli otto altari che appartenevano alla Collegiata di Santa Maria Maggiore e alla sottostante Congrega dei Santi  Gregorio e Abate: uno di questi era l’altare maggiore dedicato ai Santi Gregorio e Abate dove era deposto il corpo di San Costanzo martire, i cui resti erano ricoperti da vesti ricamate.