È del 27 settembre 1290 un breve di indulgenza concessa da papa Niccolò IV alla «Ecclesia Sancti Nicolai de Alexandria, ordinis Beatæ Virginis Mariæ de Monte Carmelo». Questa è la prima testimonianza scritta relativa alla presenza dei carmelitani in Alessandria, e da essa si deduce che fossero sul territorio ben prima del 1290. Gli Statuti di Alessandria vengono in soccorso per identificare una chiesa di San Nicolò, situata extra mœnia: «in contrata, quæ consueverat esse retro sanctum Nicolaum».

 

Durante il XIII secolo, circa un secolo dopo la fondazione della città di Alessandria, il tessuto urbano intra mœnia subisce sensibili mutamenti: la cattedrale di San Pietro, edificata contestualmente alla nascita di Alessandria e demolita per decreto napoleonico nel 1803, ha trasferito l'asse centrale della città che prima ruotava attorno alla chiesa di Santa Maria di Rovereto, nuove chiese e nuovi edifici vedono la luce. In questo contesto di forti cambiamenti i carmelitani alessandrini chiesero il permesso alla Santa Sede, in seguito accordato, di trasferirsi infra eamdem villam.

 

La costruzione della chiesa è databile intorno agli anni '20 del XIV secolo per opera, come si è già scritto, dei carmelitani. Gli stessi, nella seconda metà dello stesso secolo, ingrandiscono l'edificio considerato troppo piccolo, e aggiungono un chiostro nel lato nord della chiesa.

 

A partire dal 1466 ebbero inizio lavori di abbellimento e ingrandimento della chiesa. Furono costruite le navate laterali, alcune cappelle e la sagrestia nel 1576.