Il nome ufficiale completo è "Santa chiesa della Vergine Maria Gorgoepikoos e di Sant'Eleuterio".

 

La chiesa fu costruita sopra le rovine di un tempio precristiano dedicato alla dea Eileithyia. Diverse date sono state proposte in passato per la sua realizzazione, a partire dal IX secolo, sotto l'imperatrice Irene, al XIII secolo. Fino a tempi recenti, l'opinione comune tra gli studiosi, soprattutto in Grecia, lo attribuì al mandato di Michele Coniata, all'inizio del XIII secolo. Tuttavia, la Piccola Metropoli differisce considerevolmente da altre chiese bizantine dello stesso periodo ad Atene, e anche d'altrove; sebbene segua lo schema tipico della croce inscritta, è, in modo univoco, quasi interamente costruito con spolia riutilizzati da edifici di epoche precedenti, che vanno dall'antichità classica al XII secolo, o addirittura al XIII secolo, precludendo così una data di costruzione pregressa a quest'ultimo. Lo storico Bente Kiilerich ha ulteriormente sottolineato che durante la sua visita ad Atene nel 1436, l'antiquario Ciriaco da Ancona menzioni una delle iscrizioni della spolia della chiesa come giacente nell'agorà, cioè lontano dalla sua posizione attuale. Ciò suggerisce che la chiesa fu costruita dopo il 1436. Kiilerich suggerì un momento iniziale dell'era ottomana per la chiesa, forse collegata all'acquisizione dell'antica cattedrale cittadina — la chiesa della Theotókos Athéniotíssa, nel Partenone — da parte dei turchi e la sua conversione in moschea.

 

Originariamente dedicata alla Panagía Gorgoepíkoös, per via di un'icona miracolosa della Madonna, acquisì il nome di "Piccola Metropoli" perché si trovava entro i confini della residenza del metropolita di Atene. A seguito della Guerra d'indipendenza della Grecia contro il governo ottomano, la chiesa fu abbandonata. Dal 1841 ospitò la biblioteca pubblica di Atene fino al 1863, quando fu riconsacrata come chiesa, prima a Cristo Salvatore, e poi a sant'Eleuterio. Nel 1856 la chiesa fu restaurata riportandola allo stato originario, rimuovendo aggiunte più recenti, come il campanile.

La chiesa ha una pianta tipicamente bizantina essendo a croce quadra e costituita da tre navate, con quella centrale più alta di quelle laterali. La cupola ottagonale era originariamente sorretta da quattro colonne, ma queste furono sostituite nel XIX secolo da pilastri. È una piccola struttura, lunga solo 7,60 metri (25 piedi) e 12,20 metri (40 piedi) di larghezza. Le pareti sono costruite esclusivamente con marmo di spoglio, composto da muratura non decorata fino all'altezza delle finestre, e poi arricchita da rilievi di vario genere, per un totale di novanta sculture in più; questa caratteristica rende la chiesa unica nell'architettura sacra bizantina. Non sono stati utilizzati mattoni, ad eccezione della cupola, diversamente dall'architettura bizantina contemporanea. Il suo interno era originariamente decorato interamente da affreschi, ma solo due di questi sono rimasti visibili a tutt'oggi: un'immagine della Panagia che è posta sopra l'abside, e un Cristo Pantocratore nella cupola centrale.