La chiesa di Santa Maria della Misericordia sorse, con la denominazione di Madonna degli Olivi, "entro un territorio olivato, a mezzogiorno di Mesagne", forse ai primi del XVI secolo per munificenza della famiglia Castriota Granai di cui permane nel sacro edificio l'impresa araldica. L'arma, inquartata, contiene nella sinistra l'aquila bicipite doppiamente coronata e sormontata da triangolo e stella a sei raggi nel centro; nella destra è un leone rampante che brandisce la spada contro un giglio. Il 26 agosto 1578, per volontà dell'arcivescovo Bernardino de Figueroa (1571-86), la chiesa fu affidata al Capitolo della Collegiata di Mesagne. La decisione si spiega con la necessità di assicurare adeguata assistenza religiosa ai pellegrini che si recavano a venerare un'icona ritenuta miracolosa in conseguenza di quanto accaduto il 19 maggio 1578; scrive il Mavaro "che giocando vicino alla detta cappella un giorno alcuni libertini giovinastri alle palle e che uno di quelli per la perdita fatta di tutto il denaro che portava, mosso dalla disperazione, quasi che quella Sacra Immagine ne fosse la causa, sacrilegamente le scagliò sulla faccia una palla, la quale vi fece la miracolosa impressione, lasciandovi una lividura di color rosso oscuro; che il sacrilego percussore restò subito attratto nel suo braccio, di cui più non si poté prevalere; che indi arrestato dalal giustizia fosse stato condannato alle forche: onde si avvenne che il titolo che pria quell'immagine aveva delli olivi le fu mutato in quella di Vendetta, per causa dell'instantaneo miracolo operato".
Risultando il 19 maggio 1578 lunedì di Pentecoste ne derivò l'uso della processione e pellegrinaggio capitolare in quella ricorrenza. Il titolo della chiesa fu mutato, per disposizione arcivescovile, da Madonna di Giustizia, quale si era imposto dopo l'accaduto, in Madonna della Misericordia.

Chiesa di Santa Maria della Misericordia.Esterno
ph. Antonio Pasimeni per Ufficio Beni Culturali Arcidiocesi di Brindisi - Ostuni.

Già nel 1579 si decise l'avvio di lavori per il radicale rifacimento della cappella accanto a cui era sorto, a levante, l'anno precedente, un ricovero per i pellegrini; nel 1581 l'intrapresa fu affidata al mastro Jaco D'Amato de Santo Pietro. Nel 1600 il rustico poteva ritenersi completato; Serafino Profilo, nel 1760, riassume i fatti riferendo:
"Radunate adunque alcune elemosine incominciorno l'edificio del tempio sontuosissimo in tre vani, come oggi si vede, secondo il modello appunto della chiesa nella quale si adora la Vergine detta di Leuche, o finibus terrae, in quel piano medesimo circondato dall'olive, ove era l'antica cappella. Questa chiesa oggi l'adorna un solo altare con un nobil cappellone situato all'opposto della porta maggiore aperta verso settentrione. Ivi è un quadro grande dipinto ad oglio rappresentante angioli e santi; e questo essendo alla parte inferiore aperto, dà luoco alla venerazione di detta immagine la quale sta dipinta sul muro non avendosi smossa da quel luoco, ove sortì il miracolo".

Nel 1868 la chiesa, già danneggiata dal terremoto del 1743, crollò, salvo la parte comprendente le strutture della chiesetta preesistente l'ampliamento; si può affermare perciò la coincidenza dell'attuale chiesetta con l'originaria.
La chiesa, recentemente restaurata, ha, inglobate, nel prospetto, due colonne in carparo, uniche superstiti delle otto preesistenti al crollo del 1868. Al suo interno, sulle pareti laterali, quattro imprese in bassorilievo riferibili ai Castrista-Granai, forse elemento del sepolcro costruito per Giovanni Castriota morto in Mesagne il 1514; alle città di Taranto e Mesagne, questo fiancheggiato dalle personificazioni delle dea dell'Abbondanza e della dea Flora; all'agro di Mesagne. Lo stemma del Capitolo di Mesagne è sulla cuspide del timpano della pala d'altare e sulla chiave di volta della copertura in tufo.
L'icona della Madonna della Misericordia si articola e si lega ai simboli della melagrana e del pettirosso, memorie della funzione salvifica della Chiesa.