Anche se la frequentazione dell’area è documentata a partire dall’età del bronzo, la formazione del primo nucleo abitato è attestata intorno ai secoli IX-VIII a.C.
La vicinanza del villaggio peuceta alla colonia greca greca di Metaponto lo fece circondare di una imponente fortificazione, datata IV – III sec. a.C. Il motivo può essere stato lo stato semi-conflittuale permanente tra le città greche e i centri italici o le ricorrenti guerre come le guerre pirriche, sannitiche e annibaliche. La cinta muraria rimase efficiente anche in età tardo repubblicana. Di questa oggi sopravvive un tratto, visibile in un piccolo parco archeologico urbano.
La romanizzazione ha comportato un cambiamento nello sfruttamento del territorio, con la riduzione del numero delle fattorie e quindi della popolazione. In città si è inaugurato un edificio pubblico, di cui resta un telamone ed un mosaico pavimentale che ricorda l’arrivo di 4 magistrati da Roma. Il toponimo di Civitas Severiana, riportato in documenti medievali lascia ipotizzare un antico nome romano derivante, come per altri siti lucani di fase imperiale, da toponimi collegati a vaste aggregazione parentali insediate nel territorio, forse una Gens Severa o Severiana, di non chiara origine. Montescaglioso perde così di importanza, l’abitato si contrae e nel territorio sorgono ville rustiche, a conduzione schiavistica, negli ultimi anni indagate archeologicamente.
Nella fase altomedievale Montescaglioso è attestata in una serie di documenti: già nel VI sec. d.c. il monaco Guidone, nel suo viaggio, descritto durante la guerra goto-bizantina, cita la città; nel 893 la città è ricordata come Castrum Montis Caveosi, in un documento proveniente dall’abbazia longobarda di S. Vincenzo al Volturno.
A metà del secolo XI inizia la dominazione Normanna dell’Italia Meridionale.
La presenza normanna favorisce lo sviluppo urbano e l’incremento demografico della città, nonché l’insediamento di una grande comunità monastica benedettina che con l’abbazia di S. Michele Arcangelo segnerà la storia di Montescaglioso fino al secolo XIX.
In Montescaglioso si insediarono anche altri monasteri. Nella metà del quattrocento hanno costruito un loro convento gli Agostiniani. Sul finire del secolo XVI, si sono insediati i Padri Cappuccini, costruendo un loro convento su una collina prospiciente la città. Infine nella prima metà del secolo XVII, sorge un monastero femminile, la SS. Concezione, che adotta la regola benedettina. Con la presenza di quattro complessi monastici, di cui l’Abbazia benedettina di San Michele Arcangelo resta il più considerevole, la città di Montescaglioso ha guadagnato la definizione di “Città dei Monasteri”.
Il castello normanno di Montescaglioso fu eretto dalla famiglia normanna dei Macabeo sul finire dell'XI secolo a controllo della Porta Maggiore (una delle 6 esistenti), era organizzato intorno ad un cortile al quale si accede da un portale affiancato da una delle due torri superstiti. La torre centrale, a pianta quadrangolare, è resa irriconoscibile da una serie di moderni riadattamenti. Al castello era annessa la chiesa di S. Caterina, oggi adibita a bar.
L’unica delle sei porte di accesso rimaste in piedi è Porta Sant’Angelo, che si può ammirare proprio sulla piazza antistante l’Abbazia di San Michele. La più importante, Porta Maggiore, venne demolita nel 1868. La cinta normanna, infatti, rimarrà intatta fino alla metà del XIX secolo, quando avrà luogo la demolizione delle mura.
Il territorio comunale di Montescaglioso condivide con il capoluogo materano, il parco regionale della Murgia Materana che si estende per circa 8000 ha, caratterizzato dalla presenza di profonde gravine, dove l’uomo ha scavato interi villaggi, ovili, cisterne e soprattutto chiese rupestri. Nell’agro di Montescaglioso si trovano le chiese rupestri più antiche, probabilmente dovuto al fatto che la presenza bizantina si è protratta ininterrottamente durante tutto l’Alto Medioevo.