Embora a frequentação da área esteja documentada desde a Idade do Bronze, a formação do primeiro núcleo habitado é atestada por volta dos séculos IX-VIII aC.
A proximidade da vila peuceta à colônia grega de Metaponto a tornou cercada por uma fortificação imponente, datada do século IV - III. a.C. O motivo pode ter sido o permanente estado semi-conflituoso entre as cidades gregas e os centros itálicos ou as guerras recorrentes, como as guerras púnica, samnita e aníbalica. As paredes permaneceram eficientes mesmo no final da era republicana. Uma seção disso sobrevive hoje, visível em um pequeno parque arqueológico urbano.
A romanização levou a uma mudança na exploração do território, com a redução do número de fazendas e, portanto, da população. Um edifício público foi inaugurado na cidade, do qual permanecem um telamon e um mosaico de piso, lembrando a chegada de 4 magistrados de Roma. O topônimo de Civitas Severiana, relatado em documentos medievais, sugere um antigo nome romano derivado, como para outros locais imperiais lucanos, de topônimos relacionados a vastas agregações de cidades estabelecidas no território, talvez Gens Severa ou Severiana, de origem não clara. Assim, Montescaglioso perdeu importância, a área habitada se contraiu e no território insistiam moradias rústicas, dirigidas por escravos, e que foram investigadas arqueologicamente nos últimos anos. No início do período medieval, a existência de Montescaglioso é atestada em uma série de documentos: já no século VI. d.C. o monge Guidone, na sua viagem descrita durante a guerra gótico-bizantina, mencionou a cidade; em 893, a cidade foi lembrada como "Castrum Montis Caveosi", em um documento da abadia longobarda de S. Vincenzo al Volturno.
O domínio normando do sul da Itália começou em meados do século XI.
A presença normanda favorece o desenvolvimento urbano e o aumento demográfico da cidade, bem como o estabelecimento de uma grande comunidade monástica beneditina que, com a abadia de São Miguel Arcanjo, marcará a história de Montescaglioso até o século XIX.
Outros mosteiros também se estabeleceram em Montescaglioso. Em meados do século XV, os agostinianos construíram seu convento. No final do século XVI, os padres capuchinhos se estabeleceram, construindo seu convento em uma colina com vista para a cidade. Finalmente, na primeira metade do século XVII, há um mosteiro feminino, o SS. Concepção, que adota a regra beneditina. Com a presença de quatro complexos monásticos, dos quais a Abadia Beneditina de São Miguel Arcanjo permanece a mais considerável, a cidade de Montescaglioso ganhou a definição de "Cidade dos Mosteiros".
O castelo normando de Montescaglioso foi erguido pela família normanda dos Macabeo no final do século XI para controlar a Porta Maggiore (uma das 6 existentes), organizado em torno de um pátio que é acessado por um portal ladeado por uma das duas torres sobreviventes. A torre central, com um plano quadrangular, fica irreconhecível por uma série de reajustes modernos. A igreja de S. Catarina foi anexada ao castelo, agora usada como bar.
O único dos seis portões de acesso deixados em pé é a Porta Sant'Angelo, que pode ser admirada na praça em frente à Abadia de San Michele. A mais importante, Porta Maggiore, foi demolida em 1868. O muro normando, de fato, permanecerá intacta até meados do século XIX, quando os muros serão demolidos.
Montescaglioso compartilha o parque regional de Murgia Materana com Matera, que se estende por cerca de 8000 hectares, caracterizado pela presença de barrancos profundos, onde o homem escavou aldeias inteiras, currais, cisternas e, sobretudo, igrejas rupestres. Na parte abrangida pelo território de Montescaglioso, existem as mais antigas igrejas rupestres, provavelmente devido ao fato de que a presença bizantina continuou ininterruptamente durante o início da Idade Média.
