Historia e monumenteve prej gurëve janë të vendosura në Kurshumli nga viti 1924 deri më sot.
Disa studiues të entuziazmuar, anëtarë të Shoqërisë Shkencore të Shkupit, kanë filluar grumbullimin e mbishkrimeve antike në gjuhën helene dhe latine si dhe plastika guri në skulpturë dhe reliev, si dhe pjesë të arkitekturës plastike në Kurshumli Han në Shkup dhe kështu formuan koleksionin e monumenteve të gurit, i cili u bë koleksioni i parë në Muzeun e Banovinës së Vardarit i themeluar më 1 prill të vitit 1924, duke krijuar kështu bazën e muzeve në Republikën e Maqedonisë së Veriut.
Sipas dokumentacionit të Muzeut Arkeologjik, mbledhja e monumenteve filloi në periudhën 1926-1934, gjatë kohës kur dr. Nikolla Vuliq, dr. Miodrag Kokiq, dr. Miodrag Gërbiq dhe dr. Radosllav Grujiq filluan me inspektimin e terrenit në territorin e Maqedonisë dhe të gjitha gjetjet e rastësishme, duke përfshirë ato nga fshatrat më të largëta, si dhe rezultatet e kërkimeve arkeologjike, i kanë mbledhur dhe e kanë dokumentuar në Kurshumli Han. Në vitet e 30-ta të shekullit XX, monumentet u ekspozuan në oborrin e objektit dhe janë vënë në dispozicion të vizitorëve. Edhe pse muzeu ka funksionuar nën emra të ndryshëm për shkak të ngjarjeve historike të tilla, si Muzeu i Serbisë Jugore dhe pastaj si Muzeu Kombëtar, përkujdesi në mbledhjen dhe pastrimin shënimeve dhe fotografive tekstuale dhe të dhënat grafike vazhduan pa penguar. Menjëherë pas Luftës së Dytë Botërore si një i burgosur i luftës në Kurshumli Han ka qëndruar dhe punuar një arkeolog dhe filolog klasik, dr. Walter Wrede.
Me themelimin e Muzeut Arkeologjik të Republikës së Maqedonisë së Veriut në vitin 1949, koleksioni i monumenteve të gurit është dokumentuar, përpunuar, studiuar dhe pasuruar nga Borka Dragojeviq – Josifovska.
Në vitin 1953, nën udhëheqjen e Dushanka Vuçkoviq-Todoroviq, Muzeu Arkeologjik kryen gërmime arkeologjike në fshatin Çepigovë, në Stiberën e lashtë. Me zbulimin e Gimnazionit dhe Tempullit të perëndeshës Tyche për nder të Antestija Fuska, koleksioni i monumenteve prej guri pasurohet në mënyrë të konsiderueshme, kryesisht për shkak se ato janë monumente të rralla të zbuluara “in situ”, dhe pastaj, për shkak se e pasurojnë historinë e qytetit që më parë na është e njohur me mbishkrimet dhe statujat, të cilat u sollën në Kurshumli Han si zbulime të rastit. Ato të gjitha përbëjnë një tërësi të rrallë të cilët janë të dëshirueshme në lapidariumet e mbarë botës.
Në vitin 1955 u hap ekspozita e parë e përhershme e monumenteve të gurit, e cila është e vendosur në stallën e kuajve, e adaptuar për këto punime, autor Borka Josifovska. Stalla e vjetër është e ndarë në disa seksione, sipas tipologjisë së monumenteve prej guri, mbishkrimeve dhe relieveve private, dhe ka pasur seksione të veçanta për lokalitetet më të rëndësishme arkeologjike në Republikën e Maqedonisë së Veriut – Skupi, Stobi, Stibera dhe Heraklea Linkestis. Seksioni u shoqërua nga një ciceron i shkruar mbresëlënës që edhe sot është njëjtë aktual dhe interesant për profilet e ndryshme të lexuesve.
Në tërmetin në vitin 1963, Kurshumli Hani kishte dëmtime serioze dhe pastaj u riparua, por stalla, konkretisht lapidariumi, mbetet në gjendjen ekzistuese. Megjithatë, që në atë kohë Muzeu Arkeologjik në Kurshumli Han u përkujdes dhe ruajti lapidariumin më të madh në Ballkan dhe rritja e fondit të monumenteve prej guri vazhdoi deri në mbledhjen e objekteve nëpërmjet kërkimeve arkeologjike dhe inspektimeve arkeologjike nga ana Apostoll Keramidçiev, dr. Viktoria Sokollovska dhe dr. Eleonora Petrova.
Me hapjen e prezantimit të përhershëm të Muzeut Arkeologjik në vitin 1982, monumentet prej guri morën një vend në prezantimin e periudhave që ata i përkasin, në seksione, apo siç i quajtëm ata, kubuset pararomake, romake dhe mesjetare.
Në vitin 2001, është hapur lapidarium në katin përdhesë të ndërtesës kryesore në Kurshumli Han, autori i të cilit është dr. Sllavica Babamova. Në oborr dhe në qelitë e katit përdhesë të ndërtesës atëherë ishin vendosur rreth 140 objekte në gur, që është një numër i rëndësishëm në prezantimin muzeor nga kjo fushë. Ekspozita kishte renditje kronologjike, e cila përfaqësonte mikrorajonet individuale dhe qytetet e lashta në Republikën e Maqedonisë së Veriut.
Me zhvendosjen e Muzeut Arkeologjik në ndërtesën e re në shëtitoren e Vardarit në vitin 2014, monumentet e gurit nga Kurshumli Hani, por edhe objektet më të rëndësishme muzeore nga muzetë e tjera në Republikën e Maqedonisë së Veriut, u bënë pjesë e lapidariumit të IN Muzeu Arkeologjik të Republikës së Maqedonisë së Veriut.
Gjatë vitit 2017 dhe 2018, në oborrin prapa dhe stallën e kuajve të Kurshumli Hanit si pjesë e Muzeut Arkeologjik, u bë rivendosja e monumenteve prej guri. Objektet dhe materialet muzeore të cilat u mblodhën në Hanin gati një shekull janë selektuar në koleksione muzeore, u bë përsëri evidentimi dhe dokumentimi, u vërtetua gjendja e tyre fizike dhe u ndje nevoja për ndërhyrje të mëtejshme për konservimin dhe restaurimin e veprimeve. Qëllimi përfundimtar i këtij projekti shumëvjeçar është vendosja e një lapidariumi të ri në stallën e kuajve në Kurshumli Han, i cili pas shumë vitesh do të prezantojë monumentet prej guri para studiuesve dhe publikut të gjerë.
