Kiedy w połowie lat 70-tych, na osi ówczesnej ul. Ogrodowej (obecnie uliczka ciągnąca się od zbiegu Polnej i Radwana, koło Szkoły Nr 5 i dalej aż do Słonecznej) zaczęło powstawać blokowisko nazwane Osiedlem Ogrody, nikt nie myślał o budowie Kościoła. Dzieci z Osiedla uczące się w SP Nr 6 musiały chodzić na katechezę do salki katechetycznej przy Parafii Św. Michała Archanioła (wówczas lekcje religii nie odbywały się w szkole). Było to uciążliwe dla dzieci i ich rodziców. We wrześniu 1981 roku ówczesny proboszcz tej Parafii śp. Kazimierz Pelc wraz z katechetą ks. Aleksandrem Sikorą urządzili w domku p. Kazimierza Leśkiewicza przy ul. Ogrodowej 44 salę katechetyczną. 28 września 1981 roku na placu przed tą salką odprawił pierwszą Mszę Świętą Jego Ekscelencja ks. Bp Edward Materski – Ordynariusz Sandomiersko – Radomski, który w obecności ks. Kan. K. Pelca poświęcił tymczasową kaplicę pozostającą w jurysdykcji Parafii Św. Michała Archanioła, a ks. Prałata Czesława Przewłockiego ustanowił w niej duszpasterzem i katechetą.
11 października 1981 roku ks. Bp E. Materski odprawiając w kaplicy Mszę Świętą nadał Jej (na prośbę ks. Kanonika K. Pelca) tytuł Miłosierdzia Bożego. Przez październik i listopad ks. Czesław Przewłocki do salki katechetycznej dobudował drewnianą kaplicę, w której przez rok były odprawiane Msze Św. i nabożeństwa. W tym czasie kult Miłosierdzia Bożego był mało znany, dlatego też ks. Czesław udał się do Krakowa – Łagiewnik do grobu Sługi Bożej Siostry Faustyny, gdzie zaopatrzył się w potrzebne pomoce liturgiczne, modlitewniki itp. Rozpoczęto odmawiać Koronkę do Miłosierdzia Bożego w każdy pierwszy piątek i pierwszą niedzielę miesiąca.
W okresie stanu wojennego parafia stała się punktem opieki i pomocy rodzinom osób internowanych, represjonowanych i potrzebujących pomocy duchowej i materialnej. 8 marca 1982 roku p. Stanisław Krzos – ostrowiecki rzemieślnik przekazał notarialnie plac 1,17 h (przy ówczesnej ulicy Wroniej) na rzecz Parafii Św. Michała. 17 marca władze miasta przekazały oficjalnie ten plac pod budowę kaplicy, a w przyszłości kościoła. Pan Krzos – darczyńca zmarł nagle 12 maja 1982 roku. Jeszcze bez formalnego zezwolenia władz parafianie w dniach 10-17 lipca 1982 roku wykonali fundamenty pod przyszłą kaplicę. W początkach sierpnia parafianie udali się na pierwszą pielgrzymkę z nocnym czuwaniem na Jasną Górę, gdzie modlili się w intencji budowy kaplicy na osiedlu. Prośby zostały cudownie wysłuchane! Po powrocie 7 sierpnia władze wydały zezwolenie na budowę.
Budowa kaplicy i mieszkań księży wg projektu miejskiego architekta Zbigniewa Doktora rozpoczęła się 9 sierpnia. Brało w niej udział kilkudziesięciu parafian pod fachowym nadzorem majstrów. W stanie surowym ukończono budowę 30 września 1982 roku, wyposażenie i wykończenie trwało do końca Adwentu.
Pierwszą Mszę świętą odprawił w nowej kaplicy ks. Stanisław Kuśmierczyk – 8 sierpnia 1982 roku – wikary w parafii, a uroczystą Pasterkę w tej kaplicy odprawił ks. Czesław Przewłocki. Nabożeństwa z koronką do Bożego Miłosierdzia były odprawiane w każdy czwartek o godzinie 17.30.
31 stycznia 1984 roku ks. Bp. Ordynariusz erygował Parafię Miłosierdzia Bożego, w skład której weszli mieszkańcy osiedli: Stawki, Rosochy, Ogrody oraz ulic: Denkowskiej, Wroniej, Kruczej, Szczyglej, Słonecznej, Sikorskiego i Hubalczyków. W 1984 roku zawiązało się także 30-osobowe Koło Miłosierdzia Bożego, którego członkowie każdy innego dnia odmawiał prywatnie koronkę do Miłosierdzia Bożego.
Ustalono również w pierwsza niedzielę po Wielkanocy odpust parafialny – w święto Miłosierdzia Bożego. W dniu 22 czerwca 1983 roku Ojciec Święty na krakowskich Błoniach poświęcił kamień węgielny pod przyszły kościół na Osiedlu Ogrody. 29 czerwca 1984 roku rozpoczęły się pierwsze wykopy pod kościół, budowany wg projektu rzeszowskiego architekta Adama Gustawa. 27 września 1993 roku zakończono budowę w stanie surowym.
Wyposażeniem świątyni zajęli się następcy ks. Czesława Przewłockiego (odszedł do Parafii Łętownia, a następnie do Chobrzan), ks. Zygmunt Wandas (od 1993-1996) oraz ks. Zbigniew Wiatrek (od lipca 1996-2005) oraz od 2005 ks. Marian Wiącek. Kult Miłosierdzia Bożego ks. Przewłocki „zaszczepił” ks. Stanisławowi Kuśmierczykowi, który już wtedy twierdził, że tutaj powstanie Sanktuarium Bożego Miłosierdzia! I miał rację!
Za ks. prob. Zygmunta Wandasa dokończono budowę świątyni i rozpoczęto wystrój świątyni, położono marmurowa posadzkę w prezbiterium.
Od roku 1996 do roku 2005 proboszczem był ks. Zbigniew Wiatrek. W tym czasie założono posadzkę glazurową w kościele, w sklepiku, w klatce schodowej na chór, na chórze oraz przebudowano i wykonano polichromie w prezbiterium (projekt i wykonanie prof. Grażyna Czapska z Lublina). W centralnej części prezbiterium zawieszono obraz Jezusa Miłosiernego według autorstwa artysty malarza Jerzego Kumali z Krakowa, a także umieszczono marmurowy ołtarz i ambonkę – według projektu prof. Grażyny Czapskiej. Zamontowano tabernakulum, ryngraf z wizerunkiem Matki Bożej Częstochowskiej, żyrandole i konkiety, lichtarze do ołtarza, kandelabr Ognia Miłosierdzia, które wykonała firma Stanisława Stopyry z Grodziska Górnego. Krucyfiks z Chrystusem Ukrzyżowanym wykonał artysta prof. Henryk Fojcik z Rybnika. Figurę Matki Bożej Fatimskiej – dar ministra Stanisława Iwanickiego z Warszawy – przywieziono z Fatimy. Na ścianach zawieszono stacje Drogi Krzyżowej. Zamontowano ławki dębowe dla 600 osób, balustradę na chórze, siedziska dla celebransa i ministrantów, wiatrołapy dębowo-szklane, które wykonała wykonała firma stolarska Józefa i Piotra Świątek z Łężan koło Krosna oraz 7 konfesjonałów dębowych, wykonanych przez firmę Kazimierza Barańskiego z Ostrowca Św. Granitowe schody do kościoła i kaplicy wykonała firma Chudzicki z Wrocławia. Do wszystkich okien w kościele zamontowano podwójne szyby, przy drzwiach umieszczono 4 kamienne kropielnice – prace wykonała firma Kieleckie Marmury. W kaplicy Świętej Siostry Faustyny założono posadzkę, urządzono prezbiterium, ustawiono dębowe ławki. Przebudowano zakrystię, doprowadzono wodę.
Zaplecze kościoła zaadoptowano na mieszkania dla kapłanów. Wokół kościoła wytyczono pas procesyjny, pokryty asfaltem, zainstalowano słupy oświetleniowe. Na frontonie kościoła umieszczono figurę Chrystusa witającego wiernych według autorstwa Jerzego Matwieja z Jarosławia. Na wzgórzu ustawiono figurę Świętej Siostry Faustyny wykonaną także w Jarosławiu. Na centralnym skwerze ustawiono głaz upamiętniający ustanowienie Sanktuarium zaś na niewielkim pagórku świętokrzyską kapliczkę. Wokół świątyni posadzono drzewa i krzewy, zaś wodę burzową i ścieki odprowadzono do kanalizacji miejskiej.
W dniu 5 października 1996 roku Jego Ekscelencja Biskup Edward Frankowski – Sufragan Sandomierski wprowadził do naszego kościoła relikwie Błogosławionej Siostry Faustyny, które sprowadzono staraniem ks. proboszcza Zbigniewa Wiatrka. Od tej chwili rozpoczęły się Godziny Miłosierdzia, które są odprawiane w każdy piątek o godzinie 15.00. Nabożeństwo składa się z wystawienia Najświętszego Sakramentu, koronki do Miłosierdzia Bożego, Mszy Świętej oraz adoracji relikwii Świętej Siostry Faustyny.
Kolejną ważną datą dla parafii jest dzień 27 kwietnia 2003 roku, kiedy to decyzją ks. Biskupa Andrzeja Dzięgi – Ordynariusza Sandomierskiego kościół nasz został ustanowiony Diecezjalnym Sanktuarium Bożego Miłosierdzia.
W latach 2005 – 2006 proboszczem był ks. Marian Wiącek.
Od roku 2006 do 2012 funkcję proboszcza sprawował ks. dr Jacek Beksiński. W tym czasie położono nową kostkę brukową przed kościołem, rozbudowano parking przed ogrodzeniem kościoła. Sprowadzono figurę ojca św. Jana Pawła II, którą poświęcił bp Andrzej Dzięga. Zakupiona została chrzcielnica, udoskonalono mieszkania przy starej kaplicy, urządzono system grzewczy i tam ponownie zamieszkał jeden z księży wikariuszy. W roku 2007 urządzono salę konferencyjną pod nazwą „sala papieska”.
W roku 2008 odmalowano wnętrze kościoła, a następnie dwa lata później dokonano renowacji i malowania całego dachu na kościele. Prace wykonała firma remontowo-malarska Pana Krzysztofa Bema z Annopola.
Reorganizacja dekanatów w Ostrowcu Świętokrzyskim Mając na uwadze racje duszpasterskie, a szczególnie potrzebę sprawnego i jednolitego prowadzenia spraw duszpasterskich, biskup sandomierski Andrzej Dzięga dokonał z dniem 1 października 2006 roku reorganizacji struktury dekanatów w Ostrowcu Świętokrzyskim i w jego okolicach, ustanawiając jeden dekanat ostrowiecki. Do dekanatu ostrowieckiego weszły parafia w Bodzechowie oraz parafie ostrowieckie: Chrystusa Nauczyciela, Świętej Jadwigi Królowej, Świętego Józefa, Świętego Kazimierza, Matki Odkupiciela, Świętego Michała Archanioła, Miłosierdzia Bożego, Najświętszego Serca Jezusowego, Najświętszej Maryi Panny Saletyńskiej, Podwyższenia Krzyża Świętego i Świętego Stanisława. Dziekanem nowego dekanatu ostrowieckiego został ks. Jacek Beksiński, proboszcz i kustosz Sanktuarium Miłosierdzia Bożego w Ostrowcu Świętokrzyskim.
Szczególnym wydarzeniem było uroczyste poświęcenie świątyni i ołtarza w dniu 13 września 2009 r. Dokonał tego aktu kardynał Leonardo Sandri – prefekt Kongregacji d.s. Kościołów Wschodnich z udziałem ks. biskupa ordynariusza Krzysztofa Nitkiewicza i ks. biskupa Edwarda Frankowskiego.
Od roku 1996 do roku 2022 proboszczem Sanktuarium Miłosierdzia Bożego był ks. dr Andrzej Barzycki. W niedzielę, 15 lipca 2012 r., w czasie Mszy Świętej o godz. 10.30, miało miejsce w obecności dziekana księdza prałata mgr lic. Zbigniewa Wiatrka, wikariusza biskupiego ds. Duchowieństwa Diecezjalnego, Rektora WSD w Sandomierzu ks. dra Jana Biedronia, Dyrektora Administracyjnego WSD w Sandomierzu ks. Marka Flisa, Dyrektora Wydawnictwa Diecezjalnego ks. Leszka Pachuty i księży z innych parafii, uroczyste objęcie Parafii Miłosierdzia Bożego w Ostrowcu Świętokrzyskim przez ks. dra Andrzeja Barzyckiego. Zmiana proboszcza to ważne wydarzenie w życiu Parafii, które odbywa się z zachowaniem norm Kodeksu Prawa Kanonicznego. Podczas Mszy Świętej odczytano Dekret biskupa ordynariusza Diecezji Sandomierskiej Ks. Bp Krzysztofa Nitkiewicza o mianowaniu nowego proboszcza.
W 2013 roku dokonano w kaplicy Świętej Siostry Faustyny wymiany żelaznych okien na nowe albuminowe, w których zamontowano witraże o tematyce ewangelicznej o Bożym Miłosierdziu, zostały one wykonane przez artystę malarza Józefa Gołębia z Rzeszowa oraz wymalowano kaplicę. W tym samym roku rozpoczęto także prace w podziemiach dolnego kościoła, w których utworzono „Centrum Duszpasterskie” im. Św. Jana Pawła II. Prace ukończono w 2014 roku.
W roku 2015 – 2016 Sanktuarium było kościołem stacyjnym w Roku Miłosierdzia. Te wydarzenia duszpastersko – pielgrzymkowe zostały uwieczniane pamiątkową tablicą.
W tym samym 2016 roku zamontowano dwa piece nadmuchowe z klimatyzacją i całą infrastrukturą do ogrzewania Świątyni i Centrum Duszpasterskiego. Równolegle rozpoczęto rozbudowę części mieszkalnej dla kapłanów wraz z zapleczem oraz zadaszone schody do części kościoła zamieszkanego przez księży. Przy wejściu z boku kościoła otwarto nową kaplicę pogrzebową.
W 2018 roku zainstalowano na chórze nowe 72 głosowe organy Magnus Virtual Organ przez firmę z Sulechowa. Również w tym roku kościół wyposażono w nowy system multimedialny.
W 2020 roku przed kościołem postawiono nową figurę Św. Jana Pawła II.