Muzeum zostało powołane do istnienia w 1906r. przez kardynała Jana Puzynę. Koleje losu i wydarzenia historyczne okazały się mało sprzyjające powstaniu tej placówki. Upłynął długi okres czasu, kilkadziesiąt lat od jego powstania. Gromadzone obiekty sztuki sakralnej przez ten długi okres czasu były rozproszone po wielu kościołach Krakowa, aż w latach siedemdziesiątych ówczesny arcybiskup Metropolita kard. Karol Wojtyła ponownie powrócił do tego tematu i zamianował ks. Prof. Bolesława Przybyszewskiego dyrektorem wyznaczając klasztor OO. Augustianów na miejsce przyszłego Muzeum. Tam zostały przeniesione obiekty muzealne z dotychczasowych pomieszczeń magazynowych przy katedrze na Wawelu. Nie doszło jednak do otwarcia muzeum, bowiem w 1987R. OO. Augustianie ponownie wrócili do Krakowa, do swojego klasztoru, a wszystkie obiekty muzealne zostały przeniesione częściowo do kurii metropolitalnej przy ul. Franciszkańskiej, a częściowo z powrotem do pomieszczeń magazynowych przy katedrze na Wawel. Dopiero czasy III Rzeczypospolitej, przemiany jakie nastąpiły w sprawach odzyskanych własności przez kościół, doprowadziły do tego, że kamienica przy ul. Kanoniczej 19, która ponownie została przekazana Kapitule Metropolitalnej na Wawelu, a decyzją księdza kardynała Franciszka Macharskiego, przeznaczona pod przyszłą siedzibę Muzeum Archidiecezjalnego.