A zsinagógára évszázadokkal később, Zolnay László régész talált rá 1964-ben. A maradványok azonosítását akkor Scheiber Sándor nyelvész, egyetemi tanár, az Országos rabbiképző Zsidó egyetem igazgatója végezte el. Már akkor teljesen fel akarták tárni a romokat, a projektet pedig Amerikából támogatták volna, ám az Állami Egyházügyi Hivatal nem akarta elfogadni az amerikai segítséget, és nem engedélyezte a munkálatokat. Ezért Zolnay László és munkatársa, Budai Aurél építészmérnök, műemléki tervező szakszerűen visszatemette a romokat, és betonfödémet helyeztek rá, hogy megvédjék.

A zsinagóga kivételesen ép állapotban, a várfal melletti földréteg által feltöltve vészelte át a török hódítás utáni időszakot és a hatvanas években tárták fel. Az I. kerület polgármestere, V. Naszályi Márta 2019 decemberében jelentette be, hogy támogatja a projektet, így talán öt és fél évtized után megtörténhet az épület turisztikai hasznosítása. A földmunkák 2021 tavaszán kezdődnek meg.

2012-ben tanulmány is készült Bánszky Szabolcs tollából, mely azokat a lehetőségeket vizsgálta, miként lehetne rekonstruálni az épületet. A projektet a Magyar Turisztikai Ügynökség támogatja, de a részletek kidolgozása most indult csak meg. Bánszky szerint az eredeti zsinagógából megmaradt részek betekintésszerűen lennének feltárhatóak (hasonlóan a budai vár BTM-en belül bemutatott középkori termeihez) melyek mellé egy „kiszolgáló funkciókkal rendelkező, felszín alatti látogatóközpontból az érdeklődők a muzeális kiállítótérbe jutnak, amely maga a zsinagóga. A zsinagógát így a maga szépségében lehetne értékelni, érzékeltetni. Akár a várfal oldalát megnyitva, a kulturális központ pedig panorámával rendelkezhetne az Európa-liget felé”.

A zsinagóga az I. kerület tulajdonában lévő telken, illetve részben egy szintén önkormányzati tulajdonú, műemlékvédelem alatt álló épület alatt van. Jogilag tehát az I. kerületi önkormányzat a tulajdonosa, a feltárás szakmai részéért pedig a Budapesti Történeti Múzeum (BTM) felel. A rekonstrukció régi vágya több civil szervezetnek is, akik az Ássuk ki! – Civilek a Mátyás-kori Nagyzsinagóga feltárásáért mozgalomba tömörülve több évtizede küzdenek az épület feltárásáért, és rendezvényeikkel próbálják felhívni a figyelmet a páratlan építészeti és vallástörténeti emlékre.

Az 1461-ben épült kéthajós csarnoktemplom boltozatát 5 középpillér tartotta, alapterülete 26-szor 11 méter volt, belmagassága 3 méter. A zsinagóga az akkori Európa legnagyobb zsidó templomai közé tartozott, építői nagy valószínűség szerint Mátyás király udvarában dolgozó mesterek voltak. A zsinagóga 1526-ig változatlan formában volt használatban.

Az 1541 után újonnan Budára betelepült zsidó lakosság a zsinagógát megrongált állapotban, beszakadt boltozattal találta. Az újjáépítéskor a teret nem boltozták vissza, hanem vízszintes fafödémmel fedték le. Buda 1686-os visszafoglalásakor az épület azonban leégett, a födém bedőlt, és mindent maga alá temetett. Később a megszűnt zsidónegyed házaiba keresztények költöztek, akik a területet feltöltötték, a romokat az elhunytakkal együtt betemették.

A zsinagóga padlószintje 5 méterrel van mélyebben a jelenlegi terepszintnél, a falak és középpillérek pedig 4-4,5 méter magasságban állnak a padlószint fölött. Az északi fal a középkori városfallal volt azonos, és lényegében megegyezik a Bástyasétány felőli kerítésfal vonalával.