La sinagoga fue construida a principios del siglo XIV por Judíos provenientes de Praga tras el gran pogromo que tuvo lugar en esa ciudad en 1389. Los Judios escogieron una parcela adjacente a los muros defensivos de la ciudad de Kazimierz. El diseno arquitectónico es de estilo gótico, muy común entre las sinagogas de la época (Praga, Regensburg, Vormacia). Desgraciamente, el primero edificio no existe, fue incendido en el siglo XVI. Por fin del siglo XVI la sinagoga fue reconstruida por architecto Mateo Gucci en estilo renacentista. Su edificio existe hasta hoy, aunque con cambios - vestíbulo y dos galerías para mujeres.
La sinagoga tenia su funcion liturgica hasta la Segunda Guerra Mundial. Los Alemanes destruieron casi totalmente el interior. Ahora aquí hay una filia del Museo Historico de Cracovia.