Здание синагоги было построено ок. 1555 года евреями сефардами (название от топонима Сфарад, отождествляемого с Испанией). Сефарды - субэтническая группа евреев, которая сформировалась на территории Испании на Пиренейском полуострове из миграций евреев внутри Римской империи. Бытовой язык сефардских евреев, в отличие от ашкеназов (североевропейских евреев), пользующихся идишом, ладино (жудезмо).

  Молитвенный зал синагоги находился на втором этаже над южно-западными воротами в еврейский квартал, поэтому стали ее называть Высокой.

  Во время втрой мировой войны немцы уничтожили все внутреннее убранство храма, после освобождения Кракова здание стало собственностью города, помещались в нем театральные мастерские.

  Ныне помещения синагоги принадлежат еврейской общине, но сданы в аренду частному владельцу, внутри находится книжный магазин, залы бывшего храма часто используются в качестве выставочного центра, концертного зала.