L'originale Museo Ebraico di Vienna, è stato fondato nel 1896 ed è stato il primo museo del suo genere al mondo. Il museo è esistito con il sostegno della "Società per la raccolta e la conservazione di arte e monumenti storici dell'ebraismo". Si concentrò sulla storia e la cultura degli ebrei nell'impero austro-ungarico. La sua collezione di oggetti e prodotti provenienti da Palestina, riflette anche il dibattito politico sul sionismo. Il museo è stato chiuso immediatamente dopo l'occupazione dell'Austria da parte dei nazisti. Nell'ultimo anno della sua esistenza, aveva 6474 articoli diversi. Nel 1939 sono stati trasferiti al Museo di Etnologia, e di altre istituzioni.

La maggior parte degli oggetti sono stati restituiti alla comunità ebraica nei primi anni del 1950, ma alcuni sono riusciti a restituire solo nel 1990 anno. Molti dei reperti sono stati persi. Quando il nuovo museo ebraico ha un inventario, è emerso che metà degli elementi originali era scomparso. Ma il resto delle cose sono molto rari reperti che rappresentano come oggetti della vita quotidiana, e materiali unici.

31 DICEMBRE 1964 un piccolo museo ebraico è stato aperto in un edificio di nuova costruzione su Tempelgasse, ma ha ricevuto quasi nessuna attenzione del pubblico. Dopo 3 anni il museo ha chiuso.

La prima mostra del nuovo Museo Ebraico di Vienna aperto 7 MARZO 1990 in locali provvisori negli uffici della comunità ebraica. Una parte significativa della mostra era costituito da una collezione di Max Berger. Nel 1992 il museo si trasferì nella sede attuale al palazzo Eskeles Doroteegasse. Il museo è stato aperto un anno dopo, nel 1993. La biblioteca è stata aperta al pubblico dal 1994.

Dall'autunno 2011, il museo ha aperto le sue porte dopo una completa ristrutturazione, come l'edificio stesso, e aggiornare la mostra permanente. Museo Ebraico ristrutturato accoglie i visitatori al nuovo sistema di illuminazione, che è stato fatto in conformità con l'originale. L'esposizione permanente del museo si trovano in tre zone.